Quan la politica es troba amb el comportament real
Un contractista governamental estava sota pressio. Tenia un acumulat de sol.licituds d'ajuda per inundacions de FEMA per processar. Va enganxar noms, adreces i historials medics a ChatGPT per anar mes rapid. En la seva ment, no havia trencat cap llei. Simplement va usar la millor eina disponible.
El resultat: una investigacio governamental i una divulgacio publica.
Aquesta es la fallada central de la governanca d'IA basada nomes en politiques. Les politiques diuen als empleats el que han de fer. No aturen el comportament.
El 77% dels empleats d'empresa comparteixen dades laborals sensibles amb eines d'IA almenys setmanalment, fins i tot quan la politica ho prohibeix (eSecurity Planet/Cyberhaven 2025). Aquests no son treballadors imprudents. Son persones sota pressio de temps que trien l'eina mes rapida.
Per que les politiques fallen
Les politiques d'us de la IA depenen del judici huma en el moment d'entrada. Aquest moment es rapid. L'empleat pot no recordar la politica. Pot no veure el contingut com a "sensible". Pot acceptar el risc perque l'estalvi de temps sembla gran.
L'analisi Q4 2025 de Cyberhaven va trobar que el 34,8% de totes les entrades a ChatGPT contenen informacio empresarial confidencial. Molts d'aquests usuaris coneixien la politica. Van enganxar de totes formes.
Les politiques d'acces funcionen perque els sistemes les apliquen. La DLP a la capa de correu electronic funciona perque els sistemes l'apliquen. Les politiques d'us de la IA no tenen cap aplicacio en el punt d'enganxament. Una decisio humana omple aquest buit. A escala, els humans cometen errors.
El contractista de FEMA va cometre un d'aquests errors. No era un mal actor. L'eina va guanyar perque la politica li demanava que tries la lentitud sobre la velocitat. Sota pressio, va triar la velocitat.
Els controls tecnics aturen el que les politiques no poden
L'unica solucio que funciona a escala opera a la capa tecnica, no a la capa de formacio.
Una extensio de navegador pot interceptar el contingut del portapapers abans que arribi a qualsevol IA web. Quan el contractista copia noms i adreces de sol.licitants i els enganxa a ChatGPT, l'extensio detecta les dades personals, les anonimitza i envia la versio neta. La IA veu [NAME_1] i [ADDRESS_1] en comptes de valors reals. Aixo no li impedeix completar la tasca. Els detalls privats del sol.licitant mai arriben als servidors de ChatGPT.
Aixo es automatic. No demana a l'usuari que recordi res.
Per als desenvolupadors que utilitzen Cursor o GitHub Copilot, un servidor MCP proporciona la mateixa capa. El codi enganxat al context de la IA passa primer pel motor d'anonimitzacio. Les credencials i els identificadors propis es converteixen en tokens. La IA rep una entrada neta i segueix donant sortida util.
Veieu com aixo es compara amb el bloqueig: Bloqueig vs. Anonimitzacio: DLP al navegador comparat.
Que canvia amb els controls tecnics
Amb una extensio de navegador en lloc, l'escenari del contractista de FEMA funciona de manera diferent:
- El contractista copia els registres del sol.licitant del sistema de casos
- L'extensio detecta dades personals al portapapers
- Una finestra de visualitzacio previa mostra el que es reemplazara
- La versio anonimitzada va a ChatGPT
- ChatGPT processa la sol.licitud i retorna resultats
- El contractista obte l'ajuda necessaria, sense que s'activi cap investigacio
La politica no va haver de canviar. No va caldre executar cap formacio. La capa d'interceptacio ho va gestionar.
La formacio en politiques redueix el risc als marges. Els controls tecnics eliminen el mode de fallada. L'incident de FEMA va ser una fallada de politica. Hauria estat un no-event amb una sola extensio de Chrome desplegada al dispositiu d'aquell contractista.
Vegeu tambe:
- Governanca d'IA empresarial: DLP amb extensio de Chrome
- DLP al navegador per a ChatGPT, Claude i Gemini
- Extensio de Chrome: DLP al navegador per a eines d'IA