Назад на блоготБезбедност на вештачка интелигенција

AI политиките без технички контроли не функционираат

77% од вработените споделуваат чувствителни деловни податоци со AI алатки и покрај политиките кои го забрануваат тоа. Владин изведувач вметна податоци на апликантите за поплавна помош на FEMA.

April 4, 20268 мин читање
AI data governancetechnical controlsChatGPT policy failureChrome Extension DLPenterprise AI security

Кога политиката се сретнува со реалното однесување

Владин изведувач бил под притисок. Имал заостаток на апликации за поплавна помош на FEMA за обработка. Ги вметнал имињата, адресите и здравствените записи во ChatGPT за да работи побрзо. Во неговите очи, не прекршил никакви закони. Само го користел најдобриот достапен алат.

Резултатот: владина истрага и јавно обелоденување.

Тоа е суштинскиот неуспех на AI управувањето засновано само на политики. Политиките им кажуваат на вработените што да прават. Не го запираат однесувањето.

77% од деловните вработени споделуваат чувствителни работни податоци со AI алатки барем неделно -- дури и кога политиката го забранува тоа (eSecurity Planet/Cyberhaven 2025). Тоа не се несериозни работници. Тоа се луѓе под временски притисок кои ја избираат најбрзата алатка.

Зошто политиките се распаѓаат

Политиките за употреба на AI се потпираат на човечката проценка во моментот на внесување. Тој момент е брз. Вработениот може да не се сеќава на политиката. Можеби не ја гледа содржината како "чувствителна". Можеби го прифаќа ризикот затоа что заштедата на времето изгледа голема.

Анализата на Cyberhaven за Q4 2025 откри дека 34,8% од сите ChatGPT влезни податоци содржат доверливи деловни информации. Многу од тие корисници ја знаеле политиката. Сепак вметнале.

Политиките за пристап функционираат затоа што системите ги спроведуваат. DLP на ниво на е-пошта функционира затоа што системите го применуваат. Политиките за употреба на AI немаат спроведување на точката на вметнување. Човечка одлука го пополнува тој јаз. Во голем обем, луѓето прават грешки.

Изведувачот за FEMA направил една од тие грешки. Не бил лош актер. Алатката победила затоа što политиката побарала од него да избере бавност наспроти брзина. Под притисок, ја избрал брзината.

Техничките контроли го запираат она što политиките не можат

Единствената поправка која функционира во голем обем работи на техничкиот слој -- не на слојот за обука.

Екстензијата за прелистувач може да ја пресретне содржината на клипбордот пред да стигне до кој bilo AI базиран на веб. Кога изведувачот ги копира имињата и адресите на апликантите и ги вметнува во ChatGPT, екстензијата ги открива личните податоци, ги анонимизира и ја испраќа чистата верзија. AI гледа [NAME_1] и [ADDRESS_1] наместо реалните вредности. Сепак ја извршува задачата. Приватните детали на апликантот никогаш не стигнуваат до серверите на ChatGPT.

Тоа е автоматско. Не бара корисникот да се сеќава на ништо.

За програмерите кои користат Cursor или GitHub Copilot, MCP Server го обезбедува истиот слој. Кодот вметнат во AI контекстот прво поминува низ моторот за анонимизација. Акредитивите и сопствените идентификатори стануваат токени. AI добива чист влез и сепак дава корисен излез.

Погледнете kako ова се споредува со блокирањето: Блокирање наспроти анонимизација -- Споредба на Browser DLP.

Što се менува со техничките контроли

Со инсталирана екстензија за прелистувач, сценариото со изведувачот за FEMA тече поинаку:

  1. Изведувачот ги копира записите на апликантите од системот за случаи
  2. Екстензијата открива лични податоци во клипбордот
  3. Прозорец за преглед покажува što ќе биде заменето
  4. Анонимизираната верзија оди до ChatGPT
  5. ChatGPT го обработува барањето и враќа резултати
  6. Изведувачот ја добива потребната помош -- без покрената истрага

Политиката не требала да се менува. Обуката не требала да се одржи. Слојот за пресретнување се справил со тоа.

Обуката за политики го намалува ризикот на маргините. Техничките контроли го елиминираат режимот на неуспех. Инцидентот со FEMA бил неуспех на политиката. Ќе биде неважен настан со една Chrome Extension инсталирана на уредот на тој изведувач.

Видете исто така:

Извори

Поврзани статии

Безбедност на вештачка интелигенција

Превенцијата на лични податоци во реално време штеди 2,2 милиони долари

IBM откри разлика во трошоци од 2,2 милиони долари меѓу превенцијата и откривањето. Еве ја математиката која го прави пресретнувањето на лични податоци во реално време неопционално за безбедносните тимови.

Безбедност на вештачка интелигенција

GDPR Член 32: Следење на изложеноста на лични податоци при употреба на ВИ алатки

Тимовите за усогласеност во претпријатија бараат квантитативни докази за контролите на ВИ алатките за лични податоци. Мрежниот DLP ги пропушта ВИ-интеракциите преку прелистувачот.

Безбедност на вештачка интелигенција

Заштита од протекување лични податоци при употреба на ВИ во реално време

Кога вработен го внесува името на клиент во ChatGPT, податоците го напуштаат организациското управување во реално време. Последователниот DLP не може да го поврати она што веќе е изгубено.

Подготвени да ги заштитите вашите податоци?

Започнете со анонимизација на PII со 273 типови на ентитети на 48 јазици.