Заштита од протекување лични податоци при употреба на ВИ во реално време

Превенција на протекување лични податоци преку ВИ: Спречување уште пред да се случи.

Ажурирано за 2026 година.

Во март 2023 година, инженер на Samsung залепи изворен код во ChatGPT. Кодот го напушти контролата на Samsung веднаш. Ниту едно средство не го фати навреме. Последователните безбедносни контроли не можат да спречат протекување на податоци преку ВИ. Токму овој настан го докажа тоа.

Алатките за откривање ви кажуваат што се случило по фактот. Прегледи на дневници, DLP на крајни точки и записи за ревизија работат токму на овој начин. Кај протекувања преку ВИ, по фактот е предоцна. Податоците веќе ги достигнале ВИ моделот.

Размерите на проблемот

Истражувањето на Cyberhaven од 2025 година разгледа како фирмите ја користат ВИ. Наодите беа впечатливи.

• 11% од сите промпти во ChatGPT содржат приватни или чувствителни податоци.
• Просечен работник ги користи ВИ алатките 14 пати на ден.
• Персоналот со интензивна употреба комуницира 30 до 50 пати дневно.
• При 11%, тоа значи 3 до 5 чувствителни испраќања по работник на ден.

Во фирма со 500 интензивни корисници, ова се собира во повеќе од 2.000 чувствителни испраќања на ден. Секое може да биде прекршување на Член 83 од GDPR. Ризикот не е само правен. Во прашање се и довербата и угледот.

Чести видови чувствителни содржини во промптите на ВИ вклучуваат следново.

• Имиња и контакт-детали на клиенти.
• Броеви на сметки и платежни записи.
• Медицински белешки од здравствени работници.
• Детали за случај од адвокати.
• Белешки за оценување на персоналот од ЧР тимови.
• Интерни проекции на приходи или продажба.

Истражувањето не прави разлика меѓу намерно и случајно споделување. И двете создаваат ист правен ризик. Работник кој заборавил да отстрани корисничко име предизвикува иста повреда каков и оној кој ги игнорирал правилата. Намерата не го менува исходот.

Зошто откривањето не е доволно

Мрежните проверки не можат да ја читаат HTTPS-сообраќај без TLS-блокирање. TLS-блокирањето додава оптоварување и покренува загрижувачки прашања за приватноста. Современите прелистувачи честопати го отфрлаат.

Endpoint DLP агентите ги следат клипборд-внесувањата и тастатурните притисоци. Но тие имаат задоцнување. Додека агентот означи образец, промптот може веќе да е испратен.

Ревизорските записи на провајдерот евидентираат што е споделено откако е споделено. Тие помагаат при одговорот. Не спречуваат протекувања.

Обуката на персоналот е политика, не контрола. Студијата на Cyberhaven покажува дека 11% од промптите сепак содржат чувствителни содржини дури и во фирми со јасни политики. Обуката не ги спречува случајното споделување или грешките при работата.

Блокирањето на ВИ алатките ги отстранува придобивките. Работниците потоа ги користат личните уреди или профили. Тоа ги поставува работните задачи надвор од каков и да е надзор.

Ниту еден од овие методи не спречува чувствителни содржини да стигнат до ВИ системите во реално време.

Превенција на точката на внесување

Единствената сигурна одбрана е маскирање пред промптот да биде испратен. Корисничко име заменето со [PERSON_1] пред да го напушти прелистувачот никогаш нема да го види ВИ моделот.

Еве како функционира инлајн-маскирањето.

1. Работник го внесува е-поштата на клиентот во Claude или ChatGPT.
2. Додатокот за прелистувач ги открива личните податоци во реално време.
3. Ентитетите се означуваат со типски ознаки: PERSON, EMAIL_ADDRESS, ACCOUNT_NUMBER.
4. Работникот ги прегледува означените ставки.
5. Едно кликање ги заменува сите ентитети со токени.
6. Маскираниот промпт се испраќа.

ВИ добива промпт вака: "Клиент [PERSON_1] на [EMAIL_1] има сметка [ACCOUNT_1]."

ВИ го обработува барањето. Никогаш не гледа вистински имиња или броеви. Работникот го знае вистинскиот клиент од контекст.

Овој пристап има јасни предности.

• Личните податоци остануваат надвор од надворешните ВИ системи.
• Деталите за клиентите не се додаваат во тренинг-сетовите на ВИ.
• Работниците го задржуваат пристапот до ВИ алатките. Продуктивноста останува висока.

Тоа не ги спречува намерните споделувања ако работник ја заобиколи алатката. Прикачувањата на датотеки бараат посебен работен тек. Ниту една контрола не е совршена. Но инлајн-маскирањето ја елиминира случајната група. Таа група сочинува најголем дел од инцидентите. Резултатот е значително намалување на ризикот без промена на секојдневниот работен тек.

Студија на случај: Адвокатска канцеларија

Персоналот на адвокатска канцеларија користеше Claude за изработка на белешки за договори. Нивниот метод: копирање делови од договорот, лепење во Claude, барање резиме.

Пред употребата на Chrome Extension - прваа 6 месеци:

• 3 инциденти со клиентски податоци пронајдени за време на прегледот.
• Секој инцидент: корисничко ime плус референтен број на предмет се по во промптот.
• Сите 3 беа случајни.

По употребата на Chrome Extension - следните 6 месеци:

• Нула инциденти со клиентски податоци.
• Персоналот добиваше известувања во реално време при лепење делови со имиња на клиенти.
• Едно кликање го замени "Johnson Controls Matter 2024-0347" со "[PERSON_1] Matter [REFERENCE_1]."
• Методот остана ист.

Управувачкиот партнер рече: "Нашиот персонал ја знаеше политиката пред додатокот. Додатокот го направи усогласувањето лесен пат."

Погледнете како другите фирми се справиле со ова во нашите студии на случај. Прегледајте ги контролите во прегледот за безбедност.

GDPR-записи за тимови за усогласување

Фирмите кои користат ВИ-маскирање преку прелистувач мора да го документираат тоа како техничка контрола.

Записи за обработка (ROPA): Наведете дека ВИ-промптите минуваат низ маскирање на страната на клиентот пред да стигнат до провајдерите. Наведете ги типовите на ентитети, верзијата на енџинот и дневниците за имплементација како докази.

Договори со обработувачи на податоци: Кога никакви лични податоци не стигнуваат до провајдерот на ВИ, обврските за DPA се едноставни. Личните податоци кои ги поседувате никогаш не го напуштаат вашиот систем.

Ревизорски дневници: Дневниците на додатокот евидентираат број на ентитети по сесија, стапка на маскирање и типови на ентитети по волумен. Овие метрики се вклучуваат во извештаите за усогласување.

Прегледајте ги правилата на GDPR за ВИ алатки во нашиот водич за правна усогласеност и речник. Чести прашања се во нашиот FAQ.

Заклучок

Инцидентот со Samsung покажа дека протекувањата преку ВИ се случуваат побрзо отколку што може да дејствува каква и да е последователна контрола. Студијата на Cyberhaven го квантифицираше тоа: 11% од промптите, многупати по работник, секој ден.

Маскирањето во реално време пред испраќање го решава основниот причинител. Кога личните податоци никогаш не стигнуваат до ВИ, нема ништо да се открива, евидентира или чисти. Работниците ги задржуваат своите ВИ алатки. Фирмите го задржуваат статусот на усогласеност.

Откривањето ви кажува кога превенцијата не успеала. За протекувања на ВИ-податоци, трошокот од неуспех - глоби, штета по угледот, загуба на доверба - го оправдува поставувањето на превенцијата на прво место.

Истражете ги цените за вашата фирма. Прочитајте ја нашата изјава на основачот за тоа зошто превенцијата-прво е нашиот основен принцип на дизајн.

Извори

• Cyberhaven: Студија за изложеност на ВИ-податоци 2025 - cyberhaven.com.
• Samsung ChatGPT прекршување на податоци, март 2023 - Bloomberg.
• GDPR членови 4 и 32: Лични податоци и технички мерки - gdpr-info.eu.