Rauntima PII-varnir: Stöðva gagnaleka gervigreindar áður en þeir gerast.
Uppfært fyrir 2026.
Í mars 2023 límaði verkfræðingur hjá Samsung frumkóða inn í ChatGPT. Kóðinn fór úr stjórn Samsung samstundis. Ekkert tæki greip hann í tíma. Öryggisráðstafanir eftir á geta ekki stöðvað gagnaleka gervigreindar. Þessi einstaka atburður sannaði það.
Greiningarverkfæri segja þér hvað gerðist á eftir. Skráarprófanir, endapunkt-DLP og endurskoðunarkladdar vinna öll þannig. Þegar kemur að gagnalekum gervigreindar er það of seint. Gögnin hafa þegar náð til gervigreindarlíkansins.
Umfang vandans
Cyberhaven-rannsókn frá 2025 skoðaði hvernig fyrirtæki nota gervigreind. Niðurstöðurnar voru áberandi.
- 11% allra ChatGPT-tilmæla innihalda einkaleg eða viðkvæm gögn.
- Meðalstarfsmaður notar gervigreindartæki 14 sinnum á dag.
- Hánotendur hafa samskipti 30 til 50 sinnum á dag.
- Við 11% þýðir þetta 3 til 5 viðkvæmar sendingar á starfsmann á dag.
Hjá fyrirtæki með 500 hánotendur er þetta meira en 2.000 viðkvæmar sendingar á dag. Hver þeirra getur verið brot á 83. gr. GDPR. Áhættan er ekki bara lagaleg. Traust og orðspor eru einnig í húfi.
Algengar tegundir viðkvæmra efna í gervigreindartilmælum eru eftirfarandi.
- Nöfn viðskiptavina og tengiliðaupplýsingar.
- Reikningsnúmer og greiðslufærslur.
- Læknisfræðilegar skýrslur frá heilbrigðisstarfsmönnum.
- Málsupplýsingar frá lögmönnum.
- Starfsmannaúttektarskýrslur frá mannauðsteymum.
- Innri tekjur eða söluáætlanir.
Rannsóknin skiptir ekki á milli meðvitaðrar og ómeðvitaðrar miðlunar. Bæði skapar sömu lagalegu áhættu. Starfsmaður sem gleymist að fjarlægja nafn viðskiptavinar veldur sama broti og sá sem hunsar regluna. Tilgangur breytir ekki niðurstöðunni.
Hvers vegna greining er ófullnægjandi
Netprófanir geta ekki lesið HTTPS-umferð án TLS-lokunar. TLS-lokun bætir við álagi og veldur persónuverndaáhyggjum. Nútímaleg vafrar synja henni oft.
Endapunkt-DLP umboðsmenn fylgjast með klippiborð og lyklaborðsinnslátt. En þeir hafa seinkun. Þegar umboðsmaður flaggar mynstur kann tilmælið að hafa verið sent þegar.
Lánardrottna endurskoðunarkladdar skrá hvað var deilt eftir að það var deilt. Þeir hjálpa til við viðbrögð. Þeir stöðva ekki leka.
Þjálfun starfsmanna er stefna, ekki stjórntæki. Cyberhaven-rannsóknin sýnir að 11% tilmæla innihalda enn viðkvæmt efni hjá fyrirtækjum með skýrar stefnur. Þjálfun stöðvar ekki óviljandi miðlun eða mistök meðan á verki stendur.
Lokun gervigreindartækja fjarlægir framleiðnigæði. Starfsmenn nota þá persónulegar tæki eða reikninga. Það setur vinnu utan allrar eftirlits.
Engin þessara aðferða stöðvar viðkvæmt efni frá því að ná til gervigreindarkerfa í rauntíma.
Vörn á innsláttarstigi
Eina örugga vörnin er grímusetning áður en tilmælið er sent. Nafn viðskiptavinar skipt út fyrir [PERSON_1] áður en það yfirgefur vafrann kemst aldrei til gervigreindarlíkansins.
Svona virkar innfellt grímusetning.
- Starfsmaður slær inn netfang viðskiptavinar í Claude eða ChatGPT.
- Vafraviðbótin greinir persónuupplýsingar í rauntíma.
- Einingar eru merktar með tegundarmerkjum: PERSON, EMAIL_ADDRESS, ACCOUNT_NUMBER.
- Starfsmaðurinn skoðar merktu atriðin.
- Einn smellur skiptir öllum einingum út fyrir tákn.
- Grímusetta tilmælið er sent.
Gervigreinin fær tilmæli eins og þetta: "Viðskiptavinur [PERSON_1] á [EMAIL_1] er með reikning [ACCOUNT_1]."
Gervigreinin sér um beiðnina. Hún sér aldrei raunveruleg nöfn eða númer. Starfsmaðurinn þekkir raunverulegan viðskiptavin eftir samhengi.
Þessi nálgun hefur skýra kosti.
- Persónuupplýsingar eru ekki í ytri gervigreindarkerfum.
- Upplýsingar viðskiptavina er ekki bætt við þjálfunarsett gervigreindar.
- Starfsmenn halda aðgangi að gervigreindartækjum. Framleiðni helst há.
Það stöðvar ekki meðviljanlegar sendingar ef starfsmaður fer framhjá tækinu. Skráarupphal þarf sérstakan verkflæðisflöt. Engin stjórn er fullkomin. En innfellt grímusetning fjarlægir óviljandi hóp. Sá hópur stendur að baki flestum atvikum. Niðurstaðan er mikil minnkun á áhættu án breytinga á daglegum verkflæðis.
Dæmisaga lögfræðistofu
Starfsmenn lögfræðistofu notuðu Claude til að draga saman samningsskýringar. Aðferðin: afrita hlutar samnings, líma inn í Claude, biðja um samantekt.
Áður en Chrome-viðbót var notuð - fyrstu 6 mánuðir:
- 3 atvik með gögnum viðskiptavina fundust við endurskoðun.
- Hvert atvik: nafn viðskiptavinar ásamt tilvísunarrnúmeri máls kom fram í tilmælinu.
- Öll 3 voru óviljandi.
Eftir notkun Chrome-viðbótar - næstu 6 mánuðir:
- Engin atvik með gögnum viðskiptavina.
- Starfsmenn fengu rauntímaviðvörun þegar þeir lím saman kafla með nöfnum viðskiptavina.
- Einn smellur skipt "Johnson Controls Mál 2024-0347" út fyrir "[PERSON_1] Mál [REFERENCE_1]."
- Aðferðin var óbreytt.
Fjármálastjórinn sagði: "Starfsmenn þekki stefnuna áður en viðbótin kom. Viðbótin gerði samræmi að auðvelda leiðina."
Sjá hvernig önnur fyrirtæki höndluðu þetta í dæmisögunum okkar. Yfirfara stjórntæki í öryggisyfirlitinu.
GDPR-skrár fyrir samræmnisteymi
Fyrirtæki sem nota vafrabyggða gervigreindagrímusetningu verða að skjalfesta hana sem tæknilegt stjórntæki.
Skrár yfir vinnslu (ROPA): Gefa upp að gervigreindartilmæli fari í gegnum grímusetningu á biðlaramegin áður en þau ná til lánardrottna. Skrá einingategundir, útgáfu vélarinnar og uppsetningarkladda sem sönnunargagn.
Samninga við gagnavinnsluaðila: Þegar engar persónuupplýsingar ná til gervigreindarlánardrottins eru skyldur samkvæmt DPA einfaldar. Persónuupplýsingarnar sem þú geymir yfirgefa aldrei kerfið þitt.
Endurskoðunarkladdar: Kladdar viðbótar fanga fjölda eininga á setu, grímusetningarlíkur og einingategundir eftir magni. Þessar mælingar fara í samræmniskýrslur.
Yfirfara GDPR-reglur fyrir gervigreindartæki í lagalegum samræmnisleiðbeiðningum okkar og orðasafninu. Algengar spurningar eru í FAQ.
Niðurstaða
Samsung-atburðurinn sýndi að gagnalekar gervigreindar gerast hraðar en nokkurt eftirá-stjórntæki getur brugðist við. Cyberhaven-rannsóknin lagði tölu á það: 11% tilmæla, margar sinnum á starfsmann, á hverjum degi.
Rauntímagrímusetning áður en sent er lagar rótarorsökina. Þegar persónuupplýsingar ná aldrei til gervigreindarinnar er ekkert að greina, skrá eða hreinsa. Starfsmenn halda gervigreindartækjum sínum. Fyrirtæki haldast í samræmi.
Greining segir þér þegar varnir mistókust. Þegar kemur að gagnalekum gervigreindar réttlætir kostnaður við bilun - sektir, skaðar á orðspori, tap á trausti - varnir í fyrsta sæti.
Kanna verðlag fyrir fyrirtæki þitt. Lesa yfirlýsingu stofnanda um hvers vegna varnar-fyrst er meginmeginlögð hönnunarregla okkar.
Heimildir
- Cyberhaven: AI Data Exposure Study 2025 - cyberhaven.com.
- Samsung ChatGPT gagnabrot, mars 2023 - Bloomberg.
- GDPR-greinar 4 og 32: Persónuupplýsingar og tæknilegar ráðstafanir - gdpr-info.eu.