Atnaujinta 2026 m.
Trys komandos, trys nutekėjimai, vienas mėnuo
2023 m. balandį Samsung Semiconductor atskleidė tris atskirus incidentus. Trys skirtingos komandos per vieną mėnesį išsiuntė nuosavybinę informaciją į AI pokalbių robotą. Incidentai nebuvo susiję. Skirtingi žmonės, skirtingos pareigos, skirtingos dienos.
Juos siejo tik dvi savybės. Kiekvienas asmuo naudojo įrankį tikram darbui. Kiekvienas netyčia išsiuntė duomenis, kurių Samsung neketino dalinti už įmonės ribų.
Incidentas 1 - Šaltinio kodas. Programinės įrangos inžinierius derino įrangos kodą. Jis įklijavo nuosavybinį puslaidininkių šaltinio kodą į pokalbį. Kode buvo gamybos intelektinė nuosavybė.
Incidentas 2 - Susitikimo pastabos. Darbuotoja rengė susitikimo santrauką. Ji pateikė savo pastabas AI sutrumpinti. Tos pastabos turėjo konfidencialios strategijos ir veiksmų plano detales.
Incidentas 3 - Duomenų bazės užklausa. Trečias darbuotojas norėjo pagalbos su lėta užklausa. Jis pasidalijo duomenų bazės struktūra ir užklausos logika. Ta logika rėmėsi nuosavybine schema ir verslo taisyklėmis.
Trys incidentai. Trys atskleidimai. Vienas mėnuo.
Kodėl darbuotojai tai padarė
Nė vienas iš trijų neveikė neatsargiai. Jie naudojo AI įrankį užduotims, kurioms AI įrankiai yra skirti. Kodo peržiūra. Teksto santrauka. Užklausos optimizavimas. Kiekviena užduotis buvo teisėta.
Trūko techninio sustojimo. Jokia sistema neblokavo pateikimo prieš jam pasiekiant išorinį serverį. Joks filtras nesugavo nuosavybinių identifikatorių prieš jiems paliekant tinklą. Tarp darbuotojo realaus poreikio ir išorinės paslaugos nieko nestovėjo.
Įspėjimas dėl politikos egzistavo. Tačiau įspėjimas nėra barjeras. Atsitiktinės klaidos rizika buvo abstrakti ir tolima. Produktyvumo nauda buvo reali ir tiesioginė. Racionalūs darbuotojai pasirinko produktyvumą.
Rezultatas buvo nuspėjamas. Trys incidentai per trisdešimt dienų. Trys intelektinės nuosavybės atskleidimai. Įmonės krizė, paskatinusi draudimus visoje pramonėje.
Pramonės reakcija
Samsung reagavo greitai. Ji apribojo AI įrankių prieigą įmonės įrenginiuose.
Kitos organizacijos sekė pavyzdžiu. Tarp tų, kurios paskelbė apribojimus, buvo Bank of America, Citigroup, Goldman Sachs, JPMorgan Chase, Apple ir Verizon. Finansų sektorius reagavo greičiausiai. Dideli bankai ir technologijų firmos padarė tą pačią išvadą. AI įrankiai be techninių kontrolių kelia nepriimtiną atitikties riziką.
Visos jos priėjo tą pačią išvadą. Darbuotojai nėra problema. Politikos įspėjimai nepakankami. Duomenys paliko įmonės tinklus, nes niekas jų nesustabdė. Vien politika negali sukurti techninio sustojimo.
71,6 % aplenkimo rodiklis
Draudimo metodas turi išmatuotą nesėkmės rodiklį. LayerX 2025 m. tyrimas nustatė, kad 71,6 % darbuotojų, kuriems taikomi įmonės AI draudimai, toliau naudojo AI įrankius. Jie naudojo asmeninius paskyras ar asmeninius įrenginius.
Priežastis paprasta. Įrankis, teikiantis realią vertę, naudojamas. Žmonės ieško apėjimo, o ne atsisako jo. AI gali perpus sumažinti užduoties laiką. Politikos įspėjimas to skaičiavimo nepakeis. Darbuotojai prisijungia iš asmeninio telefono ar nešiojamo kompiuterio. Saugumo komandos negali matyti to srauto.
Praktinis rezultatas yra blogiausias atvejis. Įmonės duomenys vis tiek pasiekia AI tiekėjus. Tačiau dabar jie teka per kanalus be jokios priežiūros. Įmonės įrenginių srautas bent jau galėjo būti registruojamas. Asmeninės paskyros naudojimas yra nematomas.
Samsung trys incidentai įvyko įmonės įrenginiuose. Darbuotojai, aplenkiantys draudimą, daro tą patį. Jie siunčia darbo duomenis AI modeliams. Tačiau dabar tai vyksta per kanalus be jokios įmonės matomumo.
Techninis sprendimas, sprendžiantis pagrindinę priežastį
Samsung incidentus sukėlė ne neatsargūs žmonės. Juos sukėlė architektūra be perėmimo sluoksnio. Tarp darbuotojo užklausos ir tiekėjo serverio nieko nebuvo.
Model Context Protocol (MCP) architektūra užpildo tą spragą. Ji įdeda skaidrų tarpinį serverį duomenų kelyje. Kūrėjai, naudojantys Claude Desktop ar Cursor IDE, yra pagrindinė auditorija. Tai tiksliai tie įrankiai, naudojami kodo derinimo užduočių, tokių kaip pirmasis Samsung incidentas. MCP serveris sėdi protokolo kelyje abiem.
Prieš bet kuriam tekstui pasiekiant AI modelį, MCP serveris jį apdoroja anonimizavimo žingsniu. Šaltinio kodas nuskenuojamas dėl nuosavybinių identifikatorių. Funkcijų pavadinimai, kintamųjų pavadinimai ir API galūnės pakeičiamos struktūriniais žetonais. Duomenų bazės schemos detalės ir konfigūracijos reikšmės taip pat pakeičiamos. Keitimas vyksta prieš kodui paliekant jūsų tinklą.
Kūrėjas, derinantis nuosavybinį kodą, siunčia kodą per MCP klientą. Jautrūs identifikatoriai tada jau yra žetonai. AI modelis vis tiek padeda su derinimo užduotimi. Tikrosios nuosavybinės detalės niekada nepasiekia tiekėjo serverių.
Pirmasis incidentas tampa techniškai neįmanomas. Šaltinio kodas palieka tinklą jau anonimizuotas. Inžinierius gauna reikiamą pagalbą. IP lieka įmonės kontroliuojama.
Ta pati logika apima antrąjį incidentą. Susitikimo pastabų santrauka per naršyklės įrankius sprendžiama Chrome plėtiniu ir jo įmonės kontrolėmis. Trečiasis incidentas apimamas MCP anonimizavimo bet kurioje AI kodavimo sąsajoje.
Draudimai prieš technines kontroles
Drausti įrankius, kuriuos 71,6 % darbuotojų jau apeina, nepadeda sumažinti rizikos. Tai perkelia riziką į nematomas kanalus.
Naršyklės DLP įrankių palyginimas apima perėmimo parinktis naršyklės pagrindu veikiančiam AI naudojimui. Organizacijoms, lyginančioms anonimizavimą su kitais DLP produktais, Nightfall prieš anonym.legal palyginimas tiesiogiai apima blokavimo prieš anonimizavimo kompromisą.
Samsung incidentai buvo ankstyvas signalas. Pagrindinė priežastis buvo nebuvimas. Joks perėmimo sluoksnis. Jokia techninė kontrolė. Ta spraga dabar yra ištaisoma. Klausimas yra, ar įmonės diegia sprendimą, ar toliau remiasi draudimais, kuriuos dauguma darbuotojų jau apeina.