Kolme insinööritiimiä, kolme tapausta, yksi kuukausi
Huhtikuussa 2023 Samsung Semiconductor paljasti kolme erillistä tapausta, joissa työntekijät olivat siirtäneet omistusoikeuden tietoja ChatGPT:hen yhden kuukauden aikana.
Tapaukset eivät liittyneet toisiinsa. Niissä oli mukana eri työntekijöitä eri rooleissa, jotka suorittivat erilaisia tehtäviä eri päivinä. Niillä oli vain kaksi yhteistä ominaisuutta: jokainen työntekijä käytti ChatGPT:tä saavuttaakseen laillisen työtehtävän, ja jokainen siirsi tahattomasti tietoja, joita Samsung ei ollut tarkoittanut jaettavaksi OpenAI:n infrastruktuurin kanssa.
Tapaus 1: Ohjelmistoinsinööri viritti puolijohteiden laitteisiin liittyvää koodia. Monimutkaisten järjestelmien virittäminen on yleinen AI-työkalujen käyttötapa — koodin antaminen AI-mallille ja pyytäminen sitä tunnistamaan odottamattoman käyttäytymisen lähde. Insinööri liitti Samsungin omistusoikeuden puolijohteiden laitteistojen järjestelmistä peräisin olevaa lähdekoodia ChatGPT:hen. Koodi sisälsi immateriaalioikeuksia, jotka liittyivät Samsungin valmistusprosesseihin.
Tapaus 2: Työntekijä valmisti kokouksen yhteenvetoa. AI-avusteinen muistiinpanojen tekeminen ja kokousten tiivistäminen ovat tulleet vakiotyökaluksi eri toimialoilla. Työntekijä toimitti kokousmuistiot ChatGPT:lle tiivistettäväksi. Nämä kokousmuistiot sisälsivät luottamuksellisia sisäisiä keskusteluja — liiketoimintastrategiaa, teknisiä tiekarttoja ja muuta tietoa, jota Samsung piti ei-julkisena.
Tapaus 3: Kolmas työntekijä etsi optimointiehdotuksia tietokantakyselylle. Tietokannan optimointi on teknisesti vaativa tehtävä, jossa AI-avustus tuo todellista arvoa. Työntekijä toimitti tietokannan rakenteen ja kyselylogiikan ChatGPT:lle. Kyselylogiikka sisälsi viittauksia omistusoikeuden tietorakenteisiin ja liiketoimintalogiikkaan.
Miksi työntekijät tekivät niin
Yksikään kolmesta Samsungin työntekijästä ei toiminut vastuuttomasti omien ammatillisten standardiensa mukaan. He käyttivät AI-työkalua tehtäviin, joihin AI-työkalut on suunniteltu auttamaan: koodin virittämiseen, tekstin tiivistämiseen, tekniseen optimointiin.
Puuttuva elementti jokaisessa tapauksessa oli tekninen kitka. Mikään järjestelmä ei keskeyttänyt lähetystä ennen kuin se saavutti OpenAI:n palvelimet. Mikään kontrolli ei merkinnyt omistusoikeuden koodin tunnisteita ennen kuin ne lähtivät yritysverkosta. Mikään arkkitehtuurikerros ei ollut työntekijän laillisen työtarpeen ja AI-toimittajan infrastruktuurin välillä.
Työntekijät olivat järkeviä. AI-työkalu tarjosi todellista apua laillisissa työtehtävissä. Politiikkahälytys oli olemassa, mutta se ei asettanut teknistä estettä. Noudattamatta jättämisen seuraus — mahdollinen kurinpidollinen toimi tahattomasta teosta — oli abstrakti ja etäinen verrattuna työkalun välittömään tuottavuushyötyyn.
Tulos: kolme tapausta yhdessä kuukaudessa, kolme omistusoikeuden tietojen paljastumista ja yrityskriisi, joka laukaisi globaalin yritys-AI-kieltoaaltojen.
Alan vastaus
Samsungin sisäinen vastaus oli nopea: ChatGPT:n käyttö rajoitettiin yrityslaitteille. Paljastus laukaisi laajemman alan reaktion, joka paljasti, kuinka laajalle levinnyt perusolosuhde oli.
Organisaatiot, jotka ilmoittivat AI-työkalujen kieltoja tai rajoituksia Samsungin paljastuksen jälkeen, sisälsivät Bank of America, Citigroup, Goldman Sachs, JPMorgan Chase, Apple ja Verizon. Rahoitussektorin vastaus oli erityisen kattava — useat suuret instituutiot päättivät samanaikaisesti, että AI-työkalujen riskiprofiili ilman teknisiä kontrollia oli yhteensopimaton niiden vaatimustenmukaisuusvelvoitteiden kanssa.
Jokainen organisaatio päätyi samaan johtopäätökseen: työntekijät eivät ole ongelma, ja politiikkahälytykset eivät ole riittäviä kontrollitoimia. Tietoa poistui heidän verkoistaan, koska mikään tekninen este ei estänyt sitä, ja pelkkä politiikka ei voi luoda teknistä estettä.
71,6 % ohitusaste
Kieltopolitiikalla on dokumentoitu epäonnistumisaste. LayerX:n tutkimus vuodelta 2025 havaitsi, että 71,6 % yritys-AI-kieltojen alaisista työntekijöistä jatkoi AI-työkalujen käyttöä henkilökohtaisten tilien tai laitteiden kautta.
Ohitusaste heijastaa peruskäyttäytymistä: kun työkalu tarjoaa todellista tuottavuusarvoa, käyttäjät löytävät kiertoteitä sen sijaan, että luopuisivat työkalusta pysyvästi. Työntekijä, joka huomaa, että AI-avustus nopeuttaa heidän työpanostaan merkittävästi, ei lopeta näiden työkalujen käyttöä, koska yrityspolitiikka kieltää ne yrityslaitteilla. He käyttävät henkilökohtaisia tilejä henkilökohtaisilla laitteilla kanavien kautta, joita turvallisuustiimi ei voi nähdä.
71,6 % ohitusasteen käytännön seuraus on se, että AI-kielto saavuttaa mahdollisimman huonon lopputuloksen: yritystiedot päätyvät AI-toimittajille kanavien kautta, joilla ei ole lainkaan turvallisuuskontrolleja. Ainakin yrityslaitteiden käyttöä voitaisiin teoreettisesti valvoa. Henkilökohtaisten tilien käyttö on täysin näkymätöntä turvallisuustiimille.
Samsungin kolme tapausta tapahtuivat yrityslaitteilla yritysverkossa. Työntekijät, jotka ohittavat kiellon, tekevät samaa — tarjoavat työssä liittyviä tietoja AI-malleille — kanavien kautta, joilla ei ole yrityksen valvontaa.
Tekninen kontrolli, joka käsittelee perussyyn
Samsungin tapaukset eivät johtuneet työntekijöiden huolimattomuudesta. Ne johtuvat arkkitehtuurista, joka ei tarjonnut keskeytyskerrostusta työntekijöiden AI-käytön ja ulkoisen AI-infrastruktuurin välille.
Mallin kontekstiprotokolla (MCP) -arkkitehtuuri tarjoaa läpinäkyvän välityspalvelimen AI-asiakkaiden ja AI-mallien API:en välille. Kehittäjille, jotka käyttävät Claude Desktopia tai Cursor IDE:tä — ensisijaisia työkaluja sellaiselle koodin virittämiselle, joka aiheutti Samsungin ensimmäisen tapauksen — MCP-palvelin sijaitsee protokollapolussa.
Ennen kuin mikään teksti saavuttaa AI-mallin, MCP-palvelin käsittelee sen anonymisointimoottorin kautta. Lähdekoodia analysoidaan omistusoikeuden tunnisteiden varalta: funktioiden nimet, muuttujan nimet, sisäiset API-pisteet, tietokannan skeeman yksityiskohdat, konfiguraatiotiedot. Nämä korvataan rakenteellisilla tokeneilla ennen kuin koodi saavuttaa AI-mallin.
Kehittäjä, joka pyytää Claudea virittämään omistusoikeuden Samsungin puolijohdekoodia MCP-palvelimen kautta, lähettää koodia, jossa omistusoikeuden tunnisteet on korvattu tokeneilla. AI-malli auttaa virittämistehtävässä anonymisoidun koodin avulla — mikä riittää koodin analysoimiseen. Omistusoikeuden erityispiirteet eivät koskaan saavuta AI-toimittajan palvelimia.
Tapaus 1 muuttuu teknisesti mahdottomaksi. Lähdekoodi poistuu verkosta anonymisoidussa muodossa. AI tarjoaa virittämiseen tarvittavaa apua insinöörille. Samsungin immateriaalioikeudet pysyvät Samsungin hallinnassa.
Sama arkkitehtuuri koskee Tapausta 2 (kokousmuistiinpanot tiivistetään selainpohjaisella AI:lla, jota käsitellään Chrome-laajennuksen avulla) ja Tapausta 3 (tietokantakyselyjen optimointi minkä tahansa AI-koodausliittymän kautta, jota käsitellään MCP-anonymisoinnilla).
Samsungin tapaukset olivat ennakkoesimerkki järjestelmällisestä ongelmasta. Teknisiä kontrollitoimia, jotka käsittelevät perussyyn, on nyt olemassa. Kysymys on siitä, käyttävätkö yritykset niitä vai jatkavatko ne kieltojen varassa, joita 71,6 % heidän työntekijöistään jo ohittaa.
Lähteet: