anonym.legal

By · Last updated 2026-03-13

Povratak na blogBezbednost veštačke inteligencije

Samsung je 3 puta izgubio izvorni kod kroz ChatGPT

Tri zasebna inženjerska tima Samsunga unela su vlasnički kod i poverljive podatke u ChatGPT u aprilu 2023. Svaki incident otkrio je drugi aspekt rizika od curenja AI podataka u preduzećima.

March 13, 20269 min čitanja
Samsung ChatGPT leaksource code protectionenterprise AI controlsinsider data leakageMCP Server anonymization

Ažurirano za 2026.

Tri tima, tri curenja, jedan mesec

U aprilu 2023. Samsung Semiconductor je obelodanio tri odvojena incidenta. Tri različita tima su poslala vlasničke podatke AI četbotu u roku od jednog meseca. Incidenti nisu bili povezani. Različiti ljudi, različite uloge, različiti dani.

Delili su samo dve osobine. Svaka osoba je koristila alat za obavljanje stvarnog posla. Svako je slučajno poslao podatke koje Samsung nije nameravao da deli van kompanije.

Incident 1 — Izvorni kod. Softverski inženjer je otklanjao greške u kodu opreme. Uneo je vlasnički izvorni kod poluprovodnika u četbot. Kod je sadržao poslovnu tajnu vezanu za proizvodnju.

Incident 2 — Beleške sa sastanka. Zaposleni je pripremao rezime sastanka. Dostavio je beleške AI-u da ih sažme. Te beleške su sadržale poverljive detalje o strategiji i planovima razvoja.

Incident 3 — Upit baze podataka. Treći zaposleni je tražio pomoć sa sporim upitom. Podelio je strukturu baze podataka i logiku upita. Ta logika je upućivala na vlasničke šeme i poslovna pravila.

Tri incidenta. Tri otkrivanja podataka. Jedan mesec.

Zašto su zaposleni to uradili

Nijedan od trojice nije bio nepažljiv. Koristili su AI alat za zadatke za koje su ti alati i napravljeni. Revizija koda. Sažimanje teksta. Optimizacija upita. Svaki zadatak je bio legitiman.

Nedostajao je tehnički stop. Nijedan sistem nije blokirao slanje pre nego što je stiglo do eksternog servera. Nijedan filter nije uhvatio vlasničke identifikatore pre nego što su napustili mrežu. Između stvarne potrebe zaposlenog i eksternog servisa nije stajalo ništa.

Postojalo je upozorenje u politici. Ali upozorenje nije prepreka. Rizik od slučajne greške bio je apstraktan i udaljen. Korist za produktivnost bila je stvarna i neposredna. Racionalni zaposleni biraju produktivnost.

Rezultat je bio predvidiv. Tri incidenta u trideset dana. Tri otkrivanja vlasničkih informacija. Korporativna kriza koja je pokrenula zabrane širom industrije.

Reakcija industrije

Samsung je reagovao brzo. Uklonio je pristup AI alatima na korporativnim uređajima.

Druge organizacije su sledile primer. Među onima koje su objavile restrikcije bili su Bank of America, Citigroup, Goldman Sachs, JPMorgan Chase, Apple i Verizon. Finansijski sektor je reagovao najbrže. Velike banke i tehnološke kompanije su donele isti zaključak. AI alati bez tehničkih kontrola predstavljaju neprihvatljiv rizik usklađenosti.

Svaka od njih je došla do istog nalaza. Zaposleni nisu problem. Upozorenja u politici nisu dovoljna. Podaci su napustili korporativne mreže jer ih ništa nije zaustavilo. Politika sama po sebi ne može stvoriti tehnički stop.

Stopa zaobilaženja od 71,6%

Pristup zabranama ima izmerenu stopu neuspeha. Istraživanje LayerX iz 2025. otkrilo je da 71,6% zaposlenih koji podleže korporativnim zabranama AI nastavlja da koristi AI alate. Koriste lične naloge ili lične uređaje.

Razlog je jednostavan. Alat koji donosi stvarnu vrednost se koristi. Ljudi pronalaze zaobilazna rešenja umesto da ga se odreknu. AI može prepoloviti vreme zadatka. Upozorenje u politici neće promeniti tu računicu. Zaposleni se prijavljuju sa ličnog telefona ili laptopa. Bezbednosni timovi ne mogu videti taj saobraćaj.

Praktičan ishod je najgori slučaj. Korporativni podaci i dalje stižu do AI dobavljača. Ali sada teku kroz kanale bez ikakvog nadzora. Saobraćaj s korporativnih uređaja mogao se barem evidentirati. Korišćenje ličnih naloga je nevidljivo.

Tri Samsungova incidenta su se desila na korporativnim uređajima. Zaposleni koji zaobiđu zabranu rade isto. Šalju radne podatke AI modelima. Ali sada to ide kroz kanale bez korporativne vidljivosti.

Tehničko rešenje koje adresira osnovni uzrok

Samsungovi incidenti nisu uzrokovani nepažljivim ljudima. Uzrokovani su arhitekturom bez sloja presretanja. Između upita zaposlenog i servera dobavljača nije stajalo ništa.

Model Context Protocol (MCP) arhitektura popunjava tu prazninu. Postavlja transparentni proksi u putanju podataka. Programeri koji koriste Claude Desktop ili Cursor IDE su primarna ciljna grupa. To su tačno alati koji se koriste za vrstu otklanjanja grešaka u kodu koji je bio u pozadini prvog Samsungovog incidenta. MCP server se nalazi unutar protokolarne putanje za oba.

Pre nego što bilo koji tekst dostigne AI model, MCP server ga provlači kroz korak anonimizacije. Izvorni kod se skenira radi vlasničkih identifikatora. Nazivi funkcija, nazivi promenljivih i API krajnje tačke zamenjuju se strukturiranim tokenima. Detalji šeme baze podataka i vrednosti konfiguracije se takođe zamenjuju. Zamena se dešava pre nego što kod napusti vašu mrežu.

Programer koji otklanja greške u vlasničkom kodu šalje kod kroz MCP klijent. Osetljivi identifikatori su već tokeni tada. AI model i dalje pomaže sa zadatkom otklanjanja grešaka. Stvarni vlasnički detalji nikada ne stižu do servera dobavljača.

Incident 1 postaje tehnički nemoguć. Izvorni kod napušta mrežu već anonimizovan. Inženjer dobija pomoć koja mu je bila potrebna. Intelektualna svojina ostaje pod kontrolom kompanije.

Ista logika pokriva incident 2. Sažimanje beleški sa sastanka putem alata zasnovanih na pretraživaču adresira se Chrome Extension i njenim korporativnim kontrolama. Incident 3 je pokriven MCP anonimizacijom u bilo kom AI interfejsu za kodiranje.

Zabrane vs. tehničke kontrole

Zabranjivanje alata koje 71,6% zaposlenih već zaobilazi ne smanjuje rizik. Premešta rizik na nevidljive kanale.

Poređenje DLP alata za pretraživač pokriva opcije presretanja za AI korišćenje u pretraživaču. Za organizacije koje upoređuju anonimizaciju sa drugim DLP proizvodima, poređenje Nightfall vs. anonym.legal direktno pokriva kompromis između blokiranja i anonimizacije.

Samsungovi incidenti su bili rani signal. Osnovni uzrok je bio odsustvo. Nema sloja presretanja. Nema tehničke kontrole. Ta praznina se sada može popraviti. Pitanje je da li preduzeća uvode rešenje ili se i dalje oslanjaju na zabrane koje većina zaposlenih već zaobilazi.

Izvori

Spremni da zaštitite svoje podatke?

Počnite sa anonimizacijom PII sa 285+ tipova entiteta na 48 jezika.

About this page

We update this page when our platform or the law changes.

Read our founder note for how we work.

Each change shows up in the timestamp at the top.

Related reading

We follow these rules

  • GDPR (EU 2016/679).
  • ISO/IEC 27001:2022.
  • NIS2 (EU 2022/2555).
  • HIPAA safe harbor under 45 CFR § 164.514(b)(2).

Our promise

We do not sell your data.

We do not train models on your text.

We store your files in Germany.

You can delete your account at any time.

You own your work.

Where we run

Our servers live in Falkenstein, Germany.

We use Hetzner. They hold ISO 27001 certification.

All data stays in the EU.

Backups run every day.

Need help?

Email support@anonym.legal.

We reply within one business day.

How we test

We run a full check suite on every release.

Each surface gets its own sweep script and report.

Human reviewers spot-check the output each week.

We track recall and precision on a labelled set.

Bad runs block the deploy.

What we never do

  • We never sell your information to third parties.
  • We never train models on what you upload.
  • We never keep your work after you delete it.
  • We never share keys with any outside firm.
  • We never run ads inside the product.

Plans in plain words

We sell credits, not seats.

One credit covers one short job.

Long jobs use a few credits each.

You can top up at any time.

Unused credits roll over each month.

Read the plans page for current rates.

Who built this

A small team of engineers and lawyers built this.

We ship from Europe and work in the open.

Our founder note spells out why we started.

Where to start

How the parts fit

A browser add-on cleans text inside Chrome.

A Word plug-in handles drafts in Office.

A small desktop tool works on whole folders.

An agent protocol link feeds large models safely.

All four share one core engine and one rule set.

Words from our team

We started this work after a lunch about cookies.

One friend kept getting odd ads on her phone.

We asked why a court file leaked through a draft.

We sketched the first build on a napkin that week.

By month three we had a tiny demo for a friend.

She used it on her first case the next day.

Common questions we hear

Can the tool read scanned PDFs? Yes, with OCR.

Does it work on long files? Yes, in small chunks.

Can I roll my own rule set? Yes, save it as a preset.

Does it run offline? The desktop build runs offline.

Do you keep my files? No, the cloud build wipes after each run.

Will it learn from my work? No, we never train on inputs.

A short tour of the workflow

Upload a file or paste a snippet of prose.

Pick the entities you want gone from the draft.

Choose a method: replace, mask, hash, encrypt, or redact.

Press run and watch the side panel show each hit.

Skim the result and tweak any rule that misfired.

Save the cleaned file or send it to a teammate.