The Enterprise AI Ban Wave
V roku 2024-2025 sa 40+ podnikov rozhodlo zakazať alebo obmedziť ChatGPT, Claude a ostatné LLM na pracovnej stanici kvôli rizikám úniku údajov:
- Raiffeisen Bank (február 2025) — Zakazuje ChatGPT, Claude, všetky externé AI z banky
- Ford Motor (september 2024) — Zakazuje ChatGPT zdieľaním proprietary údajov
- JPMorgan Chase (október 2024) — Zakazuje ChatGPT bez schválenia
- Samsung (január 2025) — Zakazuje ChatGPT po úniku Kubernetes kódu
- Boeing (november 2024) — Zakazuje ChatGPT bez bezpečnostného auditu
- Daimler, Siemens, Deutsche Bank, Lufthansa, SAP, Bosch — Rovnaké polítics alebo "hľadaj schválenie"
Zdroje:
- https://www.reuters.com/technology/ford-restricts-workers-using-ai-tools-like-chatgpt-2024-07-16/
- https://www.reuters.com/technology/jpmorgan-restricts-use-chatgpt-other-generative-ai-tools-2023-12-05/
- https://www.cnbc.com/2024/10/28/samsung-restricts-use-of-generative-ai-chatgpt-over-security-concerns/
Prečo sú AI nejaké Riziká?
Tri hlavné obavy:
-
Permanentný log: Všetko, čo napíšeš do ChatGPT, je v Openai logoch. Permanentný. GDPR nedávnej doby naznačujú, že bez explícitného súhlasu, je to porušenie údajov — OpenAI servery sú americké, nie EÚ.
-
Tréningové údaje: OpenAI, Anthropic a ostatné organizácie používajú príspevky užívateľov na tréningu budúcich modelov (ak nezavolali "bez histórie"). To znamená, že váš proprietary kód môže byt používaný na tréningu ChatGPT v budúcnosti.
-
Bez kontroly bezpečnosti: Keď zamestnanci používajú ChatGPT bez bezpečnostného auditu — bez DLP, bez AML, bez detekcie podezrieľých otázok — neviete, čo zdieľajú. Nokia, Bosch, JPMorgan — všetky mali porušenia bez monitorovania.
MCP (Model Context Protocol) Riešenie
OpenAI a Anthropic predstavili Model Context Protocol — nový štandard na bezpečné spájanie LLM s podnikových systémov. namiesto zdieľania proprietary údajov na OpenAI/Anthropic servery, MCP spúšťa Claude alebo ChatGPT lokálne s vzormi na prístup do bezpečného serveru bez exponovania údajov.
Viď: https://modelcontextprotocol.io/
Príklad:
- Podnik spúšťa Claude na lokálnej stanici
- Claude požaduje informácie z databázy
- MCP server na podnikový server bezpečne filtrovuje — len data čo je relevantný pre požiadavku
- Claude nikdy nedostane plnú databázu alebo proprietary súbory
- Lokálna výpočet znamená, že žiadne údaje nie sú poslané na Anthropic servery
V skúške — to je riešenie, ktoré sa beží v podnikoch s cestnosťou AI bezpečného.