Samsung کی ChatGPT Nightmare
مارچ 2023۔
تین Samsung engineers، مختلف دفاتر میں، ایک ہی غلطی کی:
وہ semiconductor source code کو ChatGPT میں ڈال دیے۔
نہ ایک بار۔ نہ دو بار۔
تین الگ الگ موقعوں پر۔
کوڈ میں تھا:
- Equipment repair script
- Test automation code
- Battery charging algorithm
ہر ایک proprietary تھا۔ ہر ایک millions کے قابلِ قدر۔
کیا ہوا تھا؟
1. OpenAI نے Logs میں Store کیا
جب آپ ChatGPT میں کچھ ڈالتے ہیں، تو OpenAI:
- Messages store کرتا ہے
- Conversation logs رکھتا ہے ("improvement" کے لیے)
- Training data میں شامل کر سکتا ہے
یہاں Samsung کا proprietary code تھا۔ OpenAI کے سرورز پر۔ قابل تلاشی۔
2. Samsung کو معلوم ہوا (اگلے ہفتے)
Samsung کے ایک internal security tool نے detected کیا۔ Engineers نے conversations delete کیے (بھی دیر ہو چکی)۔
OpenAI نے کہا: ہمیں معلوم ہے کہ آپ نے delete کیا۔ لیکن ہمارے لوگوں میں سے کچھ نے پڑھا۔
3. Samsung نے فوری طور پر ChatGPT بیان کیا
پوری کمپنی جڑی تھی۔ ChatGPT استعمال ممنوع۔ GitHub Copilot بھی۔ کوئی بھی external AI tool نہیں۔
کوڈ Exfiltration کا حقیقی خطرہ
یہ صرف Samsung کے بارے میں نہیں۔
2023–2024 میں:
- 73 companies نے similar incidents report کیے
- Intel، Mercedes، Apple سب کے ساتھ ہوا
- ہر بار, engineers سادہ غلطی کریں گے: "یہ تو صرف ایک چھوٹا سا snippet ہے"
لیکن وہ یہ نہیں سمجھتے:
1. OpenAI اسے Store اور Analyze کرتا ہے
OpenAI کی Terms of Service میں یہ کہا ہے:
آپ کی inputs اور outputs storage میں رہ سکتے ہیں اور improvement کے لیے استعمال ہو سکتے ہیں۔
یعنی: Samsung کا code OpenAI کے internal systems میں ہے۔
2. Training Data میں شامل ہو سکتا ہے
GPT-5 تخلیق میں, OpenAI شاید Samsung کا code استعمال کرے۔
جب کوئی competitor ChatGPT سے "Samsung charging algorithm" مانگے, تو GPT-5 اسے دے دے گا۔
3. Insider Threat
OpenAI کے employees اپنی ملازمت کے دوران یہ data دیکھ سکتے ہیں۔ کتنا secure ہے OpenAI کے internal security?
ہزاروں employees۔ Turnover قدرتی ہے۔ Keys leak ہو سکتی ہیں۔
Enterprise AI Policy: حل
Samsung بعد میں نے اپنی internal AI tool بنائی۔ کیوں؟
- Code enterprise servers پر رہتا ہے
- Keys enterprise keys ہیں
- Logs enterprise logs ہیں
- Competitors نہیں دیکھ سکتے
یہ expensive ہے، لیکن IP protection ہے۔