ثلاث فرق هندسية، ثلاث حوادث، شهر واحد
في أبريل 2023، كشفت سامسونج للدوائر الإلكترونية عن ثلاث حوادث منفصلة قام فيها الموظفون بنقل بيانات خاصة إلى ChatGPT خلال شهر واحد.
لم تكن الحوادث مرتبطة ببعضها البعض. شملت موظفين مختلفين في أدوار مختلفة، يقومون بمهام مختلفة، في أيام مختلفة. كانت لديهم خاصيتان فقط مشتركتان: استخدم كل موظف ChatGPT لتحقيق هدف عمل مشروع، ونقل كل منهم عن غير قصد بيانات لم تكن سامسونج تنوي مشاركتها مع بنية OpenAI التحتية.
الحادث 1: كان مهندس برمجيات يقوم بإصلاح أخطاء في شفرة تتعلق بمعدات أشباه الموصلات. يعد تصحيح الأنظمة المعقدة حالة استخدام شائعة لأدوات الذكاء الاصطناعي - حيث يتم تقديم الشفرة إلى نموذج الذكاء الاصطناعي وطلب منه تحديد مصدر السلوك غير المتوقع. قام المهندس بلصق شفرة المصدر من أنظمة معدات أشباه الموصلات الخاصة بسامسونج في ChatGPT. كانت الشفرة تحتوي على ملكية فكرية تتعلق بعمليات تصنيع سامسونج.
الحادث 2: كان موظف يقوم بإعداد ملخص للاجتماع. أصبح أخذ الملاحظات بمساعدة الذكاء الاصطناعي وتلخيص الاجتماعات أدوات عمل قياسية عبر الصناعات. قدم الموظف ملاحظات الاجتماع إلى ChatGPT للتلخيص. كانت تلك الملاحظات تحتوي على مناقشات داخلية سرية - استراتيجيات العمل، خرائط الطريق التقنية، ومعلومات أخرى اعتبرت سامسونج غير علنية.
الحادث 3: سعى موظف ثالث للحصول على اقتراحات تحسين لاستعلام قاعدة بيانات. يعد تحسين قاعدة البيانات مهمة تتطلب تقنيات عالية حيث يوفر الذكاء الاصطناعي قيمة حقيقية. قدم الموظف هيكل قاعدة البيانات ومنطق الاستعلام إلى ChatGPT. كان منطق الاستعلام يحتوي على إشارات إلى هياكل بيانات خاصة ومنطق الأعمال.
لماذا قام الموظفون بذلك
لم يكن أي من الموظفين الثلاثة في سامسونج يتصرف بشكل غير مسؤول وفقًا لمعاييرهم المهنية الخاصة. كانوا يستخدمون أداة ذكاء اصطناعي للمهام التي تم تصميم أدوات الذكاء الاصطناعي للمساعدة فيها: تصحيح الشفرات، تلخيص النصوص، تحسين التقنية.
كان العنصر المفقود في كل حالة هو الاحتكاك الفني. لم يكن هناك نظام يعترض الإرسال قبل أن يصل إلى خوادم OpenAI. لم يكن هناك تحكم يرفع إشارات شفرة الملكية قبل مغادرتها الشبكة المؤسسية. لم يكن هناك طبقة معمارية تفصل بين حاجة العمل المشروعة للموظف وبنية مزود الذكاء الاصطناعي.
كان الموظفون عقلانيين. قدمت أداة الذكاء الاصطناعي مساعدة حقيقية في مهام العمل المشروعة. كانت تحذيرات السياسة موجودة ولكن لم تفرض أي حاجز تقني. كانت عواقب عدم الامتثال - الإجراءات التأديبية المحتملة لفعل غير مقصود - مجردة وبعيدة مقارنة بفائدة الإنتاجية الفورية للأداة.
النتيجة: ثلاث حوادث في شهر واحد، ثلاث إفصاحات عن معلومات ملكية، وأزمة مؤسسية أثارت موجة عالمية من حظر الذكاء الاصطناعي في المؤسسات.
رد الفعل في الصناعة
كان رد فعل سامسونج الداخلي سريعًا: تم تقييد الوصول إلى ChatGPT للأجهزة المؤسسية. أثار الإفصاح رد فعل أوسع في الصناعة كشف عن مدى انتشار الحالة الأساسية.
شملت المنظمات التي أعلنت عن حظر أو قيود على أدوات الذكاء الاصطناعي بعد الإفصاح عن سامسونج بنك أمريكا، سيتي جروب، جولدمان ساكس، جي بي مورغان تشيس، آبل، وفيريزون. كان رد القطاع المالي شاملاً بشكل خاص - حيث خلصت عدة مؤسسات كبرى في وقت واحد إلى أن ملف المخاطر لأدوات الذكاء الاصطناعي بدون ضوابط تقنية غير متوافق مع التزامات الامتثال الخاصة بهم.
توصلت كل منظمة إلى نفس الاستنتاج: الموظفون ليسوا المشكلة، وتحذيرات السياسة ليست ضوابط كافية. كانت البيانات تغادر شبكاتهم لأنه لم يكن هناك حاجز تقني يمنعها، ولا يمكن أن تخلق السياسة وحدها حاجزًا تقنيًا.
معدل التجاوز 71.6%
لديها نهج الحظر معدل فشل موثق. وجدت أبحاث LayerX من 2025 أن 71.6% من الموظفين الذين يخضعون لحظر الذكاء الاصطناعي في المؤسسات استمروا في استخدام أدوات الذكاء الاصطناعي من خلال حسابات أو أجهزة شخصية.
يعكس معدل التجاوز سلوكًا أساسيًا: عندما توفر الأداة قيمة إنتاجية حقيقية، يجد المستخدمون طرقًا بديلة بدلاً من التخلي عن الأداة بشكل دائم. الموظف الذي يكتشف أن المساعدة من الذكاء الاصطناعي تسرع بشكل كبير من إنتاجيته لن يتوقف عن استخدام تلك الأدوات لأن السياسة المؤسسية تحظرها على الأجهزة المؤسسية. سيستخدمون حسابات شخصية على أجهزة شخصية من خلال قنوات لا يمكن لفريق الأمن رؤيتها.
النتيجة العملية لمعدل التجاوز 71.6% هي أن حظر الذكاء الاصطناعي يحقق أسوأ نتيجة ممكنة: تصل بيانات الشركات إلى مزودي الذكاء الاصطناعي من خلال قنوات بدون أي ضوابط أمنية على الإطلاق. على الأقل يمكن نظريًا مراقبة الوصول إلى الأجهزة المؤسسية. استخدام الحسابات الشخصية غير مرئي تمامًا لفريق الأمن.
حدثت الحوادث الثلاثة لسامسونج على الأجهزة المؤسسية من خلال الوصول المؤسسي. الموظفون الذين يتجاوزون الحظر يقومون بنفس الشيء - تقديم بيانات متعلقة بالعمل إلى نماذج الذكاء الاصطناعي - من خلال قنوات بدون إشراف مؤسسي.
السيطرة التقنية التي تعالج السبب الجذري
لم تكن حوادث سامسونج ناجمة عن إهمال الموظف. بل كانت ناجمة عن بنية لم توفر أي طبقة اعتراض بين استخدام الموظف للذكاء الاصطناعي والبنية التحتية الخارجية للذكاء الاصطناعي.
توفر بنية بروتوكول سياق النموذج (MCP) وكيلًا شفافًا بين عملاء الذكاء الاصطناعي وواجهات برمجة تطبيقات نماذج الذكاء الاصطناعي. بالنسبة للمطورين الذين يستخدمون Claude Desktop أو Cursor IDE - الأدوات الرئيسية لنوع تصحيح الشفرات الذي تسبب في الحادث الأول لسامسونج - يجلس خادم MCP في مسار البروتوكول.
قبل أن تصل أي نصوص إلى نموذج الذكاء الاصطناعي، يقوم خادم MCP بمعالجتها من خلال محرك إخفاء الهوية. يتم تحليل شفرة المصدر للمعرفات الملكية: أسماء الوظائف، أسماء المتغيرات، نقاط النهاية الداخلية لواجهة برمجة التطبيقات، تفاصيل مخطط قاعدة البيانات، قيم التكوين. يتم استبدال هذه بالرموز المنظمة قبل أن تصل الشفرة إلى نموذج الذكاء الاصطناعي.
عند طلب مطور من Claude تصحيح شفرة أشباه الموصلات الخاصة بسامسونج من خلال خادم MCP مزود بإخفاء الهوية، سيتم نقل الشفرة التي تم استبدال المعرفات الملكية فيها برموز. يساعد نموذج الذكاء الاصطناعي في مهمة التصحيح باستخدام الشفرة المجهولة - وهو ما يكفي لتحليل الشفرة. لا تصل التفاصيل الملكية أبدًا إلى خوادم مزود الذكاء الاصطناعي.
يصبح الحادث 1 مستحيلاً تقنيًا. تخرج شفرة المصدر من الشبكة في شكل مجهول. يوفر الذكاء الاصطناعي المساعدة في التصحيح التي يحتاجها المهندس. تبقى الملكية الفكرية لسامسونج تحت سيطرة سامسونج.
تنطبق نفس البنية على الحادث 2 (تلخيص ملاحظات الاجتماع من خلال الذكاء الاصطناعي المستند إلى المتصفح، والتي تم تناولها من خلال ملحق Chrome) والحادث 3 (تحسين استعلام قاعدة البيانات من خلال أي واجهة برمجة تطبيقات للذكاء الاصطناعي، والتي تم تناولها من خلال إخفاء الهوية MCP).
كانت حوادث سامسونج لمحة عن مشكلة منهجية. الضوابط التقنية التي تعالج السبب الجذري موجودة الآن. السؤال هو ما إذا كانت المؤسسات ستقوم بنشرها أو ستستمر في الاعتماد على الحظر الذي يتجاوزه 71.6% من موظفيها بالفعل.
المصادر: