حساب التعرض اليومي
وجدت أبحاث Cyberhaven أن موظفي الشركات يقومون بمتوسط 3.8 لصقات بيانات حساسة في ChatGPT لكل مستخدم يوميًا. بالنسبة لفريق دعم العملاء المكون من 100 شخص، فإن هذا الرقم يترجم إلى 380 حالة من البيانات الحساسة التي تدخل ChatGPT يوميًا - كل حالة قد تشكل انتهاكًا لتقليل البيانات بموجب GDPR وفقًا للمادة 5(1)(ج)، والتي تتطلب أن تكون البيانات الشخصية "ملائمة وذات صلة ومحدودة لما هو ضروري."
رقم 3.8 ليس رقمًا للموظفين الذين يتجاهلون السياسة. إنه يعكس سلوك سير العمل العادي: يقوم الوكلاء بنسخ مراسلات العملاء لصياغة الردود، ولصق نص الشكاوى لتوليد متابعات متعاطفة، وإدراج تفاصيل الحساب للحصول على اقتراحات واعية بالسياق. كل لصق هو إجراء إنتاجية مشروع يتضمن عن غير قصد بيانات شخصية. لم يقرر الموظف تعريض بيانات العملاء؛ كان التعرض ناتجًا جانبيًا لقرار استخدام أداة ذكاء اصطناعي بكفاءة.
وجد تدقيق الاتحاد الأوروبي لعام 2024 أن 63% من بيانات مستخدمي ChatGPT تحتوي على معلومات تعريف شخصية. فقط 22% من المستخدمين كانوا يعلمون أنهم يمكنهم إلغاء الاشتراك في جمع البيانات من خلال إعدادات ChatGPT. ينتج عن هذا المزيج - معظم البيانات تحتوي على PII، ومعظم المستخدمين غير مدركين للتحكمات - تعرض منهجي يومي على نطاق واسع عبر أي منظمة لم تنفذ ضوابط تقنية.
لماذا لا يمكن تدريب السلوك بعيدًا
سير عمل النسخ واللصق متأصل بعمق. لقد كان المستخدمون يقومون بنسخ ولصق النص كنوع أساسي من التفاعل مع الكمبيوتر لعقود. لم يغير إضافة دردشة ذكاء اصطناعي كوجهة للنص الملصوق السلوك الأساسي؛ بل وسعت نمطًا راسخًا إلى هدف جديد.
يتطلب تدريب السياسة الذي يقول "لا تلصق PII العملاء في ChatGPT" من الموظفين إدخال قرار تصنيف - "هل يحتوي هذا النص على PII؟" - في إجراء معتاد لا يتضمن بشكل طبيعي توقفًا. يتلاشى تأثير التدريب مع عودة السلوك إلى العادة. كل قرار لصق فردي هو قرار صغير منخفض المخاطر؛ التأثير التراكمي لـ 380 قرارًا يوميًا هو خطر امتثال منهجي لا يمكن لتدريب السياسة معالجته بشكل موثوق.
تعمل الحلول التقنية في الطبقة التي يتشكل فيها العادة: إجراء اللصق نفسه. تعترض إضافة Chrome محتوى الحافظة في لحظة اللصق، قبل أن يصل المحتوى إلى حقل الإدخال. الاعتراض ليس حاجزًا لتطبيق السياسة (يمكن للمستخدمين دائمًا تجاوز ذلك) - إنه أداة شفافية. تعرض نافذة المعاينة للموظف ما تم اكتشافه، مما يمنحه لحظة واحدة من الرؤية في قرار التصنيف قبل المتابعة.
بالنسبة لقائد فريق دعم شركة التجارة الإلكترونية الألمانية الذي يقوم بصياغة ردود على شكاوى العملاء: يبقى سير العمل "نسخ الشكوى، لصق في ChatGPT، توليد الرد." تضيف إضافة Chrome فترة توقف مدتها ثانيتان حيث يرى الوكيل أن الأسماء والعناوين وأرقام الطلبات قد تم اكتشافها وسيتم إخفاؤها قبل التقديم. ينقر الوكيل على متابعة. يستمر سير العمل. لا يحدث خرق الامتثال.
المصادر: