दैनिक एक्सपोजर गणित
Cyberhaven के शोध में पाया गया कि उद्यम कर्मचारी प्रति उपयोगकर्ता प्रति दिन औसतन 3.8 संवेदनशील डेटा पेस्ट करते हैं। 100 लोगों की ग्राहक सहायता टीम के लिए, यह आंकड़ा प्रति दिन ChatGPT में संवेदनशील डेटा के 380 उदाहरणों में बदल जाता है - प्रत्येक उदाहरण संभावित रूप से GDPR डेटा न्यूनतमता उल्लंघन का गठन करता है जो अनुच्छेद 5(1)(c) के तहत है, जिसमें आवश्यक डेटा "उचित, प्रासंगिक और आवश्यक तक सीमित" होना चाहिए।
3.8 का आंकड़ा उन कर्मचारियों के लिए नहीं है जो नीति की अनदेखी कर रहे हैं। यह सामान्य कार्यप्रवाह व्यवहार को दर्शाता है: एजेंट ग्राहक संवाद को उत्तर तैयार करने के लिए कॉपी करते हैं, सहानुभूतिपूर्ण फॉलो-अप उत्पन्न करने के लिए शिकायत पाठ को पेस्ट करते हैं, संदर्भ-सचेत सुझाव प्राप्त करने के लिए खाता विवरण शामिल करते हैं। प्रत्येक पेस्ट एक वैध उत्पादकता क्रिया है जिसमें संयोग से व्यक्तिगत डेटा शामिल होता है। कर्मचारी ने ग्राहक डेटा को उजागर करने का निर्णय नहीं लिया; एक्सपोजर एक AI टूल का कुशलतापूर्वक उपयोग करने के निर्णय का उपोत्पाद था।
2024 के EU ऑडिट में पाया गया कि 63% ChatGPT उपयोगकर्ता डेटा में व्यक्तिगत पहचान योग्य जानकारी शामिल थी। केवल 22% उपयोगकर्ताओं को पता था कि वे ChatGPT की सेटिंग्स के माध्यम से डेटा संग्रह से बाहर निकल सकते हैं। यह संयोजन - अधिकांश डेटा में PII शामिल है, अधिकांश उपयोगकर्ता नियंत्रणों के बारे में अनजान हैं - किसी भी संगठन में प्रणालीगत दैनिक एक्सपोजर उत्पन्न करता है जिसने तकनीकी नियंत्रण लागू नहीं किए हैं।
क्यों व्यवहार को प्रशिक्षित नहीं किया जा सकता
कॉपी-पेस्ट कार्यप्रवाह गहराई से आदतन है। उपयोगकर्ता दशकों से पाठ को कॉपी और पेस्ट कर रहे हैं। पेस्ट किए गए पाठ के लिए एक AI चैटबॉट को गंतव्य के रूप में जोड़ने से अंतर्निहित व्यवहार में कोई बदलाव नहीं आया; इसने एक स्थापित पैटर्न को एक नए लक्ष्य पर विस्तारित किया।
नीति प्रशिक्षण जो कहता है "ग्राहक PII को ChatGPT में पेस्ट न करें" कर्मचारियों को एक वर्गीकरण निर्णय डालने की आवश्यकता होती है - "क्या इस पाठ में PII है?" - एक आदतन क्रिया में जो स्वाभाविक रूप से एक विराम शामिल नहीं करती। प्रशिक्षण प्रभाव घटता है क्योंकि व्यवहार आदत में लौटता है। प्रत्येक व्यक्तिगत पेस्ट निर्णय एक कम-जोखिम वाला सूक्ष्म-निर्णय है; 380 दैनिक निर्णयों का संचयी प्रभाव एक प्रणालीगत अनुपालन जोखिम है जिसे नीति प्रशिक्षण विश्वसनीय रूप से संबोधित नहीं कर सकता।
तकनीकी समाधान उस परत पर कार्य करता है जहां आदत बनती है: पेस्ट क्रिया स्वयं। Chrome एक्सटेंशन पेस्ट के क्षण में क्लिपबोर्ड सामग्री को रोकता है, इससे पहले कि सामग्री इनपुट फ़ील्ड तक पहुंचे। यह रोकना एक नीति प्रवर्तन बाधा नहीं है (उपयोगकर्ता हमेशा ओवरराइड कर सकते हैं) - यह एक पारदर्शिता उपकरण है। पूर्वावलोकन मोडल कर्मचारी को दिखाता है कि क्या पता लगाया गया था, उन्हें आगे बढ़ने से पहले वर्गीकरण निर्णय में एक क्षण की दृश्यता देता है।
जर्मन ई-कॉमर्स कंपनी के ग्राहक शिकायतों के उत्तर तैयार करने वाले सहायता टीम लीड के लिए: कार्यप्रवाह बना रहता है "कॉपी शिकायत, ChatGPT में पेस्ट करें, उत्तर उत्पन्न करें।" Chrome एक्सटेंशन एक 2-सेकंड का अंतराल जोड़ता है जहां एजेंट देखता है कि नाम, पते और ऑर्डर नंबर का पता लगाया गया था और सबमिशन से पहले अज्ञात किया जाएगा। एजेंट आगे बढ़ने के लिए क्लिक करता है। कार्यप्रवाह जारी रहता है। अनुपालन उल्लंघन नहीं होता है।
स्रोत: