กลับไปที่บล็อกความปลอดภัยของ AI

Samsung สูญเสียซอร์สโค้ดให้ ChatGPT ถึง 3 ครั้ง

ทีมวิศวกรสามทีมที่แตกต่างกันของ Samsung วางโค้ดที่เป็นกรรมสิทธิ์และข้อมูลลับลงใน ChatGPT ในเดือนเมษายน 2023 เหตุการณ์แต่ละครั้งเผยให้เห็นช่องโหว่ที่แตกต่างกัน

March 13, 20269 อ่านประมาณ
Samsung ChatGPT leaksource code protectionenterprise AI controlsinsider data leakageMCP Server anonymization

สามทีม สามเหตุการณ์ หนึ่งเดือน

ในเดือนเมษายน 2023 Samsung Semiconductor เปิดเผยเหตุการณ์แยกกันสามครั้งที่พนักงานส่งข้อมูลที่เป็นกรรมสิทธิ์ไปยัง ChatGPT ภายในหนึ่งเดือน

เหตุการณ์เหล่านี้ไม่เกี่ยวข้องกัน เกี่ยวข้องกับพนักงานต่างคน ในบทบาทต่างกัน ทำงานต่างกัน ในวันที่ต่างกัน มีเพียงสองลักษณะร่วมกัน: พนักงานแต่ละคนใช้ ChatGPT เพื่อบรรลุเป้าหมายงานที่ถูกต้องตามกฎหมาย และแต่ละคนส่งข้อมูลที่ Samsung ไม่ตั้งใจจะแชร์กับโครงสร้างพื้นฐานของ OpenAI โดยไม่ตั้งใจ

เหตุการณ์ที่ 1: วิศวกรซอฟต์แวร์กำลังดีบักโค้ดที่เกี่ยวข้องกับอุปกรณ์เซมิคอนดักเตอร์ การดีบักระบบที่ซับซ้อนเป็นกรณีการใช้งาน AI ทั่วไป วิศวกรวางซอร์สโค้ดจากระบบอุปกรณ์เซมิคอนดักเตอร์ที่เป็นกรรมสิทธิ์ของ Samsung ลงใน ChatGPT โค้ดดังกล่าวมีทรัพย์สินทางปัญญาที่เกี่ยวข้องกับกระบวนการผลิตของ Samsung

เหตุการณ์ที่ 2: พนักงานกำลังเตรียมสรุปการประชุม พนักงานส่งบันทึกการประชุมไปให้ ChatGPT สรุป บันทึกเหล่านั้นมีการอภิปรายภายในที่เป็นความลับซึ่งรวมถึงกลยุทธ์ทางธุรกิจ แผนงานทางเทคนิค และข้อมูลอื่นที่ Samsung ถือว่าไม่เป็นสาธารณะ

เหตุการณ์ที่ 3: พนักงานคนที่สามต้องการคำแนะนำในการปรับปรุง query ฐานข้อมูล พนักงานให้โครงสร้างฐานข้อมูลและตรรกะ query แก่ ChatGPT ตรรกะ query มีการอ้างอิงถึงโครงสร้างข้อมูลที่เป็นกรรมสิทธิ์และตรรกะทางธุรกิจ

เหตุใดพนักงานจึงทำเช่นนั้น

ไม่มีพนักงาน Samsung คนใดในสามคนที่กระทำอย่างไม่รับผิดชอบตามมาตรฐานวิชาชีพของตนเอง พวกเขากำลังใช้เครื่องมือ AI สำหรับงานที่ AI ออกแบบมาเพื่อช่วย: การดีบักโค้ด การสรุปข้อความ การปรับปรุงทางเทคนิค

องค์ประกอบที่ขาดหายไปในแต่ละกรณีคือการสร้างแรงเสียดทางเทคนิค ไม่มีระบบใดสกัดกั้นการส่งก่อนจะถึงเซิร์ฟเวอร์ของ OpenAI ไม่มีมาตรการควบคุมใดทำเครื่องหมายตัวระบุโค้ดที่เป็นกรรมสิทธิ์ก่อนจะออกจากเครือข่ายองค์กร ไม่มีชั้นสถาปัตยกรรมใดอยู่ระหว่างความต้องการงานที่ถูกต้องของพนักงานและโครงสร้างพื้นฐานของผู้ให้บริการ AI

พนักงานกระทำอย่างมีเหตุผล เครื่องมือ AI ให้ความช่วยเหลือที่แท้จริงสำหรับงานที่ถูกต้อง คำเตือนนโยบายมีอยู่แต่ไม่ได้กำหนดอุปสรรคทางเทคนิค ผลที่ตามมาจากการไม่ปฏิบัติตาม ซึ่งก็คือมาตรการทางวินัยสำหรับการกระทำโดยบังเอิญ เป็นเรื่องนามธรรมและห่างไกลเมื่อเทียบกับประโยชน์ด้านผลิตภาพทันทีของเครื่องมือ

ผลลัพธ์: สามเหตุการณ์ในหนึ่งเดือน การเปิดเผยข้อมูลที่เป็นกรรมสิทธิ์สามครั้ง และวิกฤตองค์กรที่จุดชนวนให้เกิดการแบนเครื่องมือ AI ขององค์กรทั่วโลก

การตอบสนองของอุตสาหกรรม

การตอบสนองภายในของ Samsung รวดเร็ว: การเข้าถึง ChatGPT ถูกจำกัดบนอุปกรณ์ขององค์กร การเปิดเผยดังกล่าวจุดชนวนให้เกิดปฏิกิริยาในวงกว้างที่เผยให้เห็นว่าสภาพพื้นฐานนั้นแพร่หลายแค่ไหน

องค์กรที่ประกาศแบนหรือจำกัดเครื่องมือ AI หลังจากการเปิดเผยของ Samsung ได้แก่ Bank of America, Citigroup, Goldman Sachs, JPMorgan Chase, Apple และ Verizon การตอบสนองของภาคการเงินครอบคลุมมากที่สุด สถาบันใหญ่หลายแห่งสรุปพร้อมกันว่าโปรไฟล์ความเสี่ยงของเครื่องมือ AI ที่ไม่มีมาตรการควบคุมทางเทคนิคไม่สอดคล้องกับข้อผูกพันการปฏิบัติตามกฎระเบียบของตน

แต่ละองค์กรสรุปผลเหมือนกัน: พนักงานไม่ใช่ปัญหา และคำเตือนนโยบายไม่ใช่มาตรการควบคุมที่เพียงพอ ข้อมูลกำลังออกจากเครือข่ายของพวกเขาเพราะไม่มีอุปสรรคทางเทคนิคที่ป้องกัน และนโยบายเพียงอย่างเดียวไม่สามารถสร้างอุปสรรคทางเทคนิคได้

อัตราการเลี่ยง 71.6%

แนวทางการแบนมีอัตราความล้มเหลวที่บันทึกไว้ งานวิจัยของ LayerX ปี 2025 พบว่า 71.6% ของพนักงานที่อยู่ภายใต้การแบน AI ขององค์กร ยังคงใช้เครื่องมือ AI ผ่านบัญชีส่วนตัวหรืออุปกรณ์ส่วนตัว

อัตราการเลี่ยงสะท้อนพฤติกรรมพื้นฐาน: เมื่อเครื่องมือให้มูลค่าผลิตภาพที่แท้จริง ผู้ใช้หาทางเลี่ยงแทนที่จะเลิกใช้เครื่องมืออย่างถาวร พนักงานที่ค้นพบว่า AI ช่วยเร่งผลผลิตงานอย่างมากจะไม่หยุดใช้เครื่องมือเหล่านั้นเพราะนโยบายองค์กรห้ามบนอุปกรณ์ขององค์กร พวกเขาจะใช้บัญชีส่วนตัวบนอุปกรณ์ส่วนตัวผ่านช่องทางที่ทีมรักษาความปลอดภัยมองไม่เห็น

ผลที่ตามมาในทางปฏิบัติของอัตราการเลี่ยง 71.6% คือการแบน AI บรรลุผลลัพธ์ที่เลวร้ายที่สุดที่เป็นไปได้: ข้อมูลองค์กรถึงผู้ให้บริการ AI ผ่านช่องทางที่ไม่มีมาตรการควบคุมความปลอดภัยเลย อย่างน้อยการเข้าถึงอุปกรณ์ขององค์กรอาจถูกตรวจสอบได้ทางทฤษฎี การใช้งานบัญชีส่วนตัวมองไม่เห็นสำหรับทีมรักษาความปลอดภัยโดยสิ้นเชิง

สามเหตุการณ์ของ Samsung เกิดขึ้นบนอุปกรณ์ขององค์กรผ่านการเข้าถึงขององค์กร พนักงานที่เลี่ยงการแบนกำลังทำสิ่งเดียวกัน ซึ่งก็คือให้ข้อมูลที่เกี่ยวข้องกับงานแก่โมเดล AI ผ่านช่องทางที่ไม่มีการกำกับดูแลขององค์กร

มาตรการควบคุมทางเทคนิคที่แก้ไขสาเหตุรากฐาน

เหตุการณ์ Samsung ไม่ได้เกิดจากความประมาทของพนักงาน แต่เกิดจากสถาปัตยกรรมที่ไม่มีชั้นสกัดกั้นระหว่างการใช้ AI ของพนักงานและโครงสร้างพื้นฐาน AI ภายนอก

สถาปัตยกรรม Model Context Protocol (MCP) ให้พร็อกซีโปร่งใสระหว่าง AI clients และ AI model APIs สำหรับนักพัฒนาที่ใช้ Claude Desktop หรือ Cursor IDE ซึ่งเป็นเครื่องมือหลักสำหรับการดีบักโค้ดประเภทที่ก่อให้เกิดเหตุการณ์แรกของ Samsung MCP Server อยู่ในเส้นทางโปรโตคอล

ก่อนที่ข้อความใดจะถึงโมเดล AI, MCP Server ประมวลผลผ่านเครื่องยนต์ทำให้ไม่ระบุตัวตน ซอร์สโค้ดถูกวิเคราะห์หาตัวระบุที่เป็นกรรมสิทธิ์: ชื่อฟังก์ชัน ชื่อตัวแปร จุดสิ้นสุด API ภายใน รายละเอียดสคีมาฐานข้อมูล ค่าการกำหนดค่า เหล่านี้ถูกแทนที่ด้วย token ที่มีโครงสร้างก่อนโค้ดถึงโมเดล AI การตรวจจับทำงานบน API ที่โฮสต์ใน EU ของ anonym.legal

นักพัฒนาที่ขอให้ Claude ดีบักโค้ดเซมิคอนดักเตอร์ที่เป็นกรรมสิทธิ์ของ Samsung ผ่าน MCP Server ที่มีการทำให้ไม่ระบุตัวตนจะส่งโค้ดที่แทนที่ตัวระบุที่เป็นกรรมสิทธิ์ด้วย token โมเดล AI ช่วยงานดีบักโดยใช้โค้ดที่ไม่ระบุตัวตน ซึ่งเพียงพอสำหรับการวิเคราะห์โค้ด รายละเอียดที่เป็นกรรมสิทธิ์ไม่มีวันถึงเซิร์ฟเวอร์ของผู้ให้บริการ AI

เหตุการณ์ที่ 1 กลายเป็นไปไม่ได้ทางเทคนิค ซอร์สโค้ดออกจากเครือข่ายในรูปแบบที่ไม่ระบุตัวตน AI ให้ความช่วยเหลือการดีบักที่วิศวกรต้องการ ทรัพย์สินทางปัญญาของ Samsung ยังคงอยู่ภายใต้การควบคุมของ Samsung

สถาปัตยกรรมเดียวกันนี้ใช้กับเหตุการณ์ที่ 2 (การสรุปบันทึกการประชุมผ่าน AI บนเบราว์เซอร์ ซึ่งได้รับการจัดการโดย Chrome Extension) และเหตุการณ์ที่ 3 (การปรับปรุง query ฐานข้อมูลผ่าน AI coding interface ใดก็ตาม ซึ่งได้รับการจัดการโดยการทำให้ไม่ระบุตัวตน MCP)

เหตุการณ์ Samsung เป็นการแสดงตัวอย่างล่วงหน้าของปัญหาเชิงระบบ มาตรการควบคุมทางเทคนิคที่แก้ไขสาเหตุรากฐานมีอยู่แล้วในปัจจุบัน คำถามคือองค์กรจะนำไปใช้หรือยังคงพึ่งพาการแบนที่ 71.6% ของพนักงานเลี่ยงอยู่แล้ว

ดูเพิ่มเติม:

แหล่งที่มา:

บทความที่เกี่ยวข้อง

ความปลอดภัยของ AI

การป้องกัน PII แบบเรียลไทม์ประหยัดได้ 2.2 ล้านดอลลาร์

IBM พบความแตกต่างด้านค่าใช้จ่าย 2.2 ล้านดอลลาร์ระหว่างการป้องกันและการตรวจจับ นี่คือตัวเลขที่ทำให้การสกัดกั้น PII แบบเรียลไทม์กลายเป็นสิ่งที่ขาดไม่ได้สำหรับทีมความปลอดภัย

ความปลอดภัยของ AI

GDPR มาตรา 32: การตรวจสอบ PII สำหรับเครื่องมือ AI

ทีม compliance ขององค์กรต้องการหลักฐานเชิงปริมาณของการควบคุม PII ในเครื่องมือ AI การใช้ Network DLP พลาดการโต้ตอบ AI บนเบราว์เซอร์

ความปลอดภัยของ AI

การป้องกัน PII แบบเรียลไทม์สำหรับการรั่วไหลข้อมูล AI

เมื่อพนักงานพิมพ์ชื่อลูกค้าลงใน ChatGPT ข้อมูลจะออกจากการควบคุมขององค์กรแบบเรียลไทม์ การใช้ DLP ภายหลังไม่สามารถแก้ปัญหานี้ได้

พร้อมที่จะปกป้องข้อมูลของคุณหรือยัง?

เริ่มทำให้ PII เป็นนิรนามด้วยประเภทเอนทิตี273 ประเภทใน 48 ภาษา.