กลับไปที่บล็อกความปลอดภัยของ AI

นโยบาย AI ที่ไม่มีการควบคุมทางเทคนิคล้มเหลว

พนักงาน 77% แบ่งปันข้อมูลงานที่ละเอียดอ่อนกับเครื่องมือ AI แม้มีนโยบายห้าม ผู้รับเหมาของรัฐบาลรายหนึ่งนำข้อมูลผู้สมัครรับความช่วยเหลือจาก FEMA ไปวางใน ChatGPT

April 4, 20268 อ่านประมาณ
AI data governancetechnical controlsChatGPT policy failureChrome Extension DLPenterprise AI security

เมื่อนโยบายพบพฤติกรรมจริง

ผู้รับเหมาของรัฐบาลรายหนึ่งอยู่ภายใต้แรงกดดัน เขามีงานค้างอยู่กองใหญ่ — ใบสมัครขอความช่วยเหลือน้ำท่วม FEMA ที่ต้องประมวลผล เขาจึงนำชื่อ ที่อยู่ และบันทึกสุขภาพไปวางใน ChatGPT เพื่อทำงานได้เร็วขึ้น ในความคิดของเขา เขาไม่ได้ละเมิดกฎใด เขาแค่ใช้เครื่องมือที่ดีที่สุดที่มีอยู่

ผลที่ตามมา: การสอบสวนของรัฐบาลและการเปิดเผยสู่สาธารณะ

นี่คือความล้มเหลวหลักของการกำกับดูแล AI ที่พึ่งพานโยบายเพียงอย่างเดียว นโยบายบอกพนักงานว่าต้องทำอะไร แต่ไม่สามารถหยุดพฤติกรรมได้

พนักงานองค์กร 77% แบ่งปันข้อมูลงานที่ละเอียดอ่อนกับเครื่องมือ AI อย่างน้อยสัปดาห์ละครั้ง — แม้นโยบายจะห้ามไว้ (eSecurity Planet/Cyberhaven 2025) คนเหล่านี้ไม่ใช่พนักงานที่ประมาท พวกเขาเป็นคนที่อยู่ภายใต้แรงกดดันด้านเวลาและเลือกเครื่องมือที่เร็วที่สุด

เหตุใดนโยบายจึงพัง

นโยบายการใช้ AI พึ่งพาการตัดสินใจของมนุษย์ ณ จุดที่ป้อนข้อมูล ช่วงเวลานั้นเป็นเพียงชั่วขณะ พนักงานอาจจำนโยบายไม่ได้ อาจมองไม่เห็นว่าเนื้อหาเป็น "ข้อมูลละเอียดอ่อน" หรืออาจยอมรับความเสี่ยงเพราะการประหยัดเวลาดูเหมือนมีค่ามากกว่า

การวิเคราะห์ Q4 2025 ของ Cyberhaven พบว่า 34.8% ของ input ทั้งหมดที่ส่งให้ ChatGPT มีข้อมูลธุรกิจที่เป็นความลับ ผู้ใช้จำนวนมากในนั้นรู้จักนโยบาย แต่ยังคงวางข้อมูลลงไป

นโยบายการเข้าถึงทำงานได้เพราะระบบบังคับใช้ DLP ในชั้นอีเมลทำงานได้เพราะระบบบังคับใช้ นโยบายการใช้ AI ไม่มีการบังคับใช้ ณ จุดที่วาง มีเพียงการตัดสินใจของมนุษย์ที่เติมช่องว่างนั้น และในระดับขนาดใหญ่ มนุษย์ย่อมทำผิดพลาด

ผู้รับเหมา FEMA ทำผิดพลาดนั้น เขาไม่ใช่คนประสงค์ร้าย แต่เครื่องมือ AI ชนะเพราะนโยบายขอให้เขาเลือกความช้าแทนความเร็ว ภายใต้แรงกดดัน เขาเลือกความเร็ว

การควบคุมทางเทคนิคหยุดสิ่งที่นโยบายหยุดไม่ได้

การแก้ไขเดียวที่ได้ผลในระดับขนาดใหญ่ทำงานในชั้นเทคนิค — ไม่ใช่ชั้นการฝึกอบรม

ส่วนขยายเบราว์เซอร์สามารถสกัดกั้นเนื้อหาคลิปบอร์ดก่อนที่จะไปถึง AI บนเว็บใดๆ เมื่อผู้รับเหมาคัดลอกชื่อและที่อยู่ผู้สมัครแล้ววางใน ChatGPT ส่วนขยายจะตรวจจับ PII ทำการ anonymize และส่งเวอร์ชันที่สะอาดแทน AI เห็น [NAME_1] และ [ADDRESS_1] แทนที่ค่าจริง ยังคงทำงานที่ได้รับมอบหมายให้เสร็จสิ้น ข้อมูลส่วนตัวของผู้สมัครไม่เคยไปถึงเซิร์ฟเวอร์ของ ChatGPT

สิ่งนี้เป็นอัตโนมัติ ไม่ต้องให้ผู้ใช้จำอะไร

สำหรับนักพัฒนาที่ใช้ Cursor หรือ GitHub Copilot MCP Server ให้ชั้นเดียวกัน โค้ดที่วางในบริบท AI จะผ่านเครื่องมือ anonymize ก่อน ข้อมูลประจำตัวและตัวระบุที่เป็นกรรมสิทธิ์กลายเป็น token AI ได้รับ input ที่สะอาดและยังให้ output ที่มีประโยชน์

ดูการเปรียบเทียบนี้กับการบล็อก: การบล็อก vs. Anonymization — เปรียบ Browser DLP

สิ่งที่เปลี่ยนไปด้วยการควบคุมทางเทคนิค

ด้วยส่วนขยายเบราว์เซอร์ที่ติดตั้ง สถานการณ์ผู้รับเหมา FEMA จะเป็นดังนี้:

  1. ผู้รับเหมาคัดลอกบันทึกผู้สมัครจากระบบ
  2. ส่วนขยายตรวจจับ PII ในคลิปบอร์ด
  3. หน้าต่างแสดงตัวอย่างแสดงว่าจะแทนที่อะไร
  4. เวอร์ชัน anonymized ไปยัง ChatGPT
  5. ChatGPT ประมวลผลคำขอและส่งคืนผลลัพธ์
  6. ผู้รับเหมาได้รับความช่วยเหลือที่ต้องการ — ไม่มีการสอบสวน

นโยบายไม่จำเป็นต้องเปลี่ยน ไม่จำเป็นต้องฝึกอบรมเพิ่มเติม ชั้นการสกัดกั้นจัดการทุกอย่างแล้ว

การฝึกอบรมด้านนโยบายลดความเสี่ยงที่ขอบ การควบคุมทางเทคนิคขจัดโหมดความล้มเหลว เหตุการณ์ FEMA เป็นความล้มเหลวของนโยบาย แต่มันจะเป็นเรื่องธรรมดาหากมีการติดตั้ง Chrome Extension หนึ่งตัวในอุปกรณ์ของผู้รับเหมารายนั้น

ดูเพิ่มเติม:

แหล่งอ้างอิง

บทความที่เกี่ยวข้อง

ความปลอดภัยของ AI

การป้องกัน PII แบบเรียลไทม์ประหยัดได้ 2.2 ล้านดอลลาร์

IBM พบความแตกต่างด้านค่าใช้จ่าย 2.2 ล้านดอลลาร์ระหว่างการป้องกันและการตรวจจับ นี่คือตัวเลขที่ทำให้การสกัดกั้น PII แบบเรียลไทม์กลายเป็นสิ่งที่ขาดไม่ได้สำหรับทีมความปลอดภัย

ความปลอดภัยของ AI

GDPR มาตรา 32: การตรวจสอบ PII สำหรับเครื่องมือ AI

ทีม compliance ขององค์กรต้องการหลักฐานเชิงปริมาณของการควบคุม PII ในเครื่องมือ AI การใช้ Network DLP พลาดการโต้ตอบ AI บนเบราว์เซอร์

ความปลอดภัยของ AI

การป้องกัน PII แบบเรียลไทม์สำหรับการรั่วไหลข้อมูล AI

เมื่อพนักงานพิมพ์ชื่อลูกค้าลงใน ChatGPT ข้อมูลจะออกจากการควบคุมขององค์กรแบบเรียลไทม์ การใช้ DLP ภายหลังไม่สามารถแก้ปัญหานี้ได้

พร้อมที่จะปกป้องข้อมูลของคุณหรือยัง?

เริ่มทำให้ PII เป็นนิรนามด้วยประเภทเอนทิตี273 ประเภทใน 48 ภาษา.