Kembali ke BlogKeamanan AI

Mengapa Kebijakan Tidak Cukup Mencegah Kebocoran Data ke ChatGPT

77% pengguna enterprise AI menyalin dan menempelkan data ke dalam kueri chatbot. Hampir 40% file yang diunggah berisi data pribadi atau PCI. Pembaruan yang diusulkan untuk HIPAA Security Rule.

April 15, 20268 menit baca
ChatGPT PII leak preventionChrome extension DLPenterprise AI policytechnical controls browsercopy-paste PII protection

Masalah Salin-Tempel

77% pengguna enterprise AI menyalin dan menempelkan data ke dalam kueri chatbot. Ini bukan perilaku yang langka. Ini adalah cara default karyawan menggunakan alat AI di tempat kerja.

Polanya sederhana. Seorang karyawan menghadapi sebuah tugas. Ia membuka dokumen, menyalin teks yang relevan, lalu menempelkannya ke ChatGPT. Ia mendapatkan respons yang berguna.

Tidak ada bagian dari alur kerja ini yang menyaring data pribadi. Penempelan terjadi sebelum karyawan bertanya: "apakah ini berisi data pribadi?" Ketika ia membaca respons AI, transmisi sudah terjadi.

Penelitian Cyberhaven menemukan bahwa hampir 40% file yang diunggah ke alat AI berisi data pribadi atau PCI. Sebagian besar unggahan ini tidak dilakukan secara ceroboh. Karyawan sedang mengerjakan file yang diberikan kepada mereka. Data pelanggan di dalamnya bersifat insidental.

Mengapa Pelatihan Saja Tidak Cukup

Pelatihan kebijakan menghadapi batasan struktural: ia berupaya mengubah perilaku kebiasaan melalui pendidikan berkala.

Masalahnya ada pada kesenjangan antar sesi pelatihan. Sebagian besar program perusahaan dilakukan setahun sekali. Karyawan yang dilatih tentang penanganan data AI di bulan Januari beroperasi berdasarkan kebiasaan di bulan Oktober. Ingatan memudar. Kebiasaan bertahan.

Pembaruan yang diusulkan untuk HIPAA Security Rule pada Maret 2025 mencerminkan hal ini. Aturan tersebut mensyaratkan audit enkripsi tahunan — bukan hanya pelatihan tahunan. Regulator mengharapkan kontrol teknis sebagai perlindungan utama. Pelatihan adalah pelengkap.

Alat AI memperparah masalah pelatihan. Perilaku ini baru. Karyawan tidak mengembangkan kebiasaan penanganan data AI sepuluh tahun lalu seperti yang mereka lakukan untuk email. Dan kebocoran data tidak terlihat. Karyawan melihat respons yang berguna. Tidak ada pesan kesalahan. Tidak ada umpan balik negatif langsung.

Tanpa umpan balik, perilaku tidak memperbaiki dirinya sendiri.

Bagaimana Ekstensi Chrome Mencegat Penempelan

Ekstensi Chrome beroperasi di tingkat clipboard. Ia memposisikan diri di antara tindakan salin dan kolom input alat AI.

Pencegatan bekerja seperti ini. Karyawan menyalin teks dari aplikasi kerja mereka. Beralih ke tab ChatGPT dan menempel. Ekstensi mendeteksi data pribadi dalam konten clipboard saat penempelan — sebelum konten muncul di kolom input.

Jendela pratinjau muncul dan menunjukkan dengan tepat apa yang akan berubah:

"Nama pelanggan 'Budi Santoso' → '[PERSON_1]'; Email 'budi.santoso@perusahaan.com' → '[EMAIL_1]'"

Karyawan dapat melanjutkan dengan versi yang dianonimkan. Ia juga dapat membatalkan jika penggantian tidak sesuai dengan tugasnya.

Desain ini melakukan dua hal. Pertama, transparan. Karyawan melihat apa yang dilakukan alat. Ini membangun kepercayaan dan menghindari perasaan bahwa kontrol privasi adalah pengawasan. Kedua, menjadikan keputusan klasifikasi bersifat eksplisit. Seorang manusia mengonfirmasi setiap langkah anonimisasi. Keputusan tidak diotomatiskan.

Contoh Praktis

Bayangkan tim dukungan pelanggan di sebuah perusahaan e-commerce Eropa. Operator menggunakan ChatGPT untuk menyusun respons. Mereka menempel email pelanggan yang berisi nama, nomor pesanan, dan alamat.

Dengan ekstensi aktif, setiap penempelan memicu pemeriksaan anonimisasi. Operator mengirimkan prompt yang dianonimkan. Respons ChatGPT merujuk token yang dianonimkan. Operator membaca saran tersebut dan memasukkannya ke dalam respons aktual.

Kualitas dukungan tetap tinggi. Prinsip minimisasi data Pasal 5 GDPR terpenuhi. Data pribadi pelanggan tidak pernah mencapai server OpenAI.

Pelatihan kebijakan tidak dapat menghasilkan hasil ini. Kontrol teknis di tingkat clipboard bisa.

Kebijakan sebagai Pelengkap, Bukan Kontrol Utama

Pelatihan kebijakan memiliki perannya. Ia menetapkan ekspektasi. Membangun kesadaran dasar. Namun tidak dapat mencegat penempelan secara real-time.

Pembaruan regulasi HIPAA menunjukkan ke mana arah kepatuhan bergerak. Kontrol teknis yang dapat diverifikasi, bukan sekadar program pelatihan yang terdokumentasi. Perusahaan yang hanya mengandalkan pelatihan menghadapi celah kontrol yang hanya dapat diatasi oleh lapisan teknis.

Lihat juga:

Sumber

Siap untuk melindungi data Anda?

Mulai anonimisasi PII dengan 273 jenis entitas dalam 48 bahasa.