anonym.legal

By · Last updated 2026-04-04

بازگشت به وبلاگامنیت هوش مصنوعی

سیاست‌های هوش مصنوعی بدون کنترل‌های فنی شکست می‌خورند

۷۷ درصد از کارمندان با وجود سیاست‌های منع‌کننده، داده‌های حساس کاری را با ابزارهای هوش مصنوعی به اشتراک می‌گذارند. یک پیمانکار دولتی داده‌های متقاضیان کمک‌های سیل FEMA را کپی کرد.

April 4, 20268 دقیقه مطالعه
AI data governancetechnical controlsChatGPT policy failureChrome Extension DLPenterprise AI security

وقتی سیاست با رفتار واقعی روبه‌رو می‌شود

یک پیمانکار دولتی زیر فشار بود. انبوهی از درخواست‌های کمک سیل FEMA روی دستش مانده بود. او نام‌ها، آدرس‌ها، و پرونده‌های بهداشتی را برای سرعت بخشیدن به کارش در ChatGPT چسباند. از نظر او قانونی را نشکسته بود. فقط از بهترین ابزار موجود استفاده کرده بود.

نتیجه: تحقیقات دولتی و افشای عمومی.

این شکست اصلی حاکمیت هوش مصنوعی مبتنی بر سیاست است. سیاست‌ها به کارمندان می‌گویند چه کاری انجام دهند. رفتار را متوقف نمی‌کنند.

۷۷ درصد از کارمندان سازمانی حداقل هفته‌ای یک بار داده‌های حساس کاری را با ابزارهای هوش مصنوعی به اشتراک می‌گذارند — حتی زمانی که سیاست آن را ممنوع کرده است (eSecurity Planet/Cyberhaven 2025). اینها کارمندان بی‌احتیاط نیستند. افرادی هستند تحت فشار زمانی که سریع‌ترین ابزار را انتخاب می‌کنند.

چرا سیاست‌ها شکست می‌خورند

سیاست‌های استفاده از هوش مصنوعی به قضاوت انسانی در لحظه ورود داده تکیه می‌کنند. آن لحظه سریع است. ممکن است کارمند سیاست را به خاطر نیاورد. ممکن است محتوا را «حساس» نبیند. ممکن است ریسک را بپذیرد چون صرفه‌جویی زمانی بزرگ به نظر برسد.

تحلیل Q4 2025 شرکت Cyberhaven نشان داد که ۳۴.۸ درصد از تمام ورودی‌های ChatGPT حاوی اطلاعات تجاری محرمانه هستند. بسیاری از آن کاربران سیاست را می‌دانستند. در هر حال چسباندند.

سیاست‌های دسترسی کار می‌کنند چون سیستم‌ها آن‌ها را اجرا می‌کنند. DLP در لایه ایمیل کار می‌کند چون سیستم‌ها آن را اعمال می‌کنند. سیاست‌های استفاده از هوش مصنوعی هیچ اجرایی در نقطه چسباندن ندارند. یک تصمیم انسانی آن شکاف را پر می‌کند. در مقیاس، انسان‌ها اشتباه می‌کنند.

پیمانکار FEMA یکی از این اشتباه‌ها را کرد. بازیگر بدی نبود. ابزار برنده شد چون سیاست از او خواست کندی را بر سرعت ترجیح دهد. زیر فشار، سرعت را انتخاب کرد.

کنترل‌های فنی آنچه سیاست نمی‌تواند را متوقف می‌کنند

تنها راه‌حلی که در مقیاس کار می‌کند در لایه فنی عمل می‌کند — نه لایه آموزش.

یک افزونه مرورگر می‌تواند محتوای کلیپ‌بورد را قبل از رسیدن به هر هوش مصنوعی تحت وب متوقف کند. وقتی پیمانکار نام‌ها و آدرس‌های متقاضیان را کپی می‌کند و در ChatGPT می‌چسباند، افزونه اطلاعات شناسایی شخصی را تشخیص می‌دهد، آن را ناشناس می‌کند، و نسخه تمیز را ارسال می‌کند. هوش مصنوعی [NAME_1] و [ADDRESS_1] به جای مقادیر واقعی می‌بیند. کار را تکمیل می‌کند. جزئیات خصوصی متقاضی هرگز به سرورهای ChatGPT نمی‌رسد.

این خودکار است. از کاربر نمی‌خواهد چیزی به خاطر بسپارد.

برای توسعه‌دهندگانی که از Cursor یا GitHub Copilot استفاده می‌کنند، یک MCP Server همین لایه را فراهم می‌کند. کدی که در زمینه هوش مصنوعی چسبانده می‌شود ابتدا از موتور ناشناس‌سازی عبور می‌کند. اعتبارنامه‌ها و شناسه‌های اختصاصی تبدیل به توکن می‌شوند. هوش مصنوعی ورودی تمیز دریافت می‌کند و همچنان خروجی مفید می‌دهد.

ببینید چگونه این با مسدودسازی مقایسه می‌شود: مسدودسازی در مقابل ناشناس‌سازی — مقایسه DLP مرورگر.

آنچه با کنترل‌های فنی تغییر می‌کند

با یک افزونه مرورگر نصب‌شده، سناریوی پیمانکار FEMA متفاوت پیش می‌رود:

  1. پیمانکار پرونده‌های متقاضیان را از سیستم کیس کپی می‌کند
  2. افزونه اطلاعات شناسایی شخصی را در کلیپ‌بورد تشخیص می‌دهد
  3. یک پنجره پیش‌نمایش نشان می‌دهد چه چیزی جایگزین خواهد شد
  4. نسخه ناشناس‌شده به ChatGPT ارسال می‌شود
  5. ChatGPT درخواست را پردازش می‌کند و نتایج را برمی‌گرداند
  6. پیمانکار کمک لازم را دریافت می‌کند — بدون هیچ تحقیقی

سیاست نیازی به تغییر نداشت. آموزشی نیاز به اجرا نداشت. لایه رهگیری آن را مدیریت کرد.

آموزش سیاست ریسک را در حاشیه کاهش می‌دهد. کنترل‌های فنی حالت شکست را از بین می‌برند. حادثه FEMA یک شکست سیاستی بود. با یک Chrome Extension مستقرشده بر دستگاه آن پیمانکار، یک رویداد غیرقابل توجه می‌بود.

همچنین ببینید:

منابع

مقالات مرتبط

امنیت هوش مصنوعی

AI Coding Assistants Leak Production PII

Unit test fixtures with real customer records. Log files with production data for debugging. GitHub found 39 million secrets leaked in 2024.

امنیت هوش مصنوعی

Internal Wiki PII: Confluence Customer Data

Support teams document processes with screenshots of customer accounts. Over 3 years, that's thousands of GDPR data minimization violations in your.

امنیت هوش مصنوعی

Screenshot PII: Leaks in Internal Tools

Slack, Teams, Jira, and email regularly receive screenshots containing customer PII. This access-control violation bypasses every DLP tool.

آماده‌اید داده‌های خود را محافظت کنید؟

شروع به ناشناس‌سازی PII با بیش از ۲۸۵ نوع نهاد در ۴۸ زبان.

آغاز دوره آزمایشی رایگانمشاهده ویژگی‌ها

About this page

We update this page when our platform or the law changes.

Read our founder note for how we work.

Each change shows up in the timestamp at the top.

Related reading

We follow these rules

  • GDPR (EU 2016/679).
  • ISO/IEC 27001:2022.
  • NIS2 (EU 2022/2555).
  • HIPAA safe harbor under 45 CFR § 164.514(b)(2).

Our promise

We do not sell your data.

We do not train models on your text.

We store your files in Germany.

You can delete your account at any time.

You own your work.

Where we run

Our servers live in Falkenstein, Germany.

We use Hetzner. They hold ISO 27001 certification.

All data stays in the EU.

Backups run every day.

Need help?

Email support@anonym.legal.

We reply within one business day.

How we test

We run a full check suite on every release.

Each surface gets its own sweep script and report.

Human reviewers spot-check the output each week.

We track recall and precision on a labelled set.

Bad runs block the deploy.

What we never do

  • We never sell your information to third parties.
  • We never train models on what you upload.
  • We never keep your work after you delete it.
  • We never share keys with any outside firm.
  • We never run ads inside the product.

Plans in plain words

We sell credits, not seats.

One credit covers one short job.

Long jobs use a few credits each.

You can top up at any time.

Unused credits roll over each month.

Read the plans page for current rates.

Who built this

A small team of engineers and lawyers built this.

We ship from Europe and work in the open.

Our founder note spells out why we started.

Where to start

How the parts fit

A browser add-on cleans text inside Chrome.

A Word plug-in handles drafts in Office.

A small desktop tool works on whole folders.

An agent protocol link feeds large models safely.

All four share one core engine and one rule set.

Words from our team

We started this work after a lunch about cookies.

One friend kept getting odd ads on her phone.

We asked why a court file leaked through a draft.

We sketched the first build on a napkin that week.

By month three we had a tiny demo for a friend.

She used it on her first case the next day.

Common questions we hear

Can the tool read scanned PDFs? Yes, with OCR.

Does it work on long files? Yes, in small chunks.

Can I roll my own rule set? Yes, save it as a preset.

Does it run offline? The desktop build runs offline.

Do you keep my files? No, the cloud build wipes after each run.

Will it learn from my work? No, we never train on inputs.

A short tour of the workflow

Upload a file or paste a snippet of prose.

Pick the entities you want gone from the draft.

Choose a method: replace, mask, hash, encrypt, or redact.

Press run and watch the side panel show each hit.

Skim the result and tweak any rule that misfired.

Save the cleaned file or send it to a teammate.