کارشناسان هشدار می‌دهند که برنامه اتحادیه اروپا برای اجبار برنامه‌های پیام‌رسان برای اسکن CSAM، میلیون‌ها پیام مثبت را در معرض خطر قرار می‌دهد.

صدها کارشناس امنیتی و حریم خصوصی روز پنجشنبه در نامه ای سرگشاده هشدار دادند که فشار بحث برانگیز قانونگذاران اتحادیه اروپا برای الزام قانونی به پلتفرم های پیام رسانی برای اسکن ارتباطات خصوصی شهروندان برای یافتن مطالب سوء استفاده جنسی از کودکان (CSAM) می تواند منجر به میلیون ها مثبت در روز شود.

نگرانی در مورد پیشنهاد اتحادیه اروپا از زمانی که کمیسیون دو سال پیش طرح اسکن CSAM را پیشنهاد کرد – با حضور کارشناسان مستقل، قانونگذاران در سراسر پارلمان اروپا و حتی ناظر حفاظت از داده های خود اتحادیه در میان کسانی که زنگ خطر را به صدا درآوردند، افزایش یافت.

پیشنهاد اتحادیه اروپا نه تنها به پلتفرم‌های پیام‌رسانی نیاز دارد که دستور تشخیص CSAM را برای اسکن دریافت می‌کنند شناخته شده CSAM; آنها همچنین باید از فناوری‌های اسکن تشخیص نامشخص استفاده کنند تا سعی کنند CSAM ناشناخته را شناسایی کنند و فعالیت‌های اصلاحی را که در حال انجام است شناسایی کنند – که منجر به اتهامات قانون‌گذاران در سطوح تفکر جادویی فن‌آوری‌گرایی می‌شود.

منتقدان استدلال می کنند که این پیشنهاد از نظر فناوری غیرممکن است و به هدف اعلام شده محافظت از کودکان در برابر سوء استفاده نمی رسد. در عوض، آنها می گویند، با وادار کردن پلتفرم ها به اعمال نظارت کامل بر همه کاربران خود در به کارگیری فناوری های مخاطره آمیز و اثبات نشده، مانند اسکن سمت مشتری، امنیت اینترنت و حریم خصوصی کاربران وب را ویران می کند.

کارشناسان می گویند هیچ فناوری قادر به دستیابی به خواسته های قانون بدون ایجاد آسیب بسیار بیشتر از سود نیست. با این حال، اتحادیه اروپا بدون توجه به این موضوع در حال تلاش است.

آخرین نامه سرگشاده به اصلاحات پیش نویس مقررات اسکن CSAM که اخیراً توسط شورای اروپا پیشنهاد شده است، می پردازد که امضاکنندگان استدلال می کنند که در رفع اشکالات اساسی این طرح ناکام مانده است.

امضاکنندگان نامه – که تعداد آنها در زمان نگارش 270 نفر بود – شامل صدها نفر از دانشگاهیان، از جمله کارشناسان امنیتی مشهور مانند پروفسور بروس اشنایر از مدرسه کندی هاروارد و دکتر متیو دی. گرین از دانشگاه جانز هاپکینز و تعداد انگشت شماری از افراد است. محققانی که برای شرکت های فناوری مانند آی بی ام، اینتل و مایکروسافت کار می کنند.

نامه سرگشاده قبلی (ژوئیه گذشته)، که توسط 465 دانشگاهی امضا شد، هشدار داد که فناوری‌های تشخیصی که پیشنهاد قانونی به اجبار پلتفرم‌ها برای اتخاذ آن بستگی دارد، «عمقاً معیوب و آسیب‌پذیر در برابر حملات» هستند و منجر به تضعیف قابل توجه حفاظت‌های حیاتی ارائه شده توسط ارتباطات رمزگذاری شده سرتاسر (E2EE).

کشش کمی برای پیشنهادات متقابل

پاییز گذشته، اعضای پارلمان اروپا در پارلمان اروپا متحد شدند تا با یک رویکرد تجدیدنظر شده اساسی عقب نشینی کنند – که اسکن را به افراد و گروه هایی که قبلاً مظنون به سوء استفاده جنسی از کودکان هستند محدود می کند. محدود کردن آن به CSAM شناخته شده و ناشناخته، حذف نیاز به اسکن برای نظافت. و با محدود کردن آن به پلتفرم هایی که رمزگذاری انتها به انتها نیستند، هرگونه خطری را برای E2EE حذف کنید. اما شورای اروپا، دیگر نهاد قانونگذاری که در قانونگذاری اتحادیه اروپا دخیل است، هنوز موضعی در این مورد اتخاذ نکرده است، و اینکه کجا قرار بگیرد، شکل نهایی قانون را تحت تاثیر قرار خواهد داد.

آخرین اصلاحیه روی میز توسط ریاست شورای بلژیک در ماه مارس ارائه شد که به نمایندگی از نمایندگان دولت های کشورهای عضو اتحادیه اروپا بحث ها را رهبری می کند. اما در نامه سرگشاده کارشناسان هشدار می دهند که این پیشنهاد همچنان در رفع ایرادات اساسی در رویکرد کمیسیون شکست خورده است و استدلال می کند که بازنگری ها هنوز ايجاد كردن “قابلیت‌های بی‌سابقه‌ای برای نظارت و کنترل کاربران اینترنت» و «تضعیف… آینده دیجیتال امن برای جامعه ما است و می تواند عواقب عظیمی برای فرآیندهای دموکراتیک در اروپا و فراتر از آن داشته باشد.

تغییرات پیشنهادی برای بحث در پیشنهاد اصلاح شده شورا شامل پیشنهادی است که می‌توان با اعمال طبقه‌بندی ریسک و اقدامات کاهش خطر، دستورات شناسایی را هدفمندتر کرد. و امنیت سایبری و رمزگذاری را می‌توان با اطمینان از اینکه پلتفرم‌ها موظف به ایجاد دسترسی به داده‌های رمزگشایی شده نیستند و با بررسی فناوری‌های شناسایی محافظت می‌شوند. اما 270 کارشناس پیشنهاد می‌کنند که این به معنای دست و پا زدن در لبه‌های یک فاجعه امنیتی و حریم خصوصی است.

آنها هشدار می دهند که از نقطه نظر فنی، برای موثر بودن، این پیشنهاد جدید همچنین به طور کامل امنیت ارتباطات و سیستم ها را تضعیف خواهد کرد. در حالی که تکیه بر “فناوری تشخیص نقص” برای تعیین موارد مورد علاقه به منظور ارسال دستورهای شناسایی هدفمندتر، خطر ایجاد یک دوره نابسامان از “نظارت گسترده” پیام های کاربران وب را کاهش نمی دهد. تحلیل و بررسی.

این نامه همچنین به پیشنهاد شورا برای محدود کردن خطر مثبت کاذب با تعریف «شخص مورد علاقه» به عنوان کاربری که قبلاً CSAM را به اشتراک گذاشته است یا سعی کرده است کودکی را پرورش دهد، می پردازد – که پیش بینی می شود از طریق یک ارزیابی خودکار انجام شود. مانند انتظار برای 1 ضربه برای CSAM شناخته شده یا 2 ضربه برای CSAM/نظافت ناشناخته قبل از اینکه کاربر به طور رسمی به عنوان مظنون شناسایی شود و به مرکز اتحادیه اروپا گزارش شود، که گزارش های CSAM را مدیریت می کند.

میلیاردها کاربر، میلیون ها مثبت کاذب

کارشناسان هشدار می دهند که این رویکرد همچنان به احتمال زیاد منجر به تعداد زیادی هشدار نادرست می شود.

“تعداد مثبت کاذب به دلیل خطاهای تشخیص بسیار بعید است که به میزان قابل توجهی کاهش یابد، مگر اینکه تعداد تکرارها به قدری زیاد باشد که تشخیص متوقف شود.” با توجه به حجم زیاد پیام‌های ارسال شده در این پلتفرم‌ها (در حد میلیاردها)، می‌توان انتظار مقدار بسیار زیاد هشدارهای نادرست (در حد میلیون‌ها) را داشت. با یک دستور شناسایی می‌تواند میلیون‌ها یا حتی میلیاردها کاربر داشته باشد، مانند WhatsApp متعلق به متا.

با توجه به اینکه هیچ اطلاعات عمومی در مورد عملکرد آشکارسازها وجود ندارد که بتوان در عمل از آن استفاده کرد، اجازه دهید تصور کنیم که همانطور که در پیشنهاد ذکر شده است، یک آشکارساز برای CSAM و نظافت داشته باشیم، تنها با نرخ مثبت کاذب 0.1٪ (یعنی یک در هزار بار، غیر CSAM را به اشتباه به عنوان CSAM طبقه بندی می کند)، که بسیار کمتر از هر آشکارساز شناخته شده فعلی است.

با توجه به اینکه کاربران واتس‌اپ روزانه 140 میلیارد پیام ارسال می‌کنند، حتی اگر از هر صد آن فقط 1 پیام توسط این آشکارسازها آزمایش شود، هر روز 1.4 میلیون پیام کاذب وجود خواهد داشت. برای رسیدن به مثبت کاذب به صدها عدد، از نظر آماری باید حداقل 5 تکرار را با استفاده از تصاویر یا آشکارسازهای متفاوت و مستقل از نظر آماری شناسایی کرد. و این فقط برای واتس‌اپ است – اگر دیگر پلتفرم‌های پیام‌رسانی از جمله ایمیل را در نظر بگیریم، تعداد تکرارهای ضروری به میزان قابل توجهی افزایش می‌یابد تا جایی که به طور مؤثر قابلیت‌های اشتراک‌گذاری CSAM را کاهش نمی‌دهد.

یکی دیگر از پیشنهادهای شورا برای محدود کردن دستورات شناسایی به برنامه‌های پیام‌رسانی که «خطر بالا» تلقی می‌شوند، از نظر امضاکنندگان، تجدیدنظری بی‌فایده است، زیرا آنها استدلال می‌کنند که احتمالاً همچنان «به‌طور بی‌رویه بر تعداد زیادی از افراد تأثیر می‌گذارد». در اینجا آنها اشاره می‌کنند که تنها ویژگی‌های استاندارد، مانند اشتراک‌گذاری تصویر و چت متنی، برای تبادل CSAM مورد نیاز است – ویژگی‌هایی که به طور گسترده توسط بسیاری از ارائه‌دهندگان خدمات پشتیبانی می‌شوند، به این معنی که طبقه‌بندی با ریسک بالا “بدون شک بر بسیاری از خدمات تاثیر می‌گذارد.”

آنها همچنین اشاره می کنند که پذیرش E2EE در حال افزایش است، که آنها پیشنهاد می کنند که احتمال دسته بندی خدماتی که آن را به عنوان پرخطر ارائه می کنند افزایش می دهد. این تعداد ممکن است با الزامات قابلیت همکاری معرفی شده توسط قانون بازارهای دیجیتال که منجر به انتقال پیام‌هایی بین سرویس‌های کم خطر و پرخطر می‌شود، افزایش یابد. در نتیجه، تقریباً تمام خدمات را می توان به عنوان پرخطر طبقه بندی کرد. (نکته: قابلیت همکاری پیام یک بخش اصلی DMA اتحادیه اروپا است.)

یک درب پشتی برای درب پشتی

در مورد حفاظت از رمزگذاری، نامه این پیام را تکرار می کند که کارشناسان امنیت و حریم خصوصی چندین سال است که مکرراً بر سر قانونگذاران فریاد می زنند: “تشخیص در سرویس های رمزگذاری شده انتها به انتها طبق تعریف، حفاظت از رمزگذاری را تضعیف می کند.”

“پیشنهاد جدید به عنوان یکی از اهداف خود “حفاظت از امنیت سایبری و داده های رمزگذاری شده، در حالی که سرویس ها با استفاده از رمزگذاری انتها به انتها در محدوده دستورات شناسایی نگهداری می شوند” است. همانطور که قبلا توضیح دادیم، این یک اکسیمورون است.» «حفاظت ارائه شده توسط رمزگذاری سرتاسر به این معناست که هیچ کس به جز گیرنده مورد نظر یک ارتباط نباید بتواند اطلاعاتی در مورد محتوای چنین ارتباطی بیاموزد. فعال کردن قابلیت‌های تشخیص، چه برای داده‌های رمزگذاری‌شده یا برای داده‌های قبل از رمزگذاری، تعریف محرمانگی ارائه شده توسط رمزگذاری انتها به انتها را نقض می کند“

در هفته‌های اخیر، روسای پلیس در سراسر اروپا بیانیه مشترک خود را منتشر کرده‌اند – نگرانی‌هایی را در مورد گسترش E2EE و درخواست پلتفرم‌ها برای طراحی سیستم‌های امنیتی خود به گونه‌ای که بتوانند فعالیت‌های غیرقانونی را شناسایی کنند و گزارش‌هایی را درباره محتوای پیام به مجریان قانون ارسال کنند. .

مداخله به طور گسترده به عنوان تلاشی برای اعمال فشار بر قانونگذاران برای تصویب قوانینی مانند مقررات اسکن CSAM تلقی می شود.

روسای پلیس انکار می‌کنند که خواستار رمزگذاری در پشتی هستند، اما توضیح نداده‌اند که دقیقاً چه راه‌حل‌های فنی را می‌خواهند پلتفرم‌ها برای فعال کردن «دسترسی قانونی» به کار گیرند. مربع کردن آن دایره، یک توپ بسیار بد شکل را در زمین قانونگذاران قرار می دهد.

امضاکنندگان نامه در ادامه هشدار می دهند، اگر اتحادیه اروپا به مسیر فعلی ادامه دهد – با فرض اینکه شورا نتواند مسیر خود را تغییر دهد، همانطور که نمایندگان پارلمان اروپا از آن خواسته اند – عواقب آن “فاجعه بار” خواهد بود. «این یک سابقه برای فیلتر کردن اینترنت ایجاد می‌کند و مردم را از استفاده از برخی از معدود ابزارهای موجود برای محافظت از حق زندگی خصوصی خود در فضای دیجیتال باز می‌دارد. این امر به ویژه برای نوجوانانی که به شدت به خدمات آنلاین برای تعاملات خود متکی هستند، تأثیر وحشتناکی خواهد داشت. نحوه استفاده از خدمات دیجیتال در سراسر جهان را تغییر خواهد داد و احتمالاً بر دموکراسی‌های سراسر جهان تأثیر منفی خواهد گذاشت.»

یک منبع اتحادیه اروپا نزدیک به شورا قادر به ارائه بینشی در مورد بحث‌های جاری بین کشورهای عضو نبود، اما خاطرنشان کرد که جلسه کارگروهی در 8 مه برگزار می‌شود که در آن آنها تأیید کردند که پیشنهاد مقرراتی برای مبارزه با سوء استفاده جنسی از کودکان مورد بحث قرار خواهد گرفت.