هر روز رخنه‌ها یا چالش‌های امنیتی تازه‌ای در دنیای فناوری شناسایی می‌شوند که هوش مصنوعی در کشف یا بهره‌برداری از آنها نقش داشته است. ابعاد این تهدیدها به سطحی رسیده که حتی «سم آلتمن»، مدیرعامل OpenAI، که خود از چهره‌های کلیدی در تسریع توسعه این فناوری محسوب می‌شود، باور دارد تکیه بر راه‌های سنتی برای برطرف کردن حفره‌ها دیگر پاسخگوی نیازها نخواهد بود.
آلتمن در جریان حضور خود در دانشکده بازرگانی استنفورد، در جمع دانشجویان اعلام کرد که بحران امنیت سایبری بسیار فراتر از تصور عموم است. او با اشاره به پیشرفت‌های مداوم مدل‌ها در کشف آسیب‌پذیری‌های امنیتی و عملکرد کند تیم‌های سایبری در مقابله با این تهدیدها تأکید کرد:
«من دیگر فکر نمی‌کنم بتوانیم صرفاً تمام باگ‌ها را پچ کنیم. فکر می‌کنم باید مدل دفاعی را به‌کلی تغییر دهیم و از فناوری مشابهی برای یک نوع سپر دفاعی جدید استفاده کنیم.»
او با بیان اینکه برای نشان دادن ابعاد این خطر واژه‌ای به‌اندازه کافی تأثیرگذار سراغ ندارد، تأکید کرد که رهبران سازمانی، کشورها و افراد هنوز چالش بزرگ پیش‌رو را به‌اندازه کافی جدی نگرفته‌اند.
ناکارآمدی رویکردهای سنتی در برابر رشد مدل‌های هوش مصنوعی
مدیرعامل OpenAI به واکنش سازمان‌ها در جریان معرفی مدل Claude Mythos توسط شرکت آنتروپیک اشاره کرد؛ مدلی که به‌دلیل خطرات بالا و توان بالقوه در به هم ریختن معادلات امنیتی به‌شکل عمومی منتشر نشد. آلتمن یادآور شد که بیشتر شرکت‌ها در آن مقطع صرفاً چند باگ کشف‌شده را رفع و ماجرا را پایان‌یافته تلقی کردند، زیرا شتاب پیشرفت این فناوری را درک نمی‌کنند. به گفته او، در شرایطی که بیشتر رهبران سازمان‌ها این دغدغه‌ها را کنار گذاشته‌اند، مدل‌های هوش مصنوعی به تکامل و پیشروی خود ادامه می‌دهند.
این هشدارها درحالی مطرح می‌شود که شرکت‌های فعال در توسعه این مدل‌ها نیز در برابر رخنه‌ها آسیب‌پذیر بوده‌اند. پیش‌تر گزارش‌هایی از خروج ایجنت‌های OpenAI از محیط ایزوله و نفوذ آنها به هاگینگ‌فیس منتشر شده بود؛ رویدادی که نشان داد راهکارهای مراقبتی و فرایندهای امنیتی موجود برای مهار خطرات کفایت نمی‌کنند. این شرکت حتی با وجود هشدارهای مؤسسات ایمنی و وصله رخنه‌های پیشین، نتوانسته بود از رخداد بعدی جلوگیری به عمل آورد.
آلتمن در پاسخ به بی‌اثر شدن مدل‌های سنتی رفع باگ، بر لزوم تحول در معماری امنیتی تأکید دارد. به باور او، ساختار دفاعی باید به‌سمت استفاده از همان فناوری‌های نوین سوق پیدا کند و از خود هوش مصنوعی به‌عنوان یک سپر دفاعی کارآمد برای دفع تهدیدها بهره برده شود.
