محققان با کلود، ابزار هوش مصنوعی آنتروپیک، حسابهای کارمندان اوپنایآی در چتجیپیتی را هک کردند
به گزارش ایتنا، سه پژوهشگر امنیتی از تیم هکترون (Hacktron) که به بررسی نقاط ضعف امنیتی آزمایشگاههای پیشرو هوش مصنوعی مشغول بودند، با ترکیب دو آسیبپذیری جداگانه توانستند کنترل چندین حساب کارمندان اوپنایآی در چتجیپیتی را در دست بگیرند.
آنها سپس با استفاده از همین دسترسی نشان دادند که میتوانند بهسادگی به مخزن کد داخلی اوپنایآی هم راه پیدا کنند.
کل این فرآیند، از کشف اولیه آسیبپذیری تا دستیابی به مخزن داخلی اوپنایآی، کمتر از ۷۲ ساعت طول کشید و برای این تیم پژوهشی، پاداشی ۶۵۰۰ دلاری از برنامه باگبانتی اوپنایآی در پلتفرم باگکراد (Bugcrowd) به همراه داشت.
نقطه ورود: انجمن پشتیبانی اوپنایآی
اعضای این تیم در گزارشی که منتشر کردهاند نوشتند تا دو ماه پیش، هر کاربر یا کارمند اوپنایآی که وارد انجمن پشتیبانی این شرکت میشد، در معرض خطر ربودهشدن حسابهای چتجیپیتی و کدکس (Codex) خود قرار داشت. به گفته آنها، از آنجا که کاربران سرویسهای مختلفی از جمله گیتهاب، اسلک و ایمیل را به کدکس و چتجیپیتی متصل میکنند، دامنه دسترسی احتمالی این آسیبپذیری بسیار گسترده بود.
این پژوهشگران روز ۲۵ ژوئیه از طریق انجمن اوپنایآی که بر پایه پلتفرم دیسکورس (Discourse) اجرا میشود، نفوذ اولیه را انجام دادند.
به گفته این تیم، با پیشرفت بیشتر کار و رسیدن به نتیجه، بلافاصله پس از کشف آسیبپذیری، موضوع را به اوپنایآی گزارش کردند. آنها در ادامه نوشتند: «سپس کنترل حساب یکی از کارمندان اوپنایآی را که حساب کدکس او به سازمان گیتهاب اوپنایآی متصل بود، در دست گرفتیم. برای اثبات میزان تأثیر این آسیبپذیری، بدون دسترسی واقعی به هیچ کد داخلی، دستوری به حساب کدکس این کارمند ارسال کردیم تا یک پولریکوئست در مخزن اصلی و داخلی اوپنایآی برای ما باز کند. پس از آن، هرگونه آزمایش بیشتر را متوقف کردیم.»
نه اوپنایآی و نه آنتروپیک به درخواست سایت رجیستر برای اظهار نظر پاسخی ندادهاند.
واکنش اوپنایآی و اقدامات اصلاحی
اوپنایآی در کمتر از ۱۴ ساعت پس از دریافت گزارش، این آسیبپذیری را برطرف و وضعیت آن را «حلشده» اعلام کرد و مبلغ ۶۵۰۰ دلار به تیم هکترون پرداخت.
این شرکت در توضیحی که هکترون منتشر کرده، تأکید کرده است که آزمایش روی سرویس انجمن پشتیبانی مورد نظر که بر پایه دیسکورس اجرا میشود، بهطور صریح از دامنه برنامه باگبانتی این شرکت مستثنا بوده و این پاداش صرفاً بهدلیل یافته مرتبط با سمت اوپنایآی پرداخت شده است، نه اقدامات انجامشده علیه دیسکورس.
دیسکورس نیز در واکنش به این ماجرا، اصلاحیهای برای بازسازی و ترمیم سیستم خود منتشر کرد.
پژوهشگران در پایان گزارش خود نوشتند که کل این عملیات هک، تنها چند روز کار برای یک عامل هوش مصنوعی و چند ساعت کار انسانی را به خود اختصاص داد و تأکید کردند: «کاری که زمانی به یک تیم با منابع قابلتوجه و ماهها تلاش نیاز داشت، اکنون میتواند در چند روز انجام شود. فرضیات امنیتی باید خود را با توانمندیهای مهاجمان همگام کنند.»
