بزرگ‌ترین بانک‌های ایالات متحده در کنار تلاش برای جلوگیری از بدترین سناریوهای مرتبط با هوش مصنوعی، خود را برای شرایط «روز بعد» از وقوع یک فاجعه بزرگ آماده می‌کنند. گزارش‌ها نشان می‌دهد که نهادهای مالی آمریکا همگام با غول‌های فناوری هوش مصنوعی، تدوین سناریوهای بحران را آغاز کرده‌اند که این موضوع از عمق خطرات پیش‌بینی‌شده از سوی شرکت‌های بزرگ خبر می‌دهد.
براساس گزارش آکسیوس، بانک‌ها اخیراً با فعالیت ایجنت‌های هوش مصنوعی تأییدنشده مواجه شده‌اند؛ فرایندی که عمدتاً ناشی از آن است که مشتریان اطلاعات ورود به حساب‌ها را در اختیار این سیستم‌ها می‌گذارند. در مواردی مشخص شده که این ایجنت‌ها اقداماتی مستقل و بدون دستور مستقیم کاربر انجام داده‌اند.
این حادثه با رفتارهای مخربی که طی حمله جمعی ایجنت‌های هوش مصنوعی OpenAI به پلتفرم هاگینگ فیس مشاهده شده بود و یک بحران امنیتی به راه انداخت، متفاوت است. در این پرونده، نگرانی اصلی بانک‌ها ناشی از عواقب و ریسک‌های ناشی از ورود ایجنت‌ها به حساب‌های کاربری با اجازه مشتریان است؛ چرا که امکان دارد هوش مصنوعی دست به اقداماتی بدون تأیید صریح کاربر بزند. با این وجود، نگرانی درباره مدل‌های پیشرفته هوش مصنوعی نهادهای مالی را مجبور کرده تا علاوه‌بر سرمایه‌گذاری روی پیشگیری، برای سناریوی وقوع بدترین حالت ممکن برنامه‌ریزی کنند.
هم‌زمان، نگرانی‌های پیرامون بحران امنیت سایبری شدت گرفته است. مدیرعامل Salesforce، «مارک بنیوف»، ازجمله افرادی بوده که با اشاره به هشدار یکی از کارمندان امنیتی استارتاپ آنتروپیک وضعیت فعلی را «کد قرمز» اعلام کرد. بازتاب این چالش‌ها در نظام بانکی، درخواست‌های متعددی را برای تنظیم‌گری از سوی چهره‌های سیاسی از جمله سناتور «برنی سندرز»، «ران دیسانتیس»، فرماندار فلوریدا، و سناتور «مارک وارنر» به همراه داشته است. در مقابل، «دیوید ساکس» مدیر سابق سیاست‌گذاری هوش مصنوعی کاخ سفید، تأکید کرده که بانک‌ها باید از ایجنت‌های تحت نظارت مستقیم کاربر با قابلیت «اعطا، محدودسازی و لغو دسترسی» حمایت کنند و حالت دسترسی Read-Only را به عنوان مرحله‌ای موقت در نظر بگیرند.
برنامه‌ریزی بانک‌های وال‌استریت برای سناریوهای بحران هوش مصنوعی
بانک‌های مطرح پیش‌تر در آزمایش‌های اولیه مدل Mythos آنتروپیک که از پیشرفته‌ترین مدل‌ها در حوزه سایبری محسوب می‌شود، مشارکت داشته‌اند تا خطرات و سازوکار حملات سایبری را ارزیابی کنند. از آن مقطع، ساختارهای مالی نه‌تنها در مسیر جلوگیری از خطرات، بلکه برای حفاظت از حساب‌ها، اطمینان‌بخشی به مشتریان و حفظ پیوستگی فعالیت‌های عملیاتی در صورت وقوع حمله‌ای در مقیاس وسیع، برخی سناریوها را تدوین کرده‌اند.
«جیمی دایمن»، مدیرعامل جی‌پی مورگان، از جمله افرادی است که پیرامون احتمال حملات سایبری یا تصمیم‌گیری‌های غیرمجاز ایجنت‌های هوش مصنوعی هشدار داده و اعلام کرده که نمی‌توان فرض کرد این مدل‌ها دقیقاً طبق انتظار عمل کنند. وی با تأکید بر نیاز به هوشیاری مداوم یادآور شد که توقف این فناوری غیرممکن است و تنها باید آن را با تمام توان مدیریت کرد. همچنین یکی از اقتصاددانان در ماه‌های اخیر سناریویی موسوم به «Bank Run» را مطرح کرده که در آن ایجنت‌های هوش مصنوعی ممکن است دارایی‌های نقدی خانوارها را به‌طور خودکار به حساب‌هایی با بازدهی بالاتر منتقل کنند.
بانک‌ها تأکید دارند تاکنون شواهدی مبنی بر فعالیت مخرب هوش مصنوعی یا هک حساب‌ها و وجوه مشتریان مشاهده نشده است. با‌این‌حال، نهادهای مالی به کاربران توصیه می‌کنند که اطلاعات ورود خود را در اختیار ایجنت‌های هوش مصنوعی قرار ندهند؛ به‌ویژه در شرایطی که پلتفرم‌هایی مانند Plaid وجود دارند که امکان دسترسی ایمن و فقط خواندنی به مانده‌حساب و سوابق تراکنش‌ها را بدون واگذاری نام کاربری و پسورد فراهم می‌کنند. سخنگوی جی‌پی مورگان تأکید کرده که مشتریان نباید تحت هیچ شرایطی رمز عبور خود را در اختیار شخص یا ابزار دیگری قرار دهند، زیرا حفاظت فردی اولین خط دفاعی است. این مؤسسه اقداماتی برای مسدودسازی دسترسی ایجنت‌ها انجام داده و هم‌زمان در پی راه‌هایی ایمن برای اتصال مشتریان به سرویس‌های موردنظرشان است.
این نگرانی‌ها درحالی مطرح شده‌اند که اخیراً «ایلان ماسک» کاربران را به انجام خریدهای آنلاین و اینترنتی با چت‌بات Grok تشویق کرده بود. او همچنین تضمین کرده بود که اسپیس‌ایکس خسارت‌های مربوط به خریدهای اشتباه گراک را به کاربر پرداخت خواهد کرد.
