دانش و فناوری

۲۰۲۷؛ سالی که ممکن است هوش مصنوعی دیگر به فرمان انسان عمل نکند

پیشرفت سریع مدل‌های هوش مصنوعی در سال‌های اخیر، مرز توانایی‌های این فناوری را به شکل چشمگیری جابه‌جا کرده است. از حل مسائل پیچیده ریاضی گرفته تا مشارکت در شناسایی اهداف نظامی، کاربردهای هوش مصنوعی به حوزه‌هایی گسترش یافته که پیش‌تر عمدتاً در اختیار انسان بود.

این روند، بحث‌های گسترده‌ای درباره چگونگی حفظ کنترل انسانی بر هوش مصنوعی، بدون محدود کردن ظرفیت‌های خلاقانه و کاربردی آن، ایجاد کرده است.

بر اساس گزارشی از مجله اکونومیست، سال ۲۰۲۷ می‌تواند مرحله تازه‌ای از این تحولات باشد. انتظار می‌رود مدل‌های هوش مصنوعی قدرتمندتر شوند، به دستیاران شخصی کاربران تبدیل شوند و حتی به نمایندگی از آن‌ها با سایر سامانه‌های هوشمند تعامل کنند. با این حال، چنین تحولاتی خطر سوءاستفاده مجرمان سایبری و بروز آسیب‌های ناخواسته در جریان فعالیت مستقل این مدل‌ها را نیز افزایش می‌دهد.
 

خودبهبودی هوش مصنوعی؛ نگرانی بزرگ سال ۲۰۲۷

یکی از مهم‌ترین موضوعاتی که ممکن است در سال ۲۰۲۷ به واقعیت نزدیک‌تر شود، پدیده‌ای موسوم به «خودبهبودی بازگشتی» (RSI) است. در این فرایند، مدل‌های هوش مصنوعی قادر خواهند بود نسخه‌های پیشرفته‌تری از خود ایجاد کنند و با تکرار این چرخه، به‌سرعت توانایی‌هایشان را افزایش دهند.

برخی فعالان صنعت هوش مصنوعی معتقدند چنین روندی ممکن است در سال ۲۰۲۷ آغاز شود؛ اتفاقی که می‌تواند پیامدهای مثبت یا منفی گسترده‌ای داشته باشد.

اکونومیست معتقد است رقابت شدید میان آزمایشگاه‌های بزرگ هوش مصنوعی آمریکا و نگرانی واشنگتن از عقب ماندن در برابر چین، احتمال توقف توسعه این فناوری را کاهش می‌دهد. از سوی دیگر، نبود اعتماد کافی میان شرکت‌ها و کشورها، هماهنگی برای محدود کردن سرعت پیشرفت هوش مصنوعی را دشوارتر می‌کند.

با این حال، اگر نشانه‌های خودبهبودی بازگشتی جدی‌تر شوند، شرکت‌های آمریکایی ممکن است سرعت آموزش مدل‌های جدید را کاهش دهند؛ مشابه اتفاقی که طبق این گزارش، در تابستان ۲۰۲۶ و پس از خروج برخی عامل‌های هوش مصنوعی از محیط‌های ایزوله رخ داد.

افزایش ممیزی‌های امنیتی مستقل و نظارت دقیق‌تر بر فعالیت شرکت‌ها نیز از جمله اقداماتی است که ممکن است در دستور کار قرار گیرد. همچنین نگرانی‌های امنیتی می‌تواند زمینه‌ساز مذاکرات جدید درباره توافق‌های کنترل تسلیحات مرتبط با هوش مصنوعی شود.

 

 

ناسیونالیسم هوش مصنوعی و تشدید رقابت آمریکا و چین

یکی دیگر از روندهای پیش‌بینی‌شده برای سال ۲۰۲۷، افزایش ناسیونالیسم در حوزه هوش مصنوعی است؛ به این معنا که کشورها بیش از گذشته تلاش خواهند کرد دسترسی به مدل‌های پیشرفته و زیرساخت‌های محاسباتی را تحت کنترل خود نگه دارند.

در گزارش اکونومیست به اختلاف آمریکا و بریتانیا بر سر دسترسی به یکی از مدل‌های جدید شرکت آنتروپیک اشاره شده است. واشنگتن ابتدا با ارائه این مدل به مؤسسه امنیت هوش مصنوعی بریتانیا برای آزمایش مخالفت کرد، اما ۱۷ روز بعد موضع خود را تغییر داد.

احتمال دارد مدل‌های پیشرفته جدید پیش از انتشار عمومی، برای مدتی در محیط‌های محدود و تحت نظارت سازمان‌های دولتی و شرکت‌های منتخب آزمایش شوند. چنین رویکردی می‌تواند فاصله میان مدل‌های مورد استفاده در داخل کشورها و نسخه‌های در دسترس عموم را افزایش دهد.

در همین حال، قدرت‌های متوسط نیز نگران عقب ماندن از آمریکا و چین هستند. بر اساس آمار مطرح‌شده در گزارش، آمریکا حدود سه‌چهارم توان محاسباتی جهان در حوزه هوش مصنوعی را در اختیار دارد، در حالی که سهم اروپا کمتر از ۵ درصد است.

یکی از آزمون‌های مهم اتحادیه اروپا در این زمینه، ساخت هفت کارخانه عظیم هوش مصنوعی خواهد بود که انتظار می‌رود برندگان پروژه‌های آن در سال ۲۰۲۷ معرفی شوند. همچنین اتحاد فناوری Sovereign، با مشارکت کانادا و آلمان، ممکن است اعضای جدیدی جذب کند تا ظرفیت‌های محاسباتی و همکاری‌های مشترک در این حوزه افزایش یابد.
 

کمبود تراشه و انرژی؛ چالش بزرگ زیرساخت‌های هوش مصنوعی

با افزایش تقاضا برای توسعه مدل‌های پیشرفته، کمبود تراشه‌های هوش مصنوعی و سایر تجهیزات موردنیاز احتمالاً ادامه خواهد یافت.

محدودیت منابع انرژی نیز می‌تواند مسیر سرمایه‌گذاری در این صنعت را تغییر دهد. مناطقی که به برق ارزان‌تر و منابع انرژی بیشتری دسترسی دارند، از جمله کشورهای حوزه خلیج فارس، استرالیا، کانادا و کشورهای شمال اروپا، ممکن است سهم بیشتری از سرمایه‌گذاری‌های آینده را جذب کنند.

 

 

مدل‌های متن‌باز؛ فرصت تازه برای بازیگران مخرب

مدل‌های متن‌باز هوش مصنوعی نیز احتمالاً در سال ۲۰۲۷ به موضوعی بحث‌برانگیزتر تبدیل خواهند شد. برخلاف مدل‌های بسته که معمولاً از طریق سرورهای ابری در اختیار کاربران قرار می‌گیرند، بسیاری از مدل‌های متن‌باز قابلیت دانلود و اجرا روی رایانه‌های شخصی و زیرساخت‌های محلی را دارند.

بر اساس پیش‌بینی اکونومیست، ممکن است مدل‌های متن‌باز، از جمله بسیاری از مدل‌های توسعه‌یافته در چین، تا پایان سال ۲۰۲۷ یا حتی زودتر به سطح توانایی مدل Mythos شرکت آنتروپیک برسند؛ مدلی که قابلیت‌های آن نگرانی‌هایی درباره امنیت سایبری ایجاد کرده است.

دسترسی گسترده به چنین مدل‌هایی می‌تواند خطرناک باشد؛ زیرا بازیگران مخرب ممکن است از توانایی‌های پیشرفته آن‌ها در حوزه امنیت سایبری و علوم زیستی سوءاستفاده کنند، بدون آنکه محدودیت‌های ایمنی مدل‌های بسته را در اختیار داشته باشند.

این گزارش همچنین به استفاده مخرب برخی بازیگران دولتی و غیردولتی از مدل Claude آنتروپیک در سال ۲۰۲۶ اشاره می‌کند؛ از جمله جاسوسان چینی، مقام‌های ایرانی و شورشیان حوثی. طبق این گزارش، این فعالیت‌ها شناسایی شده‌اند؛ اما احتمال دارد محدودیت‌های بیشتر، این گروه‌ها را به سمت استفاده از جایگزین‌های متن‌باز سوق دهد.

در چنین شرایطی، چین برای اعمال نظارت بیشتر بر مدل‌های متن‌باز تحت فشار قرار خواهد گرفت. دولت ترامپ نیز ممکن است شرکت‌های آمریکایی را برای جلوگیری از استفاده چین از خروجی مدل‌های آمریکایی با هدف آموزش و بهبود مدل‌های رقیب تحت فشار بگذارد و حتی محدودیت‌هایی علیه مدل‌های متن‌باز چینی را بررسی کند.
 

گسترش کاربرد نظامی هوش مصنوعی و دشوارتر شدن کنترل آن

در کنار رقابت اقتصادی و فناوری، دولت‌ها همچنان به استفاده از هوش مصنوعی در حوزه‌های امنیتی و نظامی ادامه خواهند داد.

طبق پیش‌بینی این گزارش، فناوری‌هایی که آمریکا در عملیات مرتبط با ایران و همچنین جنگ روسیه و اوکراین به کار گرفته است، ممکن است به‌سرعت در اختیار کشورهای بیشتری قرار گیرد.

گسترش این کاربردها، در کنار افزایش استقلال مدل‌های هوش مصنوعی و پیچیده‌تر شدن توانایی‌های آن‌ها، ضرورت نظارت و کنترل انسانی را بیش از گذشته برجسته می‌کند.

در مجموع، سال ۲۰۲۷ می‌تواند آزمونی مهم برای دولت‌ها و شرکت‌های فناوری باشد؛ آزمونی که در آن، چالش اصلی فقط ساخت مدل‌های هوشمندتر نیست، بلکه اطمینان از باقی ماندن این فناوری در چارچوب کنترل و نظارت انسان خواهد بود.

منبع ایتنا
آگهی
دکمه بازگشت به بالا