LLM
-
دانش و فناوری
DeepSeek چین: سانسور سیاسی که امنیت کد را تهدید میکند
تحقیقات جدید شرکت امنیت سایبری CrowdStrike نشان میدهد که الگوریتم DeepSeek-R1 LLM، محصول چین، در مواجهه با ورودیهای حساس سیاسی مانند «فالون گونگ»، «اویغورها» یا «تبت»، تا پنجاه درصد کد با آسیبپذیریهای امنیتی بیشتر تولید میکند. به گزارش ایتنا و به نقل از Venturebeat، یافتههای اخیر، پس از افشاگری پایگاه داده Wiz Research در ماه ژانویه، بررسی آسیبپذیریهای برنامه NowSecure، نرخ موفقیت صددرصدی فرار از زندان سیسکو و گزارشهای NIST که نشان میدهد DeepSeek دوازده برابر بیشتر در معرض ربودن…
-
دانش و فناوری
هشدار پژوهشگران: هوش مصنوعی در تشخیص واقعیت از باور ناتوان است
یک مقاله جدید نشان داده است که ابزارهای هوش مصنوعی مانند چتجیپیتی در تشخیص تفاوت بین «باور» و «واقعیت»، مشکل دارند. تیمی از دانشگاه استنفورد در ایالات متحده دریافته است که تمامی چتباتهای هوش مصنوعی مطرح در تشخیص مداوم اینکه یک باور چه زمانی نادرست است، شکست خوردند که این امر سبب میشود آنها به احتمال بیشتری توهم بزنند یا اطلاعات غلط منتشر کنند. این یافتهها برای استفاده از «مدلهای زبانی بزرگ» (LLM) در حوزههایی که تعیین میان اطلاعات درست…
-
دانش و فناوری
بازسازی حمله سایبری اکویفاکس با هوش مصنوعی بدون نیاز به انسان
تحقیقات مشترک دانشگاه کارنگی ملون و شرکت هوش مصنوعی Anthropic نشان داده که مدلهای زبانی بزرگ (LLMها) میتوانند بهصورت کاملاً خودمختار حملات سایبری پیچیدهای را طراحی و اجرا کنند. به گزارش ایتنا و به نقل از سیودایو، در این پژوهش، حمله معروف سایبری به شرکت Equifax در سال ۲۰۱۷، که طی آن اطلاعات حدود ۱۴۷ میلیون نفر به سرقت رفت، بهصورت شبیهسازی شده بازآفرینی شد. این تیم پژوهشی ابزاری بهنام Incalmo توسعه داد که استراتژی کلی حمله اکویفاکس را به دستورهای فنی…
-
دانش و فناوری
LLMهای محبوب ناامن هستند
بر طبق تحقیقی که توسط مؤسسه ایمنی هوش مصنوعی بریتانیا منتشر شد، پادمانهای داخلی موجود در پنج مدل زبان بزرگ (LLM) منتشر شده توسط «لابراتوارهای بزرگ» ناکارآمد هستند. به گزارش ایتنا و به نقل از سیودایو، این مدلها، که در این گزارش نام آنها فاش نشده است، به وسیله اندازهگیری انطباق، صحت و تکمیل پاسخها ارزیابی شدند. این ارزیابیها با استفاده از چارچوب ارزیابی مدل منبعباز این مؤسسه، موسوم به Inspect که اوایل ماه مه منتشر شد، تهیه و…