امنیت چتباتها
-
دانش و فناوری
۵ نوع اطلاعاتی که هرگز نباید با چتباتهای هوش مصنوعی به اشتراک بگذارید
استفاده از مدلهای هوش مصنوعی مولد برای دریافت مشاوره، حل مشکلات، نوشتن متن و حتی گفتوگو درباره مسائل شخصی بهسرعت در حال افزایش است. هرچه این ابزارها بیشتر شبیه یک گفتوگوی انسانی رفتار میکنند، احتمال اینکه کاربران اطلاعاتی را با آنها در میان بگذارند که در شرایط عادی به دیگران نمیگویند نیز بیشتر میشود. بررسی مؤسسه هوش مصنوعی انسانمحور دانشگاه استنفورد (Stanford HAI) درباره سیاستهای حریم خصوصی شش شرکت بزرگ آمریکایی شامل Amazon، Anthropic، Google، Meta، Microsoft و OpenAI نشان…
-
دانش و فناوری
مایکروسافت هشدار میدهد: مدلهای زبانی بزرگ اطلاعات کاربران را فاش میکنند
مایکروسافت در گزارشی جدید از وجود شکافی جدی در مدلهای زبانی بزرگی که سرویسهای هوش مصنوعی را پشتیبانی میکنند، خبر داده است؛ شکافی که احتمالاً میتواند موضوع گفتوگوی کاربران را فاش کند. پژوهشگران این شکاف را «Whisper Leak» نامیدهاند و دریافتهاند که تقریباً تمام مدلهای مورد آزمایش تحت تأثیر آن قرار گرفتهاند. هنگامی که کاربر با یک دستیار صوتی در موتورهای جستجو یا اپلیکیشنها چت میکند، اطلاعات از طریق قابلیت TLS (امنیت لایه انتقال) محافظت میشود؛ روشی که در بانکداری…