کاربران اینترنت جوان تر می شوند. اکنون بریتانیا در حال بررسی است که آیا هوش مصنوعی می تواند به محافظت از آنها کمک کند
هوش مصنوعی در تیررس دولت‌هایی قرار گرفته است که نگران این هستند که چگونه ممکن است از آن برای کلاهبرداری، اطلاعات نادرست و سایر فعالیت‌های مخرب آنلاین استفاده شود. اکنون در بریتانیا یک تنظیم کننده در حال آماده شدن برای بررسی نحوه استفاده از هوش مصنوعی در مبارزه با برخی از موارد مشابه، به ویژه در رابطه با محتوای مضر برای کودکان است.
Ofcom، رگولاتوری که مسئول اجرای قانون ایمنی آنلاین بریتانیا است، اعلام کرد که قصد دارد مشاوره ای را در مورد نحوه استفاده از هوش مصنوعی و سایر ابزارهای خودکار امروز راه اندازی کند، و می تواند در آینده برای شناسایی فعال و حذف محتوای غیرقانونی آنلاین، به طور خاص، مورد استفاده قرار گیرد. برای محافظت از کودکان در برابر محتوای مضر و شناسایی مطالب سوء استفاده جنسی از کودکان که قبلاً به سختی قابل تشخیص بود.
این ابزارها بخشی از مجموعه گسترده‌تری از پیشنهادات است که Ofcom با تمرکز بر ایمنی آنلاین کودکان گرد هم می‌آورد. آفکام گفت که رایزنی‌ها برای پیشنهادات جامع در هفته‌های آینده و با مشاوره هوش مصنوعی که اواخر امسال برگزار می‌شود، آغاز خواهد شد.
مارک بانتینگ، یکی از مدیران گروه ایمنی آنلاین آفکام، می‌گوید که علاقه‌اش به هوش مصنوعی با نگاهی به چگونگی استفاده از آن به عنوان ابزار غربالگری امروز شروع می‌شود.
او در مصاحبه ای با TechCrunch گفت: «برخی از سرویس ها از این ابزارها برای شناسایی و محافظت از کودکان در برابر این محتوا استفاده می کنند. اما اطلاعات زیادی در مورد دقیق و مؤثر بودن این ابزارها وجود ندارد. ما می‌خواهیم راه‌هایی را بررسی کنیم که بتوانیم اطمینان حاصل کنیم که صنعت در حال ارزیابی است [that] هنگامی که آنها از آنها استفاده می کنند، مطمئن شوید که خطرات مربوط به بیان آزاد و حریم خصوصی مدیریت می شود.
یکی از نتایج محتمل این خواهد بود که Ofcom توصیه کند چگونه و چه پلتفرم‌هایی را باید ارزیابی کنند، که به طور بالقوه می‌تواند منجر به استفاده از ابزارهای پیچیده‌تر توسط پلتفرم‌ها شود، بلکه اگر نتوانند در مسدود کردن محتوا یا ایجاد راه‌های بهتری برای حفظ کاربران جوان‌تر بهبودی ایجاد کنند، جریمه‌های بالقوه خواهند داشت. از دیدن آن
او گفت: “مانند بسیاری از مقررات ایمنی آنلاین، این مسئولیت بر عهده شرکت ها است تا مطمئن شوند که اقدامات مناسب را انجام می دهند و از ابزارهای مناسب برای محافظت از کاربران استفاده می کنند.”
هم منتقدان و هم حامیان این حرکت ها وجود خواهد داشت. محققان هوش مصنوعی در حال یافتن راه‌های پیچیده‌تر برای استفاده از هوش مصنوعی برای شناسایی، به‌عنوان مثال، جعلی‌های عمیق و همچنین تأیید آنلاین کاربران هستند. با این حال، به همان اندازه شکاکان وجود دارند که می گویند تشخیص هوش مصنوعی به دور از خطا نیست.
آفکام همزمان با انتشار آخرین تحقیقات خود در مورد نحوه تعامل آنلاین کودکان در بریتانیا، مشاوره در مورد ابزارهای هوش مصنوعی را اعلام کرد، که نشان می‌دهد در مجموع، تعداد کودکان کوچک‌تری نسبت به قبل بیشتر است، به طوری که آفکام اکنون ایجاد فعالیت در میان گروه های سنی همیشه جوان تر.
طبق یک نظرسنجی از والدین آمریکایی، تقریباً یک چهارم، 24 درصد از تمام کودکان 5 تا 7 ساله در حال حاضر صاحب گوشی های هوشمند خود هستند و وقتی تبلت ها را در نظر بگیرید، این اعداد به 76 درصد می رسد. همین گروه سنی نیز در آن دستگاه‌ها بسیار بیشتر از رسانه‌ها استفاده می‌کند: ۶۵ درصد تماس‌های صوتی و تصویری برقرار کرده‌اند (در مقایسه با ۵۹ درصد فقط یک سال پیش)، و نیمی از بچه‌ها (در مقایسه با ۳۹ درصد یک سال پیش) رسانه‌های پخش‌شده را تماشا می‌کنند. .
محدودیت‌های سنی در برخی از برنامه‌های رسانه‌های اجتماعی رایج در حال کاهش است، اما محدودیت‌ها هرچه که باشند، به نظر می‌رسد در بریتانیا به هیچ‌وجه به آن توجه نمی‌شود. آفکام دریافت که حدود 38 درصد از کودکان 5 تا 7 ساله از رسانه های اجتماعی استفاده می کنند. واتس اپ متا با 37 درصد، محبوب ترین اپلیکیشن در میان آنهاست. و احتمالاً اولین مورد از محبوبیت کمتر برنامه تصویری پرچمدار متا نسبت به حس ویروسی ByteDance، TikTok توسط 30 درصد از کودکان 5 تا 7 ساله با اینستاگرام با «فقط» 22 درصد استفاده می‌شود. Discord فهرست را کامل کرد اما به میزان قابل توجهی محبوبیت کمتری دارد و تنها 4٪ است.
حدود یک سوم، 32 درصد از کودکان در این سن به تنهایی آنلاین می شوند و 30 درصد از والدین گفتند که با داشتن پروفایل های رسانه های اجتماعی فرزندان زیر سن قانونی آنها خوب هستند. YouTube Kids همچنان محبوب‌ترین شبکه برای کاربران جوان‌تر با 48 درصد است.
بازی که مورد علاقه همیشگی کودکان است، برای 41 درصد از کودکان 5 تا 7 ساله افزایش یافته است و 15 درصد از کودکان در این گروه سنی به بازی های تیراندازی می پردازند.
در حالی که 76 درصد از والدین مورد بررسی گفتند که با فرزندان خردسال خود در مورد ایمن ماندن آنلاین صحبت کرده اند، آفکام اشاره می کند که بین آنچه کودک می بیند و آنچه ممکن است کودک گزارش دهد، علامت سوال وجود دارد. آفکام در تحقیق بر روی کودکان بزرگتر 8 تا 17 ساله مستقیماً با آنها مصاحبه کرد. این نشان داد که 32 درصد از بچه‌ها گزارش دادند که محتوای نگران‌کننده‌ای را به صورت آنلاین دیده‌اند، اما تنها 20 درصد از والدین آنها گفتند که چیزی را گزارش کرده‌اند.
آفکام می نویسد، حتی با توجه به برخی ناهماهنگی های گزارش، “تحقیق نشان می دهد که بین قرار گرفتن کودکان بزرگتر در معرض محتوای بالقوه مضر آنلاین و آنچه که آنها در مورد تجربیات آنلاین خود با والدین خود به اشتراک می گذارند، ارتباط قطع است.” و محتوای نگران کننده تنها یک چالش است: جعلی های عمیق نیز یک مسئله هستند. آفکام گفت، در میان کودکان 16 تا 17 ساله، 25 درصد گفتند که در تشخیص آنلاین جعلی از واقعی مطمئن نیستند.
