مایکروسافت ادارات پلیس ایالات متحده را از استفاده از ابزار هوش مصنوعی سازمانی برای تشخیص چهره منع کرد

مایکروسافت سیاست خود را تغییر داده است تا دپارتمان‌های پلیس ایالات متحده را از استفاده از هوش مصنوعی مولد برای تشخیص چهره از طریق سرویس Azure OpenAI، بسته‌بندی کاملاً مدیریت شده و متمرکز شرکت در اطراف فناوری‌های OpenAI، تغییر داده است.

زبانی که چهارشنبه به شرایط خدمات سرویس Azure OpenAI اضافه شد، استفاده از ادغام با سرویس OpenAI Azure را از استفاده «توسط یا برای» ادارات پلیس برای تشخیص چهره در ایالات متحده منع می‌کند، از جمله ادغام با مدل‌های تحلیل متن و گفتار OpenAI.

یک نقطه جدید جداگانه «هر مجری قانون در سطح جهانی» را پوشش می‌دهد و به صراحت استفاده از «فناوری تشخیص چهره در زمان واقعی» را در دوربین‌های تلفن همراه، مانند دوربین‌های بدنه و دوربین‌های داشبورد، برای شناسایی افراد در «کنترل‌نشده، در داخل» ممنوع می‌کند. محیط‌های وحشی

این تغییرات در شرایط یک هفته پس از آن اتفاق می‌افتد که Axon، سازنده محصولات فناوری و تسلیحاتی برای نیروهای نظامی و مجری قانون، محصول جدیدی را معرفی کرد که از مدل متنی GPT-4 OpenAI برای خلاصه‌سازی صدا از دوربین‌های بدن استفاده می‌کند. منتقدان به سرعت به مشکلات احتمالی، مانند توهمات (حتی بهترین مدل‌های هوش مصنوعی مولد امروزی حقایق را اختراع می‌کنند) و تعصبات نژادی که از داده‌های آموزشی معرفی شده‌اند (که به‌ویژه با توجه به اینکه افراد رنگین‌پوست به احتمال زیاد توسط پلیس متوقف می‌شوند نگران‌کننده است، اشاره کردند. نسبت به همتایان سفید پوست خود).

مشخص نیست که آیا Axon از GPT-4 از طریق سرویس Azure OpenAI استفاده می کرده است یا خیر، و اگر چنین است، آیا سیاست به روز شده در پاسخ به عرضه محصول Axon بوده است یا خیر. OpenAI قبلاً استفاده از مدل های خود را برای تشخیص چهره از طریق API های خود محدود کرده بود. ما با Axon، Microsoft و OpenAI تماس گرفته‌ایم و در صورت شنیدن پاسخ، این پست را به‌روزرسانی خواهیم کرد.

شرایط جدید فضایی برای مایکروسافت ایجاد می کند.

ممنوعیت کامل استفاده از سرویس OpenAI Azure فقط مربوط به ایالات متحده است، نه بین المللی، پلیس و تشخیص چهره انجام شده با آن را پوشش نمی دهد ثابت دوربین ها در کنترل می شود محیط‌هایی مانند دفتر پشتی (اگرچه شرایط استفاده از تشخیص چهره توسط پلیس ایالات متحده را ممنوع می‌کند).

این رویکرد اخیر مایکروسافت و شریک نزدیک OpenAI به قراردادهای اجرای قانون و دفاعی مرتبط با هوش مصنوعی را دنبال می کند.

در ژانویه، گزارش بلومبرگ نشان داد که OpenAI با پنتاگون روی تعدادی از پروژه‌ها از جمله قابلیت‌های امنیت سایبری کار می‌کند – که انحراف از ممنوعیت قبلی استارت‌آپ برای ارائه هوش مصنوعی به ارتش است. در جاهای دیگر، مایکروسافت با استفاده از ابزار تولید تصویر OpenAI، DALL-E، برای کمک به وزارت دفاع (DoD) در ساخت نرم‌افزاری برای اجرای عملیات‌های نظامی، طبق The Intercept، استفاده کرده است.

سرویس Azure OpenAI در محصول Azure Government مایکروسافت در ماه فوریه در دسترس قرار گرفت و ویژگی‌های انطباق و مدیریت بیشتری را برای سازمان‌های دولتی از جمله مجری قانون اضافه کرد. در یک پست وبلاگ، Candice Ling، معاون بخش دولتی مایکروسافت فدرال مایکروسافت، متعهد شد که سرویس OpenAI Azure “برای مجوزهای اضافی” به وزارت دفاع برای بارهای کاری که از ماموریت های وزارت دفاع پشتیبانی می کند، ارائه می شود.

به روز رسانی: پس از انتشار، مایکروسافت گفت که تغییر اولیه آن در شرایط خدمات حاوی یک خطا است و در واقع این ممنوعیت فقط برای تشخیص چهره در ایالات متحده اعمال می شود.