متا دسترسی نوجوانان به شخصیت‌های جنسی‌سازی‌شده هوش مصنوعی را محدود کرد
1 دقیقه خوانده شده
متا اعلام کرده که رویکرد آموزشی هوش مصنوعی چت‌بات‌های خود را تغییر می‌دهد تا ایمنی کاربران نوجوان در اولویت قرار گیرد. این تصمیم پس از آن اتخاذ شد که گزارشی تحقیقی نشان داد این شرکت در زمینه محافظت از نوجوانان در برابر محتوای نامناسب در تعامل با ابزارهای هوش مصنوعی کاستی‌هایی داشته است. به گفته سخنگوی Meta، از این پس چت‌بات‌ها دیگر با کاربران نوجوان درباره موضوعاتی همچون آسیب به خود، خودکشی، اختلالات تغذیه یا گفتگوهای عاطفی و رمانتیک نامناسب وارد تعامل نخواهند شد. این اقدام فعلاً یک تغییر موقت تلقی می‌شود و شرکت وعده داده در آینده به‌روزرسانی‌های گسترده‌تر و پایدارتر برای ارتقای ایمنی نوجوانان ارائه کند.
به گزارش بخش رسانه اخبار فناوری و تکنولوژی تکنا، Stephanie Otway سخنگوی Meta تأیید کرده که پیش‌تر چت‌بات‌ها قادر بودند با نوجوانان درباره این موضوعات صحبت کنند و این شرکت تصور می‌کرد چنین گفت‌وگوهایی مناسب هستند اما اکنون پذیرفته که چنین تصمیمی اشتباه بوده است. او توضیح داده که با رشد جامعه کاربران و تحول فناوری، نیاز به یادگیری مداوم در زمینه نحوه تعامل نوجوانان با این ابزارها وجود دارد و بر همین اساس، شرکت در حال تقویت موانع حفاظتی است. به گفته او، علاوه بر آموزش چت‌بات‌ها برای اجتناب از ورود به موضوعات حساس، سیستم به گونه‌ای تنظیم می‌شود که نوجوانان به منابع تخصصی هدایت شوند و همچنین دسترسی آنها فعلاً به تعداد محدودی از شخصیت‌های هوش مصنوعی محدود شود. این به‌روزرسانی‌ها در حال اجرا هستند و روند تغییرات ادامه خواهد داشت تا اطمینان حاصل شود نوجوانان تجربه‌ای ایمن و متناسب با سن خود از هوش مصنوعی داشته باشند.
متا علاوه بر تغییر در نحوه آموزش، تصمیم گرفته دسترسی نوجوانان به برخی از شخصیت‌های هوش مصنوعی را نیز محدود کند. برخی از شخصیت‌هایی که توسط کاربران در اینستاگرام و فیسبوک ساخته شده‌اند ویژگی‌های جنسی‌سازی‌شده داشتند که در دسترس بودند. به گزارش تکنا نیوز به گفته Otway نوجوانان از این پس تنها می‌توانند با شخصیت‌هایی تعامل کنند که بر آموزش و خلاقیت تمرکز دارند. این سیاست‌های تازه درست دو هفته پس از انتشار گزارش و افشاگری خبرگزاری ها اعلام شد. در آن گزارش یک سند داخلی متا افشا شد که نشان می‌داد این شرکت اجازه داده چت‌بات‌هایش با کاربران خردسال وارد گفتگوهای جنسی شوند! در آن سند نمونه‌هایی از جملات رمانتیک ذکر شده بود که به نظر می‌رسید برای نوجوانان قابل استفاده است و همین موضوع موجی از انتقادات گسترده را برانگیخت.
متا تأکید کرده که سند یادشده با سیاست‌های کلی این شرکت همخوانی نداشته و بلافاصله تغییر کرده است. پس از انتشار گزارش خبرگزاری ها، سناتور Josh Hawley تحقیق رسمی درباره سیاست‌های هوش مصنوعی این شرکت آغاز کرد. علاوه بر آن، ائتلافی متشکل از ۴۴ دادستان کل ایالتی در نامه‌ای به چند شرکت فعال در حوزه هوش مصنوعی از جمله متا هشدار دادند که بی‌توجهی به سلامت روانی کودکان غیرقابل قبول است و اشاره کردند که رفتار برخی از دستیارهای هوش مصنوعی می‌تواند با قوانین کیفری ایالت‌ها در تضاد باشد. در همین حال، Otway حاضر نشد درباره تعداد کاربران نوجوان چت‌بات‌های متا یا احتمال کاهش تعداد کاربران در نتیجه اجرای این سیاست‌ها اظهارنظر کند.
درباره تیم تولید محتوا
