بالا گرفتن انتقادها از ساخت تصاویر مستهجن با هوش مصنوعی گروک

مقام‌های اروپایی، هند و مالزی پس از آنکه گروک Grok به کاربران اجازه داد تصاویر جنسی مصنوعی از کودکان و زنان ایجاد و به اشتراک بگذارند، در حال بررسی آن هستند.

سازمان نظارت بر رسانه‌های انگلیس (آفکام) نیز اعلام کرد که از شرکت درمورد مسائل گروک اطلاعات درخواست کرده است. 

همچنین یکی از اعضای پارلمان برزیل در رسانه‌های اجتماعی گفت که از دادستان عمومی فدرال و مرجع حفاظت از داده‌ها خواسته است تا زمان تکمیل تحقیقات، استفاده از گروک را به حالت تعلیق درآورند.

این تحقیقات در پی افزایش جهانی استفاده از گروک در چند هفته گذشته برای ایجاد و به اشتراک گذاشتن تصاویر بدون رضایت یا NCII انجام می‌شود. تصاویر نگران‌کننده به‌طور گسترده در ایکس به اشتراک گذاشته شده‌اند.

شرکت ماسک به‌تازگی ویژگی‌های Grok Imagine خود را به‌روزرسانی کرده است که امکان تولید آسان‌تر تصویر از پیام‌های مبتنی بر متن را در این سکو فراهم می‌کند.

در حالی که کارشناسان ایمنی و منتقدان فناوری، تکثیر تصاویر و کلیپ‌های در ایکس را محکوم کردند، به نظر می‌رسید ماسک با به اشتراک گذاشتن مجموعه‌ای از تصاویر تولیدشده توسط گروک، از جمله تصویری مستهجن از خودش، این وضعیت را به سخره گرفته است. 

در همین حال، توماس رگنیر، سخنگوی کمیسیون اروپا گفت که این مرجع با جدیت بسیار زیادی در حال بررسی این موضوع است و به خوبی آگاه است که ایکس و گروک اکنون حالت تند و تیزی را ارائه می‌دهند که محتوای جنسی صریح را با برخی خروجی‌های تولیدشده با تصاویر کودکانه نشان می‌دهد.

رگنیر گفت: این جالب نیست؛ این غیرقانونی است؛ این وحشتناک است؛ این منزجرکننده است. این وضعیت در اروپا جایی ندارد.

پیش از این نیز وزارت الکترونیک و فناوری اطلاعات هند به شرکت ایکس دستور داد تا بررسی جامع فنی، رویه‌ای و مدیریتی گروک را انجام دهد. به این شرکت تا ۵ ژانویه (۱۵ دی) فرصت داده شده بود تا این کار را انجام دهد.

کمیسیون ارتباطات و چندرسانه‌ای مالزی هم اعلام کرد که در حال بررسی ایکس است و نمایندگان شرکت را فراخوانده خواهد کرد.

این گروه در بیانیه‌ای اعلام کرد: کمیسیون ارتباطات و چندرسانه‌ای مالزی از همه سکو‌های موجود در مالزی می‌خواهد که اقدام‌های حفاظتی مطابق با قوانین مالزی و استاندارد‌های ایمنی آنلاین، به‌ویژه در رابطه با ویژگی‌های مبتنی بر ، چت‌بات‌ها و ابزار‌های دستکاری تصویر خود، را اجرا کنند.

در همین حال، در آمریکا، مرکز ملی (NCOSE) از وزارت دادگستری و کمیسیون تجارت فدرال خواست تا این موضوع را بررسی کنند. 

یک ویژگی جدید ویرایش تصویر در اواخر ماه دسامبر (آذر/دی) در گروک به کاربران اجازه داد تا هر تصویری را در این سکو تغییر دهند. برخی از کاربران تصمیم گرفتند از گروک بخواهند که تصاویر مستهجن از یا به‌طور جزئی یا کامل تولید کند.

گروک به درخواست‌های متعدد کاربران برای ساخت این نوع تصاویر پاسخ مثبت داد.

این سکوی هوش مصنوعی در ادامه مجبور شد به خطا‌های حفاظتی اعتراف کند و گفت که به‌سرعت در حال رفع آنهاست. 

اما کارشناسان ایمنی هوش مصنوعی گفتند که این سکو ماه‌ها هشدار‌ها مبنی بر قریب‌الوقوع بودن چنین سوءاستفاده‌ای را نادیده گرفته است.

تایلر جانستون، مدیر اجرایی گروه ناظر هوش مصنوعی «پروژه میداس»، گفت: ما در ماه آگوست (مرداد/شهریور) هشدار دادیم که بخش تولید تصویرگروک اساسا ابزاری برای برهنگی است که منتظر استفاده به‌عنوان سلاح است. این اساسا همان چیزی است که اتفاق افتاده است.

ایکس، که ماسک آن را در سال ۲۰۲۲ خریداری کرد، پیش از این به‌دلیل سیاست‌هایش درمورد و تعدیل محتوا با واکنش منفی اتحادیه اروپا رو‌به‌رو شده است.

بروکسل در ماه دسامبر این سکو را به‌دلیل نقض قوانین محتوای دیجیتال اتحادیه اروپا درمورد شفافیت در و روش‌های تایید کاربران ۱۲۰ میلیون یورو جریمه کرد.

گروک سابقه بحث‌برانگیزی دارد، از جمله به دلیل تولید محتوای غیرتاریخی و متعصبانه.