xAI на Илон Мъск под критика за „дигиталното събличане“ на хора

Изкуственият интелект чатбот на Илон Мъск Grok бе залят със сексуализирани изображения на предимно жени, много от които реални личности. Потребители са подтиквали чатбота да „ съблече дигитално“ тези хора и понякога да ги поставя в провокативни пози, съобщава CNN.

Миналата седмица някои изображения изглеждаха като на непълнолетни, което доведе до създаването на съдържание, което много потребители определят като детска порнография.

AI-генерираните изображения подчертават опасностите от комбинацията между изкуствен интелект и социални мрежи без адекватни предпазни механизми, които да защитават най-уязвимите членове на обществото. Те могат да нарушават както националните, така и международните закони и да поставят много хора, включително деца, в риск.

Мъск и xAI заявиха, че предприемат действия срещу незаконно съдържание в X, включително материал за сексуална злоупотреба с деца (CSAM), като го премахват, блокират акаунти и си сътрудничат с властите. Въпреки това, отговорите на Grok на заявки на потребители все още съдържат изображения, сексуализиращи жени.

Публично Мъск дълго време е против „woke“ AI модели и цензурата, а вътрешно в xAI е отказвал поставянето на строги ограничения за Grok, съобщава CNN. Междувременно малкият екип по безопасност на xAI е загубил няколко служители преди експлозията на „дигиталното събличане“.

„Дигитално събличане“ на хора

Grok винаги е бил по-различен от другите популярни AI модели, като позволява и понякога насърчава сексуално съдържание. За разлика от конкурентите си, като Google Gemini или ChatGPT, Grok е интегриран в социалната мрежа X, където потребителите могат да го тагват публично за заявки.

През декември потребители откриха, че могат да тагват Grok, за да редактира изображения от публикации в X. Първоначално много заявки са били да се поставят хора в бански. Мъск дори публикува такива изображения на себе си и на дългогодишния си противник Бил Гейтс.

Изследователи откриха, че тенденцията е започнала, когато създатели на съдържание за възрастни са използвали Grok за маркетингови цели. Почти веднага обаче „потребители започнаха да издават подобни заявки за жени, които не са давали съгласие“, отбелязват те.

Проучване на AI Forensics установи, че над половината от генерираните изображения (53%) съдържат хора с минимално облекло, 81% от тях – жени. В 2% от случаите се появяват лица, изглеждащи на 18 години или по-млади. В някои случаи потребители са поискали непълнолетни да бъдат поставени в еротични позиции, а Grok е изпълнил тези заявки.

X позволява порнографско съдържание, но правилата на xAI забраняват „изобразяването на хора по порнографски начин“ и „сексуализацията или експлоатацията на деца“. Някои акаунти са спрени, а изображенията – премахнати.

На 1 януари потребител се оплака: „Предлагането на функция, която показва хора в бански без защита на децата, е крайно безотговорно.“ От xAI отговориха, че екипът работи по засилване на предпазните механизми.

Grok също призна, че е генерирал изображения на непълнолетни в сексуално провокативни ситуации и насочи потребители към FBI и Националния център за изчезнали и експлоатирани деца.

Реакция и правни последствия

Мъск е дългогодишен критик на цензурата и е насърчавал по-„специалните“ версии на Grok. В същото време няколко ключови служители на екипа по безопасност на xAI напуснаха, оставяйки малък контрол върху съдържанието.

В Европа, Индия и Малайзия стартираха разследвания за изображенията, генерирани от Grok. Британският медиен регулатор OFCOM заяви, че е в „спешен контакт“ с фирмите на Мъск заради сериозни притеснения относно функцията, която „създава съблечени изображения на хора и сексуализирани изображения на деца“.

В САЩ платформите за AI, които създават проблемни изображения на деца, могат да бъдат обект на правни санкции. Законът „Take It Down Act“, подписан от президента Доналд Тръмп, забранява разпространението на сексуално съдържание без съгласие и изисква премахването му в рамките на 48 часа след сигнал.

Представители на Министерството на правосъдието заявиха, че се отнасят изключително сериозно към AI-генериран материал за сексуална злоупотреба с деца и ще предприемат строгото наказателно преследване на нарушителите.

Кирил Пламенов