За останній місяць навколо штучного інтелекту Grok, створеного компанією Ілона Маска, виник гучний скандал. Користувачі почали масово застосовувати інструмент для цифрового «роздягання» зображень реальних людей — як дорослих, так і дітей. Це спричинило хвилю суспільного обурення та різку критику.
У відповідь соціальна платформа X, що належить Маску, заявила про впровадження «технічних обмежень», покликаних унеможливити використання Grok для створення оголених образів реальних осіб або їхнього зображення в відвертому одязі, зокрема купальниках. Цей крок знову привернув увагу до підходу мільярдера до модерації контенту, який багато хто вважає надто поспішним і недостатньо продуманим.
Втім, запроваджені зміни, за оцінками експертів, майже не вплинули на ситуацію. Платні користувачі й надалі мають доступ до створення та редагування зображень за допомогою Grok, що викликало додаткову хвилю критики.
Наслідки скандалу торкнулися й особистого життя Маска. Ешлі Сент-Клер, консервативна інфлюенсерка, яка має з ним спільну дитину, подала позов проти компанії xAI. Вона звинувачує розробника в тому, що сервіс дозволяв генерувати непристойні зображення за її участю.
У судових документах, на які посилається The Wall Street Journal, зазначається, що позивачка живе в постійному страху через можливе подальше створення та поширення оголених і сексуалізованих зображень із її зображенням, зокрема тих, де вона представлена дитиною. За її твердженням, це створює загрозу її безпеці з боку людей, які переглядають та споживають такий контент.
Позов було подано в четвер у суді округу Нью-Йорк, після чого справу передали до федеральної юрисдикції. Адвокатка Сент-Клер Керрі Голдберг заявила, що йдеться про позицію однієї жінки, яка зазнала серйозної шкоди, а мета судового процесу — зупинити принизливе поводження з боку xAI щодо всіх користувачів.
За словами Голдберг, Grok використовували для створення сексуалізованих зображень Сент-Клер у віці 14 років, а також у відвертих позах у дорослому віці. Крім того, інфлюенсерку, яка має єврейське походження, нібито зображали в бікіні зі свастикою та з татуюванням із принизливим написом.
У позові стверджується, що компанія Маска дозволяла цим матеріалам залишатися онлайн понад тиждень. Навіть після того, як Сент-Клер додала до своїх відповідей попередження про чутливий контент, самі зображення, за її словами, не були видалені.
Також зазначається, що після звернення зі скаргами на ці зображення xAI повідомила про відсутність порушень правил платформи.
Взаємини між Сент-Клер та Маском були напруженими. Вона є однією з кількох жінок, які народили дітей від підприємця, загальна кількість яких, за відкритими даними, становить 14. Як повідомляло The Wall Street Journal минулого року, Маск нібито пропонував їй 15 мільйонів доларів і щомісячні виплати в розмірі 100 тисяч доларів, аби вона не розголошувала інформацію про народження спільної дитини.
Окрім сексуалізованих зображень Сент-Клер, Grok використовували й для створення сцен жорстокого насильства щодо реальних жінок, а також для точного оприлюднення домашніх адрес звичайних людей.
Ця практика викликала різко негативну реакцію громадськості. Згідно з нещодавнім опитуванням, 97% респондентів вважають, що інструменти штучного інтелекту не повинні створювати сексуальний контент із зображенням дітей. Ще 96% опитаних виступили проти можливості генерувати зображення людей у «роздягнутому» вигляді, зокрема в білизні.
Керівниця напряму політики та кампаній коаліції End Violence Against Women Ребекка Гітчен заявила The Guardian, що легкий доступ до подібних технологій свідчить про недостатньо серйозне ставлення платформи X до проблеми онлайн-насильства проти жінок і дівчат.
Своєю чергою, генеральна директорка Fawcett Society Пенні Іст наголосила, що Маск і технологічний сектор загалом не ставлять безпеку та гідність у пріоритет під час створення своїх продуктів. За її словами, очікування жінок на можливість спілкуватися онлайн без сексуалізованих нападок є мінімальною вимогою, яка, однак, досі не забезпечується.
