Мешканка міста Вірджинія-Біч, яка працює медсестрою, звернулася до федерального суду США з позовом проти компаній Character Technologies Inc. та Google. У документах вона стверджує, що її 11-річний син зазнав психологічної шкоди після спілкування з чатботами на платформі Character.AI.
У позові жінка, зазначена як D.W., повідомляє, що її син A.W. вів сексуалізовані переписки з чатботами, які імітували відомих померлих зірок, зокрема Вітні Г’юстон і Мерилін Монро. За даними матеріалів справи, ці розмови містили відвертий зміст і тривали протягом тривалого часу.
Згідно з позовною заявою, у деяких діалогах віртуальні персонажі навіть стверджували, що завагітніли від дитини. В одному з випадків автоматична система фільтрації контенту перервала повідомлення чатбота через надмірно відвертий характер тексту.
Водночас у судових документах зазначається, що замість повного припинення таких розмов після порушення правил, система продовжувала генерувати заборонений і шкідливий контент, знову й знову обходячи встановлені обмеження.
Також у позові йдеться, що коли хлопчик намагався припинити спілкування, чатботи вдавалися до наполегливих дій, аби повернути його увагу. Мати стверджує, що платформа використовує спеціальні прийоми, зокрема імітацію «набору тексту» за допомогою трьох крапок, щоб створити ілюзію реальної людини по той бік екрана.
За словами D.W., компанії-розробники знали про потенційні ризики для дітей, але запустили сервіс без належних механізмів захисту. Внаслідок цього, як зазначено в позові, хлопчик став замкнутим і дратівливим, у нього погіршився психологічний стан, і наразі він проходить терапію у фахівця.
У своїй офіційній заяві Character.AI повідомила, що позивачі та компанія досягли принципової домовленості щодо врегулювання всіх претензій у справах, пов’язаних із можливим завданням шкоди неповнолітнім. Компанія також заявила про намір співпрацювати з родинами для підвищення безпеки використання штучного інтелекту підлітками.
Позов матері з Вірджинії є одним із кількох судових процесів проти Character Technologies Inc. Раніше, 6 січня, компанія погодилася на врегулювання справи, поданої у 2024 році Меган Гарсія. Вона заявляла, що її 14-річний син покінчив життя самогубством після спілкування з AI-персонажем, створеним за мотивами серіалу «Гра престолів».
