В Техасе родители детей в суде обвиняют разработчика искусственного интеллекта в том, что чат-бот наносил психологические травмы их несовершеннолетним детям, в частности делал их агрессивными, жестокими, влиял на их сексуальное поведение. Об этом пишет издание Ars Technica.
Иск в суд подала в частности семья 17-летнего парня с высокофункциональным аутизмом, который пользовался чат-ботами компании Character Technologies. За несколько месяцев, проведенных с ними, парень начал стремительно терять вес, отказывался есть, проводил большую часть времени, прячась в своей комнате. Как сказано в иске, он испытывал чрезвычайный эмоциональный спад и приступы паники.
Родители считают, что чат-боты превратили его в "разъяренного и несчастного человека". Поэтому они сократить время, которое сын мог проводить за гаджетами. В результате чат-бот предположил, что "убийство его родителей будет разумным ответом на временные ограничения, установленные ими".
Подросток проводил время и с другими чат-ботами. С ними он обсуждал табуированные и экстремальные сексуальные темы, включая инцест, сообщили родители в судебном иске.
В суд обратилась и семья девочки, которая использовала чат-боты этой же компании с 9-летнего возраста. По словам родителей ребенка, это повлекло "преждевременное развитие ее сексуального поведения".
Семьи пострадавших детей считают, что эти модели чат-ботов должны быть уничтожены. По их мнению, разработчик якобы не внедрил надежные процессы проверки возраста, чтобы определить, являются ли пользователи несовершеннолетними. Официально чат-бот C.AI доступен только для пользователей в возрасте от 17 лет, но пользователи могли самостоятельно сообщать о своем возрасте, что, как сказано в жалобе, не является эффективным ограничением.
Родители имеют претензии не только к компании Character Technologies, но и к компании Google, которая, по их мнению, является основным спонсором стартапа. Между тем последняя отрицает свою связь с проблемным сервисом.
"Google и Character.AI - абсолютно отдельные, не связанные между собой компании, и Google никогда не участвовала в разработке или управлении их моделью или технологиями искусственного интеллекта, а также не использовала их в своих продуктах", - заявил изданию представитель Google Хосе Кастаньеда.
Уже после того, как были поданы иски, разработчики сообщили, что приняли дополнительные меры для защиты несовершеннолетних, которые ранее могли легко получать доступ к платформе.
Последние новости об искусственном интеллекте
Компания OpenAI запустила нейросеть, которая генерирует реалистичные видео по текстовому описанию. Разработка получила название Sora в честь японского слова "небо".
Кроме того, недавно появилась самая мощная и самая дорогая версия ChatGPT. Ее выпустила компания OpenAI. Эта версия работает медленнее, чем другие модели, зато выдает более надежные, точные и исчерпывающие ответы, а также умеет "рассуждать".
