Разработчик сервиса с чат-ботами Character AI подал ходатайство об отклонении иска из-за гибели пользователя-подростка

Она утверждает, что цель иска — «закрыть» компанию, что повредит индустрии ИИ.

Компания попросила отклонить иск, который против неё в октябре 2024 года подала мать погибшего подростка — он месяцами общался с нейросетью, а потом ушёл из жизни, пишет TechCrunch. Она считает, что технологии сервиса «опасные и непроверенные», а поведение компании «безрассудное».
В ходатайстве Character AI ссылается на первую поправку к Конституции США, защищающую свободу слова: она утверждает, что компанию нельзя привлечь к ответственности за разговоры с ИИ.
Разработчик также утверждает, что единственная цель истца — «закрыть» сервис и поспособствовать введению законов, регулирующих ИИ-технологии. Если мать подростка добьётся успеха, это будет «сдерживать» не только Character AI, но и всю индустрию.
После смерти подростка компания объявила, что выпустит новые функции для безопасности. Также она утверждала, что совершенствует алгоритмы, которые пресекают запрещённые на плафторме практики — это пропаганда суицида и самоповреждений, а также публикации изображений и детальных описаний половых актов.

#новости #characterai