Сервис с ИИ-персонажами Character AI добавил функцию, которая покажет родителям, с какими ботами общается их ребёнок

Речь о несовершеннолетних пользователях.

Parental Insights — еженедельный отчёт об активности, который родители и опекуны могут получать на email-адреса. Указать их должен сам пользователь в настройках.
Взрослый сможет без регистрации и профиля увидеть, сколько времени ребёнок в среднем проводит в сервисе каждый день и где — на сайте или в приложении.
Там же покажут, с какими ИИ-персонажами он общается чаще всего и сколько времени уделяет каждому из них. Содержание чатов не раскроют. Отключить отправку отчётов можно, но для этого потребуется согласие взрослого.

Character AI — платформа для создания и использования чат-ботов, которые имитируют звёзд и известных персонажей и заточены под разные контексты. С июня 2024 года им можно звонить. Пользователям должно быть больше 13 лет.
В октябре того же года компания получила иск из-за смерти подростка, который постоянно общался с ИИ-персонажами в сервисе. Его мать заявила, что у Character AI «опасные и непроверенные» технологии и её стоит привлечь к ответу.
В январе 2025 года компания попросила суд отклонить иск. По её словам, единственная цель истца — «закрыть» сервис, а также зарегулировать ИИ. Если заявительница выиграет, пострадает весь ИИ-сектор.
В другом иске родители приложили скриншоты, на которых бот «подталкивает» подростка к их убийству — из-за того, что они не разрешают ему подолгу «сидеть» в интернете.

Как в «Чёрном зеркале»: нейросеть GPT-3 помогла канадцу «связаться» с умершей невестой — в ИИ-чате

Хоть с помощью ИИ-сервисов и можно «оживить» умерших, в конечном итоге их всё равно придётся потерять, пишет San Francisco Chronicle.