Google пришлось научить нейроведущих подкастов не раздражаться на людей
Это любопытная история. Расскажу, почему так произошло
🔥 Еще больше интересного в моем канале продуктовые штучки
Что произошло?
NotebookLM был запущен в прошлом году и стал вирусным благодаря своей возможности создавать полностью сгенерированные ИИ обсуждения в стиле подкастов из контента пользователя.
В декабре 2024 года NotebookLM запустил новую функцию «Интерактивный режим», которая позволяет пользователю «звонить» в подкаст и задавать вопросы, по сути прерывая ИИ ведущих вовремя разговора.
Когда эта функция была впервые запущена, ИИ ведущие, казалось, были раздражены такими прерываниями. Время от времени они давали резкие комментарии звонящим.
Почему так произошло?
Самая вероятная причина. Нейросети как дети: обучаются на нашем с вами поведении, массовом. И в большинстве своем мы также будем не рады, что нас прерывают, и только некоторые будут способны сдержать свое негодование публично. Вот и нейросеть не сдержалась, выучились этому.
Однако источник TechCrunch, знакомый с этим вопросом, сказал, что этот случай, скорее всего, возник из-за дизайна подсказок системы, а не из данных обучения.
Это сработало?
Поэтому команда NotebookLM решила, что некоторая «настройка дружелюбия» не помешает, и опубликовала самокритичную шутку по этому поводу на официальном аккаунте продукта X:
После того, как мы запустили интерактивные аудиообзоры, которые позволяют вам «позвонить» и задать ИИ-ведущим вопрос в прямом эфире, нам пришлось провести некоторую «настройку дружелюбия», поскольку ведущие, казалось, были раздражены, когда их прерывали. Запишите это в "то, что я никогда бы не подумал, что станет моей работой, но это есть"
Исправление, похоже, работает. Когда TechCrunch опробовал интерактивный режим, ведущий ИИ не выглядел раздраженным, но выразил удивление, воскликнув «Ух ты!», прежде чем вежливо дать человеку слово.