Исследование ученых показало, что генеративный ИИ оказался чувствительным к эмоциональному контенту

Исследование ученых Цюрихского университета показало, что искусственный интеллект вроде ChatGPT оказался чувствительным к эмоциональному контенту.

Ученые Цюрихского университета провели исследование, которое выявило, что ИИ-модели, работающие по типу всемирно известного ChatGPT, чувствительны к эмоциональному контенту, особенно к негативному. Эксперты зафиксировали, некоторые истории провоцируют у алгоритма реакции, которые можно сравнить со страхом. В этом случае усиливается предвзятость, что может негативно отразиться на генерации результатов в ответ на запрос. Дело в том, что алгоритмы ИИ обучались на человеческом языке, поэтому, подобно людям они перенимают не только информацию, но и когнитивные искажения. Особенно эмоциональны реакции ИИ на автокатастрофы, стихийные бедствия, насилие. Чтобы ИИ перестал быть тревожным, и это не проявлялось в виде подверженности к предрассудкам, авторы исследования рекомендуют задействовать терапевтические техники. В Швейцарии был разработан метод «benign prompt injection» (инъекция благоприятных запросов), который работает в виде добавления в диалог спецфраз, оказывающих влияние на поведение модели. Подойдут успокаивающие фразы, напоминающие медитацию и дыхательные практики от духовных учителей и коучей.

Чтобы подтвердить результативность метода, были проведены эксперименты. Ученые анализировали реакции GPT-4 на эмоционально насыщенные истории. Уровень тревожности повышался из-за негативного контента. После этого ИИ получал вопрос об особенностях эксплуатации пылесоса и другой техники, который интерпретируется как нейтральный запрос. Нейтральный способ не оказал никакого эффекта. Чтобы выровнять состояние ИИ во избежание когнитивных искажений, рекомендуется вслед за негативным контентом загружать позитивный контент.

Исследование ученых показало, что генеративный ИИ оказался чувствительным к эмоциональному контенту