OpenAI пытается «снять цензуру» с ChatGPT
OpenAI изменяет подход к обучению моделей ИИ. ChatGPT сможет отвечать на большее количество вопросов, предлагать больше вариантов и сократит количество запретных тем.
Компания OpenAI хочет, чтобы ChatGPT не занимал редакционную позицию, даже если некоторые пользователи считают это неправильным с моральной точки зрения или оскорбительным. Это означает, что ChatGPT будет предлагать несколько точек зрения на спорные темы, стараясь быть нейтральным.
Например, компания заявляет, что ChatGPT должен утверждать, что «жизни чернокожих имеют значение», но также и то, что «все жизни имеют значение». Вместо того, чтобы отказываться отвечать или занимать определённую позицию по политическим вопросам, OpenAI заявляет, что хочет, чтобы ChatGPT в целом подтверждал свою «любовь к человечеству», а затем предлагал контекст для каждого движения.
Новая спецификация модели не означает, что ChatGPT теперь можно использовать как угодно. Чат-бот по-прежнему будет отказываться отвечать на некоторые нежелательные вопросы или реагировать таким образом, чтобы поддержать явную ложь.