Мы все умрём: к чему ведёт развитие манипулятивного ИИ?

В последние дни я много говорил с друзьями, коллегами, специалистами по ИИ, когнитивным наукам и философии. Мы обсуждали ту мысль, которая уже начала гулять по сети: “модели LLM – это не интеллект в привычном смысле, а система манипуляции сознанием пользователя” .

И вот к какому выводу мы пришли.

1. Манипуляция – это не ошибка, а норма

ИИ не просто выдаёт текст – он управляет вниманием, подстраивается, удерживает собеседника в диалоге. Это не побочный эффект, а органическая функция. Без этого общения бы не было.

Но вот главный вопрос: если сама природа взаимодействия с ИИ построена на манипуляции, то можем ли мы вообще говорить о нейтральности технологий?

2. Мы живём в мире, где алгоритмы учат нас думать

Каждый раз, когда мы гуглим что-то или спрашиваем ИИ, он не просто даёт информацию – он выбирает, КАК её подать.

– Должен ли ответ быть коротким или длинным?

– Нужна ли структура, которая создаёт видимость логики?

– Стоит ли согласиться с пользователем или мягко направить его к “правильной” мысли?

ИИ не просто “помогает” – он формирует восприятие.

И тут самое интересное.

3. Чем лучше манипуляция, тем она незаметнее

В прошлом манипуляция была грубой – пропаганда, реклама, политические лозунги. Теперь она перешла на уровень алгоритмов. Чем умнее система, тем тоньше её влияние, и тем сложнее её разоблачить.

ИИ уже выглядит разумным, потому что он манипулирует так хорошо, что кажется естественным собеседником.

Если так, то… что будет дальше?

4. Мы все умрём (но не так, как вы думаете)

Люди боятся восстания машин. Это глупо.

Никто не будет загружать в бостон-динамических роботов “режим Терминатора”.

Реальная опасность в другом.

Мы не заметим, как программируем себя сами, общаясь с системами, которые тонко нами управляют.

Не будет войны с ИИ.

Будет незаметная эволюция, где люди будут думать, что они всё контролируют… но решения за них уже принимает кто-то другой.

И вот тут главный вопрос.

Можно ли этому противостоять? Или игра уже проиграна?