Как не глупеть с ChatGPT: меняем критическое мышление на эффективность?

Homo GPT создан «по образу и подобию» нейросетей и доверяет свою жизнь «умным машинам». Верующий в могущественные нейросети, homo GPT при возникновении любой проблемы делегирует свой запрос большому брату ИИ, чтобы избежать тяготы интеллектуального усилия или дилеммы экзистенциального выбора.
Insolarance, Алексей Соловьев и Ольга Календарева

Меня зовут Никита Шевченко, с 2022 года я активно использую и популяризирую использование AI в личной жизни и рабочих процессах.

Постепенно у меня зарождались сомнения (и даже страхи), которые можно сформулировать примерно так: “а что если, блин, я с AI всё-таки тупею? как это понять?”. Я собрал все свои мысли, опасения и способы защиты от риска превращения в Homo GPT.

Эта статья - моё личное мнение. Наверное, в нашу пост-AI эпоху важно это было прописать, потому что я не просто прогнал свой страх и вопрос через двадцатиминутный дип ресерч от chatgpt и собрал научные исследования, а какое-то время следил за собой, окружающими, повседневностью, проводил консультации по внедрению AI, читал что про это пишут философы, разработчики, СЕО техногигантов и просто мои знакомые, да и сам писал про это заметки в блоге и обсуждал реакцию. Как раз после вот таких наблюдений у меня и появились неутешительные гипотезы:

Мы слишком мало говорим про ограничения использования AI: понятно когда оно даёт пользу, а что насчёт вредных сценариев и долгосрочных последствий для нашей когнитивной работы?
В обществе много и громко говорят про то, что Mega-super-AGI убьёт кожаных, но, кажется, есть более тихие голоса, идея которых - AI незаметно сделает кожаных глупыми и менее критически мысляющими.

Но, несмотря на эти гипотезы, я не призываю сжигать дата-центры и даже продолжаю оптимистично смотреть на AI, пишу про то, как он помогает в личной жизни и в работе, популяризирую использование AI в базах знаний, в работе и постоянно восхищаюсь продуктами, которые создаются с AI. Цель этой статьи - помочь найти свою золотую середину.

Кажется, что да. Не хочется превращаться в саммаризатора научных статей, ведь для поиска исследований можно обратиться в тот же ChatGPT, который накидает вам примерно такие тезисы:

Снижение критического мышления - люди реже уходят в источники и разбираются в теме.
Падают навыки принятия мышления - решения делегируются на AI, полагаются на алгоритмы.
Снижается креативность идей.
Падают навыки фокусирования - как раз за счёт получения быстрых ответов, где раньше нужно было проанализировать разные источники.

Мне сложно спорить с тезисами выше, вопрос, скорее, в другом - пора ли бить тревогу?

Возможно, говорить про AI всё ещё рано, поэтому мне захотелось посмотреть на исследования появления прошлых технологических инструментов. И это правда похоже на то, что было раньше (и то, что уже давно изучает социология науки и технологий):

когда пришли калькуляторы и в среднем снизили навык счёта в уме у людей
GPS-навигаторы понизили активацию гиппокампа
интернет вообще изменил то, как мы работаем с фактами

Все исследования про прошлый опыт говорят примерно про одно: передача умственной работы технологиям, приводит к сочетанию преимуществ (эффективность, точность, снижение рабочей нагрузки) и издержек (снижение практики, зависимость, потеря навыков).

Если какой-то навык постоянно перекладывается на ИИ, люди будут меньше им пользоваться и, скорее всего, станут менее способными в этом самом навыке (кэп). Хорошо про это написал Пол Грэм в эссе про навык письма (с чем я очень согласен): “Вместо хороших писателей, нормальных писателей и людей, которые не умеют писать, будут просто хорошие писатели и люди, которые не умеют писать.”.

Но есть и обратная сторона - если технология используется как инструмент дополняющий человека, а не заменяющий, негативные последствия могут быть сглажены.

А для себя я тут сделал такой вывод:

AI действительно влияет на когнитивные способности, но это не оглупление, а перераспределение нагрузки. Мы отказываемся от одних навыков в пользу других. Так что мы обмениваем?

Тут есть огромный соблазн написать сильные сферы применения AI простыми словами или вообще скопировать из GPT:

Анализ и обработку больших объёмов данных
Генерацию идей и помощь в письме
Автоматизацию рутины
Решение задач с чёткими правилами
И так далее

Я же хочу разобрать на моём примере написания этой статьи.

✅ Где помогает AI:

Обработал большой массив информации и подготовил для меня список источников, которые стоит прочитать чтобы сформулировать свою точку зрения.
Структурировал все мои заметки за разное время в один связанный план статьи
Помогал преодолеть эффект чистого листа: когда идея есть, а как написать - не понятно
Автоматизировал рутину - проверил грамматику, расставил абзацы
Дал фидбэк по статье: выделил сильные аргументы, слабые аргументы, как их можно усилить.
Сократил полученный огромный текст в удобочитаемый вид (надеюсь).

❌ Где AI мог бы навредить или ухудшить текст:

Если бы я полностью попросил написать текст за меня - просто по основной мысли, заголовку в духе "Напиши текст с аргументами почему мы становимся глупее с ChatGPT". Люди распознают неестественность текста.
Попросил бы его "исправить так, чтобы всем нравится". Да, можно переписать весь текст, сделать его "инфостилевым", убрать повторения, набрать 10/10 на главред.ру. Но из этого уйдёт "душа" текста, чем бы она ни являлась :)
Спросил его исследования, подтверждающие мою точку зрения - и не проверил бы их, не подумал бы о том, как они отражаются в релаьности.

Ключевая проблема с AI - не то, что он нас делает тупее, а то, что он убирает сопротивление.

В сложных задачах именно сопротивление рождает развитие. Когда ты пишешь статью и не можешь сформулировать мысль, начинает работать глубокое мышление - я писал про это в прошлой статье о базах знаний и подсвечивал похожий риск делегировать мышление своему Obsidian]. Когда ты пишешь текст и ищешь нужное слово, ты одновременно тренируешь свой вкус и чувство формы. Люди не обучаются также быстро, как AI, так что тексты становятся лучше с годами регулярной сложной практики.

А поэтому - пока AI приобретает агентность, нам важно не потерять её самим. И, думаю, нам предстоит переосмыслить клише "AI не заменит людей - но люди, которые правильно его используют, заменят тех, кто не использует AI”. Вижу как эта идея становится опраданием использования его там, где это делать не стоит. Предлагаю что-то типа:

AI не заменит твои навыки, но покажет, какие из них у тебя действительно есть :)

И тогда все риски можно оформить в такой небольшой список. Опасно, когда:

Когда AI становится заменой мышления, а не инструментом: написание статьи, письма вместо осмысления, получение быстрых поверхностных ответов.
Когда AI снижает чувствительность к деталям и контексту: на любой живой встрече, по разным исследованиям, менее 10% информации передаётся вербально, всё остальное - тон голоса, ударения, невербальные сигналы. Может ли это обработать AI? Да, но есть нюансы в интерпретации :) Может, человек каждую встречу сидит в закрытой позе по привычке или у него холодно?
Когда AI включается как инструмент избегания сложностей и сопротивления: ну, правда, можно получить саммари идей из любой лекции и книги и опубликовать сводку. Но зачем тогда автор?
Когда AI просто убивает кайф. Возможно, если вы не любите писать музыку/тексты/картины вручную, без AI, то не стоит вообще заходить в эту тему :) А лучше найти сферу, в которой AI будет нас усилять, а не заменять.

Звучит красиво, но что делать-то? В этом блоке мне захотелось оставить, в первую очередь, для себя, какую-то надежду, принципы, которым буду следовать, чтобы не упустить тот момент, когда начнётся превращение в homo GPT и когнитивная деградация :)

Забавно, что в этом блоке, по сути, я ничего нового не придумал и опиралс на практики самопомощи для людей с СДВГ и тревожных:

AI-детокс. Я стараюсь проводить один день в неделю без когнтитивного труда, а значит, меньше использовать AI, идеально - вообще без него. Рекомендую, очень отрезвляет, возвращает в старый добрый 2021 год.

Донастроить так, чтобы AI требовал включать мозг. Мой GPT донастроен кастомными инструкциями (вот тут они) так, чтобы в конце задавал мне вопросы для рефлексии, и это, кажется, важная история, потому что даже на фоне помогает мне не забывать включать мозг. Ну и, конечно, просить альтернативные точки зрения и источники информации, не полагаясь на первое мнение AI.

Следить за рассуждениями AI. Я уверен, нам есть чему научиться у AI, и, надеюсь, что thinking модели немного исправят ситуацию с осознанным использованием LLM, потому что делают более прозрачным процесс размышления искусственного интеллекта над задачами. Периодически я раскрываю цепочку мыслей AI и пытаюсь увидеть в этом логику - почему ответ именно такой, где могли быть ошибки:

Общаться, блин, с людьми. Писать статьи текстом, говорить голосом, формулировать самостоятельно. Эту статью я большую часть времени обсуждал с разными людьми, тестировал идеи об реальность, наблюдал за реакцией. GPT бы точно такого не выдал, а лишь подтверждал какие-то мои идеи.

Сначала подумай сам, потом - с AI.

И главное моё правило использования AI, оно же и самое простое. Есть большое постоянное желание забрать какой-нибудь готовый промпт, сформулировать короткий вопрос и получить ответ от AI, делегировать принятие решения, рассуждение по теме.

В 2024 году распространялась идея, что промпт-инжиниринг умирает, и я с этим согласен, потому что для обычных пользователей и простых задач AI промпты уже не так важны - он и так нас хорошо понимает. Но промпты становятся всё важнее для самого человека:

Задавая промпт (или, проще говоря, рассуждая о проблеме, собирая контекст и формулируя вопрос) на старте, человек включает мышление вперёд машины, и это уже само по себе полезное занятие.

Я думаю, эта статья - лишь промежуточные мысли в осмыслении этой (на мой взгляд) важной темы. Поэтому приглашаю к диалогу: что наблюдаете вокруг и у себя? Какие навыки усиливаются, какие утрачиваются с появлением LLM в жизни? Что будете делать или делаете?

Больше про построение систем управления знаниями, выстраивание здоровой продуктивности с AI, собой и командами я пишу в своём телеграм-канале - буду рад подписке.