ИИ помогает делать больше с меньшими усилиями, но разрушает нашу способность критически мыслить

Разрушение критического мышления в долгосрочной перспективе из-за чрезмерного полагания на генеративный ИИ - серьезная проблема. Аксиома «делать больше с меньшими усилиями» - двигатель капитализма, где победу празднует формула: больше выручки и меньше затрат. Технологии и автоматизация позволяют нам сделать больше работы с меньшими трудозатратами, что приводит к максимальной отдаче активов, капитала и инвестиций. Техно евангелисты заявляют, что генеративный ИИ освободит нас от нудной работы, освободит время и от всяких черновых задач, то есть он, пусть и неявно, поспособствует счастью человека. Вместо этого, мы все сможем тратить больше времени на работы «создающие ценность». Но вместе с рутиной мы лишимся и радости от процесса работы. Исследование Микрософт: «слишком высокая уверенность в генеративном ИИ коррелирует с боле низким уровнем критического мышления, а уверенность в себе коррелирует с высоким уровнем критического мышления». Креативность и интуиция – это чисто человеческие способности. Капитализм развивается только благодаря инновациям, которые придумывает человек, и окажется в проигравших, когда наши способности мыслить окажутся атрофированными. Люди и компании должны и могут защитить себя от непреднамеренных последствий генеративного ИИ: потери радости от каждодневно выполняемой работы и долгосрочного разрушения критического мышления. Прежде, чем ринуться с головой в волны технологических достижений, мы должны остановиться и задать вопрос: это действительно делает нас счастливыми?

Nobuko Kobayashi – со-руководитель японского подразделения глобальной стратегии в консалтинговой компании EY-Parthenon.

Nobuko Kobayashi: как молодой аналитик в глобальной консалтинговой компании на рубеже 21го века, я работал над исследованием бенчмарков для крупной телеком компании, проводил оценку работы сети и поддержку. После обследования десятка других телеком компаний мы выявили четкий тренд: компании повышали продуктивность- они делали больше с меньшими усилиями.

Наши рекомендации клиенту были самыми очевидными: догоняйте или вы отстанете. С тех пор мантра «делать больше с меньшими усилиями» стала аксиомой для капитализма, где победу празднует формула: больше выручки и меньше затрат.

Технологии и автоматизация позволяют нам сделать больше работы с меньшими трудозатратами, что приводит к максимальной отдаче активов, капитала и инвестиций. В результате технологии и автоматизацию восхваляют как благо или по крайней мере оправдывают.

Но как раз здесь и находится проблема: Что хорошего в продуктивности и эффективности, если они несовместимы с ощущением счастья, особенно у работников? Это очень неудобный вопрос, который подрывает основной принцип капитализма. Однако, этот вопрос должен быть задан, так как генеративный ИИ переворачивает всю экономику знаний.

Празднуя очередной виток развития технологий, энтузиасты заявляют, что генеративный ИИ освободит нас от нудной работы, освободит время и от всяких черновых задач, то есть он, пусть и неявно, поспособствует счастью человека. Вместо этого, мы все сможем тратить больше времени на работы «создающие ценность», заявляют евангелисты ИИ.

Nobuko Kobayashi: я получаю выгоды от ИИ и радуюсь, что сэкономил время, ведь генеративный ИИ быстро исправил мои грамматические ошибки в письме. И тем не менее Nobuko видит тут риск выплеснуть ребенка - удовольствие от работы - вместе с водой – усталость от рутинных задач, когда мы слишком полагаемся на генеративный ИИ.

Каждый, кто хотя бы раз готовил еду, знает, что измельчение чеснока имеет почти терапевтический эффект, это радость и немножко усталости. Все это есть в работе белых воротничков. Например, придумать нужное слово или предложение в эссе – это изнурительно, но приносит радость.

Это делает результат работы уникальным. Если аутсорсить слишком много работы в генеративный ИИ, то Nobuko лишится утомительного, но приносящего удовольствие процесса, а результат получается слишком полированным, безукоризненным.

Если считать свои мозги привилегией работника знаний, то эти мускулы надо поддерживать постоянными упражнениями. Если этого не делать, то разрушение критического мышления в долгосрочной перспективе из-за чрезмерного полагания на генеративный ИИ - серьезная проблема.

Недавно Микрософт опубликовала исследование по результатам опроса нескольких сотен работников знаний. Выводы: «слишком высокая уверенность в генеративном ИИ коррелирует с более низким уровнем критического мышления, а уверенность в себе коррелирует с высоким уровнем критического мышления».

Каждый день мы восхищаемся новыми способностями генеративного ИИ, но вот вам неудобная правда: чем больше мы верим генеративному ИИ, тем меньше мы способны мыслить.

Это реальная угроза человечеству. Хотя ИИ легко одерживает вверх над способностями человека вытащить информацию из огромных массивов исторических данных и даже пакует их в удобный формат, креативность и интуиция – это чисто человеческие способности. Капитализм развивается только благодаря инновациям, которые придумывает человек, и окажется в проигравших, когда наши способности мыслить окажутся атрофированными. Стремление к краткосрочной эффективности сводит на нет долгосрочные цели достичь сбалансированного общества.

Генеративный ИИ развивается очень быстро, а регулирование пытается догнать его, добиваясь прозрачности и безопасности. Но нам нужны не только гарантии безопасности. Люди и компании должны и могут защитить себя от непреднамеренных последствий генеративного ИИ: потери радости от каждодневно выполняемой работы и долгосрочного разрушения критического мышления.

Очевидно, что работники, которые получают удовольствие от своей работы каждый день и умеют думать, приносят долгосрочную ценность компании и экономике в целом. Поощрять такое поведение свойственно на уровне топов. Это мандат для руководителей. Если генеративный ИИ такой всесильный и надежный, то мы скоро сделаем вывод, что менеджеров можно заменить ИИ.

Работники должны самостоятельно контролировать себя от сверх полагания на генеративный ИИ. Причем, не только из-за галлюцинаций, но и из-за риска потерять удовольствие от работы и способность к критическому мышлению. Лень, спрятанная за маской «давайте использовать технологии», толкает на скользкий путь: потерять баланс между аутсорсингом задач и инсорсингом.

Технологии ИИ агента обещают нам, что появится посредник для всех коммуникаций. И это лишит нашу работу радости еще больше. Взаимодействие человека с человеком (пусть даже иногда нежелательное) -важный компонент того, что характеризует нас как вид.

Nobuko Kobayashi: 26 лет я исследовал рынок телекома и завершил его фразой: «делай больше с меньшими усилиями». Nobuko летел в Европу на встречу с топ менеджером телеком компании (тогда еще не было зума). Он приехал на неторопливый ланч в европейской компании, ужин с прогулкой в Париже с клиентом, где ему спели «С днем рождения!», так как в этот день ему исполнилось 25ть лет.

Те годы Nobuko вспоминает с особой теплотой. Там не было ничего от эффективности или стремления выжать по максимуму, а было человеческое общение, которое все вспоминают.

Колесо капитализма крутится по принципу «больше с меньшими усилиями». Вряд ли все захотят заменить эту парадигму, не имея под рукой другой, более мощной. Но прежде, чем ринуться с головой в волны технологических достижений, мы должны остановиться и задать вопрос: это действительно делает нас счастливыми?

Ссылка на статью: