Ученые доказали, что AI делает нас глупее
Ну, вот и официальная инфа: AI реально может делать нас тупее. Ученые из Microsoft и Университета Карнеги-Меллон (да-да, те самые ботаны в белых халатах) доказали: чем больше мы полагаемся на искусственный интеллект, тем меньше шевелим мозгами. И это не просто слова — исследование провели 319 научных работников, которые рассказали о 936 примерах использования генеративного ИИ.
Что говорят в исследовании?
“Основная ирония автоматизации заключается в том, что, механизируя рутинные задачи и оставляя обработку исключений на усмотрение пользователя-человека, вы лишаете пользователя обычных возможностей практиковать свои суждения и укреплять свою когнитивную мускулатуру, оставляя его атрофированным и неподготовленным к возникновению исключений”
“Удивительно, но, хотя ИИ может повысить эффективность, он также может снизить степень вовлеченности, особенно в рутинные задачи или задачи с низкими ставками, в которых пользователи просто полагаются на ИИ, что вызывает опасения по поводу долгосрочной надежности и снижения самостоятельности в решении проблем”
“Инструменты генеративного искусственного интеллекта [...] являются новейшими в длинной линейке технологий, которые поднимают вопросы об их влиянии на качество человеческого мышления, в которую входят письменность (против чего возражал Сократ), печать (против чего возражал Тритемиус), калькуляторы (против которых возражали учителя арифметики) и Интернет”. “Такое опасение небезосновательно. При неправильном использовании технологии могут привести и действительно приводят к ухудшению когнитивных способностей, которые должны быть сохранены”.
Какие основные выводы можно сделать?
"Атрофия навыков" - автоматизация рутинных задач = мозг на автопилоте. Если ИИ решает за вас, где практика ваших скиллов? Поэтому автоматизация лишает нас практики в принятии решений.
Опасная уверенность - чем больше ты доверяешь ИИ, тем меньше проверяешь его работу. А если он налажает? Ну, типо, ChatGPT напишет брошюру по диабету, а там окажется, что сахар надо есть ложками. Кто виноват? Ты, потому что не проверил.
Конвергенция результатов - AI выдает однообразные ответы, и мы начинаем думать, что мир — это черно-белый сериал, а не разноцветный блокбастер. Разнообразие идей? Забудьте свою критическую оценку.
Что предлагают делать исследователи?
Исследователи предлагают проектировать инструменты AI так, чтобы они стимулировали критическое мышление. Например, добавлять объяснения его рассуждений или подсказки, чтобы мы могли доработать результаты. Короче, пусть ИИ не просто выдает ответы, а еще и учит нас думать. Кстати, уже многие нейросети стали использовать функции "Deepthink".
Что предлагаю по этому поводу я?
1.Читать больше научной, исследовательской и технической литературы. Это как качалка для мозга — развивает фантазию и помогает быть "подвешанным на язык". Но на Хабр все пользователи и так много читают данной литературы, поэтому можно и пропустить этот пункт😅.
2. Не отдавайте творческие задачи AI. Если работа требует экспертизы, глубины или креатива — полностью делайте сами.
3. Проверяйте всё, что выдает ИИшка. Сверяйте с надежными источниками, будьте параноиками. Мозг любит тренировки, иначе он превратится в картошку фри.
Были времена, когда люди знали номера телефонов своих друзей наизусть. Сейчас максимум — свой собственный. И да, многие без Google Maps теперь могут заблудиться даже в собственной квартире. Но это не значит, что нужно полностью отключать мозг, поэтому нужно держать везде баланс. Пользуйтесь AI для увеличения качества работы в синергии с вашим мозгом, но не позволяйте ему стать единственным источником информации (ну или боссом).
Приглашаю в свой телеграм-канал "охота за технологиями". Здесь я пишу бизнес и технологии, которые завоевывают признание миллионов людей. Дополнительно делюсь эксклюзивными инсайдами и лайфхаками по теме ИИ. За статьи не платят, приходится рекламировать канал :-) А новость заставляет задуматься...