«Нам придется решать этические проблемы, когда ИИ станет разумным»: Т-Банк, Яндекс и Сбер в интервью Private Talks

«Россия всегда была страной с суперсильными технологиями и талантливыми людьми, которые их создают. Вот интересный инсайт: если взглянуть на состав команд по искусственному интеллекту в крупных международных компаниях, там очень много российских фамилий. Искусственный интеллект — это во многом российская дисциплина, известная по всему миру».

«Я верю, что в какой-то момент искусственный интеллект начнет решать задачи и в целом будет умнее человека. На самом деле это уже происходит. Например, ChatGPT справляется с задачами лучше, чем средний человек на планете. Мы просто не осознаем, что этот момент уже наступил. Другое дело, что до создания AGI еще далеко: нужно придумать мотивацию, построить модели мира. Но однажды появятся ИИ-решения, которые будут сравнимы с человеком или превосходить его. Тогда нам придется сосуществовать с ними и решать этические проблемы, связанные с тем, что технология на базе искусственного интеллекта выйдет и скажет: „Я разумная“».

«Роботы действительно заменяют людей, но только в простых сценариях и довольно медленно. Когда задачи становятся сложными, робот, условно говоря, „складывает лапки“ и подключается человек. Это касается всех профессий, не только контакт-центров. Роботы не столько заменяют людей, сколько помогают им. Искусственный интеллект — просто инструмент, как дрель для рабочего. Ему дали более мощную дрель, и он радуется, ведь теперь может делать больше, зарабатывать больше. Точно так же технологии ИИ помогают человеку быть эффективнее, а не заменяют его».

«У нас есть блок копилотов и эффективности, где с помощью технологий мы повышаем эффективность труда профессионалов, которые работают у нас. Самый заметный эффект наблюдается у сотрудников поддержки, продаж и других линейных функций. Основная метрика, которую мы используем, — это проценты повышения их производительности».

«Сейчас есть тренд на небольшие модели, которые на самом деле работают быстрее, эффективнее решают свои задачи, и разрабатывать их можно на меньшем объеме железа. Вот этот тренд не только у нас, это тренд мировой».

«Вопрос в уровне доверия к решению, которое выносит искусственный интеллект. И искусственный интеллект — это вообще вся область машинного обучения, это область, основанная на вероятностях. Это буквально означает, что она ошибается. Всегда есть вероятность ошибки. Очень сложно сделать настолько хорошо работающую модель, то есть с настолько низкой вероятностью ошибки, чтобы заменить людей в каких-то задачах».

«По внедрению существующих, работающих продуктов Россия находится чуть ли не на третьем месте после США и Китая. Если говорить в целом, измерять это непросто, но я уверен, что Россия входит в первую десятку, а дальше всё зависит от критериев оценки».

«Сейчас появляется абсолютно новая профессия — AI-тренеры, люди, которые обучают и тренируют искусственный интеллект. Например, если мы говорим о генеративных текстовых сетях, они учатся на текстах. Сначала идет стадия предобучения, когда искусственный интеллект учится воспроизводить тексты из интернета, угадывая следующее слово. Но описывать тексты, представленные в интернете, оказывается зачастую бесполезно: там много мусорных текстов и мало содержательных диалогов, где человек получает новое знание. На этом этапе вступают AI-тренеры. Они создают идеальные примеры для искусственного интеллекта: идеальные диалоги или вопросы-ответы, на которых ИИ дообучается. Благодаря этому он становится не просто умным, но и полезным, начиная отвечать разумно. Это действительно новая и уникальная специальность».

«Нейронные сети — это повод задуматься о критическом мышлении, потому что человек иногда начинает избыточно доверять: раз это искусственный интеллект, значит, всё, что он говорит, — истина. Но это не так. ИИ учится на человеческих данных и впитывает не только наши знания, но и ошибки и заблуждения. Нейросеть иногда делает ошибки, которые нам очевидны. Здесь важна комбинация: наше критическое мышление и понимание окружающего мира в сочетании с энциклопедическими знаниями модели. Если использовать нейросеть правильно и проверять ее выводы, результат будет лучшим».

«Патентный портфель должен быть какого-то размера, но не обязательно огромным, чтобы мериться, у кого больше. Есть исключения: для небольших молодых компаний размер патентного портфеля может влиять на инвестиционную стоимость. На Западе университеты часто зарабатывают на патентах, создавая что-то новое и передавая права компаниям или получая отчисления. В больших компаниях патенты не являются источником заработка. Патентование — это отдельный процесс, требующий времени, денег и навыков. Нужно иметь специальную команду, чтобы заниматься этим. Поэтому далеко не все изобретения или открытия патентуются, и я бы не стал измерять успехи в развитии технологий только патентами».

«Мы долго говорим про мультимодальность, но сейчас важный этап: мультимодальные модели начинают справляться с задачами во всех модальностях лучше, чем немультимодальные. Раньше, добавляя новую модальность, например анализ картинок, модель начинала понимать изображение, но в текстовых задачах становилась хуже. Теперь мы видим обратный эффект: мультимодальные модели во всех задачах превосходят немультимодальные. Это важнейший шаг».

«Классические индустрии, такие как нефтегаз, металлургия и нефтехимия, активно используют искусственный интеллект. В нефтегазе алгоритмы ИИ помогают анализировать геологические данные и разрабатывать месторождения. В металлургии и нефтехимии ИИ применяется для синтеза полимеров и производства новых химических соединений. Эти технологии всё чаще интегрируются в производственные процессы, трансформируя традиционные отрасли».

«Искусственный интеллект способен выдвигать гипотезы, анализировать их, сомневаться и перепроверять себя, что в итоге повышает качество решений, особенно в сложных задачах. Не всегда интуитивный ответ оказывается верным, и последовательное размышление дает лучшие результаты. Это открывает потрясающие возможности для науки. Наш приоритет — дать ученым прикладные инструменты для работы с моделями: анализировать данные, формулировать гипотезы, проверять их. Всё это создает огромный потенциал для научных открытий и становится важной инновацией в исследовательской работе».

«Экономического ресурса не хватит, потому что нужны критические технологии и деньги. Для страны с 2% мирового ВВП сосредоточить такие ресурсы крайне сложно, особенно в конкуренции с державами, у которых 20—24% мирового ВВП. Они в 10 раз и более экономически мощнее нас. Поэтому основной трудностью остается доступ к технологиям, а наш путь конкуренции — это путь асимметричных решений».

«На нынешней фазе генеративного ИИ обрушения рынка труда, которого опасались, не будет. Однако переворот на рынке труда и возникновение рынка работника — это тоже результат цифровых технологий и исследовательских идей. Мы ожидали, что люди потеряют работу, но всё наоборот: на этой фазе люди стали дефицитным ресурсом».

«Искусственный интеллект не доберется до свойства эмпатии, потому что эмпатия, вообще-то, продукт эволюции. ИИ не является продуктом эволюции, вообще не является эволюционным явлением».