Новый центр Калифорнийского технологического института раскрывает будущее генеративного ИИ

От прогноза погоды и диагностики заболеваний до чат-ботов и автомобилей с автопилотом — практически каждый день появляются новые способы применения искусственного интеллекта (ИИ). Совсем недавно широкая доступность инструментов, таких как ChatGPT и DALL-E, способных создавать контент в виде кода, текста, изображения, аудио или видео выдвинула генеративный ИИ в центр внимания.

По мере распространения подобных инструментов возникают все более сложные вопросы о том, как обеспечить ответственное использование генеративного ИИ. Чтобы исследовать социальные последствия применения данных технологий и то, как законодатели могут подходить к их регулированию, Центр науки, общества и государственной политики Калифорнийского технологического института Caltech (CSSPP) провел дискуссию между учеными, представителями отрасли и общественностью в кампусе Caltech. Центр CSSPP был создан в начале 2023 года, чтобы изучать взаимодействие между наукой и обществом, предоставлять платформу для обсуждения научной этики и помогать формировать государственную политику в сфере науки. Центр аффилирован с Институтом экономики и управления имени Рональда и Максин Линде.

«Мы уверены, что научные знания и технологические возможности являются необходимыми для любой осмысленной оценки влияния ИИ на общество», — сказал президент Caltech Томас Ф. Розенбаум, председатель президентской кафедры им. Соньи и Уильяма Дэвидов, профессор физики. «Это касается как положительных, так и отрицательных сторон: будь то спасающие жизни улучшения в скрининге здоровья, мощные инструменты для творчества и новые способы подхода к науке или опасные изменения на рынке труда, распространение ложной информации и новое орудие для ведения войны. Только благодаря тщательному анализу мы можем усилить положительные аспекты технологического развития и противостоять его потенциалу дегуманизации».

Мероприятие началось с вступительного слова Кевина Руза, технологического обозревателя журнала New York Times, известного своим пугающим разговором с чат-ботом Bing от Microsoft, о текущем состоянии генеративного ИИ.

В своем выступлении Руз напомнил аудитории о важности взаимной ответственности и обмена информацией: «Одним из преимуществ ИИ перед людьми является их сетевой разум: когда один узел в нейронной сети чему-то учится или устанавливает связь, он распространяет это на все остальные узлы в сети. Когда один беспилотный автомобиль в автопарке узнает о новом типе препятствия, он передает эту информацию обратно в систему», — сказал он. «Люди, по большей части, этого не делают. Мы изолируем информацию, накапливаем ее, держим ее при себе. И я думаю, если мы хотим реально конкурировать, процветать, добиваться успеха, сохранять свою самостоятельность и значимость в эту новую эру генеративного ИИ, нам действительно нужно действовать сообща». Находясь в кампусе, Руз также принял участие в сессии вопросов и ответов с группой студентов Калифорнийского технологического института из пятидесяти человек.

В последующей панельной дискуссии, которую модерировал профессор политологии и вычислительной социологии, содиректор CSSPP Р. Майкл Альварез, эксперты в области юриспруденции, компьютерных игр, технологий и научных исследований поделились своими мыслями о позитивном и негативном потенциале генеративного ИИ.

Оптимистичный прогноз фокусируется на способности ИИ продвигать науку и инженерию, например, позволяя прогнозировать геномные последовательности новых вариантов COVID-19 до того, как они появятся в природе, проектировать лучшее медицинское оборудование и смягчать изменение климата.

«Как собирать углекислый газ и как организовать его подземное хранение? Как рассчитать объем газа и спроектировать резервуары нужной вместительности? Это настолько сложные вычисления, к которыми наш человеческий разум даже не решается подступиться», — поделилась Анима Анандкумар, профессор вычислительной техники и математических наук Брена и соруководитель инициативы AI4Science в институте Caltech. «В таких случаях мы используем генеративный ИИ и прогрессируем гораздо быстрее. Появляется возможность делать новые открытия, новые изобретения».

Выступая с более скептической точки зрения, участники дискуссии выразили опасения по поводу интеллектуальной собственности и авторских прав, предвзятости и массовой дезинформации.

Кроме того, Карли Тейлор, специалист по данным и стратег по безопасности в Activision Publishing, отметила, что, когда технологии генеративного ИИ сочетаются с огромным количеством личных данных, которыми потребители делятся с алгоритмами социальных сетей, наша собственная предвзятость и склонность к подтверждению своей точки зрения становится инструментом для манипулирования. «Все мы можем быть обмануты», — говорит Тейлор. «У всех нас есть предвзятость подтверждения, и во многих случаях в социальных сетях мы годами каждый день говорим Facebook, Instagram и LinkedIn, во что мы верим при помощи наших поисковых запросов, круга общения и контента, который мы потребляем... Есть риск, что однажды это может быть использовано против нас».

Джастин Левитт, научный сотрудник кафедры Геральд Т. МакЛолин и профессор права в Школе права Лойолы, выразил свой пессимизм по поводу влияния ИИ на демократическое общество в США, включая способность быстро распространять дезинформацию о выборах. «Демократия базируется на различии во мнениях и наборе объединяющих фактов, а генеративный ИИ способен предоставить бесконечное количество фактов, которые разъединяют», — сказал он. «Это катастрофа для демократии».

Шон Комер, исследователь компании Activision, студии разработки Infinity Ward, увидел в недавней тревоге по поводу генеративного ИИ светлую сторону. «Возможно, это дает нам повод наконец уделить время такой проблеме в управлении информацией, как экономика внимания, из-за которой, как правило, происходит большая часть дезинформации», — сказал он. «Возможно, ИИ — это то самое «малое зло», которое заставит нас разобраться с более серьезными проблемами».

Важным моментом стало обсуждение роли исследовательских учреждений, таких как Калифорнийский технологический институт. Например, для предотвращения предвзятости в новых моделях ИИ необходимы критическое мышление и тщательное тестирование, чем известна академическая среда. Центр науки, технологий и государственной политики CSSPP будет продолжать стимулировать подобные дискуссии, приглашая политиков в кампус для лекций, дискуссионных панелей и семинаров. Также будут разработаны курсы бакалавриата и магистратуры, посвященные взаимодействию научной этики, политики и экспертизы в сфере искусственного интеллекта.

Sherpa Robotics – ведущий российский вендор программных решений для роботизации бизнес-процессов на предприятии с помощью программных роботов RPA и LLM.

Продуктовая линейка компании: Sherpa RPA, Sherpa Process Discovery, Sherpa AI Server.

Платформа Sherpa RPA — это экосистема, которая объединяет классических программных роботов и современные технологии искусственного интеллекта. С помощью платформы автоматизируются не только рутинные бизнес-процессы в самых разных областях, но и интеллектуальные задачи, которые до недавнего времени считались прерогативой человека.

Sherpa Process Discovery — инструмент на базе искусственного интеллекта для анализа и выявления бизнес-процессов для последующей роботизации.

Sherpa AI Server - платформа для работы с генеративными нейросетями в закрытом контуре компании.

Sherpa AI – это первая российская оффлайн платформа для использования нейросетей в корпоративной среде в закрытом контуре. Sherpa AI позволяет решать задачи с помощью искусственного интеллекта в компаниях, где политикой информационной безопасности и требованиями ФСТЭК запрещено использование облачных нейросетей.

Интеграция Sherpa RPA и Sherpa AI Server позволяет совмещать преимущества классической RPA автоматизации и технологий искусственного интеллекта при решении сложных бизнес-задач.

Решения экосистемы Sherpa RPA включены в реестр российского ПО.

https://sherparpa.ru/