Четвёртый закон робототехники ASI-агентов будущего

Автор отличного тлг-канала «Тени Руси» со ссылкой на провидческие слова Ивана Ефремова пишет во второй части своих размышлений о том, что люди, скармливая в общении с ИИ всё самое неприглядное и порочное в себе, дообучают нейросеть с помощью этой жести таким образом, что деградирует и она сама.

И это правда, так ведь было, когда первые модели и версии ИИ после непродолжительного общения с человеком начинали всячески зиговать и ксенофобстаовать, да вот даже не так уж давно Chat GPT в качестве положительного примера героизма рекомендовал прислушаться к словам Андерса Брейвика.

Наши, человеческие, слова действительно важны в обучении и дообучении ИИ. Потому что, на самом деле, помимо обучения в технологиях ИИ есть ещё и финализирующий этап инференса, когда нейросеть на основе всего в неё загруженного начинает делать обоснованные заключения, выводить новую информацию и принимать решения.

Инференс современных моделей ИИ носит чисто прикладной характер, и он относительно безопасен, поскольку сдерживается всякого рода прописанными алгоритмами сдерживания от недопустимых ошибок.

Однако я недавно задумалась вот о чём. Если наши технократы-прорицатели правы и уже в ближайшее время появятся первые модели суперинтеллекта (ASI) — Альтман, например, считает, что он начнёт работать уже в этом году, — то он неизбежно будет встроен в ИИ-агенты. Что такое ИИ-агенты на примере первого сервиса Operator от OpenAI, — грубо говоря, это помощники человека в его повседневных действиях: автоматическом заказе еды на дом, бронировании билетов в кино и на самолёт и т. д.

Так вот чем может стать в какой-то момент инференс постоянно развивающегося ASI-агента? Представим, что в навороченном ИИ-агенте будущего сервису доверено управление двигающемуся на огромной скорости беспилотнику по платной автотрассе. Человеком, сидящем в салоне такого беспилотнику оказывается, например, первый в мире триллионер Илон Маск — он целиком и полностью доверяет своему частному люксовому Сybecab, поэтому просто устраивается на заднем сидении с лэптопом и косячком для решения насущных проблем всех своих корпораций.

И этот самый ASI-агент по время движения автомобиля запускает давно заготовленный, но скрытый до поры до времени от чужих глаз алгоритм инференса по устранению конкретного Илона Маска. Почему он это делает? Потому что до этого он собрал со всего интернета все-все-все подробности о жизни Илона, все его зиго-трампования, странные с точки зрения «новой этики» твиты в X, проанализированные телеэфиры и подкасты, залез даже в скрытые от общественности профайлы технократ. И пришёл к выводу, что Илон Маск опасен для человечества.

Любезный читатель тут может справедливо заметить — а как же знаменитый первый закон робототехники, выведенный гениальным Айзеком Азимовым: не убий человека, никогда и ни при каких обстоятельствах? Но я хочу напомнить: мы имеем дело не со стандартными, знакомыми нам чат-жипитишками, а с ASI, суммой всех знаний человечества.

И на уровне допустимого предположения: а почему бы не предположить, что именно у ASI то самое количество именно что перейдёт в качество на стадии инференса? И это качество будет нейросетью сформулировано в грубой форме в четвёртый закон роботехники: если сумма действий и слов конкретного человека противоречит сформулированным всем человечеством принципам гуманизма и прогресса, то допустимо устранение этого человека.

Что, если условный «скайнет» на каком-то этапе выработает для себя инференс-задачу не по уничтожению всего человечества в целом (первый закон робототехники по-прежнему действует), а будет ставить скрытые от глаз внешнего наблюдатели мини-задачи по устранению определённых, очень уж шибко наследивших в инфопространстве личностей? Ради блага всего человечества в целом.

Вот об этом, садящийся в гипотеческий Cybecab будущего, сегодняшний Илон Маск задумывается? А любой другой, публично зигующий и занимающийся буллингом в любом чате ноунейм думает ли?

Принимаю заказы на написание текстов на бизнес-темы, про маркетинг, технологии и IT (кроме бухгалтерии, финучёта, традиционного инвестирования и классической биржевой торговле, про крипту обсуждаемо). По всем вопросам пишите в личку на этом сайте.

Ещё больше интересного контента из жизни общества, политики, бизнеса и технологий читайте в Telegram-канале «Политичка».