С какой угрозой возможного использования ИИ в Космосе мы столкнемся через несколько лет

Всем привет! Поговорим про Космос и Искусственный Интеллект.

Сразу несколько новостей США прошло без особого внимания. Но именно на них предлагаю сегодня акцентироваться, поскольку они наталкивают на весьма интересные выводы:

1. НАТО разрабатывает проект HEIST для защиты интернет-трафика от угроз

В начале февраля 2024 года ракета, выпущенная хуситами в Йемене, поразила грузовое судно Rubymar в Красном море. Повреждённое судно несколько недель продолжало тонуть, протащив за собой якорь на 70 км. Он оборвал 3 подводных интернет-кабеля, которые обеспечивали примерно четверть интернет-трафика между Европой и Азией. Для восстановления потребовались месяцы. В ответ на инцидент НАТО начала тестировать систему для перенаправления трафика через околоземное пространство с использованием космических спутников в рамках проекта HEIST.

2. NASA доверило частным компаниям связь в радиусе 2 млн км от Земли

NASA выбрало четыре компании — Intuitive Machines, KSAT, SSC Space U.S. и Viasat — для предоставления услуг связи на околоземной орбите и Луне. Эти контракты, общей стоимостью до $4,82 млрд, вступят в силу с 2025 года и направлены на укрепление сети ближнего космоса, которая обеспечивает связь с космическими аппаратами на расстоянии до 2 млн км от Земли. Решение NASA знаменует переход к более широкому использованию коммерческих решений вместо устаревающей системы TDRS.

3. Крупнейшая в мире нейроферма xAI Илона Маска решила проблему нехватки энергии для суперкомпьютера Colossus

Американская корпорация Tennessee Valley Authority (TVA) предоставит необходимую инфраструктуру и 150 МВт мощности для суперкомпьютера Colossus компании xAI Илона Маска. Это позволит машине заработать в полную силу и запустить все установленные 100 000 графических карт, больше половины которых простаивали из-за нехватки энергии. На решение этой проблемы у Маска ушло полгода.

4. Большие Языковым Модели (БЯМ) Искусственного Интеллекта превращают вредоносный код в невидимый для антивирусов

Исследователи из Palo Alto Networks Unit 42 показали, что большие языковые модели способны генерировать тысячи вариантов вредоносного JavaScript-кода, усложняя его обнаружение антивирусами. ИИ использует такие методы, как переименование переменных, фрагментация строк, вставка избыточного кода и полная переработка структуры, что делает вредоносный код менее подозрительным. В ходе эксперимента было создано более 10 000 модификаций, которые обходили системы защиты в 88% случаев. Это указывает на новые риски в сфере кибербезопасности.

5. Заявление Илона Маска: «Мы исчерпали почти все данные для обучения ИИ»

Илон Маск вслед за другими экспертами заявил, что объем доступных данных для обучения ИИ практически исчерпан. Миллиардер подчеркнул необходимость перехода к использованию синтетических данных, которые уже применяют Microsoft и Google. Другими словами мы стоим на пороге создания «думающего» ИИ, который готов на основе всех данных строить новые выводы (прогнозы), опираясь на которые принимать дальнейшие решения.

Все это наталкивает на следующие выводы:

1. Связь должна перейти на полностью контролируемые космические Спутники Связи.

2. Такую связь легко прослушивать и изменять с помощью самого мощного ИИ (от космического миллиардера Илона Маска - xAI)

3. xAI уже скоро будет способен строить прогнозы развития любых ситуаций

4. Особенно хочется подчеркнуть разрешенный диапазон связи 2 млн. км, который говорит о том, что коммерческая связь будет предоставляться даже на Луне (кому и зачем ???). Сомневаюсь, что все это будет строиться только для "космического туризма". Хотя если туристами называть роботов-андроидов, которые будут что-то там строить (и не только строить) под управлением того же ИИ, то многое встает на свои места (писал об этом ТУТ).

И пара мыслей про возможное будущее развитие (верю/не верю):
У каждого из нас есть "цифровой след" - это все данные, фото, видео, геолокации, где, с кем, когда, что и как мы делали/обсуждали.
Если ОНО построит прогноз по Вам и решит, что Вы "плохой", то можно оказаться в ловушке:

1. Например, Вы решили кому-то позвонить. Звонок с телефона пройдет через Спутник. ИИ может видоизменить суть речи и произнести ее Вашим голосом, причем другой человек даже не заметит этого...

2. Или Вы решили зайти в какое-то приложение или в свой электронный кошелек. ИИ может взломать средства криптозащиты и получить прямой доступ к вашим данным и денежным средствам.

Ну а дальше – включайте фантазию (которая на самом деле вовсе не будет фантазией). Вспоминаем фильмы «Время», «Притяжение», «Особое мнение» и т.д.
Если только Россия не сделает что-то свое (а она это обязательно сделает). И первые шаги, хоть и скромные, уже есть.

Будущее где-то рядом…