The Intelligence Age. Перевод эссе Сэма Альтмана

Главный по тарелочкам в OpenAI вчера опубликовал эссе, в котором разложил свой взгляд на будущее и ИИ в нем. Сэм немного переборщил с водой, но взгляд интересный. Enjoy!

В ближайшие несколько десятилетий мы сможем делать вещи, которые нашим бабушкам и дедушкам казались бы волшебством.

Этот не новый феномен, но скорость его развития возрастет. С течением времени люди стали значительно способнее; уже сейчас мы можем делать то, что наши предшественники считали невозможным.

Мы стали более способными не благодаря генетическим изменениям, а потому, что инфраструктура общества намного умнее и способнее каждого из нас; в каком-то смысле само общество - это форма развитого интеллекта. Наши бабушки и дедушки - и поколения, которые были до них, - создавали и добивались великих свершений. Они внесли свой вклад в развитие человеческого прогресса, которым мы все пользуемся. ИИ даст людям инструменты для решения сложных проблем и поможет нам добавить новые опоры к этим строительным лесам, которые мы не смогли бы придумать самостоятельно. История прогресса будет продолжаться, и наши дети смогут делать то, что мы не можем.

Это произойдет не сразу, но скоро мы сможем работать с искусственным интеллектом, который поможет нам достичь гораздо большего, чем мы могли бы достичь без него. В конечном итоге у каждого из нас будет личная команда искусственного интеллекта, состоящая из виртуальных экспертов в различных областях, которые будут работать вместе, чтобы создать практически все, что мы можем себе представить. У наших детей будут виртуальные репетиторы, которые смогут давать индивидуальные уроки по любому предмету, на любом языке и в том темпе, который им необходим. Мы можем представить себе аналогичные идеи для улучшения здравоохранения, возможность создания любого программного обеспечения, которое только можно себе представить, и многое другое.

Благодаря этим новым способностям мы сможем добиться всеобщего процветания в такой степени, которая сегодня кажется немыслимой; в будущем жизнь каждого человека может стать лучше, чем сейчас. Само по себе процветание не обязательно сделает людей счастливыми - есть множество несчастных богатых людей, - но оно значительно улучшит жизнь людей во всем мире.

Вот один из возможных вариантов узкого взгляда на историю человечества: после тысячелетий сложных научных открытий и технологического прогресса мы поняли, как расплавить песок, добавить в него примеси, с удивительной точностью разложить его в необычайно крошечных масштабах на компьютерные чипы, пропустить через них энергию и в итоге получить системы, способные создавать все более способные искусственные интеллекты.

Это может оказаться самым значимым фактом во всей истории на сегодняшний день. Возможно, мы получим сверхразум через несколько тысяч дней (!); возможно, это займет больше времени, но я уверен, что мы к этому придем.

Как мы оказались на пороге следующего скачка благосостояния?

В трех словах: глубокое обучение работает.

В 15 словах: глубокое обучение работает, становится предсказуемо лучше с ростом масштаба, и мы выделяем на него все больше ресурсов.

Вот и все: человечество открыло алгоритм, который действительно, по-настоящему может изучить любое распределение данных (или «правила», лежащие в основе любого распределения данных). Чем больше вычислений и данных, тем лучше он помогает людям решать сложные проблемы. Сколько бы времени я ни тратил на размышления об этом, я никогда не мог осознать, насколько это важно.

Нам еще предстоит выяснить множество деталей, но отвлекаться на какую-то конкретную задачу - это ошибка. Глубокое обучение работает, и мы решим оставшиеся проблемы. Можно много говорить о том, что может произойти дальше, но главное - ИИ будет становиться лучше с ростом масштабов, и это приведет к значимому улучшению жизни людей по всему миру.

Модели ИИ вскоре станут автономными персональными помощниками, которые будут выполнять определенные задачи от нашего имени, например координировать медицинское обслуживание от вашего имени. В какой-то момент системы ИИ станут настолько хороши, что помогут нам создать более совершенные системы следующего поколения и добиться научного прогресса во всем мире.

Технологии привели нас из каменного века в сельскохозяйственный, а затем в промышленный. Отсюда путь к эпохе интеллекта проложен с помощью вычислений, энергии и человеческой воли.

Если мы хотим, чтобы ИИ оказался в руках как можно большего числа людей, нам нужно снизить стоимость вычислений и сделать их доступными (что требует много энергии и чипов). Если мы не создадим достаточной инфраструктуры, ИИ станет очень ограниченным ресурсом, за который будут вестись войны и который станет в основном инструментом богатых людей.

Мы должны действовать мудро, но убежденно. Наступление эры интеллекта - это судьбоносное событие с очень сложными и чрезвычайно высокими ставками. Это не будет полностью позитивная история, но положительные стороны настолько огромны, что мы обязаны понять, как справиться с рисками, стоящими перед нами, для себя и для будущего.

Я считаю, что будущее будет настолько ярким, что никто не сможет сделать его справедливым, пытаясь написать о нем сейчас; определяющей характеристикой Эпохи интеллекта станет массовое процветание.

Хотя это будет происходить постепенно, потрясающие успехи - улучшение климата, создание космической колонии и открытие всей физики - в конце концов станут обыденностью. С почти безграничным интеллектом и изобилием энергии - способностью генерировать великие идеи и воплощать их в жизнь - мы сможем сделать очень многое.

Как мы уже видели на примере других технологий, будут и отрицательные стороны, и нам нужно уже сейчас начать работать над тем, чтобы максимизировать преимущества ИИ и минимизировать его вред. Например, мы ожидаем, что в ближайшие годы эта технология может вызвать значительные изменения на рынках труда (как благоприятные, так и неблагоприятные), но большинство рабочих мест будут подвергаться изменениям медленнее, чем думает большинство людей, и я не опасаюсь, что у нас закончится время для работы (даже если сегодня они не похожи на «настоящую работу»). У людей есть врожденное желание творить и быть полезными друг другу, а ИИ позволит нам усилить наши собственные способности, как никогда раньше. Как общество, мы вернемся в расширяющийся мир и сможем снова сосредоточиться на играх с положительной суммой.

Многие из профессий, которыми мы занимаемся сегодня, показались бы людям пустяковой тратой времени несколько сотен лет назад, но никто не оглядывается на прошлое, жалея, что не стал фонарщиком. Если бы фонарщик мог видеть сегодняшний мир, он бы подумал, что окружающее его процветание просто немыслимо. И если бы мы могли перемотать время на сто лет вперед, окружающее нас процветание казалось бы таким же невообразимым.