Сэм Альтман: "AGI неизбежен, но что это будет — благо или катастрофа — зависит от нас": самое большое интервью основателя OpenAI

DISCLAIMER: Это полный перевод самого большого интервью, которое когда-либо давал Сэм Альтман. Интервью вышло на Stratechery 20 марта 2025 года. Материал переведен целиком для телеграм-канала "Нейронутые" — подписывайтесь, чтобы не пропустить самые актуальные новости и глубокую аналитику из мира ИИ. МЕТА, упоминаемая в интервью, признана экстремистской организацией и запрещена в РФ.

— Вы уже были на Stratechery однажды, но это было совместное интервью с Кевином Скоттом, и, кажется, вы были в машине.

— Так и было. Точно.

— Да, у меня не было возможности задать мой обычный вопрос для тех, кто впервые дает интервью, а именно о прошлом. Где вы выросли? Как вы начали заниматься технологиями? Расскажите мне историю происхождения Сэма Альтмана.

— Я вырос в Сент-Луисе. Родился-то я в Чикаго, но моя настоящая родина — Сент-Луис. Жил в тихом пригороде, где старые улицы утопали в зелени. И, конечно, был помешан на компьютерах. Помню, в начальной школе появились компьютеры, и я решил, что это просто нечто невероятное. Проводил там всё свободное время. Это были золотые годы вычислительной техники! Делай на компьютере что хочешь, учись программировать — проще простого! Это было безумно весело и захватывающе. Потом родители купили нам компьютер домой... Я всегда был тем еще ботаником, помешанным на науке, математике, компьютерах, научной фантастике — на всем этом сразу.

— Итак, совсем скоро вы уже в Стэнфорде, и в 19 лет запустили Loopt. Справедливо будет назвать это провалом стартапа, да? Семь лет — это, конечно, неплохо... Но как этот опыт привёл вас в Y Combinator, да ещё и к управлению им в рекордно короткие сроки?

Мы были одними из первых, кого проинвестировал Y Combinator, ещё в самой первой когорте. Я был невероятно благодарен и просто восхищался этим. Это было потрясающее сообщество людей. Я и сейчас считаю, что влияние YC на технологическую индустрию сильно недооценивают, даже если все твердят об обратном. Для меня это было невероятно важно, для индустрии в целом. Я хотел помочь. Поэтому, пока я занимался своим стартапом, я просто постоянно тусовался вокруг YC.

— То есть, в каком-то смысле, это были семь лет подготовки к работе в YC? Возможно, вы тогда этого не осознавали?

— В каком-то смысле, да. Не намеренно, конечно. Просто многие мои друзья были в YC, наш офис был совсем рядом, поэтому я часто бывал там, общался с PG [Полом Грэмом] и Джессикой [Ливингстон]. И когда нашу компанию всё-таки приобрели, PG предложил: "А может, тебе стоит заглянуть в YC в следующий раз?"

Правда, сначала я совсем этого не хотел. Я не собирался становиться инвестором — был немного разочарован тем, как сложилась судьба стартапа, хотел построить действительно крутую компанию. Инвестором себя не считал, даже гордился тем, что им не был. Я немного инвестировал, но мне казалось, что это не то, на чем я хочу сосредоточиться. Был рад заниматься этим как хобби. Было интересно, но, не то чтобы я не уважал инвесторов… Просто себя в этой роли не уважал.

— Было ли ощущение, что PG одновременно и инвестор, и основатель? Ведь он создал YC, а потом и возглавил его. Это, конечно, очень крутая позиция... Но вы при этом оставались как бы "не у дел", не основателем?

— Меня, честно говоря, не сильно заботила роль основателя. Мне просто нужна была операционная работа. И то, что он мне сказал, в конечном итоге убедило — оказалось убедительным — это: "Управление YC ближе к управлению компанией, чем к работе инвестором". И знаете, это оказалось правдой.

— Я к этому еще вернусь. Но сейчас хочу вот о чём спросить. Кажется, в 2014 году вы возглавили YC, и где-то в 2015 году у вас был знаменитый ужин с Илоном Маском в Rosewood, посвященный ИИ. Что послужило поводом для этого? Что тогда витало в воздухе? Это как-то случайно возникло или было запланировано заранее?

— Случайно возник ИИ?

— Да, был ли ужин в стиле: "Давайте соберемся и поговорим об ИИ"?

— Да, это был самый настоящий ужин, посвященный именно ИИ. Знаете, один-единственный ужин, по какой-то причине, этот конкретный момент вдруг мифологизируется, становится легендой. Хотя в тот год было много подобных встреч, особенно летом, и, конечно, с Илоном. Но этот ужин запомнился тем, что там было много людей, и, наверное, поэтому история так и зацепила. Да, цель была совершенно определенная — поговорить об ИИ.

— С годами OpenAI приписывали множество целей и мотивов. Безопасность, благо человечества, некоммерческая деятельность, открытость... Очевидно, что отношение OpenAI к некоторым из этих аспектов со временем изменилось. Но, оглядываясь назад, и учитывая даже первые минуты нашей беседы, я вижу невероятно амбициозного молодого человека, который целенаправленно ставит себя в позицию, позволяющую создать по-настоящему преобразующую технологию. И делает это, даже жертвуя одной из самых желанных должностей в Кремниевой долине! Ведь прошло всего лишь год, как вы возглавили YC Combinator. Что двигало вами, когда вы создавали OpenAI? В чем была личная причина Сэма Альтмана?

— Я верил тогда и верю сейчас: если мы поймем, как создать AGI (Artificial General Intelligence — общий искусственный интеллект), и как сделать его силой, несущей благо миру, то это будет одним из самых захватывающих, интересных, значимых и позитивных дел, которое вообще кто-либо когда-либо мог совершить.

— Почесать все те зудящие места, до которых раньше не дотягивался?

— Да. Но это... знаете, сложно объяснить. Всё сложилось даже лучше, чем я мог мечтать. Это было самое интересное и невероятное, над чем я когда-либо работал.

— Вы сразу ощутили это напряжение: "О, я просто буду заниматься этим в свободное время"? В какой момент OpenAI стала главным делом, а YC отошел на второй план?

— Одна из вещей, которая меня привлекала в YC, заключалась в том, что в то время YC был невероятно мощным инструментом. Мы могли использовать его, чтобы подтолкнуть больше людей к созданию компаний, занимающихся передовыми технологиями, и финансировать больше исследований. Мне это всегда было интересно. Это стало моей первой большой задачей в YC: "Мы начнем финансировать традиционные компании, занимающиеся сложными технологиями, и постараемся помочь запустить другие перспективные технологические проекты". Мы начали финансировать разработку сверхзвуковых самолетов, биотехнологические компании, и многое другое. И, конечно, я хотел найти проекты, связанные с AGI, чтобы их профинансировать.

Тогда таких проектов было всего один или два, мы с ними общались. А потом появился серьезный игрок — DeepMind. Меня всегда очень интересовал искусственный интеллект. Еще будучи студентом, я работал в лаборатории ИИ. Тогда ничего не работало, но мне все равно казалось это невероятно крутым. Конечно, структура и планы OpenAI имели свои плюсы и минусы, но главная миссия — мы хотим создать полезный AGI и сделать его широко доступным — осталась неизменной. И я до сих пор считаю, что это невероятно важная задача.

Казалось, что YC просто обязан это поддержать. Мы уже думали о том, чтобы финансировать больше исследовательских проектов. И знаете, что, как мне кажется, совершенно забылось со временем — насколько OpenAI была исследовательской лабораторией, когда мы только начинали. У нас не было никакой идеи, даже наброска.

— Трансформеров тогда еще даже в проекте не было?

— И в помине! Мы тогда занимались такими системами, как RL [Reinforcement learning — обучение с подкреплением] агенты для игр.

— Да, помню эти игры. Это был ваш первый "выход в свет".

— И у нас не было ни бизнес-модели, ни даже её подобия. На тот момент мы ещё не осознавали, насколько дорогими окажутся компьютеры. Поэтому мы и думали, что сможем остаться просто исследовательской лабораторией. Но в те первые годы было четкое ощущение, что мы — академическая лаборатория, затерянная в пустыне и пытающаяся понять, что делать дальше. Нам приходилось решать все возникающие проблемы, не только научные, но и организационные: "Какой должна быть наша структура?", "Как мы будем зарабатывать деньги?", "Сколько денег нам нужно?", "Где взять вычислительные мощности?". Нам действительно пришлось пройти через многое.

— Почти такое чувство, будто вы бросили колледж, чтобы основать Loopt, а потом подумали: "Знаете что? Тусовка в колледже – это здорово, поэтому я буду тусоваться в YC", а потом — Получается, вы бросили колледж, чтобы основать Loopt, а потом подумали: "Знаете что? В колледже было классно, так что я буду тусоваться в YC". А OpenAI — это уже что-то вроде: "А знаете, что еще здорово? Заниматься академическими исследованиями и совершать крутые открытия!" Как будто вы воссоздали колледж заново, потому что в свое время его пропустили.

— Мне кажется, я случайно наткнулся на что-то гораздо более крутое. На самом деле, мне нравилось учиться в колледже. Я не из тех, кто яростно критикует высшее образование. Хотя, возможно, сейчас я стал более радикальным в этом отношении... Но, мне кажется, 20 лет назад все было иначе. Скорее, у меня было ощущение: "Вау, сообщество YC — это именно то, каким я всегда представлял себе идеальное академическое сообщество". Так что я точно не пытался что-то воссоздать. Это скорее было похоже на: "О, я нашел что-то еще лучше!"

В любом случае, OpenAI меня захватывала все больше и больше. Сначала это был один из шести исследовательских проектов YC, одна из сотен компаний, на которые я тратил время. А потом… всё пошло по нарастающей, и я просто помешался на этом.

— Кривая вашего времени, можно сказать, предопределила кривую развития всей организации.

— Да.

— Пожалуй, самым важным годом для OpenAI… хотя, уверен, таких лет еще будет много… С точки зрения бизнес-стратегии, моей интернет-ниши, был 2019 год. Вы выпустили GPT-2, не стали сразу открывать исходный код модели, создали коммерческую структуру, привлекли инвестиции от Microsoft. В каком-то смысле, это противоречило первоначальному видению OpenAI. Но, честно говоря, мне сложно, потому что я общаюсь с вами, а не с OpenAI в целом, увидеть, как это могло быть несовместимо с вашим видением. Скорее, это были необходимые шаги на пути к чему-то невероятному. Справедливо ли так считать?

— Прежде всего, я думаю, что это разные вещи. Что касается выпуска GPT-2, то были люди, которые искренне опасались… что модель, скорее всего, совершенно безопасна, но мы не знали, что получится в итоге… У нас было что-то новое и мощное, и мы хотели, чтобы общество осознало это вместе с нами.

Оглядываясь назад, я искренне сожалею о некоторых формулировках, которые мы тогда использовали. И я понимаю, почему люди говорят: "Да это был просто хайп, разжигание страха и все такое!". Но поверьте, у нас не было таких намерений. Люди, которые принимали тогда решения, руководствовались, я думаю, самыми лучшими побуждениями. Но сейчас я вижу, как это могло быть истолковано неправильно.

Что касается привлечения инвестиций — да, мы поняли, что нам нужно масштабироваться, что мы определили законы масштабирования, и нам нужна структура, которая позволит нам это сделать. Интересно ваше мнение, как у бизнес-стратега: как у нас дела?

— Хорошо, мы еще поговорим об этом, у меня есть несколько вопросов по контексту. Но еще один вопрос по поводу некоммерческой организации. Вы говорите о мифе... Миф о том, что OpenAI создавалась из исключительно альтруистических побуждений, а также для того, чтобы переманивать талантливых сотрудников из Google. Это все?

— Зачем вообще было создавать некоммерческую организацию?

— Да, зачем OpenAI изначально была зарегистрирована как некоммерческая организация со всеми вытекающими отсюда проблемами?

— Потому что мы думали, что будем просто исследовательской лабораторией. У нас буквально не было ни малейшего представления, что мы когда-нибудь станем компанией. Планировали выпускать научные статьи и отчеты. У нас не было ни продукта, ни плана продукта, ни доходов, ни бизнес-модели — ничего. Знаете, в жизни мне всегда помогало одно: просто пробираться на ощупь в темноте, пока не найдешь свет. И мы очень долго шли на ощупь, прежде чем нашли то, что действительно сработало.

— Но разве сейчас это не тянет компанию назад, словно гиря на ноге? Если бы у вас была возможность вернуться в прошлое, вы бы поступили иначе?

— Да. Зная то, что я знаю сейчас, конечно, поступил бы иначе. Безусловно, мы бы все организовали по-другому. Но мы не знали тогда того, что знаем сейчас. И я думаю, что цена, которую платишь за пребывание на острие инноваций, — это множество глупых ошибок. Потому что ты находишься в самом эпицентре "тумана войны".

— Расскажите историю ChatGPT. Чья это была идея? Какими были первые дни и недели? И насколько я понимаю, для вас это стало полной неожиданностью? Это правда?

— Это был настоящий шок! Послушайте, мы, конечно, предполагали, что продукты на базе ИИ рано или поздно станут невероятно популярными. Чтобы было понятно, мы запустили GPT-3 через API. К тому моменту мы уже понимали, что нам нужно становиться полноценной компанией и предлагать собственные продукты. С GPT-3 дела шли неплохо. Не отлично, но и не плохо. Модель показала хороший product-market fit в одной конкретной нише. Сейчас это может показаться смешным, но ею был копирайтинг. Это было единственное направление, где люди смогли построить реальный бизнес, используя API GPT-3.

Затем, с версиями 3.5 и 4, GPT-3 стали использовать для гораздо большего количества задач. Но это было потом, в "темные времена". А до этого ее использовали в основном разработчики. У нас есть такая штука — The Playground, где можно тестировать модель. И разработчики пытались с ней общаться, и им это просто нравилось. Они использовали ее для самых разных целей, и мы подумали: "В этом что-то есть. Может быть, мы сможем сделать что-то гораздо круче". У нас были какие-то туманные планы на будущее, но в целом мы понимали, что хотим построить… Мы давно думали о чат-боте. Еще до появления API мы говорили о чат-боте как о чем-то, что стоило бы сделать. Просто считали, что существующая модель еще недостаточно хороша.

В общем, спрос был очевиден. К тому же, мы стали лучше разбираться в RLHF, и решили, что сможем настроить модель так, чтобы она стала еще лучше. И тогда у нас появилась секретное оружие — GPT-4. GPT-4 была действительно крутой. В мире, где все привыкли к GPT-3, ну, или, возможно, 3.5 уже вышла… не помню… а, думаю, к моменту запуска ChatGPT уже вышла 3.5, но еще не 4. Так вот, мы подумали: "Это будет что-то невероятное!".

Мы решили, что хотим создать чат-продукт. Мы закончили обучать GPT-4, кажется, в августе того года. И мы знали, что держим в руках нечто особенное. Первоначальный план состоял в том, чтобы запустить ChatGPT… то есть, запустить чат-бот на базе GPT-4. Но мы настолько привыкли к GPT-4, что уже не считали 3.5 чем-то выдающимся. И были серьезные опасения, что если мы выпустим продукт на базе 3.5, он никого не заинтересует и не впечатлит.

Но некоторые, и я в том числе, стали думать: "Если мы выпустим GPT-4 и чат-интерфейс одновременно, это будет… что-то вроде прохождения теста Тьюринга". Не в прямом смысле, конечно, но эффект будет примерно таким. Так что давайте разделим это на две части. Сначала запустим исследовательский прототип чат-интерфейса и настроенной под него модели 3.5. Некоторые поддержали эту идею, но большинство были против. Многие считали, что из этого ничего не выйдет.

В итоге я просто сказал: "Давайте сделаем это!". К тому моменту мы планировали запустить GPT-4 в январе. Поэтому решили: "Если мы это делаем, нужно успеть до праздников". И дали задание команде. Мы решили это сделать, кажется, вскоре после Дня благодарения.

— Да, это было в конце ноября. Не помню точно, до или после, но примерно тогда.

— Кажется, после. Я был в отпуске, или что-то в этом роде. Вернулся, а они говорят: "Мы готовы к запуску, завтра, или даже сегодня! И мы собираемся назвать это Chat с GPT 3.5". Я сказал: "Ни в коем случае!". Мы очень быстро решили назвать это просто "ChatGPT" и запустили чуть ли не в тот же день. Многие думали, что это будет полный провал. Я считал, что все будет хорошо. Но никто, конечно, не ожидал, что все получится настолько круто. Это было просто какое-то безумие! Потрясающе.

— Кстати, то, что вы запустили 3.5 вместо 4, помогло вам масштабироваться, так как ее было дешевле обслуживать?

— Да, но, возможно, не совсем так, как вы думаете. Это действительно помогло с масштабированием. Поддерживать работу систем и инфраструктуры было уже безумием. Запуск и так получился невероятно вирусным. А если бы мы сразу запустили ChatGPT на базе 4, это был бы просто мега-вирусный эффект! Одним из самых сумасшедших периодов в моей жизни были эти шесть месяцев, когда мы из, по сути, несуществующей компании превратились в огромную корпорацию. Нам нужно было построить всю инфраструктуру, нанять людей, обеспечить обслуживание… Это было какое-то безумие. И тот факт, что спрос был немного меньше, так как модель была хуже, чем 4, в итоге сыграл нам на руку.

— Но не навредило ли это вам в долгосрочной перспективе? Ведь кто-то попробовал ChatGPT тогда и так и не обновил свое мнение. Ведь если потом попробовать DeepSeek, то ощущения будут совсем другие: "Вау, это намного круче!" Хотя, конечно: "Ну да, ведь вы не видели промежуточные версии".

— Не думаю, что это нам сильно навредило. У нас сейчас все довольно неплохо, прямо скажем.

— Да, у вас все отлично.

— Да, но вы затронули важную тему. Если вспомнить, насколько "сырой" была та первая модель… Она едва могла связно изъясняться! А теперь у нас есть инструменты, которые заменяют Google для многих пользователей. Умные, пишут код… Невероятный прогресс за два года и четыре месяца.

— Кстати, первое интервью с вами и Кевином Скоттом, о котором я упоминал в начале, было приурочено к запуску New Bing, буквально через пару месяцев. Кажется, тогда впервые представили GPT-4.

— Да, все верно.

— Вы тогда были очень воодушевлены. Даже позволили себе несколько колкостей в адрес "поискового гиганта", которому явно не стоило радоваться. Знали ли вы тогда, что главным "разрушителем" Google, скорее всего, окажетесь вы сами, а не Microsoft?

— Надежда на это у меня, конечно, была.

— В OpenAI, мягко говоря, происходило немало "драмы", что, возможно, повлияло на ваши отношения с Microsoft. О которых вы, как я знаю, всегда отзываетесь хорошо, поэтому я не буду давить. Но, возможно, в 2019 году, заключая партнерство, вы даже не представляли, что OpenAI сможет создать что-то вроде ChatGPT? А это означало, что вы обе становитесь компаниями, ориентированными непосредственно на конечных пользователей. И что рано или поздно это могло стать проблемой?

— Да, думаю, никто тогда не предполагал, что мы станем одной из крупнейших потребительских компаний. Это правда.

— Для меня это — золотой ключ к пониманию OpenAI. Я помню, как в октябре 2022 года, за месяц до выхода ChatGPT, мы с Натом Фридманом и Дэниелом Гроссом запустили серию интервью об ИИ. И наша главная мысль была в том, что никто ничего не понимает в ИИ, людям просто нужно создавать продукты. А потом, через месяц, выходит продукт, и все начинают жаловаться на чат-ботов. Но посмотрите на любого подростка, посмотрите, как люди общаются — они постоянно переписываются!

— Это, кстати, была одна из причин, почему я хотел этим заняться. Переписка — главный способ общения у молодежи.

— У вас получился двойной удар внутри компании. Многие были слишком сосредоточены на "хорошей" модели, не понимали, какой фурор произведет "плохая" модель. И плюс, у вас там куча "бумеров", которые не любят переписываться сообщениями.

— В OpenAI не так уж много "бумеров".

— Я имею в виду "бумеров" в разговорном смысле, а не настоящих бумеров.

— Да, я бы сказал, что я, возможно, менее зрелый, чем среднестатистический сотрудник OpenAI.

— Кстати, должен спросить от имени моего соведущего по Sharp Tech, Эндрю Шарпа: эта фишка со строчными буквами — это потому, что ИИ использует только строчные буквы, или это просто стиль такой?

— Нет, я просто дитя интернета. Я и до ИИ заглавные буквы не использовал.

— Понятно. А я — последний год поколения X, так что могу себе позволить посмеяться над миллениалами. Ужас просто!

— У меня есть еще несколько мыслей о ChatGPT. Никто не ожидал, что вы станете компанией, ориентированной на потребительский рынок. Моя теория с самого начала была такова: вы были исследовательской лабораторией, которая просто запустила API, чтобы немного подзаработать. Но потом случился этот шестимесячный период взрывного роста, когда вам пришлось воспользоваться возможностью, которая буквально свалилась вам на голову. Сейчас в технологической сфере много говорят об увольнениях и уходе известных личностей. Мне кажется, что изначально никто не подписывался на то, чтобы строить компанию, ориентированную на массовый рынок. Если бы они хотели работать в Facebook (компания МЕТА признана экстремистской организацией и запрещена в РФ), они бы пошли туда. И в этом заключается основная проблема: у вас появилась возможность, хотите вы этого или нет. И это значит, что OpenAI стала совсем другим местом, чем было задумано.

— Послушайте, жаловаться мне точно не стоит, верно? У меня лучшая работа в технологической индустрии, и было бы просто глупо жаловаться на то, что это не то, чего я хотел, и как мне "не повезло". Я хотел руководить исследовательской лабораторией AGI и придумать, как создать AGI. Я точно не подписывался на то, чтобы управлять крупной компанией, работающей в сфере потребительского интернета. Я знал по своему предыдущему опыту, который, кстати, тоже был лучшей работой в технологической сфере — мне дважды повезло — я знал, сколько времени и сил это отнимает. Насколько сложно управлять одной из этих гигантских потребительских компаний.

Но я также знал, что делать, потому что я тренировал других людей и наблюдал за их успехами и неудачами. Когда мы запустили ChatGPT, каждый день был взрывной рост пользователей, который ломал наши серверы. Потом наступала ночь, посещаемость падала, и все говорили: "Всё кончено, это был просто вирусный эффект". А на следующий день пик становился еще выше, потом снова падал… И так несколько дней подряд. К пятому дню я подумал: "О, чувак, я знаю, что сейчас будет. Я видел этот фильм уже много раз".

— Но вы правда "видели этот фильм много раз"? Ведь вся суть в привлечении пользователей. И для большинства стартапов это — главная задача. Компании, которым удается привлекать клиентов органично и вирально, на самом деле, можно пересчитать по пальцам. Пожалуй, ближайший пример к OpenAI — это Facebook в середине 2000-х. Мне кажется, вы немного переоцениваете свой предыдущий опыт.

— Может быть. В таком масштабе — да, пожалуй, это самый крупный случай. Думаю, мы, наверное, самая большая компания, основанная после Facebook.

— Потребительские технологические компании такого масштаба — это, на самом деле, шокирующая редкость. Такое случается крайне редко.

— Да. Но я видел Reddit, Airbnb, Dropbox, Stripe и множество других компаний, которые добивались невероятного соответствия продукта рынку и стремительного роста. Возможно, я не видел ничего подобного по масштабу. Но на ранних стадиях я наблюдал нечто похожее.

— Вы говорили людям, что это произойдет? Или это было чем-то, чем нельзя было поделиться?

— Говорил, конечно! Я собрал всю команду и сказал: "Сейчас начнется настоящее безумие. Нам предстоит много работы, которую нужно сделать очень быстро. Но это невероятная возможность, которая свалилась нам на голову. И мы собираемся ею воспользоваться. Вот как это будет выглядеть..."

— И кто-нибудь понял, что вы имеете в виду? Кто-нибудь поверил вам?

— Помню, как однажды вечером я вернулся домой, схватился за голову и сказал: "Черт возьми, Оли [Оливер Малхерин], это действительно плохо!". А он: "Я не понимаю, все же здорово!". А я ему: "Нет, это действительно плохо. И для тебя тоже. Ты просто пока этого не понимаешь. Но вот что будет..." Но, думаю, никто тогда не понял, что будет происходить. Только благодаря своему предыдущему опыту я смог распознать это на раннем этапе. Никто не представлял, насколько безумным все станет в первые несколько недель.

— Что будет ценнее через пять лет: веб-сайт с миллиардом ежедневно активных пользователей, которому не нужно тратиться на привлечение клиентов, или самая современная модель ИИ?

— Думаю, веб-сайт с миллиардом пользователей.

— Это верно в любом случае? Или этот ответ основан на том факте, что, по крайней мере на уровне GPT-4, я не знаю, видели ли вы сегодня, что LG только что выпустила новую модель. Есть много, не буду комментировать, насколько она хороша, или нет, но есть много очень современных моделей.

— Моя любимая историческая аналогия того, чем станет AGI, — это транзистор. Их будет много. Они проникнут повсюду. Они будут дешевыми. Это эмерджентное свойство физики. И сами по себе они не будут являться дифференциатором.

— Тогда что будет являться дифференциатором?

— Стратегическое преимущество, как я думаю, — в создании гигантской интернет-компании. Думаю, что это должно быть сочетание нескольких различных ключевых сервисов. Вероятно, это три или четыре вещи масштаба ChatGPT. И люди захотят купить единую подписку на все это. Люди захотят получить доступ к другим сервисам, используя свой персональный ИИ, который изучает их на протяжении всей жизни. И люди захотят использовать этот ИИ везде. Думаю, появятся новые виды устройств, оптимизированные для использования AGI. Появятся новые веб-браузеры. Появится целый кластер новых продуктов. Кто-то просто создаст ценные продукты на основе ИИ. Это — первое.

Второе — это стек логического вывода. Как сделать логический вывод максимально дешевым и доступным? Чипы, центры обработки данных, энергия… Здесь будет много интересной финансовой инженерии.

И третье — это просто проведение самых лучших исследований и создание самых лучших моделей. Думаю, что это триумвират ценности. Но большинство моделей, за исключением самых передовых, довольно быстро превратятся в товар.

— Так что когда Сатья Наделла говорит, что модели становятся товаром, а OpenAI — продуктовой компанией, это дружелюбное заявление? Мы все еще в одной команде?

— Да. Не знаю, восприняли ли это слушатели как комплимент, но думаю, он хотел сделать нам комплимент.

— Я именно так это и воспринял. Когда вы спросили мое мнение о стратегии, я еще на ранних этапах после запуска ChatGPT написал, что OpenAI — это случайная компания, производящая потребительские технологии.

— Да, я помню, когда вы это написали.

— Это самая большая возможность в технологической отрасли. Я думаю, что я хорошо изучил стратегию Facebook, именно потому, что это такая редкая организация. Я сразу ухватился за мысль: "Нет, вы еще не понимаете, куда это все идет!" Но я начал писать о них только в 2013 году, я пропустил начало. А Stratechery я веду уже 12 лет. И я чувствую, что OpenAI — первая компания, которую я могу освещать с самого начала и которая имеет такой масштаб.

— Да, такое происходит нечасто.

— Именно. Кстати, вы только что выпустили большое обновление API, предоставив доступ к той же модели использования компьютера, что лежит в основе Operator, что дает преимущество GPT Pro. Вы также выпустили API Responses. И мне показалось интересным то, что вы сказали об API Responses: "Послушайте, мы думаем, что это намного лучше, чем Chat Completions API, но, конечно, мы будем его поддерживать, потому что многие люди построили свои продукты на его основе". Он стал своего рода отраслевым стандартом. Все скопировали ваш API. В какой момент вся эта работа с API, поддержка старых версий и добавление новых функций перестает быть полезной и начинает отвлекать внимание и тратить ресурсы, когда перед вами открываются возможности уровня Facebook?

— Я действительно верю в эту модель с набором взаимосвязанных продуктов, о которой я говорил ранее. Думаю, что если мы все сделаем правильно, то через пять лет у нас будет несколько продуктов с миллиардами пользователей, небольшая группа. И будет возможность входить в систему через учетную запись OpenAI и использовать этот аккаунт для интеграции API с другими сервисами. Можно будет использовать свой пакет кредитов, свою настроенную модель, где угодно. Думаю, это станет ключевой особенностью нашей платформы.

— Да, но именно с этим столкнулся Facebook. Трудно быть одновременно платформой и агрегатором, используя мою терминологию. Я думаю, что мобильные устройства пошли на пользу Facebook, потому что заставили их отказаться от претензий на роль платформы. Они больше не могли быть платформой. Им пришлось признать, что они являются контентной сетью с рекламой. А реклама — это просто больше контента. И это фактически вынудило их занять более выгодное стратегическое положение.

— Я не думаю, что мы будем платформой в том смысле, в каком операционная система является платформой. Но подобно тому, как Google не является платформой в чистом виде, но люди используют вход через Google и берут свои данные Google с собой в интернет, и это часть опыта Google, я думаю, мы будем платформой �� этом смысле.

— Использование входа в систему — это пропуск в вашу память, информацию о том, кто вы, какие у вас предпочтения, и тому подобное.

— Да.

— Получается, вы просто будете сидеть на вершине всего этого? И у людей будет возможность использовать несколько входов в систему? Но вход в OpenAI будет лучше, потому что он привязан к вашей памяти? Или это так: "Если вы хотите использовать наш API, вы должны использовать наш вход"?

— Нет, нет, нет. Это будет совершенно добровольно, конечно.

— И вы не считаете, что это будет отвлекать ресурсы или создавать раздробленность, когда у вас на руках такая огромная возможность?

— Нам действительно приходится делать много вещей одновременно. И это, я думаю, один из самых сложных аспектов OpenAI — количество вещей, которые нам нужно делать действительно хорошо.

— Это как парадокс выбора. У вас так много возможностей, что сложно выбрать, на чем сосредоточиться.

— Мы стараемся не распыляться. Мы говорим "нет" почти всему. Но если подумать о тех вещах, которые нам действительно нужно сделать, я не уверен, что мы сможем добиться успеха, если сосредоточимся только на чем-то одном.

— С моей точки зрения, когда вы говорите об обслуживании миллиардов пользователей и о том, что вы становитесь компанией, ориентированной на потребительский рынок, это подразумевает рекламу. Вы не согласны?

— Надеюсь, что нет. Я не против рекламы. Если для этого будут веские причины, я не буду упираться. Но у нас отлично получается продавать подписки.

— Вам предстоит пройти долгий путь к прибыльности и возврату всех инвестиций. А реклама увеличивает охват вашего рынка и позволяет увеличить доход с каждого пользователя. Рекламодатель оплачивает счет. И вы не сталкиваетесь с проблемами ценовой эластичности. Люди просто пользуются продуктом больше.

— Сейчас меня больше волнует то, как мы можем взимать большие деньги с людей за действительно крутого автоматизированного инженера-программиста или другого специалиста. Чем зарабатывать копейки с помощью рекламной модели.

— Знаю, но большинство людей не мыслят рационально. Они не готовы платить за программное обеспечение, которое повышает их производительность.

— Посмотрим.

— Я плачу за ChatGPT Pro. Со мной, наверное, не стоит это обсуждать. Но мне просто кажется…

— Вы считаете, что получаете реальную выгоду от этого?

— Конечно! Особенно Deep Research — это просто невероятно. Но я, возможно, более скептически отношусь к готовности людей платить за что-то, даже если математика на их стороне. Даже если это сделает их намного продуктивнее. И я смотрю на то, что вы говорите о создании "памяти". Частью гениальности рекламной модели Google было то, что им, по сути, не нужно было слишком много знать о своих пользователях. Потому что люди сами вводили в поисковую строку то, что им нужно. Люди вводят огромное количество информации в вашего чат-бота. И даже если вы покажете самую тупую рекламу, то у вас все равно будут невероятные возможности для таргетинга. И, кстати, у вас нет существующей бизнес-модели, которую вы можете подорвать. У меня ощущение, что самая большая проблема — это то, что реклама противоречит ценностям большинства сотрудников OpenAI. Но мне, как бизнес-аналитику, кажется, что это очевидно, и вы уже опаздываете.

— Меня больше интересуют другие варианты, чем традиционная реклама. Например, многие люди используют Deep Research для электронной коммерции. И тут возникает вопрос: есть ли способ придумать новую модель? Например, мы никогда не будем брать деньги за изменение позиции в выдаче. Но если вы что-то купите через Deep Research, мы возьмем комиссию, что-то около 2%. Это было бы круто. Меня это не смутило бы. И, возможно, есть деликатный способ размещения рекламы. Но я не знаю. Я просто не очень люблю рекламу.

Не забудьте подписаться: телеграм-канал "Нейронутые" — самые интересные материалы из мира ИИ.

— Всегда есть какие-то "но". Марк Цукерберг тоже не был фанатом рекламы, но он нашел кого-то, кто этим занялся. И сказал: "Просто не рассказывайте мне об этом". Пускай деньги появляются волшебным образом.

— Да. Мне нравится наша бизнес-модель. Я не собираюсь зарекаться, говорить, что мы будем делать, а что — нет. Но мне кажется, что есть множество других интересных вариантов монетизации, которые для нас сейчас в приоритете, а не реклама.

— Считаете ли вы, что выход DeepSeek, их "взрывной" успех, возможность увидеть рассуждения модели, все это произвело большее впечатление на пользователей, потому что те, кто пользовались ChatGPT, уже были знакомы с этой технологией и не были так поражены?

— Да.

— Но это не относится к бесплатным пользователям или к тем, кто только "заглянул" в ChatGPT один раз. Возможно, ваша сдержанность сделала DeepSeek еще более впечатляющим?

— Согласен. DeepSeek… У них отличная команда, и они создали отличную модель. Но сама по себе модель, думаю, не была причиной их вирусного успеха. Мы получили урок: когда мы скрываем какую-то функцию, например, цепочки рассуждений, мы даем возможность кому-то другому перехватить инициативу. И в этом смысле это был хороший "звоночек". И еще, кажется, это убедило меня пересмотреть то, что мы предлагаем в бесплатной версии. Теперь бесплатные пользователи смогут пользоваться GPT-5. И это круто.

— Ого! Это намек на ChatGPT-5? Что ж, я обязательно спрошу вас об этом позже. Пока такой вопрос… Когда я думаю о вашей бизнес-модели, я прихожу к выводу, что она идеально подходит для "активных" пользователей. Для тех, кто готов пойти и использовать ChatGPT, кто готов платить за него, потому что они видят ценность. Но сколько таких "активных" пользователей? И, кроме того, "активные" пользователи попробуют все остальные модели. Поэтому вам придется постоянно поддерживать очень высокий уровень качества. В отличие от ситуации, когда у людей есть хорошая модель, которая работает, и она бесплатна. И она продолжает становиться лучше, принося доход компании. Но большинство пользователей не задумываются об этом, потому что они не против рекламы.

— Опять же, я открыт для любых вариантов. Но меня больше привлекают такие вещи, как партнерская программа с электронной коммерцией, о которой я упоминал ранее. Чем традиционная реклама.

— Было ли у вас чувство, когда появился DeepSeek, что люди не поддерживают американские компании? Или часть ажиотажа вокруг DeepSeek была вызвана негативным отношением к OpenAI?

— У меня не было такого чувства. Возможно, это и так, но я не считаю, что это было основной причиной. Думаю, дело в двух вещах. Во-первых, они сделали передовую модель доступной бесплатно. И во-вторых, они показали цепочку рассуждений, что, как бы, завораживает.

— Люди говорили: "О, это так мило! ИИ пытается мне помочь!"

— Да. Думаю, что это было в основном из-за этих двух вещей.

— В своем недавнем предложении об AI Action Plan OpenAI выразила обеспокоенность по поводу компаний, использующих модели DeepSeek, которые, как было сказано, "свободно доступны". Разве решение этой проблемы не в том, чтобы сделать ваши модели также свободно доступными?

— Да, я думаю, что нам стоит это сделать.

— Значит, когда..?

— У меня пока нет официального объявления. Но я думаю, что нам стоит двигаться в этом направлении.

— Ранее вы сказали, что веб-сайт с миллиардом пользователей ценнее, чем сама модель. Должно ли это отразиться на вашей стратегии выпуска и ваших мыслях об открытии исходного кода?

— Оставайтесь с нами.

— Хорошо, я буду ждать новостей. Справедливо.

— Я пока не могу разглашать детали. Но следите за новостями.

— Тогда следующий вопрос: есть ли шанс вернуться к изначальной миссии? Если вернуться к вашему первоначальному заявлению, DeepSeek и Llama…

— Бен, я пытаюсь намекнуть тебе как можно сильнее, не говоря об этом прямо. Ну же!

— (Смеется). Ладно, убедил. Справедливо. Есть ли в этом какое-то освобождение? Возвращаясь к объявлению о GPT-2 и опасениям насчет безопасности… Сейчас все это кажется устаревшим. Какой смысл оставаться такими осторожными с этими релизами?

— Я все еще считаю, что в будущем могут возникнуть серьезные риски. Справедливо будет сказать, что мы были слишком консервативны в прошлом. Но с другой стороны, лучше немного перестраховаться, когда не знаешь, чего ожидать. И справедливо будет сказать, что сейчас ИИ распространяется повсюду. И неважно, наша модель причинит вред или чья-то другая. Но я все равно хочу, чтобы мы оставались как можно более ответственными.

— Еще один недавний конкурент — Grok. И, с моей точки зрения, за последний год у меня возникло два интересных психологических опыта, связанных с ИИ. Первый — запуск локальных моделей на моем Mac. Почему-то мне очень приятно осознавать, что ИИ работает прямо на моем компьютере, а не где-то в облаке. И, во-вторых, с Grok у меня нет ощущения, что меня будут ругать за что-то. И, надо отдать должное, ChatGPT в последнее время стал намного лучше в этом плане. Но заставляет ли вас Grok чувствовать, что вы можете пойти намного дальше и позволить пользователям самим решать, что хорошо, а что плохо?

— На самом деле, я думаю, что мы стали лучше. Раньше у нас с этим были большие проблемы, но в последнее время мы стали более зрелыми…

— Согласен. Сейчас лучше.

— Это было одной из моих главных забот. Но сейчас меня это больше не беспокоит. Я думаю, что мы на правильном пути. Раньше я много думал об этом, но в последние шесть-девять месяцев перестал.

— Есть ли какой-то момент, когда галлюцинации — это хорошо? Вы опубликовали пример работы модели для письма, и это как бы подтвердило одну из моих давних мыслей о том, что все очень усердно работают, чтобы заставить эти вероятностные модели вести себя как детерминированные вычисления, и при этом упускают самое волшебное — способность выдумывать вещи. Это же невероятно!

— Согласен на все сто! Если вам нужно что-то детерминированное, используйте базу данных. А здесь вся прелесть в том, что модель может проявлять креативность. И иногда выдает не совсем то, что вы хотели. Но это нормально. Можно попробовать еще раз.

— Это проблема разработчиков ИИ, которые пытаются сделать модель слишком "правильной"? Или это проблема ожиданий пользователей? Как нам сделать так, чтобы все полюбили галлюцинации?

— Ну, вы хотите, чтобы модель галлюцинировала, когда вам это нужно, и не галлюцинировала, когда вам это не нужно. Если вы спрашиваете: "Расскажи мне этот научный факт", то вы не хотите, чтобы это было галлюцинацией. А если вы говорите: "Напиши мне творческий рассказ", то вам нужны галлюцинации. И я думаю, что интересная проблема состоит в том, как заставить модели галлюцинировать только тогда, когда это полезно пользователю?

— Насколько серьезна проблема, когда эти подсказки "утекают", и в них говорится что-то вроде: "Не раскрывай это", "Не говори об этом" или "Не делай X, Y, Z"? Если мы обеспокоены безопасностью и согласованием, разве обучение ИИ лжи — это не огромная проблема?

— Да. Помню, как xAI подверглась жесткой критике за то, что в системной подсказке было что-то вроде: "Не говори плохо об Илоне Маске". Это было неловко для них, конечно. Но мне было немного жаль их, потому что модель просто пыталась следовать инструкциям.

— Верно. Все очень честно.

— Абсолютно искренне. Да. Так что да, это было, конечно, глупо и неловко. Но я не думаю, что это была катастрофа, как это было представлено.

— Некоторые скептики, в том числе и я, считают, что ваши призывы к регулированию — это попытка "поднять лестницу", чтобы затруднить конкуренцию. У меня вопрос из двух частей. Во-первых, справедливо ли это? И, во-вторых, если бы AI Action Plan только ввел запрет на региональные ограничения в отношении ИИ и заявил, что обучение на материалах, защищенных авторским правом, является добросовестным использованием, было бы этого достаточно?

— Прежде всего, большая часть регулирования, к которому мы призывали, касалась самых передовых моделей, существующих в мире. Мы хотели, чтобы для этих моделей были введены стандарты проверки безопасности. Я считаю, что это хорошая политика. Но я все больше и больше прихожу к выводу, что мир в целом этого не одобряет. И я обеспокоен захватом власти регулирующими органами. У меня есть свои убеждения, конечно, но не похоже, что эта политика будет принята во всем мире. И я считаю, что это немного страшно. Но, надеюсь, мы сможем найти выход и все наладится. В конце концов, не так много людей действительно хотят уничтожить мир.

Но, конечно, мы не хотим взваливать регулирующие обязательства на всю технологическую индустрию. Мы призывали к правилам, которые бы коснулись только нас, Google и еще нескольких компаний. И, опять же, я не думаю, что мир пойдет по этому пути. Мы будем играть по тем правилам, которые есть. Но я считаю, что признание добросовестного использования как добросовестного использования и отмена безумного и сложного набора различных правил на уровне штатов были бы очень хорошим решением.

— Вы поддерживаете экспортный контроль. Или, скорее, OpenAI поддерживает это в своем документе о политике. Вы говорили обо всем стеке, об этом триумвирате. Вы беспокоитесь о том, что США будут зависеть от Тайваня, а Китай — нет?

— Да, я обеспокоен зависимостью от Тайваня.

— Может ли OpenAI что-нибудь предпринять в этой связи? Готовы ли вы, например, взять на себя обязательство покупать чипы, произведенные Intel, если у компании появится новый генеральный директор, который собирается переориентироваться на ИИ? Может ли OpenAI помочь Intel?

— Я много думал о том, что мы можем сделать для улучшения инфраструктуры и цепочки поставок в целом. Но пока у меня нет отличной идеи. Если у вас есть какие-либо предложения, я готов выслушать. Я действительно хочу что-то сделать.

— Хорошо, конечно. Intel нужен клиент. Прежде всего, им нужен клиент, которым не является Intel. Подпишите OpenAI как основного клиента архитектуры Gaudi. Возьмите на себя обязательство приобрести тонну чипов. И это им поможет! Это их спасет. Вот мой ответ.

— Если бы мы разрабатывали чип с партнером, который работает с Intel и совместимым процессом, и у нас была бы уверенность в их способности обеспечить поставку, мы могли бы что-то подобное сделать. Повторюсь, я хочу что-то сделать. Я не уклоняюсь от ответа.

— Нет, это я несправедлив. Ведь я только что сказал вам, что вам нужно сосредоточиться на развитии своего потребительского бизнеса и отказаться от API. Попытки поддержать американское производство чипов — это уже слишком.

— Нет-нет, я не думаю, что это несправедливо. Я считаю, что если мы можем как-то помочь, то мы обязаны это сделать. Но мы пока пытаемся понять, как именно.

— Итак, Дарио и Кевин Вайл, кажется, в какой-то момент сказали, что к концу года 99% кода будут генерироваться автоматически. Это очень короткий срок. Как вы думаете, какова эта доля сегодня? Когда мы перейдем отметку в 50%? Или мы уже это сделали?

— Думаю, во многих компаниях уже больше 50%. Но главный прорыв, думаю, произойдет с появлением агентного кодирования, которое пока никто не делает по-настоящему.

— В чем проблема?

— О, нам просто нужно немного больше времени.

— Это проблема продукта или проблема модели?

— Проблема модели.

— Стоит ли вам все еще нанимать инженеров-программистов? У вас, кажется, много открытых вакансий.

— Я исхожу из того, что каждый инженер-программист пока будет делать намного больше работы. Но, в какой-то момент, да, возможно, нам потребуется меньше инженеров-программистов.

— Кстати, думаю, вам стоит нанять больше инженеров-программистов. Я считаю, что вам нужно двигаться еще быстрее. Кстати, вы упомянули GPT-5. Не знаю, где он. Мы его ждем уже довольно давно.

— GPT 4.5 вышла всего две недели назад.

— Знаю, но мы ненасытны.

— Это нормально. Вам не придется долго ждать. Новая версия не заставит себя ждать.

— Что такое AGI (Artificial General Intelligence)? У вас много разных определений. У OpenAI тоже. Каково ваше текущее определение AGI? Что сейчас считается AGI?

— Думаю, вы только что затронули ключевой момент. Это размытая граница, которая включает в себя множество вещей. И этот термин, думаю, почти полностью обесценился. Некоторые люди, по определению многих, считают, что мы уже там. Особенно если бы вы могли перенести кого-нибудь из 2020 года в 2025 и показать, что у нас есть.

— ИИ всегда был тем, что мы не можем сделать. Как только мы это можем, это уже машинное обучение. А как только мы это перестаем замечать, это становится алгоритмом.

— Правильно. Думаю, для многих людей это связано с долей экономической ценности. Для некоторых это связано с универсальностью. Я считаю, что современные системы могут делать много вещей очень хорошо. Для некоторых это связано с отсутствием глупых ошибок. Для некоторых это связано со способностью к самосовершенствованию. Но четкого и общепринятого определения пока нет.

— А что насчет агента? Что такое агент?

— Что-то, что может автономно выполнять для вас значительный объем работы.

— Для меня это и есть AGI. Это уровень, когда ИИ сможет заменить сотрудника.

— Но что, если он хорошо справляется только с определенным классом задач и не может выполнять другие? Некоторые сотрудники тоже такие.

— Да, я думал об этом. И теперь происходит переопределение: AGI раньше считался всеобъемлющим, но теперь у нас есть ASI — Artificial Superintelligence, сверхинтеллект. Для меня это проблема терминологии. ASI может выполнять любую работу, которую мы ему поручим. Если у меня есть ИИ, который отлично справляется с конкретной задачей, например, с кодированием, и выполняет ее последовательно, я могу поставить перед ним цель, и он достигнет ее, самостоятельно выясняя промежуточные шаги. Для меня это существенный сдвиг парадигмы по сравнению с нынешней ситуацией, когда вам нужно в значительной степени направлять ИИ.

— Если у нас появится отличный автономный агент для кодирования, вы скажете: "OpenAI это сделали, они создали AGI"?

— Да. Я к этому пришел. И согласен, что это упрощение того, что AGI означал раньше. Но я просто заменяю AGI на ASI.

— Мы получим от вас маленькую золотую звезду Бена Томпсона?

— (Смеется). Отлично, договорились. Даю вам мысленную золотую звезду. Вы и другие специалисты в лабораториях говорите о том, что видите, и о том, что никто не готов. В Твиттере то и дело появляются твиты, заставляющие людей нервничать, и вы несколько раз намекнули на это в подкасте. Все это очень интересно. Но вы говорите об этом уже довольно давно. Оправдались ли ваши ожидания от релизов? Мир в каком-то смысле все еще выглядит прежним. Ваши релизы оказались слабее, чем вы ожидали, или вы были удивлены способностью людей адаптироваться к изменениям?

— Скорее второе. Думаю, было несколько моментов, когда мы выпускали что-то, что действительно вызывало в мире настоящий шок: "Что это… Это же просто безумие!" А через две недели все спрашивают: "Где следующая версия?".

— Ну, вы сами сделали это со своей первоначальной стратегией. ChatGPT взорвал всем мозг. А потом выходит ChatGPT-4, и все говорят: "О, боже мой! С какой скоростью все происходит?"

— Думаю, мы выпустили несколько невероятных вещей. И я считаю, что это здорово, что люди так быстро адаптируются и хотят больше, лучше, быстрее и дешевле. Так что я думаю, что мы превзошли ожидания, а люди просто быстро ко всему привыкли.

— Делает ли вас это более оптимистичным или менее оптимистичным? Видите ли вы это разделение на "активных" людей? Под этим словом я подразумеваю другое, не то же самое, что "агенты", но посмотрите, куда я клоню. Нам нужно придумать больше слов! Давайте попросим ChatGPT что-нибудь придумать. Есть люди, которые пойдут и будут использовать API. И вся идея Microsoft Copilot в том, чтобы у вас был кто-то, кто помогает вам. Много разговоров о том, что "это не заменит рабочие места, это просто сделает людей более продуктивными". И я согласен, что это произойдет с некоторыми людьми. Но если посмотреть на историю ПК, первая волна пользователей ПК — это люди, которые действительно хотели ими пользоваться. Многим людям ПК не нравились. Им ставили компьютер на стол, и они должны были использовать его для конкретной задачи. Понадобилось смена поколений, чтобы люди просто по умолчанию начали использовать ПК. Является ли это ограничивающим фактором для ИИ?

— Возможно. Но это нормально. Как вы упомянули, это стандартный путь для всех технологических революций.

— Но если вернуться к примеру с ПК, то первая волна ИТ была связана с мейнфреймами, которые уничтожили целые отделы. Оказалось, что первая волна — это волна, когда рабочие места заменяются, потому что так проще осуществить внедрение сверху вниз.

— Интуиция подсказывает мне, что все будет не совсем так. Но я думаю, что это всегда очень трудно предсказать.

— Какова ваша интуиция?

— Что ИИ будет постепенно просачиваться в экономику, понемногу "поедать" разные вещи, и этот процесс будет ускоряться.

— Вы часто говорите о научных прорывах, как о причине инвестировать в ИИ. Дваркеш Патель недавно отметил, что таких прорывов пока не было. Почему? Может ли ИИ действительно создать или открыть что-то новое? Или мы переоцениваем модели, которые просто не так хороши, и это реальная проблема?

— Да, думаю, модели пока просто недостаточно умны. Я не знаю. Иногда слышу, как люди из Deep Research говорят: "Окей, модель не открывает новую науку самостоятельно, но помогает мне открывать новую науку намного быстрее". И для меня это почти так же хорошо.

— Как вы думаете, сможет ли архитектура на основе трансформаторов когда-нибудь создавать что-то по-настоящему новое? Или она просто выдает "среднее" по интернету?

— Да.

— Что должно произойти для этого прорыва?

— Я думаю, что мы на правильном пути. Нам просто нужно продолжать работать. Мы на верном пути.

— То есть это проверка на "божественность"?

— Что вы имеете в виду?

— Обладают ли люди врожденной креативностью или это просто перекомбинирование знаний разными способами?

— Одна из моих любимых книг — "Начало бесконечности" Дэвида Дойча. В начале этой книги есть несколько прекрасных страниц о том, что творчество — это просто взять что-то, что вы видели раньше, и немного изменить это. А потом, если из этого получается что-то хорошее, кто-то другой это немного изменяет, и еще кто-то... И знаете, я склонен этому верить. И если это так, то ИИ отлично справляется с небольшими изменениями.

— Насколько ваша вера в это основана на ваших прежних убеждениях и насколько на ваших наблюдениях? Мне кажется, что это очень интересно. Сейчас я не хочу уходить в метафизику или теологию… Но мне кажется, что наши базовые предположения влияют на наше представление о возможностях ИИ. И большая часть Кремниевой долины материалистична и атеистична. И, конечно, мы со всем разберемся. Это просто биологическая функция, и мы сможем воссоздать ее на компьютерах. Но что, если окажется, что мы никогда не сможем создать что-то по-настоящему новое, но зато расширим возможности людей в создании нового? Изменит ли это ваши основные убеждения?

— Это, безусловно, часть моей основной системы убеждений с самого начала. Все это для меня не ново. Но нет, я просто предположу, что мы еще не разобрались с правильной архитектурой ИИ. Но мы обязательно это сделаем.

— Последний вопрос, от имени моей дочери. Она заканчивает среднюю школу в этом году. Какой совет по карьере вы дадите выпускнику средней школы?

— Самый очевидный совет: научитесь действительно хорошо использовать инструменты ИИ. Когда я заканчивал школу, таким же очевидным советом было научиться хорошо программировать. Это новая версия того же совета.

А если говорить в более общем плане, я думаю, что людям важно развивать устойчивость и способность к адаптации. Также важно понимать, чего хотят другие люди, и как быть им полезным. Поэтому советую практиковать это. Что бы вы ни изучали, детали, возможно, не так важны. Может быть, они никогда и не были важны. Самое ценное, что я получил в школе — это мета-способность учиться, а не какие-то конкретные знания. Поэтому, что бы вы ни собирались изучать, развивайте эти общие навыки, которые будут важны в период этих перемен.

— Сэм, было очень приятно поговорить с вами. Кажется, последний раз мы общались… это может показаться хвастовством… в Давосе, я даже не могу это выговорить. Конечно, все хотели с вами поговорить. Вы были там настоящей рок-звездой. И вы притворялись… Я воспринял это как притворное удивление: "О, почему я всем так интересен?". Я должен спросить вас, вы действительно были удивлены? И каково это — быть самым известным человеком в технологической индустрии?

— Я никогда не был в Давосе. Это была разовая поездка.

— (Смеется). Я тоже.

— Довольно жалкий опыт. Но это был странный опыт. Я почувствовал себя настоящей знаменитостью. И я сделал вывод, что это больше говорит о людях, которые ездят в Давос, чем обо мне. Мне там не понравилось. И, конечно, странно — за пару лет пройти путь от относительной безвестности до мировой известности в технологической индустрии.

— Да, довольно известным в мире.

— Когда я в Сан-Франциско, я чувствую, что за мной постоянно наблюдают. Но в любом другом городе меня оставляют в покое.

— О, вы только что объяснили, почему я не хочу жить в Сан-Франциско. Хотя, конечно, я не настолько известен, как вы.

— Да. Но это был странный и не всегда приятный опыт.

— Сэм Альтман, было очень приятно поговорить. Надеюсь поговорить с вами снова в ближайшее время.

— Мне тоже. Спасибо.

Если вы хотите читать больше глубоких и аналитических материалов из мира ИИ, обязательно подписывайтесь на телеграм-канал "Нейронутые", чтобы не пропустить новые интересные публикации.