Хайп на тему AGI не утихает, а тем временем нас лишают открытых технологий для памяти нейросетей

Вот что испытывают нейросети при каждом новом сообщении от вас, если к ним не подключить память
Вот что испытывают нейросети при каждом новом сообщении от вас, если к ним не подключить память

Все сейчас говорят об AGI — искусственном интеллекте, который будет думать и действовать как человек. Сэм Альтман, глава OpenAI, активно подогревает интерес к этой теме. И это, конечно, звучит захватывающе. Но вот что странно: почти никто не упоминает о том, что сейчас нейросети не могут запоминать важные детали и использовать их в будущих разговорах. А ведь именно память делает ИИ по-настоящему полезным помощником.

Ты когда-нибудь замечал, что при общении с нейросетью часто приходится повторять одно и то же? Как будто у нее всегда чистый лист, и она забывает все, что было сказано раньше. Так вот, почему так происходит? Потому что у современных нейросетей нет нормальной памяти, они не способны запоминать информацию и использовать ее в дальнейшем.

Что скрывает OpenAI?

Возьмем январь 2024 года. OpenAI выпустила новые модели для представления текста — они преобразуют слова и фразы в числовые значения. Это позволяет нейросети запоминать длинные текстовые документы и «вспоминать» их в будущих диалогах. Модели заявлены как самые мощные, с улучшенной поддержкой разных языков и низкой стоимостью использования. На первый взгляд, все выглядит отлично. Но вот пара строк в их документации, на которые почти никто не обращает внимания:

«Эти модели не знают о событиях, которые произошли после сентября 2021 года»

Представь, ты задаешь ИИ вопрос, например, о текущих событиях, а он тебе отвечает, как если бы все произошло в 2021 году. Для текстовой генерации, конечно, это не так критично. Но когда речь идет о реальных помощниках, которые должны принимать решения на основе актуальных данных, это — огромный минус.

Кроме того, OpenAI уже давно не выпускает обновлений для своих мультимодальных моделей — моделей, которые могут работать не только с текстами, но и с изображениями, видео и другими данными. Последняя такая модель, CLIP, была выпущена ещё в 2021 году. С тех пор, как видишь, тишина.

Как выглядит «открытый» OpenAI со своими технологиями. Источник: YouTube

А зачем вообще все это?

Вот тут-то и появляется мой проект Neira. Я не строю мечты об искусственном интеллекте, который когда-то станет идеальным помощником. Я создаю инструмент, который будет помогать тебе запоминать все, что происходило раньше.

Я хочу сделать так, чтобы можно было закинуть все документы, таблицы, презентации и рисунку в общий диалог с разными AI-экспертами и чтобы они сами разобрались что к чему.

Для этого мне нужно использовать мультимодальные эмбеддинги — технологию, которая позволяют нейросетям обрабатывать не только текст, но и изображения и другие типы данных. Это позволяет ИИ «запоминать» важные вещи и учитывать их в дальнейшем. Такой ИИ не забывает твою задачу и может учесть все, что было сказано или загружено.

А для этого я собираюсь использовать действительно открытые модели. Буквально недавно nomic.ai выпустили новую открытую модель, которая позволяет дать возможность нейросети запоминать не только текст, но и изображения и документы.

Да, это не самая хайповая технология, о которой все сейчас говорят, но она реально работает. И я собираюсь использовать ее в своем новом проекте Neira, чтобы помочь тебе работать быстрее и без лишних повторений.

Самое смешное — об этой модели никто не нигде не пишет, потому что это не хайповая тема. Ведь проще кричать про общий искуственный интеллект, «feel the AGI» и прочую рекламную дичь, вместо того, чтобы действительно двигать индустрию вперед.

POV: Вы зашли в Твиттер (ныне Х)
POV: Вы зашли в Твиттер (ныне Х)

Что это значит для тебя?

Ты ведь тоже хочешь, чтобы нейросети были не просто умными, но и полезными. Чтобы они помогали тебе, запоминая важные вещи и давая рекомендации, основываясь на прошлом опыте.

Именно в этом суть «Нейры». Мысль о том, что искуственный интеллект будет помнить все, что ты говорил и загружал, не является фантастикой. Я уже работаю над этим.

Если ты тоже хочешь работать с инструментом, который будет помнить твои идеи и помогать тебе в принятии решений, записывайся на ранний доступ к Neira. Это не будущее — это уже реальность, по крайней мере станет в ближайшее время, после запуска проекта :)

А если тебе интересны такие технологии и ты хочешь следить за процессом разработки, подписывайся на мой канал «Код без тайн». Я делюсь своими мыслями и рассказываю, как строю этот продукт:

10
1
1
6 комментариев