Отличное видео о том как изнутри работает ChatGPT Code Interpreter
До Code Interpreter, ChatGPT мог дать создать программу на Python, но запускать её приходилось самому - и это было самое слабое звено. Никакая программа не работает с первого раза, возникают ошибки и серые зоны, где требования проработаны не достаточно чётко и допускают вариации в реализации.
В случае возникновения ошибки, можно было скопировать текст исключение и попросить ChatGPT рассказать как исправить.
С плагином Code Interpreter правила игры поменялись. Теперь ChatGPT не просто рассказывает как сделать, а делает:
1. Пишет/дорабатывает программу на Python
2. Запускает внутри себя программу (в окружении Jupiter)
3. Получает код ошибки и возвращается к п.1
Что известно о реализации:
1. 99% это отдельная версия GPT-4 (до лоботомии).
2. Code Interpreter - это контейнер.
3. Пока может исполнять только Python.
4. Пока не умеет создавать сетевые соединения.
Решать все задачи с помощью одной LLM неправильно, т.к. ряд задач она решать не умеет или решает очень плохо (например, математические). Code Interpreter добавляет LLM супер мощный инструмент Python, а LLM становится агентом который, использует инструмент.
Предполагается что в ближайшие три года будет взрывной рост агентов, т.е. LLM научаться использовать разные инструменты:
+ запись на прием к специалисту,
+ создание отчета за месяц,
+ автоматическое обслуживание клиентов с открытием тикета, выполнением задач и закрытием тикета.