Всем уже надоели эти примеры «использования ИИ для бизнеса», которые в сотый раз показывают генерацию картинок для рекламы или создание унылого SEO-текста для сайта. Так что сегодня я расскажу, как большие языковые модели помогают торговой компании в настоящей ежедневной хардкорной работе.
Отличная работа! Про галлюцинации расскажите - были? Как решали? После причесывания баз данных грузили инфу сверху или заново?
Без галлюцинаций не обошлось. Во-первых потому, что часть документов очень похожи друг на друга, во-вторых из-за большого количества схожего ассортимента (есть множество товаров, которые отличаются единственной мелкой характеристикой). Решаем по-разному: например, если дело в большом объёме документа, то делаем «саммари» документа и вставляем его в самое начало – это облегчает поиск такого документа и его интерпретацию, и значительно снижает количество галлюцинаций. Но с каждым обновлением GPT эта проблема становится всё менее актуальной.