1. Заходим сюда и выбираем «Установить с помощью TestFlight». Качаем TestFlight.
2. Возвращаемся на тот же сайт и теперь выбираем «Начать тестирование». Вы скачаете LLMFarm.
3. Теперь нам нужен аналог ChatGPT — тут.Тапаем на «Файлы» и скачиваем модель.
4. Важно: добавляем модель в LLMFarm. В меню prompt format обязательно вписываем : < s > [INST] {{ prompt }} [ INST]