Нейросеть дня «LM Studio»: разворачиваем локальную LLM на личном компьютере
LM Studio — инструмент для локального запуска LLM (языковых моделей) на Windows, macOS и Linux. Вы скачиваете бесплатные модели с открытым кодом (DeepSeek, Llama, Mistral и др.), выбираете конфигурацию и запускаете чат-бот прямо на своём компе. Все вопросы и ответы обрабатываются локально, защищая ваши данные. Установка занимает пять минут и не тре…
Очень слабая и ленивая новость. Могли бы для приличия хотя-бы накидать несколько вариантов русскоязычных моделей.
Неплохой рейтинг опенсорсных моделей есть тут https://llm.extractum.io/, там указано требуемое количество VRAM. Из относительно легковесных моделей на русском нормально пишет Qwen2.5 7b - у меня завелась на GeForce 4070 12Гб видеопамяти и 32Гб оперативки. Остальные пишут либо вперемешку русский и английский текст, либо несут какую-то ересь на уровне первый нейронок.
Так это ведь даже не новость, LMStudio уже миллион лет существует. Мы делаем обзоры на то, что личном нам интересно.
Но вообще идея неплохая, сделаем как-нибудь обзор русскоязычных опенсорсных моделей