Как запустить популярнейшую китайскую языковую модель DeepSeek R1 на своем компе и гонять чаты совершенно бесплатно

Как запустить популярнейшую китайскую языковую модель DeepSeek R1 на своем компе и гонять чаты совершенно бесплатно
DeepSeek R1 - это мощьнейшая модель с фунцкией рассуждений, которая превосходит большинство современних LLM по качеству и эффективности.
1. Установите lmstudio.ai
2. Установите DeepSeek-R1-Distill-Qwen-32B непосредственно из приложения LM Studio.
Если у вас больше 36 Гб оперативной памяти, то ставьте 32B, в противном случае 14B будет вполне достаточно.
По возможности используйте бэкэнд mlx, так как он быстрее на процессорах Apple.
Говорят у DeepSeek нет сензуры.
3. Приятных чатов!

Больше интересного тут: