Работает на «суперчипе» GB10 Grace Blackwell, разработанном вместе с MediaTek.
Удалось запустить LLama 3.3 70B с окном контекста в 130 тыс токенов , 64 Гб Оперативы + 16 Гб Видеопамяти
На какой видяхе?
Удалось запустить LLama 3.3 70B с окном контекста в 130 тыс токенов , 64 Гб Оперативы + 16 Гб Видеопамяти
На какой видяхе?