🖥 Реализация модели Llama 3 на чистом NumPy

Держите подробный гайд по созданию Llama 3 только средствами Python и библиотеки NumPy.

В качестве источников вдохновения и примеров использовались такие реализации:

— llama2.c

— llama.np

— modeling_llama.py — с Hugging Face

$ python llama3.py "I have a dream" """ I have a dream. He dream of a big, beautiful garden full of flower and tree. He dream of playing with hi friend and eating yummy snack. One day, he wa walking in the garden when he saw Token count: 50, elapsed: 1.53s, 33 tokens/s

▪Github

▪Подробное описание реализации

У себя в канале я публикую тесты новой модели, делюсь обхорами и лучшими лайфхаками, заходите, там много полезного.

Chatgpturbobot - Мы добавим новую модель в наш бесплатный бот. Бот также поддерживает визуальную модель gpt, вы можете отправить скриншот за задачей боту и он пришлет вам решение, крутая вещь.

#машинноеобучение #llm