S
Slivbox Bot
Пользователь
- 01.01.22
- 112.796
- 14.477
Посмотреть вложение 1177928
Этот практический курс погрузит студентов в создание современных языковых моделей (LLM) на примере GPT-архитектуры. Участники с нуля реализуют все основные компоненты Трансформера: от токенизации (BPE) до механизмов Внимания и генерации текста. Для разработки будем использовать только Python и низкоуровневый PyTorch, не полагаясь на какие-либо сторонние библиотеки.
Чему вы научитесь
Разработка LLM с нуля [Stepik] [Вячеслав Колосков]
Этот практический курс погрузит студентов в создание современных языковых моделей (LLM) на примере GPT-архитектуры. Участники с нуля реализуют все основные компоненты Трансформера: от токенизации (BPE) до механизмов Внимания и генерации текста. Для разработки будем использовать только Python и низкоуровневый PyTorch, не полагаясь на какие-либо сторонние библиотеки.
Чему вы научитесь
- Научитесь читать схемы архитектур основанных на...
Разработка LLM с нуля [Stepik] [Вячеслав Колосков]
