Тихомиров М.М. - Обучение больших языковых моделей - 2. Механизм внимания, архитектура трансформер
Тихомиров М.М. - Обучение больших языковых моделей - 2. Механизм внимания, архитектура трансформер
Механизм внимания, архитектура трансформер Тихомиров Михаил Михайлович 00:16 Архитектура трансформер 02:29 Токенизация слоя 07:20 Позиционное кодирование 10:55 Преобразование векторов через трансформер-блоки 32:45 Итоговое предсказание слова линейным слоем 45:55 Transformer: первое впечатление 48:24 BERT 57:12 Некоторые практические аспекты работы с LLM 01:17:04 Домашнее задание Ссылка на плейлист Teach-In: https://teach-in.ru/course/fundamentals-of-training-llm-tihomirov Ссылка на плейлист YouTube: https://www.youtube.com/playlist?list=PLcsjsqLLSfNAz_J4tGrLSI--CzdYyhnj3 Ссылка на плейлист VK: https://vkvideo.ru/playlist/-176441665_866 Ссылка на плейлист RuTube: https://rutube.ru/plst/1513656 #teach_in #МГУ #MSU #Artificial_intelligence #искусственный_интеллект #ИИ #AI #лекция #lecture #Тихомиров #Tikhomirov #LLM #языковое_моделирование #language_modeling #архитектура_Трансформер #Transformer_Architecture #BERT