Super Study Guide: Transformers & Large Language Models
«Супергид: Трансформеры и большие языковые модели» — это практичное и понятное руководство, созданное для читателей, которые хотят быстро и глубоко разобраться в современных языковых моделях. Книга подходит как для подготовки к собеседованиям, так и для профессиональной работы с ИИ или изучения темы для собственного развития.
Материал структурирован в 5 последовательных частей, которые охватывают полный путь от фундаментальных понятий до применения ИИ в реальных задачах.
Раздел знакомит с ключевыми составляющими глубокого обучения: типами нейронных сетей, принципами обучения моделей, функциями активации, оптимизацией и оценкой качества. Простым языком объясняются базовые механизмы, позволяющие понять дальнейшие темы.
Эта часть посвящена токенизации и преобразованию текста в числовые представления. Рассматриваются классические и современные методы векторизации, включая word2vec, RNN, LSTM и GRU, а также логика перехода от рекуррентных сетей к трансформерам.
В разделе раскрывается мотивация появления механизма самовнимания и подробно анализируется архитектура «кодер–декодер». Объясняются различия между популярными моделями BERT, GPT и T5, а также представлены практические советы по оптимизации и ускорению вычислений.
Здесь рассматриваются методы адаптации и улучшения трансформеров: инженерия подсказок, тонкая настройка, параметрически эффективные подходы (PEFT), а также настройка под предпочтения пользователя. Вы узнаете, как превращать большие модели в инструменты для конкретных задач.
Заключительный раздел посвящён практическим сценариям: анализу тональности, машинному переводу, генерации текста, работе с внешними данными и другим типичным задачам обработки естественного языка.
Книга помогает сформировать целостное понимание современных языковых моделей и научиться эффективно использовать их в научных, профессиональных и прикладных проектах.
Афшин Амиди - преподаватель воркшопа по трансформерам и большим языковым моделям в Стэнфорде, а также руководитель проектов, связанных с большими языковыми моделями, в Netflix. Ранее он работал в команде Gemini в Google, применяя методы обработки естественного языка для решения сложных запросов. До этого Афшин занимался улучшением систем поиска и рекомендаций в Uber Eats. Помимо основной деятельности, он опубликовал несколько научных статей на пе
Шервин Амиди - преподаватель воркшопа по трансформерам и большим языковым моделям в Стэнфорде, а также член команды Gemini в Google, где он использует большие языковые модели для обработки запросов на основе действий. Ранее Шервин занимался прикладными задачами машинного обучения для рекомендательных систем в Uber Eats, сосредотачиваясь на обучении представлений для улучшения рекомендаций блюд. Помимо этого, он опубликовал несколько научных стате
Thank you