Генеративный ИИ на практике

Освойте генеративный искусственный интеллект с нуля до продвинутого уровня. Научитесь создавать, обучать, дообучать и внедрять современные AI-модели, разрабатывать интеллектуальных агентов и создавать полноценные приложения на основе больших языковых моделей (LLM).

Курс объединяет теоретические основы машинного обучения с практической разработкой. Вы изучите нейронные сети, генеративные модели, архитектуру трансформеров, технологии RAG, векторные базы данных и современные инструменты AI-разработки, включая TensorFlow, Hugging Face, LangChain, LangGraph и Ollama.

Особое внимание уделяется практическим заданиям. Вы самостоятельно реализуете трансформер с нуля, обучите генеративные модели, освоите дообучение LLM и разработаете собственные AI-приложения, включая интеллектуального чат-бота с памятью, поиском в интернете и возможностью работы с внешними источниками данных.

Чему вы научитесь

• Понимать математические основы искусственного интеллекта и принципы работы нейронных сетей.
• Разрабатывать и обучать генеративные модели GAN и VAE с использованием TensorFlow.
• Разбираться в архитектуре трансформеров, механизмах внимания и устройстве больших языковых моделей GPT и BERT.
• Самостоятельно реализовывать трансформеры и применять предварительно обученные языковые модели.
• Дообучать LLM с помощью LoRA, QLoRA, Hugging Face и Unsloth.
• Создавать AI-агентов и автоматизированные рабочие процессы с LangChain и LangGraph.
• Работать с векторными базами данных и разрабатывать RAG-системы.
• Создавать полноценные AI-приложения с интерфейсом на Streamlit.
• Применять современные технологии MCP, Ollama, Mixture of Experts и мультимодальные модели.
• Разрабатывать и внедрять собственные проекты на основе генеративного искусственного интеллекта.

Программа курса

1. Основы генеративного искусственного интеллекта

Начните с фундаментальных принципов искусственного интеллекта, математических основ машинного обучения и устройства нейронных сетей.

Темы модуля:

• Введение в искусственный интеллект.
• Математические основы AI.
• Теория вероятностей, статистика и линейная алгебра.
• Основные принципы работы нейронных сетей.
• Градиентный спуск и методы оптимизации.
• Архитектуры нейронных сетей: Feedforward, RNN и CNN.

Практические проекты:

• Создание простой нейронной сети с использованием TensorFlow.
• Обучение автоэнкодера на наборе данных MNIST.

2. Глубокие генеративные модели

Изучите основные архитектуры генеративного искусственного интеллекта и научитесь создавать модели, способные генерировать новые данные.

Темы модуля:

• Различия между дискриминативными и генеративными моделями.
• Генеративно-состязательные сети (GAN).
• Вариационные автоэнкодеры (VAE).
• Вероятностная генерация данных с использованием VAE.
• Разработка генеративных моделей на TensorFlow.
• Визуализация метрик и результатов обучения с TensorBoard.

Практические проекты:

• Четыре мини-проекта с использованием TensorFlow.
• Реализация GAN для генерации рукописных цифр.
• Обучение VAE для генерации изображений лиц на основе датасета CelebA.

3. Трансформеры и большие языковые модели (LLM)

Разберитесь в архитектуре, лежащей в основе современных языковых моделей. Изучите механизмы внимания и самостоятельно реализуйте трансформер.

Темы модуля:

• Рекуррентные нейронные сети RNN и LSTM.
• Архитектура Transformer.
• Механизмы внимания: Self-Attention и Positional Encoding.
• Архитектура Encoder-Decoder.
• Задачи предварительного обучения: Masked Language Modeling (MLM) и Causal Language Modeling (CLM).
• Архитектуры и особенности моделей GPT и BERT.

Практические проекты:

• Большой проект: реализация трансформера с нуля.
• Анализ тональности текста с использованием BERT.

4. Дообучение LLM, LangChain и LangGraph

Научитесь адаптировать предварительно обученные языковые модели под конкретные задачи и создавать интеллектуальные системы с использованием современных фреймворков.

Темы модуля:

• Предварительное обучение и дообучение языковых моделей.
• Методы эффективного дообучения LoRA и QLoRA.
• Работа с библиотеками и моделями Hugging Face.
• Адаптация языковых моделей для суммаризации текстов и ответов на вопросы.
• Установка и настройка LangChain.
• Основные компоненты LangChain: Prompts, Memory, Chains и Agents.
• LangGraph: узлы, состояния, StateGraph и рабочие процессы.
• Разработка AI-агентов.

Практический проект:

Создание приложения для ответов на вопросы с использованием LangChain.

5. Векторные базы данных и RAG

Освойте Retrieval-Augmented Generation (RAG) — технологию, позволяющую языковым моделям использовать информацию из внешних источников для формирования ответов.

Научитесь работать с векторными базами данных, создавать RAG-конвейеры и разрабатывать полноценные AI-приложения с пользовательским интерфейсом.

Темы модуля:

• Принципы работы векторных баз данных.
• Использование ChromaDB.
• Архитектура и практическое применение RAG.
• Построение RAG-конвейеров с LangChain.
• Разработка пользовательских интерфейсов с Streamlit.
• Интеграция LLM с внешними инструментами и источниками информации.

Практические проекты:

Проект 1. Создание полноценного AI-чат-бота, аналогичного ChatGPT.

Разработайте интеллектуального чат-бота с использованием Streamlit, LangGraph, ChromaDB и больших языковых моделей. Реализуйте память диалогов, интеграцию инструментов веб-поиска и возможность использования внешних данных.

Проект 2. Мультимодальное AI-приложение.

Создайте приложение на Streamlit, объединяющее несколько возможностей генеративного искусственного интеллекта:

• Генерацию изображений.
• Автоматическое создание описаний изображений.
• Генерацию текстовых описаний видеоматериалов.

6. Современные технологии и архитектуры генеративного ИИ

Познакомьтесь с актуальными инструментами, протоколами и архитектурными подходами, применяемыми при разработке современных AI-систем.

Темы модуля:

• Model Context Protocol (MCP): подключение AI-моделей к внешним инструментам и источникам данных.
• Ollama: локальный запуск и использование языковых моделей.
• Дообучение моделей с помощью Unsloth.
• Архитектура Mixture of Experts (MoE).
• Chain of Thought: методы организации многошаговых рассуждений языковых моделей.
• Архитектура DeepSeek.

Практические проекты:

• Дообучение языковых моделей с использованием Unsloth.
• Практическое применение изученных инструментов и архитектур.

7. Продвинутые методы и мультимодальный искусственный интеллект

Завершающий модуль посвящён современным подходам к разработке и оптимизации генеративных моделей, а также технологиям обработки различных типов данных.

Темы модуля:

• Дистилляция моделей (Model Distillation).
• Диффузионные модели (Diffusion Models).
• Визуальные трансформеры (Vision Transformers).
• Мультимодальные модели искусственного интеллекта.
• Архитектура CLIP.
• Промпт-инжиниринг (Prompt Engineering).
• Практические проекты с применением изученных технологий.

Результат обучения

По завершении курса вы будете понимать не только принципы работы современных генеративных моделей, но и весь процесс разработки AI-приложений: от математических основ и обучения нейронных сетей до создания интеллектуальных агентов и внедрения полноценных решений на основе LLM.

Практические проекты помогут закрепить полученные знания и сформировать навыки, необходимые для самостоятельной разработки генеративных моделей, RAG-систем, AI-чат-ботов и мультимодальных приложений.