От прототипа к продукту: разработка продвинутых AI приложений

Этот курс научит вас, как перевести прототип AI-приложения на уровень готового продукта. Вы узнаете, как настроить процессы оценки, включая метрики, показатели и наборы данных. Вы изучите такие техники, как настройка промтов, генерация с использованием расширенного поиска (RAG) и настройка гиперпараметров для повышения производительности крупных языковых моделей. Кроме того, мы рассмотрим практические стратегии для управления ограничениями на количество токенов, уменьшения задержек, повышения скорости и контроля затрат. Хотя мы обсудим дообучение, акцент будет сделан на техниках оптимизации, которые его не требуют. По завершении курса вы будете готовы перевести своё AI-приложение с уровня прототипа до полноценного запуска в производство.

Во время участия в мастер-классе вы научитесь:

• Понимать, как запускать и оценивать AI-приложения для использования в производстве.
• Настраивать метрики оценки, системы баллов и наборы данных (синтетические и реальные) для точной оценки.
• Исследовать такие методы, как настройка промтов, RAG и настройка гиперпараметров для повышения точности работы LLM.
• Осваивать стратегии для работы с ограничениями токенов, оптимизации скорости, снижения задержек и сокращения затрат.
• Использовать структурированные выходные данные для получения детерминированных значений от LLM.
• Классифицировать входные данные пользователей перед ответом для повышения точности и эффективности.