dbt (data build tool) - это инструмент трансформации данных с приоритетом SQL. Он позволяет просто и прозрачно преобразовывать, тестировать и документировать данные прямо внутри хранилища. Благодаря dbt, команды могут создавать надёжные наборы данных для аналитики, машинного обучения и бизнес-процессов - без необходимости выгружать данные наружу. Именно поэтому dbt становится ключевым инструментом в работе инженеров данных, и этот курс - идеальная отправная точка для его освоения.
Введение в dbt
Перед практикой вы узнаете:
В чём разница между ETL и ELT,
Какие вызовы стоят перед современными пайплайнами,
Чем dbt Core и dbt Cloud отличаются и каковы их ключевые преимущества.
Настройка: Snowflake, dbt Core и GitHub
Для практики вы:
создадите репозиторий на GitHub,
заведёте аккаунт в dbt Cloud и настроите хранилище данных в Snowflake,
выполните базовую настройку проекта в dbt и определите структуру модели (SQL или Python-файл).
Построение пайплайнов данных в dbt
Вы создадите цепочку моделей (pipelines), используя e-commerce-датасет. Вы будете использовать dbt Core, dbt Cloud и Snowflake для пошагового преобразования данных.
Материализации в dbt
После построения моделей вы научитесь сохранять результаты трансформаций:
в таблицы,
представления (views),
инкрементальные или эфемерные модели.
Вы также узнаете, как работают внешние и внутренние источники dbt и зависимости между ними.
Тестирование моделей dbt
Вы научитесь тестировать модели - это ключевая часть надежной работы с данными:
Схемные (generic) и пользовательские (bespoke) тесты,
Проверка качества и консистентности данных на всех этапах пайплайна.
Деплой и расписание запуска моделей
Теперь, когда модели работают локально, вы научитесь:
делиться ими с командой,
запускать их по расписанию,
обновлять модели автоматически.
Вы изучите практики деплоя и планирования в dbt Cloud.
Расширенные возможности dbt
В завершении курса:
настроите CI/CD-процессы прямо в dbt Cloud,
сгенерируете полноценную документацию проекта и поймёте, как использовать её в команде,
узнаете о лучших практиках работы с dbt в продакшене.
Что входит в курс
Репозиторий с исходным кодом (GitHub)
E-commerce-датасет
Пошаговые видеоуроки
Подборка полезных ссылок и дополнительных материалов
Требования
Базовые знания реляционных баз данных
Умение работать с SQL
Рекомендуется: базовый опыт с Git и облачными платформами (Snowflake, dbt Cloud)
Посмотреть больше
Этот материал находится в платной подписке. Оформи премиум подписку и смотри или слушай
dbt for Data Engineers,
а также все другие курсы, прямо сейчас!
Я - старший инженер по данным и тренер, техноэнтузиаст и отец. Уже более десяти лет я увлечён Data Engineering. Сначала я стал инженером по данным самоучкой, а затем возглавил команду инженеров по данным в крупной компании. Когда я понял, насколько велика потребность в обучении в этой сфере, я последовал за своей страстью и основал собственную Академию Data Engineering. С тех пор я помог более чем 2 000 студентам достичь своих целей.
Команда внимательно читает ваши комментарии и оперативно на них реагирует. Вы можете спокойно оставлять запросы на обновления или задавать любые вопросы о курсе здесь.
Data Bootcamp: Преобразуйте свои данные с помощью dbt™
The Data Bootcamp: Transform your Data using dbt™
Вы ищете передовой способ извлечения и преобразования данных? Хотите узнать больше о dbt™ и о том, как его использовать? В этом курсе вы узнаете все о dbt™, от настройки облака dbt™, подключения его к Snowflake или к выбранному вами хранилищу, до разработки моделей, создания исходников, проведения тестирования, работы с документацией и многому другому. Этот курс предназначен для начинающих, мы рассмотрим реалистичный проек