AI開発影響研究所 EN
← ランキング · AI関連リポジトリ

wesamsabry/Airflow-ETL-Retail-Project

End-to-end ETL pipeline using Apache Airflow that extracts data from CSV and REST API, transforms and validates it, and loads it into PostgreSQL with incremental loading and monitoring.

GitHub ↗
★ 0
stars
75
AI関連スコア
50
個人開発度
0
AIツール痕跡

SUMMARY AI要約 by gpt-5-mini

Retail Data Pipeline — Astro Airflow Pipelines is a production-ready ETL framework that uses Apache Airflow (Astro CLI) to orchestrate end-to-end ingestion, transformation, validation and incremental loading of retail data into a PostgreSQL data warehouse. Intended for data engineers and platform teams, it demonstrates a modular, testable architecture combining CSV batch and REST API sources. Key features include idempotent upserts with a high‑watermark incremental engine, fault‑tolerant API handling (retries/backoff), schema and row‑level validation, dimensional modeling (fact/dim), structured logging and observability, Dockerized local runtime, and Airflow DAG-based orchestration.

DETECTED 検出されたAIスタック

このRepoのdescription / GitHub topics / READMEのAI要約に出現したAI関連キーワードをカテゴリ別に表示。各バッジは該当カテゴリの詳細ランキングへリンクします。

💾 一般データベース (1)
PostgreSQL
🌐 Web/アプリフレームワーク (1)
Astro

オーナー情報

アカウント
wesamsabry
タイプ
User
フォロワー
0

日付

GitHub作成日 2026-05-12
最終Push 2026-05-12
当サイト初検出 2026-05-12
最終取得 2026-05-12 16:10