Data Lake - CI/CD用語集の定義
data lake は、あらゆる形式の生データを大規模に保存する中央リポジトリで、通常は object storage 上に置かれます。schema はデータの書き込み時ではなく読み取り時に適用されるため、取り込みが安価で柔軟になります。
warehouse との違い
lake は生の schema-on-read データを保存し、warehouse は analytics 向けに調整された、クリーンな schema-on-write のテーブルを保存します。多くのスタックは両方を使います。
関連ガイド
Data Warehouse - CI/CD Glossary DefinitionA data warehouse is a database optimized for analytical queries over cleaned, structured data - columnar, ind…
ELT - CI/CD Glossary DefinitionELT is Extract, Load, Transform - load raw data into the warehouse first, then transform it in place using th…
Parquet - CI/CD Glossary DefinitionParquet is an open columnar file format for analytics - compressed, schema-aware, and splittable - the defaul…