構造化・非構造化を問わず生データのまま大量に蓄積する保管庫。
データレイク(data lake、データの湖の意味)とは、構造化・非構造化を問わず、生データのまま大量に蓄積する保管庫のことです。整える前のデータを「とりあえず全部ためておく」のが特徴です。
身近な例で考えると、あらゆる支流が流れ込む大きな湖のようなものです。きれいに分類された倉庫(DWH)とは違い、川上から来る水(データ)を区別せず、すべて湖にためます。表のデータも、写真も、動画も、ログも、形を問わず受け入れます。
上の図解のように、入れる時点では加工せず、使うときに初めて目的に合わせて取り出して加工します(これを「スキーマ・オン・リード」と呼びます)。AI やビッグデータ分析の素材置き場として活躍します。
データには大きく2種類があり、データレイクはその両方をそのまま受け入れられるのが強みです。
・構造化データ:表(行と列)にきれいに整理できるデータ。売上表・CSV など
・非構造化データ:表に当てはまらないデータ。画像・音声・動画・自由記述のテキストなど
生のままためておく主な利点は次のとおりです。
・後からの活用が自由:用途を決め打ちしないので、将来思いついた新しい分析にも使える
・情報を失わない:先に加工して捨ててしまった項目を、後から「やっぱり必要だった」と困ることがない
・大量・多様でも安く保存:安価なストレージにまとめて置ける
料理に例えると、下ごしらえせずに食材をまとめて冷蔵庫に保存しておくイメージです。何を作るか決まっていなくても、いざ献立が決まったときに必要な分だけ取り出して調理できます。ただし整理されていない分、目的のデータを探す仕組み(カタログ管理)を整えないと「沼」になりやすい点には注意が必要です。
データレイクはデータウェアハウス(DWH)とよく比較されます。最大の違いは「整えるタイミング」です。
| 項目 | データレイク | データウェアハウス |
|---|---|---|
| ためるデータ | 生データ(構造化・非構造化とも) | 整形・統合済みの構造化データ |
| 整える時点 | 使うとき(読み出し時) | 格納する前(ETL) |
| 例え | 何でも流れ込む湖 | 分類済みの倉庫 |
| 主な用途 | AI・ビッグデータ分析の素材 | 定型的な集計・経営分析 |
DWH は「先に整えてからしまう」ので、すぐに集計・分析できる代わりに、入れられるデータの形が決まっています。一方データレイクは「先にためてから後で整える」ので、形を問わず受け入れられる代わりに、使う前にひと手間かかります。
どちらか一方ではなく、レイクに生データをためておき、そこから整えて DWH を作るという組み合わせもよく使われます。「まず湖に集めて、必要な分を倉庫に移す」と考えると役割分担が理解しやすいでしょう。
Q1.データレイクの説明として最も適切なものはどれか。
Q2.データレイクが扱える「非構造化データ」の例として適切なものはどれか。
Q3.データレイクとデータウェアハウス(DWH)の違いとして正しいものはどれか。