FE EXAM

データレイク(生データの保管庫)

構造化・非構造化を問わず生データのまま大量に蓄積する保管庫。

DIAGRAM
構造化
非構造化
データレイク
活用
あらゆる形式の生データ表(CSV)ログ画像音声/動画■ 構造化■ 非構造化データレイク生データのまま、そのまま大量に蓄積CSVJPGLOGMP4JSONTXT※ 入れる時点では加工しない(スキーマ・オン・リード)使うときに加工AI / 機械学習ビッグデータ分析DWHへ整形「とりあえず生のまま全部ためる」→ 後から目的に応じて取り出して加工するDWHが「整えてからしまう倉庫」なのに対し、データレイクは「何でも流れ込む湖」
解説

📌
データレイクとは

データレイクCSVJPGMP4

データレイク(data lake、データの湖の意味)とは、構造化・非構造化を問わず、生データのまま大量に蓄積する保管庫のことです。整える前のデータを「とりあえず全部ためておく」のが特徴です。

身近な例で考えると、あらゆる支流が流れ込む大きな湖のようなものです。きれいに分類された倉庫(DWH)とは違い、川上から来る水(データ)を区別せず、すべて湖にためます。表のデータも、写真も、動画も、ログも、形を問わず受け入れます。

上の図解のように、入れる時点では加工せず、使うときに初めて目的に合わせて取り出して加工します(これを「スキーマ・オン・リード」と呼びます)。AI やビッグデータ分析の素材置き場として活躍します。

📌
生データ蓄積の利点

構造化表・CSV非構造化画像・音声・動画

データには大きく2種類があり、データレイクはその両方をそのまま受け入れられるのが強みです。
構造化データ:表(行と列)にきれいに整理できるデータ。売上表・CSV など
非構造化データ:表に当てはまらないデータ。画像・音声・動画・自由記述のテキストなど

生のままためておく主な利点は次のとおりです。
後からの活用が自由:用途を決め打ちしないので、将来思いついた新しい分析にも使える
情報を失わない:先に加工して捨ててしまった項目を、後から「やっぱり必要だった」と困ることがない
大量・多様でも安く保存:安価なストレージにまとめて置ける

料理に例えると、下ごしらえせずに食材をまとめて冷蔵庫に保存しておくイメージです。何を作るか決まっていなくても、いざ献立が決まったときに必要な分だけ取り出して調理できます。ただし整理されていない分、目的のデータを探す仕組み(カタログ管理)を整えないと「沼」になりやすい点には注意が必要です。

📌
DWHとの違い

データレイクはデータウェアハウス(DWH)とよく比較されます。最大の違いは「整えるタイミング」です。

項目データレイクデータウェアハウス
ためるデータ生データ(構造化・非構造化とも)整形・統合済みの構造化データ
整える時点使うとき(読み出し時)格納する前(ETL)
例え何でも流れ込む湖分類済みの倉庫
主な用途AI・ビッグデータ分析の素材定型的な集計・経営分析

DWH は「先に整えてからしまう」ので、すぐに集計・分析できる代わりに、入れられるデータの形が決まっています。一方データレイクは「先にためてから後で整える」ので、形を問わず受け入れられる代わりに、使う前にひと手間かかります。

どちらか一方ではなく、レイクに生データをためておき、そこから整えて DWH を作るという組み合わせもよく使われます。「まず湖に集めて、必要な分を倉庫に移す」と考えると役割分担が理解しやすいでしょう。

✏️
練習問題

Q1.データレイクの説明として最も適切なものはどれか。

Q2.データレイクが扱える「非構造化データ」の例として適切なものはどれか。

Q3.データレイクとデータウェアハウス(DWH)の違いとして正しいものはどれか。

関連コンテンツ