BigQueryにエクスポートしたGCPの課金データをDataStudioで見える化する

クラウドの課金見える化してますか?クラウドは安いからと請求されたままの金額を払ってしまって終わりにしてたりしませんか?クラウドサービスの従量課金制はイニシャルコスト不要というメリットのほかに、変動する使用料金をしっかり把握・管理することで、稼働しているシステムの妥当性を見直す指標にすることができます。
この記事では、課金データのBigQueryへのエクスポートとそのデータをDataStudioを使って視覚化する方法を以下の流れで解説します。

  1. BigQueryへ課金データのエクスポート設定
  2. DataStudioへデータソースの追加
  3. DataStudioでのダッシュボード作成

GCPではDWHサービスの中で、最も優位性のあるサービスとも言えるBigQueryに、サービス利用料金の課金データを簡単にエクスポートできます。
今回は、BigQueryにエクスポートした課金データをDataStudioで見える化する方法を紹介します。DataStudioは、BigQueryなどのデータベースのほかにGoogle スプレッドシート、Google Analyticsなどのサービスデータをグラフやチャートによるデータの視覚化、さらには前期との比較できるダッシュボードを簡単に作成できるサービスです。

1.BigQueryへ課金データのエクスポート設定

課金データのエクスポートは、GCP コンソールから設定します。

①GCPコンソールの左側メニューから、「お支払い」→「課金データのエクスポート」をクリックします。
画面が遷移したら、「BIGQUERY EXPORT」を選択します。

②課金データのエクスポート画面から、「設定を編集」をクリックします。「プロジェクト」リストから、エクスポート先のプロジェクトを選択します。データセットが作成されていない場合、図のように作成するように求められます。

③「BigQueryに移動」をクリックし、BigQueryデータセットを作成します。すでにデータセットが作成されている場合は、手順⑤まで進んでください。BigQueryのコンソールに移動したら、「プロジェクト名」(ここではMy first Project)の右側にあるをクリックし、「Create new dataset」をクリックします。

④「Dataset ID」に一意の名前(ここでは、「billing_manage」と入力)を入力しOKをクリックします。

作成したデータセットがプロジェクト名の下に表示されます。

⑤データセットの作成が完了したら、再度、課金データのエクスポートに戻ります。
ブラウザをリロードすると、手順④で作成したデータセットが選択されていることを確認し、「保存」をクリックします。

これで、課金データのエクスポート設定は完了です。データが表示されるまでは、数時間かかることがあるようです。また課金データは1日毎に出力されます。設定完了後、1日経つと「gcp_billing_export_{Billing Account ID}のテーブルが作成され、データが追加されます。

2.DataStudioへデータソースの追加

DataStudioを使うには、https://datastudio.google.com/ にアクセスします。

①ホーム画面の左側メニューから、「データソース」をクリックします。

②データソースの登録
画面右下のをクリックします。

③左メニューのコネクタから「BigQuery」を選択し、エクスポートした対象のデータのあるプロジェクト、データセット、表と選択し、最後に右上の「接続」をクリックします。

これで、DataStudioから、BigQueryにエクスポートした課金データにアクセスする準備ができました。
次は、レポートの作成から、データの可視化をしていきます。

3.DataStudioでのダッシュボード作成

①ホーム画面に戻り、左メニューのレポートを選択し、右下のをクリックします。

レポート作成画面が開いたら、データソースの選択欄から、「gcp_billing_export ?」から始まるデータソースを選択すると、下記のポップアップが開きますので、「レポート追加」をクリックします。

これで、レポート作成の下準備が完了です。

後は、ページのレイアウトや管理したいデータの可視化を設定していきます。
完成イメージは下の図です。2018年1月の私個人のGCP利用料を見える化しました。
左上段:サービスごとの利用料金
左下段:サービスごとの当月と前月の利用料金比較
右上段:リソースタイプごとの利用料金
右下段:リソースタイプごとの当月と前月の利用料金比較

レイアウトとテーマの設定
①画面右側メニューの「レイアウトとテーマ」→「レイアウト」から、「キャンパスサイズ」を設定

②レポートのベーススタイルは「テーマ」を選択し、デザインを設定します。
ここでは、「メイン」および「背景」で黒を選択しています。

レポートタイトル、コストスコア、期間の設定
①画面上部のツールバーのアイコンを選択し、適当な場所に配置します。

線グラフ 棒グラフ 複合グラフ
円グラフ 地図
スコアカード 散布図 ブレットグラフ
面グラフ ピボットテーブル テキスト
画像 長方形 円形
期間 フィルタオプション データ管理

テキストオプションをクリックし、レポートタイトルを設定します。
さらに右のテキストのプロパティから、フォントの色、サイズ、タイトル背景色などを設定します。

期間オプションをクリックし、このレポート内のデフォルトで表示する期間を設定します。デフォルト期間は、カレンダーから指定する「絶対期間」や「今月」、「先月」など、プルダウンメニューから選択をします。

スコアカードで、課金額の合計を表示します。
右メニューから、指標「cost」、デフォルト期間「自動」を指定します。

デフォルト期間で「自動」を選択すると、期間オプションで指定した期間を指定します。
 

グラフと表の作成

①サービスごとの利用料金グラフの作成

アイコンをクリックし、任意の場所に展開します。
右メニューから、時間ディメンション「usage_end_time」、内訳ディメンション「service.description」、指標「cost」、内訳ディメンションの並べ替え「service.description」を指定します。

さらにグラフのデザインを設定する場合は、右メニューの「スタイル」から設定します。
これが完成形です。

このグラフからわかることは、各サービスの日々の利用料金の推移を把握することができます。

②サービスごとの当月と前月の利用料金比較
アイコンをクリックし、任意の場所に展開します。
右メニューから、ディメンション「service.description」、指標「cost」、ページあたりの行数「10」、集計業「集計業を表示する」をチェック、並べ替え「cost」を指定します。

①同様にグラフのデザインを設定する場合は、右メニューの「スタイル」から設定します。

この評価からわかることは、cost欄でサービスごとの指定期間でのコスト合計値、右の欄で指定期間の前期間との比較がわかります。比較欄では、矢印の方向と色で、前期間との値の増減を表すことができます。

まとめ

課金データのエクスポートから見える化まで、一連の流れをご紹介しました。
DataStudioは無償のサービスで、今回のBigQueryのデータだけでなく、GCPサービスのCloud SQLやCloud Storageはもちろん、Google アナリティクスやスプレッドシートもデータソースにすることができます。

クラウドサービスを活用する上で、課金状況の管理は、無駄なリソースを停止し、コスト削減につがる基本になります。今回は、サービスごとの課金状況の推移をグラフにする方法をご紹介しましたが、複数のプロジェクトを持っている場合は、プロジェクトごとの料金をグラフ化することも、複数プロジェクトを纏めての比較も可能です。
Tableauなどの有償のBIツールと比べると、いろいろな制限はありますが、まずは無償ツールを利用して、データの見える化をしてみてはいかがでしょうか。

弊社ではGCPのコンサルティングから導入・運用支援サービスを提供しておりますので、ご興味のある方はお問い合わせください。
また、インフラエンジニアだけでなく、あらゆる職種で仲間も募集しています。Google Cloud Platformに関わる仕事をしてみたい方、ぜひ一緒にクラウドエースで働きませんか!
ご応募、お待ちしています。

次の記事を読み込んでいます
次の記事を読み込んでいます
次の記事を読み込んでいます
次の記事を読み込んでいます
次の記事を読み込んでいます