基本設計
Python
業務委託
秋葉原 ※原則在宅ワーク
即日~
70万
1回
某ゲーム会社様にて運用中のデータ分析基盤(Redshift)の、Google Cloud環境への移行。
Google Cloud環境では、DWHとしてBigQueryを利用し、
データパイプラインにはGoogle Cloudのマネージドサービスと、データ変換ツールdbtを使用する想定。
1.バッチ処理コード移行(Java(Spling Boot)→ Google Cloud Composer + Google Data Fusion + dbt)
(実装、単体テスト、結合テスト、システムテスト)
2.SQL構文修正(Redshift(PostgresSQL) → BigQuery)
(実装、単体テスト、結合テスト、システムテスト)
3.テーブルデータ移行(Redshift → BigQuery)
(テーブル設計・実装、データ移行、データ検証)
・SQL に関する設計・実装経験
・Python3 に関する設計・実装経験
・Gitの使用経験
・パブリッククラウド(AWS、Google Cloud、Azure等)の開発利用経験
・Google Cloud Data Analyticsサービス(BigQuery、Composer、Data Fusion、Dataproc、Cloud Storage等) に関する知識
・プロジェクト管理ツール(JIRA、Backlog、Redmine等)の利用経験
・Shell に関する設計・実装経験
・Java(Spling Boot)開発経験
・Apache Airflowの開発利用経験
・Apache Spark/Hadoopに関する知識
・YAMLの開発利用経験
・Terraformの開発利用経験
・Web APIの開発利用経験
・JP1の開発利用経験
・AWS Redshiftの開発利用経験
・Google Cloudを使用したデータ分析系基盤開発経験