Azure Data Factory（以降、ADFと表記）上でSnowflakeへプライベートエンドポイント（以降エンドポイントと表記）を作る際に、他のAzureサービスへのエンドポイントの作成と少し方法が違っていたので、実施方法についてご紹介します。 Snowflakeのエンドポイ…

Snowflakeのアラート機能を使用して、不正ログインを監視・通知する機能を実装してみました。 Snowflakeアラートとは 実施概要 実施前提 実施手順 アラートの作成 アラートの開始 アラートの確認 アラートの動作確認 おわりに Snowflakeアラートとは 「Snowf…

Snowflakeは、AWSやGoogle Cloud、Microsoft Azureなどのクラウドプラットフォーム上でホストされるDWHサービスです。 ストレージとコンピュートを分離したマルチクラスタ・共有データアーキテクチャや、データの一元管理が可能な高い拡張性と柔軟性を備える…

Data Factoryのルックアップアクティビティでは、構成ファイルやテーブルの内容や、クエリやストアドプロシージャの実行結果などをオブジェクトとして動的に出力することが出来ます。 本記事では、ルックアップアクティビティを使用して、取り込んだファイル…

前回の記事では、Azure Data Factoryにてパラメーター化されたデータパイプラインを作成し、実行する方法を解説しました。 前回、パイプライン実行は「今すぐトリガー」によって手動で行っていました。 今回は、パイプラインにストレージイベントトリガーを…

Azure Data Factoryでのデータコピーをパラメーター化する方法をまとめました。

簡単なデータコピー処理の実装方法をまとめてみました。