ETL

CData Syncの特徴と導入方法

JBSでデータエンジニアをしている稲留です。 CData Syncを利用したニアリアルタイムによるデータ連携パイプラインの構築を実施しました。 本記事では、CData Syncをインストール型として導入した背景と構築方法について記載いたします。 CData Syncとは 1. …

DataSpiderServerをインストールしてみた

DataSpider Servistaのアプリケーションの1つである、DataSpiderServerのインストール手順について記事にしたいと思います。 DataSpider Servista DataSpiderServerとは DataSpiderServerのインストール 環境 DataSpiderServerパッケージのダウンロードとイ…

Data Factoryでルックアップアクティビティを使用して0Byteファイルをチェックする

Data Factoryのルックアップアクティビティでは、構成ファイルやテーブルの内容や、クエリやストアドプロシージャの実行結果などをオブジェクトとして動的に出力することが出来ます。 本記事では、ルックアップアクティビティを使用して、取り込んだファイル…

Azure Data Factoryでのデータコピーをパラメーター化する

Azure Data Factoryでのデータコピーをパラメーター化する方法をまとめました。

Data Factoryを使用してAzure Blob StorageからAzure SQL Databaseにデータをコピーする

簡単なデータコピー処理の実装方法をまとめてみました。