Skill.md検索
2258件の Skill.mdから、あなたに最適なものを見つけましょう
外部システムをデータパイプラインで自動連携させる
by suwa-sh
Salesforce・ServiceNow・その他外部APIから、dlt(データロードツール)を使ってデータを自動抽出・変換・ロードできます。 外部システムのAPI仕様から、認証・ページネーション・増分ロードに対応したPythonパイプラインを自動生成できます。 抽出したデータをdbt(データビルドツール)で加工し、プロセスマイニング(open-process-mining)用のイベントログフォーマットに変換できます。 ユーザーマッピング・case_id生成・アクティビティイベント化などを含む、本番運用可能なSQL変換テンプレートを一式出力します。 Docker・dbtテストを含めた動作確認コマンドを案内し、すぐに実運用できるパイプラインを提供できます。 CRM・HRシステム・ERP等の外部データをプロセスマイニングで分析したいデータアナリスト 複数システムのイベントログを統合し、エンドツーエンドのビジネスプロセスを可視化したい企業 APIから自動でデータ取得し、最小限の手作業で分析パイプラインを構築したい開発チーム データ品質を確保しながら、外部システムとの連携を拡張していきたいデータエンジニア 本スキルは6ステップで構成されます。Step 1 でユーザーに「連携先システム名(snake_case)・API仕様(エンドポイント・認証・レスポンス構造)・プロセスタイプ名(kebab-case)・イベント定義・ユーザー識別子」を確認。Step 2 でdlt.resourceデコレータ・ページネーション・増分ロード・ユーザー識別子を含むdlt/sources/{system}_source.pyと、@dlt.sourceで束ねたパイプラインを生成。Step 3 でdlt/pipelines/{system}_pipeline.pyにdataset_name="bronze_raw"とエラーハンドリングを実装。Step 4 でconfig.tomlとsecrets.toml.exampleにセクション[sources.{system}_source]形式の認証情報を追記。Step 5 で_bronze__sources.ymlにBronzeテーブル定義を追加し、stg_{system}_{entity}.sqlにuser_mapping CTE・case_extraction CTE・events CTEを実装、stg_all_events.sqlに UNION ALL で統合。Step 6 でdlt実行・dbt run・dbt testのDocker Composeコマンドを案内し、Bronze層のデータ確認まで行います。
lineage系スキル群で共有する仕様・パターン・スクリプトを一元管理
by suwa-sh
lineage-create、lineage-to-code、code-to-lineage など複数のlineageスキルが参照する共有リソースを一元管理・提供します。 スキーマ仕様(モデル定義、lineageエッジ定義、参照形式)、YAML パターン集(基本マッピング、階層構造、インスタンス、ETL定義)、lineage定義の読み方ガイドを一箇所に集約して、各スキルの一貫性を保ちます。 lineage-to-graph 本体スクリプト(YAML → Markdown + Mermaid 変換)と Python 依存パッケージ情報を管理し、他スキルから参照可能にします。 各スキルが「この仕様ならどの参照ファイルを見るか」を明確に理解でき、重複定義やバージョンズレを防止します。 lineage 系スキル全体を保守・更新する管理者 — 複数スキルの共通部分をこのスキルに集約して、変更時の影響範囲を最小化したいとき lineage スキル開発チーム — スキーマ仕様や YAML パターンの一貫性を保ち、複数人での開発を効率化したいとき データリネージ定義を新規作成・更新する際 — スキーマ仕様とパターン集を一箇所から参照し、正確な定義を素早く作成 本スキルは内部スキルであり、直接トリガーされることは想定していません。他の lineage 系スキル(lineage-create、lineage-to-code、code-to-lineage)から参照される共有リソースを提供します。提供リソースは以下3カテゴリ: references/ — schema-spec.md(lineage-v1 スキーマ仕様、モデル定義、lineageエッジ定義、参照形式)、yaml-patterns.md(基本マッピング、階層構造、インスタンス、ETL パターン等)、lineage-reading-guide.md(lineage定義の読み方、コード生成時の解釈方法)。scripts/ — lineage_to_md.py(lineage-to-graph 本体スクリプト、YAML → Markdown + Mermaid 変換実行)、requirements.txt(Python依存パッケージリスト)。他スキルからの参照は「schema-spec.md は ../lineage-core/references/schema-spec.md を参照」のような相対パス形式で記載。