S
Windows画面操作をAIが自動実行
by shiromac
UI要素の自動調査: ウィンドウ内のボタン、テキストボックス、リストなど全ての UI要素をツリー状に可視化し、各要素の ID・名前・状態を確認できます。 要素のワンクリック操作: 特定のボタンやメニュー項目を指定してクリックし、結果をスクリーンショットで検証します。 テキストの自動入力: テキストボックスへの文字入力を自動化し、入力後の値を検証できます。 スクリーンショット撮影: Windows アプリケーションの画面を動的にキャプチャし、操作前後の変化を可視化します。 複数ウィンドウの管理: 複数のアプリが起動している環境で、対象ウィンドウを自動で特定・操作できます。 Windows デスクトップアプリの自動テストを実施したい QA エンジニア 業務アプリの繰り返し操作を自動化したい事務担当者 UI変更の影響範囲を調査・確認したい開発者 レガシーアプリの動作検証を効率化したい担当者 WPF UI自動化エージェントを使用して、UI操作を自動実行します。モード判定は引数から自動判定:inspect モード(UI調査・確認)、click モード(要素クリック)、type モード(テキスト入力)。各モードで list_windows・resolve_target・focus_window でウィンドウを特定後、list_controls(depth=4)でコントロールツリーを取得し、screenshot で画面をキャプチャ。click/type モードではセレクタ(automation_id > name+control_type > bounding_rect)で要素を指定し、click・type_text を実行。結果は screenshot と read_text で検証します。
自動化