Azure AI Foundry Local その4 Windows 11 on Hyper-Vで試す

注）本稿執筆時点では、プレビュー版です。今後、機能などが変わる場合がありますので、ご留意ください。

仮想マシンで Azure AI Foundry Localで試します。今回は、Hyper-V上のWindows 11にてAzure AI Foundry Localで試す形ですね。

CPUを使うモデル、NPUを使うモデルの順で確認します。

インストールは問題無く完了。

これまでの確認と同様に進めるので、まずはCPUを使うモデルを確認します。

英語のプロンプトを与えてみます。

2単語の出力で、3分ほどかかっていましたので、キャンセルしました。

上記のような感じで何回かリトライしました。が、当方の環境では非常にスローです。

最終的に、メモリ16GBで固定化し、ファイルサイズが最も軽量なモデルにしてみましたが、レスポンスが多少改善する程度です。

最新のCPUではどうなのかという点はあるものの、当方の環境（Intel(R) Xeon(R) CPU E5-2430 0 @ 2.20GHz）では、ある意味これが限界なのかも知れません。