Azure AI Foundry Local その2 MacOSで試す

 Azure AI Foundry Local その1 Windows 11で試す の続き

本稿では、Apple Siliconを搭載するMacを使用して、 Azure AI Foundry Localのインストール、 Azure AI Foundry Localへのプロンプトを与えてみます。

早速インストールしてみます。クイックスタートによるとbrew (HomeBrew)によるコマンド2行で終わります。

モデルの一覧を取得してみました。

Macでは、NPUではなくGPU表記ですね。WindowsとMacではモデルそのものも違うのでしょうかね？！

Azure AI Foundry Local その1 Windows 11で試す ではうまくいかなったNPUを使うdeepseekモデルを実行してみます。初回ゆえ、モデルのダウンロードから始まります。

※この時、ブロードバンドルーターの調子が悪く、あまりスピードが出ていません。。。

モデルのダウンロードが完了し、プロンプトが入力可能になりました。

では、Why is the sky blue? とプロンプトを与えてみました。

問題なさそうですね。

続いて、なぜ空は青いのか？ と日本語でプロンプトを与えてみました。

ところどころ日本語になっていませんが、回答は出てきました。

プロンプト入力から終了するには、/exitを入力すれば良いですね。

続いて、Phi 3.5 miniを使ってみます。

※ブロードバンドルーターを再起動したので、再試行した方が圧倒的に早くダウンロードできました。あと、夜に確認したので、ウィンドウがダークモードになっております、ご了承ください。

Why is the sky blue? とプロンプトを与えてみました。

問題なさそうですね。

続いて、

 と日本語でプロンプトを与えてみました。

破綻なく日本語が、出力されました。この辺りで、どのモデルを選ぶのかというポイントになりますね。