ラベル Apple の投稿を表示しています。 すべての投稿を表示
ラベル Apple の投稿を表示しています。 すべての投稿を表示

2025年6月14日土曜日

Azure AI Foundry Local その4 Windows 11 on Hyper-Vで試す

注)本稿執筆時点では、プレビュー版です。今後、機能などが変わる場合がありますので、ご留意ください。

仮想マシンで Azure AI Foundry Localで試します。今回は、Hyper-V上のWindows 11にてAzure AI Foundry Localで試す形ですね。

CPUを使うモデル、NPUを使うモデルの順で確認します。

インストールは問題無く完了。

これまでの確認と同様に進めるので、まずはCPUを使うモデルを確認します。

英語のプロンプトを与えてみます。

2単語の出力で、3分ほどかかっていましたので、キャンセルしました。
上記のような感じで何回かリトライしました。が、当方の環境では非常にスローです。

最終的に、メモリ16GBで固定化し、ファイルサイズが最も軽量なモデルにしてみましたが、レスポンスが多少改善する程度です。

最新のCPUではどうなのかという点はあるものの、当方の環境(Intel(R) Xeon(R) CPU E5-2430 0 @ 2.20GHz)では、ある意味これが限界なのかも知れません。

Azure AI Foundry Local その3 Windows 11 on Parallels Desktopで試す

注)本稿執筆時点では、プレビュー版です。今後、機能などが変わる場合がありますので、ご留意ください。

仮想マシンで Azure AI Foundry Localで試します。今回は、MacOS上のParallels DesktopでWindows 11にてAzure AI Foundry Localで試す形ですね。

CPUを使うモデル、NPUを使うモデルの順で確認します。NPUを使うモデルについては、そもそも仮想マシンでも使えるの?、というかGPUが不透過なのでどういう挙動になるかが興味深いだけです。

インストールは、問題なく完了。

これまでの確認と同様に進めるので、まずはCPUを使うモデルを確認します。

英語のプロンプトを与えました。スムーズに回答返ってきます。途中経過を見るとCPUをしっかり使っていました。

日本語のプロンプトを与えました。途中経過を見るとCPUをしっかり使っていました。

ただし英語と比較しても日本語の場合、ちょっと重い感じで回答し始めました。メモリが6GBしかないからかも知れませんね。

結果としては、途中で回答ストップしてしまい、ブランクが続きました。ただしメモリが足りないからなのかなど、原因を推測するには情報不足とも思います。

NPUを使うモデルを試します。deepseek-r1-7bでは、モデルのロードに失敗しました。

Phi-4-mini-reasoning-qnn-npuは、どうでしょうか?

これもダメでした。

2025年6月12日木曜日

Azure AI Foundry Local その2 MacOSで試す

 Azure AI Foundry Local その1 Windows 11で試す の続き

本稿では、Apple Siliconを搭載するMacを使用して、 Azure AI Foundry Localのインストール、 Azure AI Foundry Localへのプロンプトを与えてみます。

早速インストールしてみます。クイックスタートによるとbrew (HomeBrew)によるコマンド2行で終わります。

モデルの一覧を取得してみました。

Macでは、NPUではなくGPU表記ですね。WindowsとMacではモデルそのものも違うのでしょうかね?!

Azure AI Foundry Local その1 Windows 11で試す ではうまくいかなったNPUを使うdeepseekモデルを実行してみます。初回ゆえ、モデルのダウンロードから始まります。

※この時、ブロードバンドルーターの調子が悪く、あまりスピードが出ていません。。。

モデルのダウンロードが完了し、プロンプトが入力可能になりました。

では、Why is the sky blue? とプロンプトを与えてみました。

問題なさそうですね。

続いて、なぜ空は青いのか? と日本語でプロンプトを与えてみました。

ところどころ日本語になっていませんが、回答は出てきました。

プロンプト入力から終了するには、/exitを入力すれば良いですね。

続いて、Phi 3.5 miniを使ってみます。

※ブロードバンドルーターを再起動したので、再試行した方が圧倒的に早くダウンロードできました。あと、夜に確認したので、ウィンドウがダークモードになっております、ご了承ください。

Why is the sky blue? とプロンプトを与えてみました。

問題なさそうですね。

続いて、

 と日本語でプロンプトを与えてみました。

破綻なく日本語が、出力されました。この辺りで、どのモデルを選ぶのかというポイントになりますね。



2024年11月17日日曜日

Apple Siliconの仮想化でどの製品までがInsider Programに対応してもらえそうか その2

Apple Siliconの仮想化でどの製品までがInsider Programに対応してもらえそうか

の続き。

補足)本稿は、Windows Insider Programに加入されている方が対象です。Windows Insider Programが一般向けのプログラムではないことを前提にしていますので、ご注意ください!WindowsのOSライセンスは別途必要です!
またWindows Insider Programの有効化前に、「診断とフィードバック」→「オプションの診断データを送信する」の有効化が必要です。
Windows Insider Programに興味のない方は、ここでごリタイヤいただけると助かります。

VMware Fusion 13.6.1があるというのを下記で知りました。

商用もOK ~「VMware Workstation」「VMware Fusion」が完全無償化

VMware Fusion 13.6.1のダウンロードは、Broadcomアカウントが必要です。また、ちょっと探しにくい感じでしたが無事にダウンロードできました。ダウンロードおよびインストール手順は、下記を参考にしました。

VMware Fusion 13.5で構築、M2 MacにWindows11をインストール

ダウンロードのリンクは、下記にあります。

https://www.vmware.com/products/desktop-hypervisor/workstation-and-fusion

Windows 11 Arm版のインストールで、VMware Fusion 13.6.1で実行してみました。確かにISOダウンロード周りが、Parallels Desktopと同様な感じで簡単になっています。

Windows 11 Arm版のインストール後、VMware Toolsをインストールすると画面の解像度が一年前に確認した時より格段に使いやすくなっています!これは助かりました。

Parallels Desktopは、有償ゆえ機能も豊富ですので、間違い無くベストの製品です。ただ、WindowsのアプリもMacのアプリもシームレスに使えることが、時々混乱したりします。Mac側のファイルとアプリの関連付けがWindowsアプリへの関連づけに置き換わることもありました。少々便利すぎるかもしれないと感じていたところです。
※なおParallels  Toolsが有償で得られることもメリットです。不要ファイルのクリーンアップ、メモリの節約などとても便利に使えていたことを申し添えます。

VMware FusionはParallels Desktopほどの機能はないのですが、境界が分かれているので逆に混乱しなくても良いのが、個人的に良いなと感じた次第ですね。

追伸 色々お試ししているタイミングで、下記の記事がそういえば出ていました。より簡単にインストールできるのは朗報ですね!

「Windows 11 バージョン 24H2」のISOイメージファイル、ARM64向けがようやく登場

2023年11月11日土曜日

Apple Siliconの仮想化でどの製品までがInsider Programに対応してもらえそうか

Windows Insider Programが一般向けのプログラムではないことを前提にしていますので、ご注意ください!

補足)本稿は、Windows Insider Programに加入されている方が対象です。またWindows Insider Programの有効化前に、「診断とフィードバック」→「オプションの診断データを送信する」の有効化が必要です。

仮想化ソフトウェアによる対象となるのか否かは、下記の通りです。

  • Parallels Desktop
    Apple SiliconなARM 64として唯一Microsoftがサポートする旨を言及している仮装化ソフトウェアゆえなのか、Windows Insider Programの対象になります。
  • VMware Fusion Player
    Windows Insider Programの対象外です。

  • UTM
    Windows Insider Programの対象外です。

Windows 11内等でどういう判断がなされているかわかりませんけど、Apple SiliconでWindows Insider Programを試されたい方は注意が必要ですね。

2023年11月4日土曜日

Apple Siliconで仮想化したい その3

Apple Siliconで仮想化したい その2 からの続き。

注意)Windows 11のライセンスがある前提で記載しています。ご留意ください。

Parallels Desktopは、未インストールでしたのでインストールから始めました。

インストールが完了すると即座にOSインストールの画面になりました。

上記のインストールをクリック後、間髪入れずにダウンロードを開始し始めました。
そして何もやりとりなくOSインストールを開始。
何回か再起動後、この画面になりました。
いきなりインストール完了とのメッセージが表示されました。

ここから先は、ユーザー登録しないと進めないようですね。ユーザー登録しておきました。
※現状は、トライアル使用の状態となっている理解です。

ユーザー登録が完了すると、Windows使用許諾契約に進みました。

Windows使用許諾契約を同意すると、インストール完了。完了までが早いですね。。。画面サイズも自動的にフィットする感じで仕上げてくれましたから、ここも洗練されている。
キーボードは、日本語が入っています。
ネットワークは、共有になっていました。
ローカルアカウントでセットアップしてくれました。
自動展開で迅速に使い始めたい場合に、良いかも。さすがこの種類のメジャーな製品だけあって機能も多いです。
ただもう少しセットアップでカスタマイズ性があっても良いような気もします。ここからAzure Active Directory Join(現在は、Entra ID Joinになるのかな)を行えば良いとも言えますね。