個人的なメモ

Tomohiro Suzuki @hiro128_777 のブログです。Microsoft MVP for Developer Technologies 2017- 本ブログと所属組織の公式見解は関係ございません。

待ちに待った Phi Silica がようやくやってきたので Text Completion を試してみた

 

はじめに

2025/02/07 ようやく Phi Silica が使えるようになったので、さっそく試してみました。
発売日に大枚はたいて買った Copilot+ PC がようやく意味を為す時がきました。

検証環境

機種:Micosoft Surface Pro, 11th Edition
CPU:Snapdragon(R) X 12-core X1E80100 @ 3.40 GHz (3.42 GHz)
RAM:16GB
今のところ Windows Insider Beta または Dev Channel での動作となります。
 

検証内容

以下の公式のサンプルコードで Text Completion を動かして NPU が動作するか、CPU、NPU、メモリの状況、回答の精度などを確認してみました。
github.com
以下のようなアプリが起動します。

  1. Language Model を選択
  2. モデルのセッションを開始
  3. プロンプトを入力
  4. レスポンスが返ってくる

という使い方です。

 

検証結果

NPU の動作

NPU が働いています。待ちに待っただけあって感動です。

 

CPU、NPU の使用率

CPU は 10 - 20%
NPU は 70%
くらいの使用率でした。
 

メモリの使用量

システム全体で 13.6GB
NPU は 2.5 GB でした。

Phi3 mini をローカルで動かしたときより少し少ないくらいのメモリ消費量です。
 

精度

プロンプトをいろいろ試してみた結果
英語:現段階では回答内容も微妙で、Phi3 mini より少し悪いようです。
日本語:現段階では破綻しており、かなり簡単な問いでも正常な日本語を出せません。

 

まとめ

まだ Dev チャネルであり、WindowsAppSDK も Expeimental なので、「とりあえず動作する状況になった」という段階と思われます。精度は今後向上する可能性がありそうです。

まずは、Stable リリースに一歩近づいたということで今後の展開を楽しみにしてみることにします。
 
コンソールアプリでも動かしてみました。
hiro128.hatenablog.jp