個人的なメモ

Tomohiro Suzuki @hiro128_777 のブログです。Microsoft MVP for Developer Technologies 2017- 本ブログと所属組織の公式見解は関係ございません。

Phi Silica

C# と ローカル SLM で Edge AI を試してみた(目次)

目次 目次 Phi3, Phi3.5, Phi4 関連 C# を使ってローカル PC の CPU か NPU かでお手軽にエッジ AI を始める方法 C# を使って CPU で Edge AI を試してみよう(1)Phi モデルの概要 C# を使って CPU で Edge AI を試してみよう(2)簡単なアプリを作成してみ…

C# を使ってローカル PC の CPU か NPU かでお手軽にエッジ AI を始める方法

はじめに CPU か NPU か CPU で SLM を試すには CPU 上の ONNX ランタイム対応の提供モデル一覧(2025/03 現在) NPU で SLM を試すには はじめに LLM を使うのはもう当たり前ですが、最近はローカル PC の SLM も手軽に試せる環境が整ってきました。 そこで…

Phi Silica の Language Model を検証できるコンソールアプリ

はじめに 推奨環境 目的 特長 設定ファイルは json プロンプトを一度英語に翻訳して問い合わせ、結果を再度日本語にできる RAG に対応 処理フロー 設定ファイルのフォーマット はじめに 公式のサンプルは WinUI3 アプリで、パラメータをいじりながら Phi Sil…

Phi Silica (Language Model)で日本語の実用性があるか試してみた。

はじめに 検証 1 システムプロンプト ユーザープロンプト レスポンス 検証 2 システムプロンプト ユーザープロンプト レスポンス: 比較用:英語での検証 システムプロンプト ユーザープロンプト レスポンス: まとめ はじめに コンソールアプリで、Phi Sili…

Phi Silica をコンソールアプリで動かしたらエラー発生、そして解決

はじめに コンソールアプリではうまく動かない(のちに解決) GitHub の issue に新情報が! -> 解決 前の記事 hiro128.hatenablog.jp はじめに Phi Silica がリリースされたので早速検証しています。 まずは、以下の記事にあるように公式サンプルで検証して…

待ちに待った Phi Silica がようやくやってきたので Text Completion を試してみた

はじめに 検証環境 検証内容 検証結果 NPU の動作 CPU、NPU の使用率 メモリの使用量 精度 まとめ はじめに 2025/02/07 ようやく Phi Silica が使えるようになったので、さっそく試してみました。 発売日に大枚はたいて買った Copilot+ PC がようやく意味を…