個人的なメモ

Tomohiro Suzuki @hiro128_777 のブログです。Microsoft MVP for Developer Technologies 2017- 本ブログと所属組織の公式見解は関係ございません。

Phi

C# と ローカル SLM で Edge AI を試してみた(目次)

目次 目次 Phi3, Phi3.5, Phi4 関連 C# を使ってローカル PC の CPU か NPU かでお手軽にエッジ AI を始める方法 C# を使って CPU で Edge AI を試してみよう(1)Phi モデルの概要 C# を使って CPU で Edge AI を試してみよう(2)簡単なアプリを作成してみ…

C# を使ってローカル PC の CPU か NPU かでお手軽にエッジ AI を始める方法

はじめに CPU か NPU か CPU で SLM を試すには CPU 上の ONNX ランタイム対応の提供モデル一覧(2025/03 現在) NPU で SLM を試すには はじめに LLM を使うのはもう当たり前ですが、最近はローカル PC の SLM も手軽に試せる環境が整ってきました。 そこで…

Phi モデルをローカルで検証できるサンプルアプリ

はじめに 推奨環境 目的 特長 設定ファイルは json プロンプトを一度英語に翻訳して問い合わせ、結果を再度日本語にできる RAG に対応 処理フロー 設定ファイルのフォーマット モデルのダウンロード はじめに Phi モデルをローカルで検証できるサンプルアプ…