目次 目次 Phi3, Phi3.5, Phi4 関連 C# を使ってローカル PC の CPU か NPU かでお手軽にエッジ AI を始める方法 C# を使って CPU で Edge AI を試してみよう（1）Phi モデルの概要 C# を使って CPU で Edge AI を試してみよう（2）簡単なアプリを作成してみ…

はじめに CPU か NPU か CPU で SLM を試すには CPU 上の ONNX ランタイム対応の提供モデル一覧（2025/03 現在） NPU で SLM を試すには はじめに LLM を使うのはもう当たり前ですが、最近はローカル PC の SLM も手軽に試せる環境が整ってきました。 そこで…

はじめに 環境作成 前提条件 Windows App SDK experimental channel のリリースノート アプリ作成に必要な情報 Windows App SDK Phi Silica の API リファレンス 公式の Windows Copilot Runtime WinUI サンプルアプリ 筆者作成の Language Model を試すコン…

はじめに 推奨環境 目的 特長 設定ファイルは json プロンプトを一度英語に翻訳して問い合わせ、結果を再度日本語にできる RAG に対応 処理フロー 設定ファイルのフォーマット はじめに 公式のサンプルは WinUI3 アプリで、パラメータをいじりながら Phi Sil…

はじめに 推奨環境 目的 特長 設定ファイルは json プロンプトを一度英語に翻訳して問い合わせ、結果を再度日本語にできる RAG に対応 処理フロー 設定ファイルのフォーマット モデルのダウンロード はじめに Phi モデルをローカルで検証できるサンプルアプ…

はじめに 検証 1 システムプロンプト ユーザープロンプト レスポンス 検証 2 システムプロンプト ユーザープロンプト レスポンス： 比較用：英語での検証 システムプロンプト ユーザープロンプト レスポンス： まとめ はじめに コンソールアプリで、Phi Sili…

はじめに コンソールアプリではうまく動かない（のちに解決） GitHub の issue に新情報が！ -> 解決 前の記事 hiro128.hatenablog.jp はじめに Phi Silica がリリースされたので早速検証しています。 まずは、以下の記事にあるように公式サンプルで検証して…

はじめに 検証環境 検証内容 検証結果 NPU の動作 CPU、NPU の使用率 メモリの使用量 精度 まとめ はじめに 2025/02/07 ようやく Phi Silica が使えるようになったので、さっそく試してみました。 発売日に大枚はたいて買った Copilot+ PC がようやく意味を…

はじめに 処理のフロー 翻訳するためのプロンプトを RAG に対応させる システムプロンプト（変更なし） ユーザープロンプトの冒頭に記載する、日本語 -> 英語の翻訳を指示するプロンプト（変更なし） ユーザープロンプトの冒頭に記載する、英語 -> 日本語の…

はじめに 処理のフロー 翻訳するためのプロンプトをどう書くか 翻訳時に発生した問題 システムプロンプト ユーザープロンプトの冒頭に記載する、日本語 -> 英語の翻訳を指示するプロンプト ユーザープロンプトの冒頭に記載する、英語 -> 日本語の翻訳を指示…

はじめに コード 実行環境 速度・精度 プロンプトとレスポンスの一例 Phi 3 Mini 128k（日本語） Phi 3 Mini 128k（英語） Phi 3 Medium 128k（日本語） Phi 3 Medium 128k（英語） 速度と精度の両立を狙うための改善を考えてみる 前の記事 hiro128.hatenabl…

はじめに CPU 対応の提供モデル一覧（2025/03 現在） Hugging Face のリポジトリとダウンロードのコマンド Phi3 mini 4k Phi3 mini 128k Phi3 medium 4k Phi3 medium 128k Phi3.5 mini 128k Phi4 mini 128k はじめに Edge AI を試してみたく Phi Silica がリ…