個人的なメモ

Tomohiro Suzuki @hiro128_777 のブログです。Microsoft MVP for Developer Technologies 2017- 本ブログと所属組織の公式見解は関係ございません。

AI

Phi Silica をコンソールアプリで動かしたらエラー発生、そして解決

はじめに コンソールアプリではうまく動かない(のちに解決) GitHub の issue に新情報が! -> 解決 前の記事 hiro128.hatenablog.jp はじめに Phi Silica がリリースされたので早速検証しています。 まずは、以下の記事にあるように公式サンプルで検証して…

待ちに待った Phi Silica がようやくやってきたので Text Completion を試してみた

はじめに 検証環境 検証内容 検証結果 NPU の動作 CPU、NPU の使用率 メモリの使用量 精度 まとめ はじめに 2025/02/07 ようやく Phi Silica が使えるようになったので、さっそく試してみました。 発売日に大枚はたいて買った Copilot+ PC がようやく意味を…

C# を使って CPU で Edge AI を試してみよう(4)日本語の精度を高めるために、さらに RAG を導入してみる

はじめに 処理のフロー 翻訳するためのプロンプトを RAG に対応させる システムプロンプト(変更なし) ユーザープロンプトの冒頭に記載する、日本語 -> 英語の翻訳を指示するプロンプト(変更なし) ユーザープロンプトの冒頭に記載する、英語 -> 日本語の…

C# を使って CPU で Edge AI を試してみよう(3)日本語で精度を高めるために、英語に翻訳してプロンプトを投げる

はじめに 処理のフロー 翻訳するためのプロンプトをどう書くか 翻訳時に発生した問題 システムプロンプト ユーザープロンプトの冒頭に記載する、日本語 -> 英語の翻訳を指示するプロンプト ユーザープロンプトの冒頭に記載する、英語 -> 日本語の翻訳を指示…

C# を使って CPU で Edge AI を試してみよう(2)簡単なアプリを作成してみる

はじめに コード 実行環境 速度・精度 プロンプトとレスポンスの一例 Phi 3 Mini 128k(日本語) Phi 3 Mini 128k(英語) Phi 3 Medium 128k(日本語) Phi 3 Medium 128k(英語) 速度と精度の両立を狙うための改善を考えてみる 前の記事 hiro128.hatenabl…

C# を使って CPU で Edge AI を試してみよう(1)Phi モデルの概要

はじめに CPU 対応の提供モデル一覧(2025/03 現在) Hugging Face のリポジトリとダウンロードのコマンド Phi3 mini 4k Phi3 mini 128k Phi3 medium 4k Phi3 medium 128k Phi3.5 mini 128k Phi4 mini 128k はじめに Edge AI を試してみたく Phi Silica がリ…