AMDのNPUでローカルAIが動く！Lemonade ServerでLLM・音声認識・画像生成を試す方法

ChatGPTなどのクラウドAIは便利ですが、「社内の資料を外に送りたくない」「API料金を気にせず試したい」と感じる場面もあります。そんなときの選択肢が、手元のPCでAIを動かすローカルAIです。

タクヤ

NPUがなくても、CPUやGPUで動きます。画像生成もできますが、実はNPUではなくGPUかCPUで動く仕組みです。そこを含めて、順番に見ていきましょう。

Lemonade Serverとは

Lemonade Serverは、AMDのエンジニアが最適化に関わっているオープンソースのローカルAIサーバーです。公式のGitHubでは「クラウドのAPIと同じことが、無料かつプライベートにできる」と紹介されています。

主な特徴は次のとおりです。

• いろいろなAIを1つで動かせる：チャット（LLM）、文字起こし（Whisper）、音声合成、画像生成（Stable Diffusion）などに対応
• ほかのアプリとつなげやすい：OpenAI・Anthropic・Ollamaと同じ形式のAPIで使える
• 対応するPCが広い：Windows 11、Linux、macOS、Dockerで動き、AMDのNPU・GPU、NVIDIAのGPU、Apple Silicon、普通のCPUに対応

何をどこで動かすか：NPU・GPU・CPUの対応表

「NPUで全部動く」と思われがちですが、実際は機能ごとに使う部品が違います。公式の対応表（Windowsの場合）を整理すると、次のようになります。

自分のPCでどれが使えるかは、インストール後に次のコマンドで確認できます。

lemonade backends

Windowsでインストールして、最初のチャットをする

1. GitHubのリリースページから、Windows用の lemonade.msi をダウンロードする
2. ダウンロードしたファイルを開いて、インストールする
3. ターミナル（PowerShellなど）を開き、次のコマンドでモデルをダウンロードして会話を始める

lemonade run Gemma-4-E2B-it-GGUF

使えるモデルの一覧と、ダウンロードだけしたいときは次のコマンドです。

lemonade list
lemonade pull Gemma-4-E2B-it-GGUF

コマンドが苦手な人は、アプリに入っているModel Manager（モデルの管理画面）から探してダウンロードすることもできます。チャットや画像生成を試せる画面も最初から入っています。

タクヤ

最初は小さめのモデルで試すのがおすすめです。動作が軽いので、自分のPCでどのくらい快適に動くかがすぐ分かります。

画像生成を試す

画像生成は、Stable DiffusionのSDXL-Turboで試せます。

lemonade run SDXL-Turbo

Windowsでは、画像生成はGPU（Vulkan対応）かCPUで動きます。AMDのRyzen AI搭載PCなら、内蔵GPU（iGPU）をVulkanで使う形になります。NPUは画像生成には使われないので、「NPUがあるのに速くならない」と感じたら、GPUで動いているかを lemonade backends で確かめてみてください。

文字起こし・音声合成を試す

音声ファイルの文字起こしは、Whisperのモデルで試せます。WindowsでXDNA2世代のNPUがあれば、NPUで動かせます。

lemonade run Whisper-Large-v3-Turbo

文章を読み上げる音声合成は、kokoroのモデルで試せます。

lemonade run kokoro-v1

ほかのアプリやプログラムから使う

Lemonade ServerはOpenAIと同じ形式のAPIで使えるので、OpenAIに対応したアプリやライブラリの接続先を変えるだけでローカルAIに切り替えられます。公式のPythonの例は次のとおりです。

from openai import OpenAI

client = OpenAI(
    base_url="http://localhost:13305/api/v1",
    api_key="lemonade"  # 入力は必要だが、使われない
)

completion = client.chat.completions.create(
    model="Gemma-4-E2B-it-GGUF",
    messages=[{"role": "user", "content": "日本の首都はどこ？"}]
)
print(completion.choices[0].message.content)

コーディングに使いたい場合は、lemonade launch claude のように、対応しているコーディング用のツールをLemonadeのモデルで起動する機能もあります。

自宅のLemonade Serverに外出先からつなぎたい場合は、Cloudflare Accessで自宅のローカルAIに安全に外部からアクセスする設定手順も参考にしてください。

つまずきやすいポイント

よくある質問

まとめ

Lemonade Serverを使えば、チャット・文字起こし・音声合成・画像生成を、手元のPCで無料で動かせます。AMDのNPUはチャットと文字起こしに、画像生成はGPUかCPUに使われる、という役割分担を知っておくと迷いません。

まずは lemonade.msi を入れて、lemonade backends で自分のPCで使える動かし方を確かめるところから始めてみてください。