本文へ移動
会社員19年・4児の父が、AIで1人起業する途中を実録で書いています。うまくいったことも、つまずいたことも。運営者情報 | お問い合わせ
前回の続きから
読了、おつかれさまでした!次の一歩:【プログラミング未経験者】Claude デスクトップがうまくいかない時に試したい5つの攻略法 ›
AI活用・業務効率化

OllamaでGPUが使われない時|3つのコマンドで切り分け

公開日 2026.10.09更新日 2026.11.04書いた人 ゆうき(会社員19年・4児の父)
OllamaでGPUが使われない時の切り分けを示すアイキャッチ、RTX 5060実機ログこの記事は約24分で読めます
この記事の目次
  1. OllamaでGPUが使われないかはどう確かめる?ollama psのPROCESSOR列を見る
  2. ollama psで100% CPUと出たら?server.logでGPUの認識を確かめる
  3. 【実機ログ】GPUは認識されているのに1層だけCPUに回った
  4. nvidia-smiでは何を確かめればいい?使用中のVRAMとドライバ版
  5. OllamaでGPUが使われない原因と対処
  6. RTX 5060などRTX 50シリーズでOllamaのGPUは使える?
  7. OllamaでGPUが使われないときのよくある質問
  8. まとめ|OllamaでGPUが使われないときは3つのコマンドを順に
  9. この記事を書いた人|ゆうき

※当サイトにはアフィリエイト広告が含まれます。本記事の本文に広告リンクはありませんが、記事の前後にはサイト共通の広告が表示される仕組みです。

OllamaでGPUが使われないときは、ollama ps、server.log、nvidia-smiの順に3つ見れば切り分けられます。私のRTX 5060 8GBはCUDAで正しく認識されていたのに、ある読み込みだけ29層のうち1層がCPUに回りました。最初に、GPUを認識していないのか、認識したうえで一部が外に出たのかを分けてください。

返事が1文字ずつしか出てこない。タスクマネージャーを開くと、CPUのグラフばかり張りついている。NVIDIAのGPUを積んで、ドライバも入れたはずなのに。

GPUが使われないのでは、と疑いながらも、どこから調べればいいか決めきれない。ドライバを入れ直すか、Ollamaを入れ直すか、検索結果の前で手が止まっていませんか。

原因を切り分けないまま入れ直しを始めると、直っても直らなくても理由が分かりません。次に同じ症状が出たとき、また一からやり直しです。

この記事では、私のRTX 5060 8GB機に残っていたOllamaのserver.logを引用しながら、見る順番を3つのコマンドで並べます。インストールやモデル選びはOllamaの導入手順の記事にまとめました。ここでは、GPUが使われないときの切り分けだけに絞ります。

この記事を読むと分かること
  • ollama psのPROCESSOR列で、GPUが使われているかを10秒で見分ける方法
  • server.logのどの行を見れば、GPUの認識とGPUに載った層の数が分かるか
  • RTX 5060の実機ログに残っていた、29層中1層だけCPUに回った記録
  • RTX 50シリーズの公式対応状況と、GitHubに上がっている既知の報告

OllamaでGPUが使われないかはどう確かめる?ollama psのPROCESSOR列を見る

OllamaでGPUが使われないかは、モデルを読み込んだ状態でollama psを打ち、PROCESSOR列を見れば分かります。100% GPUなら、モデルは全部GPUで動いています。100% CPUならserver.logへ、CPU/GPUの分割表示ならVRAMの空きを疑う、という順で進めてください。

モデルを読み込んだ状態でollama psを打つ

ollama ps

ollama psは、いまメモリに載っているモデルの一覧を出すコマンドです。何も載っていなければ一覧は空になります。先にモデルへ一度話しかけてから打ちましょう。

ollama psの実行結果、qwen2.5:7bがSIZE 4.7GB、PROCESSOR 100% GPU、CONTEXT 4096で読み込まれている画面
ollama psの実行結果(RTX 5060 8GB・2026年10月8日19時13分)

上は、私のPCで2026年10月8日19時13分に打った結果です。Qwen2.5 7B Instruct(qwen2.5:7b、4.7GB)が100% GPUで載っていました。この表示なら、GPUが使われないという心配はいりません。

PROCESSOR列に出る3つの表示

PROCESSOR列の表示は3種類です。Ollama公式FAQ(2026年10月8日時点)の記載をもとに、次に見る場所を表にしました。

ollama psのPROCESSOR列と次の一手
表示状態次に見る場所
100% GPUモデルが全部GPUに載っているGPUの問題ではない。遅いならモデルの大きさを見直す
48%/52% CPU/GPU(公式FAQの例)一部がシステムメモリに回っている実機ログの章とnvidia-smiの章
100% CPUGPUを使っていないserver.logの章

分割表示の細かい読み方は、覚えなくても困りません。CPU側に数字が付いていれば、その分はGPUの外で動いている。まずはそれだけ押さえてください。

タスクマネージャーでも当たりはつけられる

コマンドが苦手なら、Windows 11のタスクマネージャーでも当たりはつけられます。パフォーマンスタブでGPUを選び、専用GPUメモリのグラフを見てください。モデルの読み込みに合わせてグラフが持ち上がれば、VRAMに何かが載った合図です。

ただし、タスクマネージャーでは何層がGPUに載ったかまでは分かりません。層の数まで教えてくれるのはOllamaのログです。私のログには、同じモデルなのに1層だけGPUから外れた行が残っていました。その行は、このあと実機ログの章で見せます。

OllamaでGPUが使われないときの切り分けフロー、ollama ps、server.log、nvidia-smiの順に確認する図
GPUが使われないときの切り分けフロー

まだ環境を作っていない方へ

非エンジニアがClaude Codeを使い始めるまでの環境構築を、画面の手順どおりにまとめたマニュアルです。

Claude Codeの始め方を見る

ollama psで100% CPUと出たら?server.logでGPUの認識を確かめる

ollama psが100% CPUなら、次はserver.logの起動時の行にlibrary=CUDAと出ているかを見ます。出ていれば、OllamaはGPUをCUDAで認識しています。出ていなければ、モデルがCPUで動く原因は認識の段階にあり、VRAMの空きを調べるのはその後です。

server.logは%LOCALAPPDATA%\Ollamaにある

explorer %LOCALAPPDATA%\Ollama

Windowsでは、server.logは%LOCALAPPDATA%\Ollamaのフォルダに入っています。上の1行はOllama公式トラブルシューティングに載っている開き方です。エクスプローラーのアドレス欄に%LOCALAPPDATA%\Ollamaと入れても同じフォルダが開きます。

最新のログはserver.logで、古いものはserver-#.log(#は番号)として残ります(公式トラブルシューティング・2026年10月8日時点)。このファイルをメモ帳で開き、Ctrl+Fでinference computeと検索するのが早道です。

inference computeの行でlibrary=CUDAかを見る

私のRTX 5060では、Ollamaの起動時に次の行が記録されていました。行の中から、判断に使う項目だけを抜き出しています。

msg="inference compute" library=CUDA compute=12.0 description="NVIDIA GeForce RTX 5060" libdirs=ollama,cuda_v13 driver=13.2 type=discrete

見る場所はlibrary=CUDAの1か所です。CUDAは、NVIDIAのGPUで計算をさせるための仕組みを指します。compute=12.0はGPUの世代を表すcompute capabilityで、descriptionにはGPUの名前が入ります。

同じ起動時のgpu memoryの行には、総量が8.0GiB、available(空き)が6.4GiB、freeが6.9GiBと出ていました。ログにlibrary=CUDAとGPUの名前が並んでいれば、OllamaはそのGPUを認識しています。

認識に失敗するとlibrary=cpuや0 Bと記録される

GPUを認識せず、CPUだけで動いた場面に私は当たっていません。なので、この節は他の人の報告です。GitHubのIssue #18581には、inference computeの行がlibrary=cpuになり、total_vram=0 Bと記録されたログが貼られています。

RTX 5090を使ったIssue #13338でも、total vramが0 Bと記録されてCPUに切り替わったと報告されています。自分のログでlibrary=cpuや0 Bを見つけたら、GPUが使われない原因は認識の段階です。後半の原因と対処の章で、ドライバとCUDA_VISIBLE_DEVICESを先に確かめてください。

もっと詳しく見たいときはOLLAMA_DEBUG

公式トラブルシューティングには、環境変数OLLAMA_DEBUGを1にして起動し直すと、詳しいログが出ると書かれています。私はこの設定を試していません。普段のログだけでも、認識できたかどうかは判断できました。

【実機ログ】GPUは認識されているのに1層だけCPUに回った

私のRTX 5060 8GBは、CUDAで認識されていました。それでも2026年10月8日14時20分の読み込みだけ、29層のうち28層しかGPUに載っていません。同じqwen2.5:7bを読み込んだほかの5回は、29層すべてがGPUでした。

ログを取ったPCの環境

項目内容
GPUNVIDIA GeForce RTX 5060(8GB)
NVIDIAドライバ595.95
CPU・メモリ・OSRyzen 5 8400F、32GB、Windows 11
Ollama0.32.1
モデルQwen2.5 7B Instruct(qwen2.5:7b)、29層

同じログに29/29と28/29が両方あった

server.logには、モデルを読み込むたびにoffloadedの行が出ます。何層のうち何層をGPUに載せたか、という記録です。私のログでは、次の2種類が見つかりました。

offloaded 29/29 layers to GPU
offloaded 28/29 layers to GPU

読み込みごとに、直前のgpu memoryの行のavailableと並べたのが下の表です。日時はログの記録をそのまま写しました。

qwen2.5:7bの読み込みごとの記録(RTX 5060 8GB・server.logより)
日時availableGPUに載った層
2026年7月16日6.4 GiB29/29
2026年9月28日 18時56分6.4 GiB29/29
2026年10月8日 14時18分2.0 GiB29/29
2026年10月8日 14時19分2.0 GiB29/29
2026年10月8日 14時20分1.3 GiB(free 1.8 GiB)28/29
2026年10月8日 19時12分615.2 MiB29/29

6回の読み込みのうち、28/29は14時20分の1回だけでした。翌分には別の作業に移ったので、その後に同じ条件で読み込み直してはいません。

availableの数字と載った層の数は比例していなかった

28/29の直前の行には、次の値が並んでいました。

available="1.3 GiB" free="1.8 GiB"
offloaded 28/29 layers to GPU

ところが19時12分は、もっと少ないavailable 615.2MiBで29/29でした。空きの数字が小さいほど層が減る、という単純な並びにはなっていません。

正直に書くと、なぜこうなったのかを私は説明できません。VRAMが足りなかったから1層外れた、と言い切れる材料がログに無いからです。だからこの記事では、解釈を足さずに行をそのまま載せています。

わかったこと|認識の問題と、層が外に出る問題は別物

library=CUDAと出ているのに、offloadedの分子が分母より小さい。この組み合わせなら、GPUの認識はできています。ドライバを入れ直す前に、その読み込みのときにVRAMがどう使われていたかを見てください。

8GBのカードには、余裕がほとんどありません。私のログでも、availableは日によって6.4GiBから615.2MiBまで動きました。だからこそ、遅いと感じた日にollama psを1回打つだけで、その日の状態がつかめます。

OllamaでGPUが使われない2つの型、server.logのlibrary=cpuで分かる認識の問題と、offloaded 28/29のように一部の層がGPUの外に出る問題を並べた図
認識の問題と、層が外に出る問題の見分け方

nvidia-smiでは何を確かめればいい?使用中のVRAMとドライバ版

nvidia-smiでは、GPUの名前、使用中のVRAM、VRAMの総量、使用率の4つを見ます。私のRTX 5060では、qwen2.5:7bが100% GPUで載った状態で、使用中5,340MiB、総量8,151MiBでした。ドライバの版は、Ollama公式の要件と見比べます。

4項目だけを1行で出す

nvidia-smi --query-gpu=name,memory.used,memory.total,utilization.gpu --format=csv

nvidia-smi(NVIDIA System Management Interface)は、NVIDIAのドライバに付いてくる監視ツールです。上の1行を打つと、名前、使用中、総量、使用率がカンマ区切りで1行に並びます。

nvidia-smiの実行結果、NVIDIA GeForce RTX 5060で使用中のVRAM 5340MiB、総量8151MiB、GPU使用率0%と表示された画面
nvidia-smiの実行結果(RTX 5060 8GB・2026年10月8日)

このときの使用率は0%でした。別の時点では、5,367MiB、9%と出たこともあります。使用率はその瞬間の値なので、0%だけを見てGPUが使われないと決めつけないでください。

ドライバのバージョンを公式の要件と比べる

Ollamaが求めるNVIDIAドライバは550以上です。compute capabilityが5.0から6.2の古いGPUだけは570以上が必要です(Ollama公式Hardware support・2026年10月8日時点)。私の環境は595.95で、どちらの条件も満たしています。

server.logに出ていたdriver=13.2は、595.95という版番号とは別の表記です。ログの数字をドライバの版と読み違えないよう、気をつけてください。

他の処理が使っているVRAMを確かめる

Ollamaにモデルを読み込ませる前にも、nvidia-smiを1回打っておきます。読み込む前のmemory.usedが大きければ、ほかのアプリがVRAMを使っています。ゲームや画像生成、重いブラウザのタブが残っていないかを見直す合図です。

OllamaでGPUが使われない原因と対処

OllamaでGPUが使われない原因は、大きく3つです。ドライバが古い、GPUを制限する設定が残っている、VRAMの空きが足りない。私のログで起きていたのは、認識には問題が無い側でした。

GPUが使われない原因ごとの見え方と対処
原因どう見えるか対処
ドライバが古いserver.logにlibrary=CUDAが出ない550以上に更新してPCを再起動
GPUを制限する設定ollama psが100% CPUのままCUDA_VISIBLE_DEVICESが残っていないか確認
VRAMの空きが足りないCUDAは出るが、CPU/GPUの分割表示になる他のアプリを閉じる、軽いモデルにする

ドライバが古いなら、更新してPCを再起動する

NVIDIAドライバが550より古いと、Ollamaの公式要件を満たしません。NVIDIAの公式サイトから自分のGPU向けのドライバを入れ、PCを再起動してください。再起動の後にもう一度ログを開き、library=CUDAが出たかを見れば結果が分かります。

GPUを制限する設定が残っていないか、CUDA_VISIBLE_DEVICESを確かめる

CUDA_VISIBLE_DEVICESは、使うGPUを選ぶための環境変数です。公式のHardware supportには、GPUの番号をカンマ区切りで書くと使うGPUを絞れるとあります。番号よりUUIDのほうが確実だ、とも書かれています。

同じページには、-1のような存在しない番号を入れるとGPUを使わずCPUだけで動く、と書かれています。以前どこかの手順でこの値を入れたまま忘れていれば、GPUが使われない状態が続きます。Windowsの環境変数の画面で、ユーザーとシステムの両方にこの変数が無いかを見てください。

私はCUDA_VISIBLE_DEVICESを設定したことがなく、この変数の動きは試していません。設定したのに効かない、外したのに戻らないという詰まり方はOllama以外でも起きます。Google Apps Scriptで同じ型の詰まりを解いた記事がGASデプロイが反映されない原因3つです。

VRAMの空きが足りないなら、他のアプリを閉じるか軽いモデルにする

ollama psが分割表示なら、GPUの認識は済んでいます。ゲームや画像生成など、VRAMを使うアプリを閉じてから読み込み直してください。それでも収まらないなら、モデルを小さくする番です。

8GBのカードで無理なく動く候補は、8GBで動くモデルの選び方で実機の感触とあわせて紹介しました。この記事ではモデル選びに踏み込みません。

重い作業は、クラウドのAIに任せる手もある

8GBのカードでは、大きなモデルや長いコードを回すとすぐ窮屈になります。コードを書かせる作業だけクラウドのAIコーディングツールに回せば、ローカルのGPUは軽い用途に空けておけます。

AIコーディングツール比較|Claude Codeで選ぶ7基準を読む

RTX 5060などRTX 50シリーズでOllamaのGPUは使える?

使えます。Ollamaの公式対応表には、RTX 5060を含むGeForce RTX 50シリーズがcompute capability 12.0として載っています(2026年10月8日時点)。私のRTX 5060も、ドライバ595.95とOllama 0.32.1の組み合わせでCUDAとして認識されていました。

公式の対応表ではcompute capability 12.0の欄に載っている

GeForce RTX 50シリーズは、NVIDIAのBlackwellという世代のGPUです(Wikipedia GeForce RTX 50 series)。Ollama公式Hardware supportでは、RTX 5060、5060 Ti、5070、5070 Ti、5080、5090が12.0の欄に並んでいます。

私のログに出ていたcompute=12.0も、この表の値と一致します。表に載っていて、ログにも同じ数字が出ていれば、少なくとも対応外のGPUではありません。

Windowsで0 Bと記録されてCPUに切り替わる報告がある

公式に対応していても、うまく認識されない報告はあります。2026年9月22日に立てられたIssue #18581は、RTX 50シリーズのWindowsでCUDAの認識に失敗し、CPUへ切り替わるという内容です。2026年10月8日時点でオープンのままでした。

報告者の環境は、RTX 5060 Ti 16GBの2枚挿しで、ドライバは616.92です。Ollamaは0.33.3と0.34.2で、私の0.32.1より新しい版でした。Vulkanという別の方式に切り替えると2枚とも使えた、と報告者は書いています。私は試していません。

2025年12月5日のIssue #13338は、Windows 10とRTX 5090の組み合わせです。ドライバ591.44、Ollama 0.13.1で、GPUが認識されるときと0 Bになるときがあったと報告されています。こちらはクローズ済みです。

私のRTX 5060では認識されていた

私の構成は、RTX 5060 8GBが1枚、ドライバ595.95、Ollama 0.32.1です。この組み合わせでは、ログにlibrary=CUDAとcompute=12.0が出ていました。ただ、Issueの症状を再現しようと試したわけではありません。

RTX 50シリーズでGPUが使われないなら、まずログのlibraryの値を見て、Issueと同じ症状かを確かめてください。これからGPUを選ぶ段階なら、VRAM別のGPUの目安を先に読んでおくと迷いが減ります。

OllamaのRTX 50シリーズ対応状況、公式の対応表とGitHubのIssue #18581と#13338の報告を並べた図
RTX 50シリーズの公式対応とGitHubの報告

OllamaでGPUが使われないときのよくある質問

Q1. OllamaがGPUを使っているかを一番早く確かめる方法は?
モデルを読み込んだ状態でollama psを実行し、PROCESSOR列を見ます。100% GPUなら全部GPUで動いています。

Q2. ollama psで100% CPUと出たら、最初に何を見ればいいですか?
server.logの起動時の行で、library=CUDAと出ているかを見ます。出ていなければ、OllamaはGPUを認識できていません。

Q3. Windowsでserver.logはどこにありますか?
%LOCALAPPDATA%\Ollamaの中のserver.logです。古いログはserver-#.logとして番号付きで残ります(Ollama公式トラブルシューティング)。

Q4. server.logのoffloaded 28/29 layers to GPUは何を意味しますか?
モデルの29層のうち28層がGPUに載り、1層がGPUの外に回ったという記録です。私のRTX 5060 8GBでは、6回の読み込みのうち1回だけこの表示が出ました。

Q5. RTX 50シリーズはOllamaに対応していますか?
公式の対応表にcompute capability 12.0として載っています。ただしWindowsで0 Bと記録されてCPUに切り替わる報告がGitHubにあり、Issue #18581は2026年10月8日時点で未解決です。

Q6. NVIDIAドライバはどのバージョンが必要ですか?
Ollama公式ドキュメントでは550以上です。compute capabilityが5.0から6.2のGPUは570以上が必要です。

Q7. GPUが複数あるとき、Ollamaが使うGPUを決めるには?
環境変数CUDA_VISIBLE_DEVICESに、使うGPUの番号かUUIDをカンマ区切りで指定します(Ollama公式Hardware support)。

Q8. nvidia-smiでGPU使用率が0%なら、GPUは使われていませんか?
それだけでは判断できません。使用率はその瞬間の値です。私の環境では、ollama psが100% GPUの状態でもnvidia-smiの使用率が0%と出ました。

Q9. ollama psを打っても何も表示されないのはなぜですか?
メモリに載っているモデルが無いからです。ollama psは読み込み中のモデルだけを表示するので、先にモデルへ一度話しかけてから実行します。

Q10. Ollamaが遅いのは、GPUが使われないせいですか?
ollama psが100% GPUなら、GPUは使われています。100% CPUや分割表示なら、GPUの外で動いている部分があるので、server.logとnvidia-smiを順に確かめてください。

ローカルAIを副業の下書きに使いたい人へ

GPUで動くようになったら、次は何に使うかです。AIで稼ぐ最初の一歩を、壁打ちとAI同士の分担の実例で書いています。

初心者がAIで稼ぐなら壁打ちからの記事を読む

まとめ|OllamaでGPUが使われないときは3つのコマンドを順に

OllamaでGPUが使われないときの見る順番を、RTX 5060 8GBの実機ログとあわせて振り返ります。

  • ollama psでPROCESSOR列を見る。100% GPUなら、GPUの問題ではありません。
  • 100% CPUならserver.logを開き、library=CUDAかどうかで認識を確かめる。
  • 認識できているのに分割表示なら、nvidia-smiで使用中のVRAMとドライバの版を見る。

私のPCでは、GPUは認識されていたのに、1回だけ29層のうち1層がGPUの外に出ました。認識の問題と、層が外に出る問題。この2つを分けるだけで、入れ直すべきものかどうかが見えてきます。

次に返事が遅いと感じたら、まずollama psを1回打ってください。100% GPUならモデルの大きさを見直し、そうでなければserver.logを開く。ここまで読んだあなたなら、もう当てずっぽうで入れ直す必要はありません。

あなたの会社の手作業も、仕組みにできるか確かめてみませんか

この記事の手順で片づく作業もあれば、どこから手をつけるかで迷う作業もあります。仕組みにしたい作業があるなら、進め方は2通りあります。

作ってほしい方

30分の無料相談

今の作業のどこから仕組みにできそうかを、一緒に整理します。見積もりは内容を伺ってからお出しし、頼むかどうかはそのあとで決めていただけます。しつこい営業はしません。

無料相談の内容を見る

自分でAIに作らせたい方

AIつまずき相談 90分(16,500円・税込)

画面を共有して、作り始める前に何をどの順で作るかを洗い出します。作ったアプリが本当に動いているかの確認にも使えます。録画と手順メモをお渡しします。

90分相談の内容を見る

この記事を書いた人|ゆうき

中小企業DX化コンサルタント × システム開発者
1987年生まれ。高卒スタートから中小物流会社の業務改善責任者へ。

大手コンサルに頼らず、現場のアナログ環境からシステム化を進めることを信条に活動しています。物流会社に勤めて19年(うちバックオフィス・業務改善15年)、ClaudeやChatGPTを業務に組み込んだ実装経験をもとに、現場で使えるノウハウだけを発信します。ローカルAIは自宅のRTX 5060 8GB機で動かし、自分のログに残った数字だけを書いています。

ゆうきのプロフィールを見る お問い合わせ:info @desire-planet.com

参考資料(すべて2026年10月8日に確認)
Ollama Hardware support(docs.ollama.com)
Ollama Troubleshooting(docs.ollama.com)
Ollama FAQ(docs.ollama.com)
GitHub Issue #18581、#13338
GeForce RTX 50 series(Wikipedia)
検証に使ったOllamaは0.32.1です。最新版では挙動が変わっている可能性があるため、GitHub Releasesもあわせて確認してください。

公開日 2026年10月9日 最終更新日 2026年10月9日

はじめての方へ

いまのあなたに近いのは、どれですか?