Qwen3 235B-A22B-Q4をローカルで試す

Qwen3 235B-A22B-Q4をローカルで試す｜shi3z

Qwen3 235B-A22Bの4ビット量子化版をOllamaで動かし、GPU使用量と短編生成を記録。大きなモデルをローカルで使う際の実機ログと、追加指示後の出力を確認できる。

A100 80GBを8枚搭載した環境のメモリ表示を掲載し、配達員を主人公としたミステリーを生成。意外な展開を追加する指示では物語が別ジャンルへ寄ったことを著者が指摘している。

学習・実行環境：Ollamaと8枚のA100で4ビット版を実行／確認 2026-09-15／https://note.com/shi3zblog/n/n82e3dc5559d2

学習・試行内容：短編の初回生成と展開変更の追加指示／確認 2026-09-15／https://note.com/shi3zblog/n/n82e3dc5559d2

対象：AIの開発・導入・活用を検討する担当者。形式：企業・著者による公開記事。言語：日本語（公開本文で確認）。利用条件：公開記事（本文をログインなしで確認）

確認事項（編集部）：掲載のGPU構成は動作例で、必要最小構成ではない。創作出力への所感であり、モデル全体の能力比較を示すベンチマークではない。

出典：shi3z「Qwen3 235B-A22B-Q4をローカルで試す」／公開・更新情報：2025-05-01／確認日：2026-09-15／https://note.com/shi3zblog/n/n82e3dc5559d2

関連ページ