AIスーパーコンピュータ「継之助」試運転 34Bモデルを動かしてみる

AIスーパーコンピュータ「継之助」試運転 34Bモデルを動かしてみる｜shi3z

著者が組んだ A100 複数 GPU の環境で Nous Capybara 34B を試運転した記事。モデルの読込、GPU の利用状況、プロンプト調整による出力の変化を記録する。

Transformers の自動配置でモデルを読み込み、nvidia-smi の表示と応答を掲載。日本語のコード生成では文章の反復が出たため、回答の書き出しを変えたが、生成コードに不具合が残った。

学習・環境の観察：複数 GPU への配置とメモリ利用のログ。／確認 2026-09-14／https://note.com/shi3zblog/n/n34d11c7e0710

学習・出力の調整：回答の書き出しを変え、反復とコード生成を確認。／確認 2026-09-14／https://note.com/shi3zblog/n/n34d11c7e0710

対象：AIの開発・導入・活用を検討する担当者。形式：企業・著者による公開記事。言語：日本語（公開本文で確認）。利用条件：公開記事（本文をログインなしで確認）

確認事項（編集部）：推論の試運転であり、34B の学習成功を示す記事ではない。生成コードの構文や変数には誤りがあり、実行可能な解答として扱わない。

出典：shi3z「AIスーパーコンピュータ「継之助」試運転 34Bモデルを動かしてみる」／公開・更新情報：2023-11-29／確認日：2026-09-14／https://note.com/shi3zblog/n/n34d11c7e0710

AIスーパーコンピュータ「継之助」 試運転 34Bモデルを動かしてみる