物理学者の逆襲!?Entropixはわずか3億6000万パラメータで1000億パラメータ級の回答を引き出す!Claude-3でも間違う問題を360Mが正しく解く

物理学者の逆襲!?Entropixはわずか3億6000万パラメータで1000億パラメータ級の回答を引き出す!Claude-3でも間違う問題を360Mが正しく解く|shi3z

著者が Entropix の推論コードを修正して動かし、数値比較や文章生成を試した記録。通常の推論との応答例、GPU向け修正、Colabでの小規模モデルの試用を載せている。

Llama 3.2 1B で小数の大小を質問し、サンプリングを変えた出力を比較。360M規模のモデルでも試し、生成長の変更やエントロピーの可視化を紹介する。

学習・実装:GPU実行時の修正コードと推論の起動例/確認 2026-09-14/https://note.com/shi3zblog/n/n3a8944695680

学習・観察:数値比較の応答と小規模モデルの生成例/確認 2026-09-14/https://note.com/shi3zblog/n/n3a8944695680

対象:AIの開発・導入・活用を検討する担当者。形式:企業・著者による公開記事。言語:日本語(公開本文で確認)。利用条件:公開記事(本文をログインなしで確認)

確認事項(編集部):少数の例で、比較時のメッセージ構成も同一ではない。大型モデル級の一般性能や、生成された物理理論の正しさを証明する検証ではない。

出典:shi3z「物理学者の逆襲!?Entropixはわずか3億6000万パラメータで1000億パラメータ級の回答を引き出す!Claude-3でも間違う問題を360Mが正しく解く」/公開・更新情報:2024-10-13/確認日:2026-09-14/https://note.com/shi3zblog/n/n3a8944695680

関連ページ


株式会社世良(Sera, Inc.)/ お問い合わせ: info@sera-inc.co.jp