700億パラメータの日本語LLM「ELYZA-japanese-Llama-2-70b」を開発し、デモを公開しました|株式会社ELYZA 公式ブログ
Llama 2 70Bの日本語追加学習と推論高速化、評価条件を紹介。
開発元が日本語コーパスによる学習、EC2 Inf2上のデモ、二種類の日本語評価を説明する。
学習・学習の構成:日本語の追加事前学習に続けて、独自の指示データとichikara-instructionを使った事後学習を実施。/確認 2026-09-14/https://note.com/elyza/n/n0ea755ca3e7b
学習・推論環境:EC2 Inf2で動くデモにSpeculative Decodingを導入し、応答速度の問題へ対応。/確認 2026-09-14/https://note.com/elyza/n/n0ea755ca3e7b
学習・評価条件:Tasks 100ではモデル名を伏せて三人で評価し、MT-Benchは数学・コードの有無を分けて示す。/確認 2026-09-14/https://note.com/elyza/n/n0ea755ca3e7b
対象:AIの開発・導入・活用を検討する担当者。形式:企業・著者による公開記事。言語:日本語(公開本文で確認)。利用条件:公開記事(本文をログインなしで確認)
確認事項(編集部):2024年公開時のモデルと比較対象の報告。MT-Benchは単一ターンの設定であり、当時のAPI提供予定を現在の提供状況として扱わない。
出典:株式会社ELYZA 公式ブログ「700億パラメータの日本語LLM「ELYZA-japanese-Llama-2-70b」を開発し、デモを公開しました」/公開・更新情報:2024-03-12/確認日:2026-09-14/https://note.com/elyza/n/n0ea755ca3e7b
株式会社世良(Sera, Inc.)/ お問い合わせ: info@sera-inc.co.jp