Transformer内部の行列計算

Transformer内部の行列計算｜StatQuest with Josh Starmer

1:43から埋め込み、4:28からSelf-Attentionを行列で計算。

15:33からマスク付きAttention、20:18からEncoder–Decoder Attentionを扱う。

公開日：2024-04-08。長さ：1423秒。確認範囲：概要・章立て。視聴前の目安（編集部）：Transformerと行列積の基本

原題：The matrix math behind transformer neural networks, one step at a time!!!

学習内容・前半のテーマ：1:43から埋め込み、4:28からSelf-Attentionを行列で計算。／確認 2026-09-15／https://www.youtube.com/watch?v=KphmOJnLAdI

学習内容・後半のテーマ：15:33からマスク付きAttention、20:18からEncoder–Decoder Attentionを扱う。／確認 2026-09-15／https://www.youtube.com/watch?v=KphmOJnLAdI

対象：AIのモデルと実装を体系的に学びたい人。形式：YouTube動画（個別教材）。言語：英語。日本語の要点は本資料庫で作成。日本語字幕・吹き替えの有無は視聴時に確認。。利用条件：YouTube公開動画。外部の書籍・会員サービス・実行環境は別条件。

確認事項（編集部）：必要な前提知識を確認し、概要だけで理解が済んだとせず元の説明と計算例を参照する。

出典：StatQuest with Josh Starmer「The matrix math behind transformer neural networks, one step at a time!!!」／公開・更新情報：2024-04-08／確認日：2026-09-15／https://www.youtube.com/watch?v=KphmOJnLAdI

Transformer内部の行列計算

関連ページ