ゼロから学ぶAI:公開講義から実装へ進む52週間の学習計画
Python、数学、機械学習、言語モデル、強化学習、エージェントを、前提知識・課題・成果物で結ぶ独学チュートリアル。
出典とバージョン
この記事の目次
知識の依存関係
講義一覧だけでは、次に何を学ぶか、なぜその順序なのか、何を作れるようになるかは分かりません。本稿はStanford、MIT、Berkeley、Harvard、Cornellの公開資料に独立教育者と公開エンジニアリング教材を組み合わせたToken Lab独自の計画です。大学の学位課程や各機関の推薦ではありません。
週10〜15時間を52週間、合計約520〜780時間と想定します。対象は主要講義の選択部分と規模を限定したプロジェクトであり、掲載全科目の全課題ではありません。完全な初心者なら18〜24か月でも構いません。経験あるSDEはPythonを短縮できますが、確率、数値的推論、実験設計は省けません。研究能力の育成にはさらに時間が必要です。
公開資料と、無料の履修・採点・修了証・計算資源は別です。Stanfordの当期録画には履修者限定のものがあり、旧版公式録画は公開されています。Code in Placeは募集期を確認してください。Coursera、GPU、外部APIには費用が生じる場合があります。この学習計画でToken Labが有料モデルを自動呼び出しすることはありません。
一年の配分と毎週の進め方
一科目につき主教材は一つにします。代替教材は直感、ゆっくりした導出、追加実装、専門分岐など具体的な不足を補うものです。似た入門講義を三つ続けると、独力で実装する時期が遅れがちです。何が不足しているか説明できるまで追加教材は保留します。
週12時間なら、講義とノート3時間、導出2時間、実装とデバッグ5時間、技術報告2時間に配分します。解説の前に動画を止め、次の操作を予想してください。誤った仮定、最小の反例、修正内容を記録し、一週間後と一か月後に見直します。
1〜10週は基礎、11〜18週はML、19〜27週はネットワーク、28〜38週は言語、39〜46週はRL、47〜52週はエージェントです。固定の締切ではありません。未完成なら実装時間より選択科目を減らします。講義の学術倫理規定を守り、公開が禁止された現行課題の解答は共有しないでください。
| 週 | 主要目標 |
|---|---|
| 1–10 | 段階0:Pythonと数学の言語 |
| 11–18 | 段階1:漏洩ではなくデータから学ぶ |
| 19–27 | 段階2:ニューラルネットと視覚表現 |
| 28–38 | 段階3:テキストから学習可能な言語モデルへ |
| 39–46 | 段階4:行動と報酬から学ぶ |
| 47–52 | 段階5:制約と観測性を持つエージェント |
段階0:Pythonと数学の言語
Pythonで再利用可能な計算、バッチ処理、テストを表現します。自分のペースならCS50P、募集時期が合えばCode in Placeを選びます。ファイル、例外、仮想環境、Git、再現用コマンドを学び、その後NumPyのbroadcastingとPyTorchのtensorへ進みます。文法の習得だけでは数値計算は身に付きません。
3Blue1Brownで行列を変換として捉え、MIT 18.06で連立方程式、張る空間、階数、射影、固有ベクトル、特異値を学びます。ENGR108はBoyd–Vandenberghe教材に基づく応用的な代替ですが、現行講義はJuliaを使います。Python教材と見なさず、数学を翻訳して使います。番号の継承も現行シラバスの同一性を保証しません。
確率はデータの不確実性、微積分はパラメータへの感度を扱います。CS109かStat 110で条件付き確率、Bayes、期待値、分散、標本抽出を学びます。微積分動画で直感を得たら、偏微分と連鎖律を紙で導出します。交差エントロピーは確率モデルの目的関数、逆伝播は計算グラフに適用した連鎖律です。
Xがn行d特徴、wがd重み、yがn目標ならXwはn予測です。平均二乗誤差の半分の勾配はXᵀ(Xw−y)/nで、d成分です。
仕組みを深く理解する
ベクトルは順序付き座標、行列は空間間の線形操作です。階数は独立方向の数を表し、二つの特徴が常に一緒に動くなら、追加仮定なしに別々の効果は同定できません。微分は局所感度、勾配は偏微分の集合です。負の勾配方向へ十分小さく動けば目的は局所的に減少します。確率は「自信がある」という形容でなく分布によって不確実性を扱います。
具体的な判断と計算
緊急ticketが1%、検出率90%、非緊急の誤報率5%なら、10,000件で真の警報90件と誤報495件を期待します。警報のうち緊急なのは90/585≈15.4%です。製品測定でなくBayesの合成例であり、検出率だけでは足りず基礎発生率が重要だと分かります。
週ごとの推奨順序
1〜3週は関数・collection・file・例外・再現環境、4〜7週はvector・行列積・射影・最小二乗、8〜10週は条件付き確率・期待値・微分と回帰です。MITの該当単元を選び、図解は必要箇所に使います。数学が全部終わるまで実装を待ちません。
X∈ℝⁿˣᵈ、w∈ℝᵈ、y∈ℝⁿ、n>0。勾配はwと同形状です。Xの先頭列が定数なので独立biasはありません。
この段階の公式教材段階1:漏洩ではなくデータから学ぶ
CS229を数学の軸にし、公開2018年講義を安定した入口にします。現行資料は一部制限があるため、公開版を固定してください。確率記法が難しければAndrew Ngの専門講座を橋渡しに、CS4780を別の説明として使えます。ただし導出や基準実装の代わりにはなりません。
教師あり学習はラベルから写像を推定し、教師なし学習は目標ラベルなしで構造を探します。線形回帰は実数、ロジスティック回帰は二値確率を予測し、k-meansは割当と中心更新を交互に行います。先に目的関数を説明します。距離は尺度にも依存し、数値の単位が大きい特徴が支配し得ます。
一貫した題材は公開・合成データによる障害チケットの緊急度判定です。前処理を学習する前に時間や顧客で分割します。重複チケットが分割を跨ぐと高得点は暗記かもしれません。希少な緊急案件では正解率だけでは不十分です。見逃しと不要な人手確認の費用を区別します。
正則化は当てはまりと安定性の交換です。Ridgeのλ‖w‖²/2は勾配にλwを加えます。λは大きいほど良いのではなく、訓練・検証で選び、最終テストは温存します。定数や線形の基準を残し、前処理、分割一覧、モデルを一緒に保存します。
仕組みを深く理解する
推定器はデータからパラメータを得て、予測器は新入力に適用します。訓練損失と汎化は別です。最適化誤差、統計的推定誤差、分布変化を区別してください。訓練stepを増やしても後二者が改善するとは限りません。調整前に問題を特定します。
具体的な判断と計算
ロジスティック回帰では
週ごとの推奨順序
11〜13週は回帰・最尤・勾配、14〜16週は正則化・検証・尺度・k-means、17〜18週は許諾データのbaselineです。CS229を見たら閉じて導出と実装を行い、Cornellは不足箇所に絞ります。
λ≥0。尺度は特徴の正規化と損失の定義に依存します。
この段階の公式教材段階2:ニューラルネットと視覚表現
Zero to Heroのmicrogradから、スカラー計算ノードと逆向きの微分蓄積を実装します。次に行列バッチの効率と、broadcastingによる静かな勾配誤りを理解します。CS231nで損失、最適化、畳み込み、訓練へ進みます。Michiganは追加必修でなく代替です。
隠れ層は表現を学びます。線形変換を重ねても線形なのでXORは解けず、非線形性が必要です。逆伝播は微分を計算し、AdamやSGDが更新します。訓練損失が低くても汎化は保証されません。データ拡張は分布を変えるのでラベルの意味を保つ必要があります。
畳み込みは局所フィルタを共有し、ViTはパッチ間を注意機構で結びます。仮定と計算費用は異なります。最初は小規模データで事前学習エンコーダの凍結と微調整を同じ分割で比較します。ViTのゼロからの学習は入門には過剰になりがちです。ライセンス、解像度、学習対象パラメータ数、ハードウェアを記録します。
その後にfast.aiの実践的トップダウン、MIT 6.S191の概観、CS230の訓練視点を選びます。生成モデルではCS236が確率モデリング、MIT 6.S184がODE/SDEによるflow matchingと拡散を扱います。九週間に全分岐を詰め込みません。
仕組みを深く理解する
自動微分はgraph上の局所規則を組み合わせます。一つの値が二経路に分岐すれば勾配は和です。resetと蓄積を区別し、forward、loss、旧勾配reset、backward、updateを行います。評価ではdropoutや正規化の挙動も変え、不要なgraph記録を止めます。updateだけ削ることとは違います。
具体的な判断と計算
32入力・64hiddenならbias込み32×64+64=2,112、10class出力で650追加、計2,762パラメータです。訓練memoryはactivation、gradient、optimizer stateも含みます。Adamは通常二つのmomentを保持し、byte数はdtype、master weight、実装次第です。GPUを増やす前にtensorを数えます。
週ごとの推奨順序
19〜21週はmicrogradと小network、22〜24週はvectorization・初期化・optimizer・convolution、25〜27週は視覚課題と凍結対微調整です。生成は選択科目にし、architecture交換前にdataとgradientを診断します。
X:[n,d]、W₁:[d,h]、b₁:[h]、W₂:[h,c]、b₂:[c]。隠れ状態[n,h]、予測[n,c]。σは要素ごとの非線形でbiasは行方向にbroadcastします。
この段階の公式教材段階3:テキストから学習可能な言語モデルへ
CS224Nは言語タスク、embedding、系列、注意を結びます。公開2024年録画と対応資料を使い、履修者限定の当期録画と区別します。embeddingはIDを学習可能なベクトルへ写しますが、統計的近さは真実、権限、出典の保証ではありません。
tokenizerは文字列やbyteを離散IDに変換します。BPEの頻出結合は長さと語彙を変えます。decoder-only Transformerは因果maskで次tokenを予測します。Q,Kが[T,dₖ]ならQKᵀは[T,T]、正規化したattentionと[T,dᵥ]のVの積は[T,dᵥ]です。未来の位置を読ませません。
交差エントロピーは正解token確率の負の対数の平均です。確率0.25なら約1.386 nat。比較にはtokenizer、データ、集計方法の整合性が必要です。低損失だけでは事実性も安全なtool useも証明できません。padding mask、ラベルのshift、汚染は数学的結果を変えます。
CS336課題1を実装目標にします。tokenizer、decoder、optimizer、限定した小語料の訓練ループです。全科目は強いPython/PyTorchとシステム基礎を要求し、全員がこの期間で終えられる量ではありません。微小な部分集合から設定とcheckpointを保存し、正しさを確認して拡大します。token数、context、batchがメモリと費用を決めます。
CME295は構造の概観で2025/2026版を区別します。Hugging Faceは実装生態系、CS25は研究セミナー、CMU advanced NLPは具体的研究課題の補助です。事前学習、教師あり微調整、検索拡張、推論は、重み・context・実行を違う形で変える操作です。
仕組みを深く理解する
IDs [4,7,9,2]から入力[4,7,9]、目標[7,9,2]を作ります。batch B、長さT、語彙Vならlogitsは[B,T,V]。交差entropyは有効位置の正解項を選び集計します。合法なreshapeでもlabel対応を壊せます。BPE mergeの学習とTransformer重みの学習も別工程です。
具体的な判断と計算
週ごとの推奨順序
28〜30週は言語・embedding・因果注意、31〜33週はbyte・BPE・decoder block、34〜36週はCS336課題1の小規模訓練・checkpoint・生成、37〜38週は留保挙動とmodel/data card。次にsystem、多言語、RAG、後学習を選びます。
Softmaxは行単位。j>iで
段階4:行動と報酬から学ぶ
RLは行動の後続効果を扱います。MDPでは状態が遷移に必要な情報を要約し、行動が環境を変え、報酬が目標を数値化し、γが将来を割り引きます。固定ラベルの予測なら教師あり学習が簡単です。LLMのtool callだけでRLとは言えません。
CS234で価値、Bellman、方策評価を学び、Sutton–BartoやDavid Silverで補います。次にCS285の関数近似、方策勾配、actor–criticを選びます。DQNは離散行動価値をreplayとtarget networkで安定化し、PPOはclipした代理目的で更新を抑えます。clipは普遍的安全保証ではありません。
r+γ maxₐ Q(s′,a)は次の推定値でbootstrapします。
LLM後学習は小環境の理解後の分岐です。CS224RとCS329Hで方策と選好を結びますが、CS329Hの公開動画は保証しません。GRPOには妥当な報酬、group sampling、KL制御、留保タスクが必要で、向上がreward hackingの場合もあります。Spinning Upの旧コードは有益ですが、現行Gymnasiumへ無変更で移せるとは限りません。
仕組みを深く理解する
方策は行動を選び価値関数はreturnを推定します。次の観測と報酬は環境が生成します。on-policyは更新する方策のdata、off-policyは別の行動dataも用い、その不一致を管理します。replayは無条件の加速ではありません。部分観測では現在観測が十分なstateとは限りません。
具体的な判断と計算
報酬[1,0,2]、
週ごとの推奨順序
39〜41週はMDP・Bellman・表形式、42〜44週は関数近似・DQN・方策勾配、45〜46週は限定したDQN/PPO比較と失敗分析です。LLM-RL前に報酬源、trajectory生成方策、interaction予算を説明します。
真の終端のみ
段階5:制約と観測性を持つエージェント
エージェントは観測と目的から反復して行動を選びます。workflowは順序を固定し、agentは一部の選択をモデルに委ねます。最小限の自律性から始め、公開runbookの検索、根拠の引用、診断コマンドの提案までにし、運用環境の変更はしません。
CS329Zは部品を理解してからframeworkへ進みます。2026年11月14日に公式日程で最初の五講義への動画リンクを確認しましたが、全学期の公開を意味しません。二つの課題はharness構築と評価設計です。API料金はSNSの固定額でなく公式repositoryの条件で判断します。
Berkeleyの2024秋で全景、2025春で推論と検証可能タスク、2025秋Agentic AIでシステム視点を補います。過去の修了証期限は現行募集ではありません。プロジェクトの不足に合わせて講義を選びます。Hugging Faceは実践、CS329AとCS222は研究・読書の分岐です。
harnessはメッセージ台帳、schema、parse、認可、実行、結果整形、停止を担います。モデルの提案を信頼できるコードがtool名・引数・現在権限で検査します。tool出力は非信頼データです。不可逆操作の前に永続化、冪等性、timeout、人の承認を設計します。「注意せよ」というpromptは権限制御ではありません。
step、時間、tokenの上限を決めます。八回の呼出しで毎回入力2,000・出力300tokenなら上限18,400token。retryや補助呼出しには別予算が必要です。local stubなら有料モデルなしで制御を確認できます。ただしtoolの正しい実行と利用者の目的達成は別です。
仕組みを深く理解する
model adapter、harness、tool executorを分離します。model_proposal、tool_denied、tool_started、tool_resultを型付きeventとして保存。ready→proposed→authorized→executing→observedに加えdenied、timed_out、stoppedを持ちます。例外を成功観測に変えてはいけません。logのreplayは副作用の再実行許可ではありません。
具体的な判断と計算
最初のtoolはsearch_runbooks(query)、get_service_metrics(service,window)、fetch_recent_changes(service)の読み取り専用三つ。serviceを利用者の許可範囲と照合します。観測指標、検索した推奨、モデル推論を区別し、timeoutでは証拠不足を返します。restart_serviceは別の権限・承認設計が必要です。
週ごとの推奨順序
47〜48週は決定的検索workflowと偽adapter、49〜50週は有界tool選択・永続状態・拒否・timeout、51〜52週は留保task・trace・再現demoです。Berkeleyは設計上の疑問に使います。六週間で全公式課題の完遂を約束するものではありません。
入力・出力tokenの合成上限。各呼出しの上限を実際に守る必要があり、retry・judge・embeddingは別枠です。
この段階の公式教材専門分野の選び方
AIアプリ開発なら推論、信頼性、検索、安全性、観測性を重視します。研究なら確率、最適化、導出、制御実験を深めます。ロボティクスなら推定、制御、力学、sim-to-realが追加で必要で、この六段階だけでは十分ではありません。
作品集には古典的基準、視覚モデル、小LM、RL報告、有界agentを揃えます。入力、学習、実行、測定、未知点を一つの物語として説明します。履修完了は熟練や就職の保証ではなく、次の証拠を重視します。
実践・プロジェクト・習得の証拠
概念を理解した後の検証をここに集約します。独自の練習で、公式解答ではありません。版を固定し学術倫理を守り、外部課題は自分の環境で実行してください。機密ticketやcredentialは送信しません。
基礎
成果の証拠. CSVから特徴を作り、二行の回帰例を再現。clean環境コマンド、shape assertion、有限差分を添付。
失敗・公平な比較. 目標だけshuffleし、形状が正しくても対応が誤る理由を説明。
この順序で実装する
- src/、tests/、data/、READMEを作り仮想環境とversionを保存。CSVの行IDを保ち、library estimatorより先に数値例を実装。
- clean checkoutからの一コマンドを残し、入力を一つ変えて紙で予測。食い違いを説明し、testを通すだけで終えない。
古典ML
成果の証拠. NumPyで線形・ロジスティック回帰とk-means。許諾された公開データで定数基準、時間・entity分割、訓練のみでfitした前処理、未使用testを報告。
失敗・公平な比較. 同じ分割で正則化を比較。希少classのrecallと漏洩を確認しtestで繰り返し選ばない。
この順序で実装する
- decision・label・splitを先に定義。fit/transformを分離し定数・回帰・cluster基準を作る。k-meansの訓練にclass labelは不要。
- train/validation/testの役割を固定。validationで選びtestは最後。希少groupや後期期間の失敗を含める。
深層学習
成果の証拠. CS231nまたはMichiganの選択課題と、小規模視覚taskで凍結・微調整の比較。seed、checkpoint、変換、学習率、hardwareを保存。
失敗・公平な比較. 微小訓練集合への過学習でdebug。誤ラベルと決定的な検証変換を確認。
この順序で実装する
- loader・model・loss・optimizer・trainを分離。学習率、loss、gradient normと既知batchを記録。
- 小network後に許諾checkpointを利用。同じsplitと比較可能な資源で凍結と微調整を比較し、事前学習dataの効果を自分の手法の効果と混同しない。
言語モデル
成果の証拠. CS336課題1の限定版。tokenizer規則、設定、data hash、optimizer state、sampling、loss曲線、shape説明を保存。
失敗・公平な比較. 往復tokenization、因果性、reloadを検証。留保語料でunigram比較し、異なるtokenizerのperplexityを直接比べない。
この順序で実装する
- encode/decode、shift pair、embedding、causal attention、feed-forward、projection、loss、optimizer、samplingの順に作る。
- 正確な続行にはmodel・optimizer・scheduler・step・設定・RNGを保存。決定的条件で中断なしと比較しdata hashと残る非決定性を記録。
RL
成果の証拠. 小Gymnasium環境でDQN/PPO。複数seed、version、interaction数、評価方策、結果分布を報告。
失敗・公平な比較. terminalとtruncatedを区別し、interaction予算を揃えcompute差は併記。失敗も診断。
この順序で実装する
- DQN向け離散小環境と適切なPPO設定を選び、wrapper、episode限界、変換を明記。探索と評価を分離。
- seedと予算を先に決定。interactionとwall-clock別に曲線を保存。報酬または終端の意図的errorを診断・修復して差を説明。
Agent
成果の証拠. CS329Z HW1/HW2と、読み取り専用local障害助手。scripted model、trace ID、allowlist、永続状態、停止条件。
失敗・公平な比較. 不正出力、prompt injection、timeout、重複を注入。制御と品質テストを分離し、留保taskと校正したjudgeを使う。
この順序で実装する
- adapterと三tool、schema、現在権限、budget、trace、永続eventを実装。scripted modelで再現可能にする。
- 制御確認後にlocal実モデルを接続。task結果、証拠、拒否、遅延、資源を別評価。repository・手順・trace・限界を渡しcredentialは含めない。
Python 3.11+の標準libraryだけで動く、通信・乱数・API key不要の基礎チェックです。例を再現し中心差分で勾配を検査します。六つの完成projectではありません。続きは公式repositoryとゼロから実装する教材を利用します。
コードを取得python3 roadmap-foundations.py"""Python 3.11+, standard library only; deterministic synthetic examples."""
import math
X = [[1.0, 0.0], [1.0, 1.0]]
y = [1.0, 3.0]
w = [0.0, 0.0]
def loss(weights):
errors = [sum(a * b for a, b in zip(row, weights)) - target
for row, target in zip(X, y)]
return sum(e * e for e in errors) / (2 * len(y))
def gradient(weights):
errors = [sum(a * b for a, b in zip(row, weights)) - target
for row, target in zip(X, y)]
return [sum(row[j] * e for row, e in zip(X, errors)) / len(y)
for j in range(len(weights))]
def softmax(logits):
if not logits or not all(math.isfinite(v) for v in logits):
raise ValueError("finite, nonempty logits required")
maximum = max(logits)
values = [math.exp(v - maximum) for v in logits]
return [v / sum(values) for v in values]
def td_target(reward, gamma, next_values, terminated):
return reward if terminated else reward + gamma * max(next_values)
g = gradient(w)
eps = 1e-6
for j, analytic in enumerate(g):
plus, minus = w.copy(), w.copy()
plus[j] += eps
minus[j] -= eps
numeric = (loss(plus) - loss(minus)) / (2 * eps)
assert math.isclose(analytic, numeric, abs_tol=1e-8)
updated = [a - 0.1 * b for a, b in zip(w, g)]
assert loss(updated) < loss(w)
p = softmax([1000.0, 1000.0])
assert p == [0.5, 0.5]
assert math.isclose(sum(softmax([1.0, 2.0, 3.0])), 1.0)
try:
softmax([])
except ValueError:
pass
else:
raise AssertionError("empty inputs must fail")
assert td_target(1, 0.9, [2, 4], True) == 1
assert math.isclose(td_target(1, 0.9, [2, 4], False), 4.6)
print(f"gradient={g}")
print(f"weights={[round(v, 2) for v in updated]}")
print(f"loss={loss(updated):.6f}")
print(f"cross_entropy={-math.log(0.25):.6f}")
print(f"td_target={td_target(1, 0.9, [2, 4], False):.1f}")
# Additional synthetic decision/resource examples in the expanded tutorial.
base_rate, sensitivity, false_positive_rate = 0.01, 0.90, 0.05
true_alerts = 10_000 * base_rate * sensitivity
false_alerts = 10_000 * (1 - base_rate) * false_positive_rate
precision = true_alerts / (true_alerts + false_alerts)
assert true_alerts == 90 and false_alerts == 495
assert math.isclose(precision, 90 / 585)
miss_cost, false_alert_cost = 20, 1
threshold = false_alert_cost / (miss_cost + false_alert_cost)
assert math.isclose(threshold, 1 / 21)
for probability in (0.01, 0.05, 0.9):
flag = probability > threshold
assert flag == ((1 - probability) * false_alert_cost < probability * miss_cost)
assert 32 * 64 + 64 + 64 * 10 + 10 == 2762
assert 4 * 128 * 1024 * 4 == 2 * 1024**2
assert math.ceil(100_000 / (4 * 128)) == 196
assert math.isclose(sum(0.9**i * reward for i, reward in enumerate([1, 0, 2])), 2.62)
print("checks=passed")
期待値:
独自面接問題と採点基準
高いtest scoreだけではなぜ不十分?
ヒント
分割と前処理を確認。
解答と分析
重複、未来情報、testへの繰返し調整が証拠を壊します。時間・entity分割と訓練のみのfit、基準と不確実性を報告します。
並列訓練が自回帰であり得るのは?
ヒント
並列計算と許可された情報流を分ける。
解答と分析
因果maskとshiftしたlabelを使います。評価時に未来入力を変えても過去出力は数値許容差内で不変です。
AgentにはRLが必須?
ヒント
行動選択と方策更新を区別。
解答と分析
不要です。事前学習モデルと有界harnessでも選択できます。RLは報酬と評価の追加要件を持つ改善手段です。
Frameworkはいつ導入?
ヒント
置き換える反復機構を特定。
解答と分析
状態遷移、parse、実行、失敗を理解した後です。コード削減は認可・永続性・成功の証明ではありません。
1〜5点:1は用語の再述、2は機構と仮定の説明、3は独立した基準再現と数値検証、4は失敗診断と同予算比較、5は設計・不確実性・限界・転移実験の論証。正しさ、再現性、説明の各項目で3以上になってから進みます。
行き詰まったときの進め方
式はscalarか二行に縮め全中間値を計算。コードは一関数に隔離してshape/stateを確認。訓練は小baselineへ戻し、論文は主張・仮定・証拠・限界を分けます。
AIには完成解答よりhint、反例、導出reviewを頼みます。答えを閉じて自力で再実装し、借りた部品の説明・license・testを残します。生成コードの合格だけでは保守能力を示せません。
予測・検証・根拠の記録
解答を開く前に結果を予測し、演習後に差異と応用テストを記録します。端末内に保存し、言語版間で共有します。
記録を開く/書き出す/消去する →数学的確認の範囲は授業ごとに記録されています。論文の実証再現の証明ではありません。疑問点はメモに記録してください。 確認範囲
公式講義・動画・参考資料
原提供者へのリンクです。全講義、課題、証明書、計算資源の無料提供を保証しません。安定した直接playlistを確認できない場合は公式日程から動画に進んでください。版や依存関係は異なり得ます。確認日:2026年11月14日。
段階0:Pythonと数学の言語
CS50Phttps://cs50.harvard.edu/python/
主教材候補。講義・課題は公式日程へ。
Stanford Code in Placehttps://codeinplace.stanford.edu/
募集期を確認。随時独学ならCS50P。
3Blue1Brown · Linear algebrahttps://www.3blue1brown.com/topics/linear-algebra
視覚的直感の補助。大学講義や演習の代替ではありません。
MIT 18.06 · Gilbert Strang · 2010https://ocw.mit.edu/courses/18-06-linear-algebra-spring-2010/
主教材候補。講義・課題は公式日程へ。
講義・資料https://ocw.mit.edu/courses/18-06-linear-algebra-spring-2010/ · 動画・補助資料https://ocw.mit.edu/courses/18-06-linear-algebra-spring-2010/video_galleries/video-lectures/
Stanford ENGR108https://web.stanford.edu/class/engr108/
応用線形代数。現行はJulia。
Stanford CS109https://web.stanford.edu/class/cs109/
プログラマ向け確率。教材リンクあり、現行録画は履修が必要な場合があります。
講義・資料https://web.stanford.edu/class/cs109/ · 動画・補助資料https://probabilitycoders.stanford.edu/
Harvard Stat 110https://stat110.hsites.harvard.edu/
代替教材。重複する全科目を追加しません。
3Blue1Brown · Calculushttps://www.3blue1brown.com/topics/calculus
視覚的直感の補助。大学講義や演習の代替ではありません。
段階1:漏洩ではなくデータから学ぶ
Stanford CS229 · 2018 lectureshttps://cs229.stanford.edu/
2018公開講義入口。現行資料の一部は制限。
講義・資料https://cs229.stanford.edu/ · 動画・補助資料https://www.youtube.com/watch?v=jGwO_UgTS7I
Machine Learning Specialization · Andrew Nghttps://www.coursera.org/specializations/machine-learning-introduction
任意の橋渡し。全機能・証明書の無料提供は保証しません。
講義・資料https://www.coursera.org/specializations/machine-learning-introduction
Cornell CS4780 · 2018https://www.cs.cornell.edu/courses/cs4780/2018fa/
代替教材。重複する全科目を追加しません。
講義・資料https://www.cs.cornell.edu/courses/cs4780/2018fa/ · 動画・補助資料https://www.youtube.com/playlist?list=PLl8OlHZGYOQ7bkVbuRthEsaLr7bONzbXS
段階2:ニューラルネットと視覚表現
Karpathy · Neural Networks: Zero to Herohttps://karpathy.ai/zero-to-hero.html
主教材候補。講義・課題は公式日程へ。
Stanford CS231nhttps://cs231n.stanford.edu/
公式公開playlist。2026春録画は履修者用。
講義・資料https://cs231n.stanford.edu/ · 動画・補助資料https://www.youtube.com/playlist?list=PLoROMvodv4rOmsNzYBMe0gJY2XS8AQg16
UMich EECS498/598 · 2019 assignment archivehttps://web.eecs.umich.edu/~justincj/teaching/eecs498/FA2019/assignment2.html
2019課題archiveは取得可能、旧トップは404でした。完全動画セットの確認ではありません。
講義・資料https://web.eecs.umich.edu/~justincj/teaching/eecs498/FA2019/assignment2.html
3Blue1Brown · Neural networkshttps://www.3blue1brown.com/topics/neural-networks
視覚的直感の補助。大学講義や演習の代替ではありません。
fast.ai · Practical Deep Learninghttps://course.fast.ai/
代替教材。重複する全科目を追加しません。
MIT 6.S191https://introtodeeplearning.com/
任意の概観。現行と過年度を区別。
Stanford CS230https://cs230.stanford.edu/
基礎後の専門補助。具体的不足に合わせて選択。
Stanford CS236 · Deep Generative Modelshttps://deepgenerativemodels.github.io/
生成モデル分岐。確率・微積分が先。補助リンクは動画でなくPDFの場合あり。
MIT 6.S184 · 2026https://diffusion.csail.mit.edu/2026/index.html
生成モデル分岐。確率・微積分が先。補助リンクは動画でなくPDFの場合あり。
講義・資料https://diffusion.csail.mit.edu/2026/index.html · 動画・補助資料https://diffusion.csail.mit.edu/2026/docs/lecture_notes.pdf
段階3:テキストから学習可能な言語モデルへ
Stanford CS224Nhttps://web.stanford.edu/class/cs224n/
2024公開playlist。現行録画と資料の権限は別。
講義・資料https://web.stanford.edu/class/cs224n/ · 動画・補助資料https://www.youtube.com/playlist?list=PLoROMvodv4rOaMFbaqxPDoLWjDaRAdP9D
Stanford CS336 · Spring 2026https://cs336.stanford.edu/
2026動画・課題。強い実装基礎が必要。まず課題1に限定。
講義・資料https://cs336.stanford.edu/ · 動画・補助資料https://www.youtube.com/playlist?list=PLoROMvodv4rMqXOcazWaTUHhq-yembLCV
Stanford CME295https://cme295.stanford.edu/syllabus/
任意の概観。現行と過年度を区別。
Stanford CS25https://web.stanford.edu/class/cs25/
研究seminar。基礎実装後に選択。
CMU 11-711 · Advanced NLP · 2024https://phontron.com/class/anlp2024/
基礎後の専門補助。具体的不足に合わせて選択。
Hugging Face LLM Coursehttps://huggingface.co/learn/llm-course/
実装ecosystem教材。依存関係と外部計算資源は別途。
段階4:行動と報酬から学ぶ
Sutton & Barto · Reinforcement Learning, second editionhttp://incompleteideas.net/book/the-book-2nd.html
著者公開の無料教科書。本確認では取得できず現時点のアクセス未確認。
David Silver · RL · 2015https://davidstarsilver.wordpress.com/teaching/
代替教材。重複する全科目を追加しません。
Stanford CS234https://web.stanford.edu/class/cs234/
主教材候補。講義・課題は公式日程へ。
Berkeley CS285 · 2023 lectureshttps://rail.eecs.berkeley.edu/deeprlcourse/
公式2023playlist。対応する過年度課題を選択。
講義・資料https://rail.eecs.berkeley.edu/deeprlcourse/ · 動画・補助資料https://www.youtube.com/playlist?list=PL_iWQOsE6TfVYGEGiAOMaOzzv41Jfm_Ps
Stanford CS224Rhttps://cs224r.stanford.edu/
基礎後の専門補助。具体的不足に合わせて選択。
OpenAI Spinning Uphttps://spinningup.openai.com/en/latest/
アルゴリズムと旧実装。依存互換性を確認。
Hugging Face Deep RL Coursehttps://huggingface.co/learn/deep-rl-course/en/unit0/introduction
実装ecosystem教材。依存関係と外部計算資源は別途。
講義・資料https://huggingface.co/learn/deep-rl-course/en/unit0/introduction
Stanford CS329H · Autumn 2026https://web.stanford.edu/class/cs329h/
2026選好学習資料。公開動画は未確認。
Stanford CS221https://stanford-cs221.github.io/autumn2025/
MDP・ゲームを選択。2025はCanvas録画、資料・コード公開。
段階5:制約と観測性を持つエージェント
Stanford CS329Z · Autumn 2026https://cs329z.stanford.edu/
2026講義。五講義の公開リンクを確認。HW1 harness、HW2評価。
講義・資料https://cs329z.stanford.edu/ · 動画・補助資料https://youtu.be/DGI4vucR71w
Berkeley LLM Agents · Fall 2024https://llmagents-learning.org/f24
第1シリーズ:基礎。過去の証明書日程は現行募集ではありません。
Berkeley Advanced LLM Agents · Spring 2025https://llmagents-learning.org/sp25
第2シリーズ:高度な推論と検証可能task。
Berkeley Agentic AI · Fall 2025https://agenticai-learning.org/f25
第3シリーズ。三部全部を前提にせず選択。
Stanford CS329A · Self-Improving AI Agentshttps://cs329a.stanford.edu/
自己改善の研究分岐。評価と失敗分析が必要。
Stanford CS222 · Fall 2024https://joonspk-research.github.io/cs222-fall24/
2024読書・project資料。全公開動画は未確認。
Hugging Face Agents Coursehttps://huggingface.co/learn/agents-course/en/unit0/introduction
実装ecosystem教材。依存関係と外部計算資源は別途。
講義・資料https://huggingface.co/learn/agents-course/en/unit0/introduction
- CS336 · Assignment 1https://github.com/stanford-cs336/assignment1-basics
- CS329Z · HW1https://github.com/cs329z/assignment1-harness
- CS329Z · HW2https://github.com/cs329z/assignment2-evals