PRML 101

用编程的方式把 Bishop 的 Pattern Recognition and Machine Learning 吃透：逐章用 Python 实现核心算法、复现书中关键图表与结论，并以 Jupyter Notebook 作为「边讲边写」的学习载体。

👉 详细总纲与第 1 章详解看这里：prml_101.md

技术栈

• Python 3.13 + numpy / scipy / matplotlib
• Jupyter Notebook（讲解 · 公式 · 可运行代码 · 图表 混排）

快速开始

git clone https://github.com/cy2311/prml_101.git
cd prml_101
python -m venv .venv && source .venv/bin/activate
pip install -r requirements.txt
jupyter notebook notebooks/ch01_polynomial_curve_fitting.ipynb

目录结构

prml_101/
├── README.md
├── prml_101.md            # 总纲 + 第 1 章详解（含第 0 节大局观 / 全书骨架）
├── requirements.txt
├── notebooks/            # 每章一个 notebook
│   └── ch01_polynomial_curve_fitting.ipynb
└── prml/                 # 后续章节复用的算法库（逐步沉淀）
    └── __init__.py

学习方法（重要）

每个 notebook 在正文之前都有一节 「0. 大局观」：先建立"整本书反复在用的同一套框架"（假设空间 → 衡量标准 → 优化），再钻公式——避免在记号里迷路。

第 1 章的 notebook 经过多轮重写，刻意把每个符号讲透：

• 地基先行：yₙ（模型猜测）/ tₙ（真值）/ 特征矩阵（输入的特征化，≠ 数据集）逐项厘清；
• 正规方程：从"损失函数 → 梯度四步推导 → 工程实现 → 几何意义（为什么叫'正规'=垂直）"完整铺平，且每步配具体数字例子，从大白话过渡到带 ⊤ 的矩阵符号。

进度

• 第 1 章 · 多项式曲线拟合（含：大局观 / 特征矩阵地基 / 正规方程完整推导与几何直觉 / 过拟合 / 模型选择 / Ridge / 贝叶斯线性模型雏形）
• 第 2 章起，按路线图推进（见 prml_101.md）

许可证

学习用途，引用请注明出处（Bishop, 2006）。