偏差-方差权衡是什么？如何诊断过拟合？
考察意图
数据岗也会被问这题，但面试官要的不是背 Err = Bias² + Variance + Noise。他想听你能不能把「模型假设太死 / 太贴这一批样本」翻译成可诊断的现象：训练集和验证集怎么对照、什么叫过拟合、下一步该减复杂度还是加容量。只报一个准确率，这题就挂了。
回答框架
- 先拆误差：偏差是模型系统性偏了（假设空间不够或假设错了）；方差是换一批训练数据，模型结论跳。
- 再讲权衡：容量上去，通常偏差降、方差升；容量太低反过来。还有降不掉的噪声。
- 诊断口诀：两边都差 → 欠拟合（高偏差）；训练集很好、验证集塌 → 过拟合（高方差）。
- 对策对齐病因：过拟合就正则、减复杂度、早停、加数据；欠拟合就加特征、加容量、减正则。
参考答案（口述版）
一句话：偏差-方差权衡是在说，模型既可能「太死板、系统性猜偏」，也可能「太灵活、把这一批样本的噪声也背下来」；过拟合就是后者在验证集上露馅。
先把三个东西分开讲，别混成「模型不好」：
1. 偏差（bias）：模型平均而言离真实规律有多远。线性模型硬套非线性关系、关键特征没进模型、正则把系数按得太死，都会高偏差。表现是训练集就学不好。
2. 方差（variance）：换一套同分布的训练集，模型会跳成什么样。树很深、特征很多、样本很少，换 20% 数据规则全变。表现是训练集很好，换一批就塌。
3. 噪声：标签本身有随机、口径抖动、采集错误。这块降不了模型复杂度也消不掉，只能洗数据、稳口径。
权衡不是「选一个最好的公式」，而是看验证曲线：从太简单往复杂走，训练误差一直降，验证误差先降后升。升起来的那段就是方差开始吃掉泛化。面试里画这张「U 型验证误差」比背公式加分。
怎么诊断过拟合，我落地会看三张数，而不是只看线上一个 AUC：
1. 训练 vs 验证：同一套指标。训练很好、验证差一截，且差随训练轮次 / 树深变大 → 过拟合。两边都差、再加容量也没拉开 → 欠拟合，或者特征 / 标签根本不支持这题。
2. 学习曲线：横轴是样本量。验证误差随样本增加还在明显下降 → 数据不够、方差偏高，加数据有用；两条线都高而且平行 → 高偏差，加同类数据收效有限，该换特征或模型。
3. 稳定性：不同时间切片、不同随机种子、K 折之间指标晃很大，也是方差信号。数据岗常见坑是：用「含未来信息的特征」把训练 / 验证都抬上去，看起来没过拟合，上线一塌糊涂——那是泄漏，不是泛化好。
对策要对着病因说：
- 高方差 / 过拟合：L1/L2 或树的 min_samples / max_depth；Dropout / 早停；减特征、做选择；bagging；最朴素也最有效——加更多独立同分布的数据。
- 高偏差 / 欠拟合：加有业务含义的特征、允许更复杂的模型、减弱正则、检查是不是标签定义太噪或正负样本根本不可分。
- 数据岗补一句：先确认验证集的时间切分和线上一致（按时间切，不要随机打散有时间依赖的样本），否则你诊断的是泄漏，不是偏差方差。
口述收尾：先说「偏差是系统性偏，方差是换数据就跳」；再主动报「我用训练/验证差距和学习曲线判断该减复杂度还是加特征」。
关键词
面试官可能的追问
追问 1：验证集指标也很好，是不是就没有过拟合？
不一定。如果你拿验证集调了几十轮超参，验证集已经「被训练过」，会低估泛化误差。正确做法是验证集只做选择，留一个从未碰过的测试集，或用时间上更新的回测窗口做最终确认。还有一种假象：验证集和训练集同分布、线上分布已经漂了，线下看起来没过拟合，线上照样掉——那是漂移，要配分布监控，不是再堆模型。
追问 2：加数据一定能缓解过拟合吗？欠拟合加数据有用吗？
过拟合（高方差）时，加 i.i.d. 数据通常最有效，学习曲线的验证误差会继续降。欠拟合（高偏差）时，模型假设已经错了或容量不够，同样分布再堆样本，训练误差也降不下去，应该先加特征或换模型。还要注意：加的是不是同一分布——硬灌另一个渠道、另一个季节的数据，可能把偏差和噪声一起带进来。
追问 3：交叉验证和正则化分别解决什么问题？能互相替代吗？
交叉验证是估计泛化误差、选超参的方法，减少「单次划分」带来的评估方差；它不直接缩小模型。正则化是往模型上加约束，直接打方差。两者搭配：用 CV 选正则强度。不能互相替代——没有正则的大模型，CV 只会告诉你它过拟合了，不会把它变好。
常见踩坑
- 把过拟合理解成「准确率低」——欠拟合也低；过拟合的标志是训练/验证剪刀差
- 在测试集上反复调参，把测试当验证，线下虚高
- 时间序列或行为数据随机切分，造成泄漏，误判「没有过拟合」
- 只加模型复杂度，不画验证曲线，把过拟合当「还没拟合够」
记忆锚点
过拟合不是分数低，而是训练集很好、换一批数据就塌。