← NotedeckAll engines · 数据科学·ML

数据科学·ML

12 engines
k-均值聚类(k-means)
Lloyd 分配-更新 · 质心 · 簇内平方和 WCSS 单调下降
混淆矩阵与评估指标
TP/FP/FN/TN · 准确率/精确率/召回率/F1
基尼不纯度与分裂增益
Gini=1−Σp² · 加权子节点 · 信息增益
k 近邻分类器
欧氏距离 · k 个最近邻 · 多数表决
偏差-方差权衡
偏差²+方差+不可约 · U 形总误差 · 最优复杂度
过拟合:多项式回归
多项式次数扫描 · 训练/测试 RMSE · 高次震荡
Naive Bayes · spam classifier
垃圾邮件过滤 · 对数后验 · 词似然
k-fold cross-validation
k 折划分 · 每折轮流验证 · 均值±标准差
Feature scaling · normalization & standardization
Min-Max/Z-score/Robust · 统计量 · 分布重定位
Softmax function · probability normalization
e^z/Σe^z · 概率和为 1 · 数值稳定(减最大值)
Neural-net activation functions · curves & derivatives
sigmoid/tanh/ReLU/Leaky/ELU · 曲线+导数
L1 (Lasso) vs L2 (Ridge) regularization
Lasso 稀疏 vs Ridge 收缩 · 菱形 vs 圆形约束