刚入门机器学习那会儿，总以为选个好模型就能一劳永逸。结果训练出来的模型准确率卡在70%上不去，折腾半天才发现，问题出在参数没调好。参数调优不是玄学，但也绝不是随便试几个值就能搞定的事。
别一开始就暴力搜索
很多人一上来就用网格搜索（Grid Search），把所有可能的参数组合都跑一遍。听起来很彻底，实际耗时惊人。比如你有两个参数，每个有10个候选值，光这一轮就得跑100次训练。项目时间紧的话，等结果出来黄花菜都凉了。
更聪明的做法是先用随机搜索（Random Search）探探路。它不遍历所有组合，而是随机抽样几组参数训练，往往能在前几次尝试中就找到不错的方向。就像找餐馆，没必要把整条街的店都吃一遍，先试几家评分高的，心里就有谱了。
从关键参数入手
不是所有参数都值得花时间调。以随机森林为例，树的数量（n_estimators）和最大深度（max_depth）影响大，而一些边界控制参数可能改了也没明显变化。优先调那些对模型结构起决定性作用的参数。
比如训练一个XGBoost模型时，先聚焦 learning_rate 和 max_depth。这两个参数配合得好，模型收敛快，过拟合风险也低。可以先固定 learning_rate=0.1，调 max_depth，观察验证集表现，再反过来微调学习率。
from sklearn.model_selection import RandomizedSearchCV
from xgboost import XGBClassifier
params = {
"max_depth": [3, 5, 7, 9],
"learning_rate": [0.01, 0.05, 0.1, 0.2],
"n_estimators": [100, 200, 300]
}
model = XGBClassifier()
search = RandomizedSearchCV(model, params, n_iter=20, cv=3, scoring="accuracy")
search.fit(X_train, y_train)借助验证曲线看趋势
光看最终得分容易忽略中间变化。验证曲线能帮你看到某个参数增大时，模型是持续提升还是很快饱和。比如画出不同 max_depth 下的训练/验证准确率，如果两条线在深度为6时开始拉开，说明再深就过拟合了，果断停在6。
这就像煮面，不能只尝最后一口，中间得多捞出来试几次咸淡。参数调优也是动态过程，得边跑边看。
别忽视数据本身的影响
有时候参数怎么调都不见起色，其实是数据有问题。特征没归一化，数值大的字段直接把其他特征“压”没了；或者类别不平衡，模型干脆全猜多数类。这时候调参再狠也没用。
先做基础处理：标准化、去异常值、样本均衡。把这些地基打牢，参数调优才是在正确的路上加速。
记录每次尝试的结果
调参很容易陷入“我好像试过这个组合”的混乱状态。简单建个表格，记下每次用的参数、训练时间、验证分数。下次看到某个 learning_rate=0.05 的组合表现不错，可以直接围绕它细化搜索。
就像厨房里的调味笔记，上次炒肉放了两勺酱油刚好，这次就从两勺开始微调，不至于每次都重头试。