前段时间参加了一个天池精准医疗大赛，还是写个复盘总结吧。
一、赛题说明
本题是天池的一个比赛，主要就是根据个人的体检报告，如肾、肝、血液以及年龄等信息来预测血糖值。数据量不大，训练集5600多，测试集1000个，特征也只有不到40个。最终目标是求预测值与实际值之间的MSE
二、数据基本分析
1）缺失值
其中5000多个样本中肝功能缺失值较多，这几个特征基本可以删除，其他的蛋白类检测数据缺失值也较多，可以尝试用均值、中位数方式填充。
2）血糖分布情况
可以看出大部分数据集中在4到15之间，并且4到7之间最为集中，而实际血糖值>6.1就被认为不是正常血糖值了，所以如果按照正常方法直接回归，预测出来的值基本上集中在5~6左右，很难预测到大值。
3）特征相关性
可以看出，肾以及蛋白类特征与血糖的相关性较大，在构造特征中可以着重考虑采用相关性高的特征来构造。
4）特征重要性
年龄的重要性最大，其次依然是蛋白类特征影响较大，在实际测试中，可以考虑用相关性高的特征来进行处理。
三、缺失值以及特征处理
缺失值：
1）删除了肝功能特征，由于蛋白类特征较为重要，同时肾相关的尿素、肌酐、尿酸缺失较多，所以尝试删除确实这些主要特征的体检案例。最终发现的确有一定的提升。
2）剩余缺失值采取了多种填充方式进行检验，尝试了均值，中位数，k近邻填充，-999，0几种方案，实际中采用均值、中位数、0的方案结果接近，最终采用的是均值填充。
特征处理：根据翻看相关文献构造了几个特征，有助于提高结果。
1）构建了肾小球过滤率，主要根据以下公式：
eGFR = a × (serum creatinine/b)c × (0.993)age
a值根据性别与人种分别采用如下数值：黑人：女性 = 166 ；男性 = 163 白人及其他人种 女性 = 144 ；男性 = 141 ；b值根据性别不同分别采用如下数值:女性= 0.7 ；男性 = 0.9 ；c值根据年龄与血清肌酐值（罗氏酶学）的大小分别采用如下数值：女性 血清肌酐≤ 0.7 mg/dL = -0.329 、血清肌酐 > 0.7 mg/dL = -1.209 ；男性 血清肌酐≤ 0.7 mg/dL = -0.411 、血清肌酐 > 0.7 mg/dL = -1.209 。
2）将肾相关数据求和
3）将蛋白类数据求和
按照以上方式处理后mse能提高0.1左右
4）将主要特征之间进行加减乘除，取log，取平方构造更多的特征，采用xgboost的特征重要性筛选方法选出排前面的特征，有助于预测出更大的值，实际效果能有一定提升。
四、算法
这是一个有监督的回归问题，一般这类问题可以采用集成学习的方式有较好的效果。本次实践尝试了ridge、lasso、svr、xgboost、lightGBM几种方式，最终xgboost和lightGBM两种集成学习的方式取得了相对较好的效果，而几种基本算法MSE基本崩掉了。
调参还是采用的gridserachcv的方式，由于数据量不大，所以能较快跑出来，如果数据量大的话，一般就得分别调参了。
五、改进
这题目实际上主要是希望能预测出大的血糖值，因为80%以上的血糖集中在5~6之间，如果简单回归，预测结果的大部分值都会几种在这个范围内，实际结果也是如此，比如一个大值实际为15，而仅仅预测为5，总共1000个数据，实际mse=10^2/1000=0.1，单独这一个数据就将共享0.1的mse，而一个实际值为5的数预测为5.5，其带来的mse只有0.00025。所以关键就在于预测出大值，集中度高的值对MSE的影响微乎其微。
在群里与大牛们讨论时，可以采用分类的方式提高精度，我按照6.1的血糖值进行分类时，结果直接崩了，意识到这种方式可能不行。后来看到一篇文章说对这类问题，可以采用设置多个分类点的方式。
比如设置分界线为6.1，7.1，8.1等等，分别进行二分类，由于我只在乎大值，那主需要注意正例分对的比例，即precision即可，按照这种方式设置了八个二分类，分界点为6.1，7.1，8.1，9.1，10.1，11.1，13.1，15.1并分别进行调参，以precision为衡量对象，那就能得出多组分类结果。然后按照多个分类结果进行划分，比如一个检测对象的几次分类结果为11110000，代表其位于9.1到10.1之间，如果其为11010000，说明有两次分类结果矛盾，则按照回归方式处理。
按照上述方式处理后，实际中也有分类错误的，但多个分类基本能保证误差相对小了一些，关键是大值预测出了几个，有效的减小了MSE。
六、总结
通过这次比赛学到了很多，单纯看书与实际操作相差甚远，一些特征和算法的处理方式也需要实践才能证明。并且比赛有截止时间，大家相互竞争压力也较大，同时能在于更多选手的交流过程中提高自己，有时候一句提点便能让自己少走很多弯路。
