chzzz's Blog

The greatest enemy of knowledge is not ignorance, it is the illusion of knowledge.--Stephen William Hawking

可视化随机森林中的决策树

可视化随机森林中的决策树
环境:win10python3.6.1使用工具:Graphviz下载地址下载后将bin目录添加到环境变量中数据集:sklearn中自带的iris数据集参考:HowtoVisualizeaDecisionTreefromaRandomForestinPythonusingScikit-Learn结果:第一步:训练模型fromsklearn.datasetsimportloa...
继续阅读

(转)对特征选择的理解

特征选择相关文献:AnIntroductiontoVariableandFeatureSelection,Guyon,2003.FeatureSelectionAlgorithms:ASurveyandExperimentalEvaluation,Molina,2002.米歇尔的《机器学习》一书.另外这个问题其实可以分为特征提取和特征选择两大类,前者包括了诸如PCA,LDA,SVM等及其变种;后者又主要分为Filter和Wrapper。对于Fi...
继续阅读

(转)python中matplotlib的颜色及线条控制

出处:http://www.cnblogs.com/darkknightzh/p/6117528.html参考链接:http://stackoverflow.com/questions/22408237/named-colors-in-matplotlibhttp://stackoverflow.com/questions/8409095/matplotlib-set-markers-for-individual-points-on-a-line第二个参考网址给出了lines...
继续阅读

Unofficial Windows Binaries for Python Extension Packages(python第三方扩展包(windows二进制文件)下载网站)

Unofficial Windows Binaries for Python Extension Packages(python第三方扩展包(windows二进制文件)下载网站)
网站地址:https://www.lfd.uci.edu/~gohlke/pythonlibs/这个网站有很多python第三方扩展包的windows二进制文件,节省了某些包在windows下编译的步骤,只要下好对应window位数和python版本的.whl文件,然后pipinstll文件名即安装成功。例如XGBOOST的官网安装教程需要在windows下进行繁琐的编译,而现在你只需要在这个网站下载对应版本的xgboost文件进行安装即可。使用方法:第一步:下载比方说我...
继续阅读

为什么说SVM在处理小样本问题上有优势?

1.由于SVM优秀的泛化能力,以及其本身优化目标是结构风险最小化而不是经验风险最小化,通过最大化间隔得到了数据分布的结构化描述,从而降低了对数据规模和分布的要求。2.但并不代表SVM不适用于大规模数据,数据当然是越多越好。但是非线性的SVM处理大数据会很慢,可以考虑分布式。参考链接:https://www.zhihu.com/question/19591450...
继续阅读

随机森林衡量变量重要性的陷阱

随机森林中变量的重要性常见的计算方法有两种,一种是meandecreaseimpurity,即平均不纯度的减少,现在sklearn中用的就是这种方法;一种是meandecreaseaccuracy,即平均准确率的减少,常用袋外误差率去衡量。假设我们有两个变量,分别是A和B,A和B之间有较强的相关性,如果A对模型贡献度较大,由于B很像A,所以B也应该对模型贡献较大,但...
继续阅读

运筹学与机器学习的区别是什么?

1.先验知识层面,运筹学的先验知识更多,目标函数有各种约束条件;2.算法层面,两者都是在收敛能力和随机性trade-off;3.复杂度层面,机器学习的复杂度体现在庞大的数据,运筹学体现在目标的复杂,约束众多。4.模型方面,现实问题可分为离散优化和连续优化,运筹学两者都包含,以离散优化居多(组合优化);机器学习侧重连续优化,期望拟合一个分布。...
继续阅读

机器学习任务的一般步骤

数据采集和标记->特征选择->数据清洗->模型选择->模型训练->模型测试->模型保存...
继续阅读
© 版权所有:沈阳市和平区赛博空间咨询部|辽ICP备18005891号
Powered by Z-BlogPHP & Yiwuku.com