2015年4月20日
大纲BML平台概况主要特点平台承载的业务BML平台功能预处理通用机器学习算法深度学习算法可视化算法API和ELF平台应用案例LogisticRegression应用深度学习应用
BML平台概况主要特点:支持算法丰富，自2009年开始研发第一个逻辑回归算法，目前BML平台已包含20多种大规模并行机器学习算法性能极致，所有算法均为分布式实现，经历数年持续优化，用上几乎所有可能的计算/通信优化技术，速度业界一流经历线上大规模使用部署考验，承载公司内各种重要业务线上使用，包括凤巢广告CTR预估，搜索排序易用，通用，支持多种方式调用，文档详尽，配置灵活
BML平台概况–承载的主要业务
BML平台功能预处理:分类算法:分词逻辑回归TF-IDF计算SVM专名识别最大熵分类采样深度神经网络特征转换/抽取随机森林特征统计GBDT大规模ID化大规模相似度计算聚类算法:大规模JoinK-Means凝聚层次聚类谱聚类
BML平台功能主题模型:深度学习:PLSARBM半监督PLSARNNLDAWord2VecLSTM推荐算法:CNN矩阵分解协同过滤可视化:KNNPCAMDSt-SNE
BML平台功能序列模型机器学习Solver:CRFSGD，ASGD半监督CRFL-BFGSHMMADMM在线学习:onlineDNNFTRLonlineHMMonlineSVM
BML平台功能API:统一样本，模型，特征，各种词典的格式RestfulAPI调用各种机器学习方法模型上线部署在线预测、模型分析和可视化API访问基于百度大数据预训练的各种模型ELF(EssentialLearningFramework):适合在百度公有云上自研算法使用类Spark的全内存DAG计算引擎高性能，高可用的分布式ParameterServer
BML平台功能ELF架构图：
平台应用案例逻辑回归应用：典型场景：点击率建模数据：各种用户点击日志BML-LR算法特点：支持数百T样本数据训练，千亿特征，千亿样本支持连续值，离散值支持L-BFGS和SGD两种算法求解
深度学习应用广告CTR预估:(ref:CIKM2013KaiYu)Figure:CTR预估神经网络模型图
深度学习应用搜索LTR排序:(ref:CIKM2013KaiYu)Figure:LTR排序神经网络模型图
深度学习应用BMLWord2Vec效果:Figure:Word2Vec训练效果图
深度学习应用BMLWord2Vec效果:Figure:训练结果向量可视化图
