学习笔记TF045

人造智能,用微型计算机完成人类智能。机器通过大气教练多少磨炼,程序不断自己学习、纠正陶冶模型。模型本质,一批参数,描述业务特色。机器学习和深度学习(结合深度神经网络)。

历史观Computer器下棋,贪婪算法,Alpha-Beta修剪法合营Min-马克斯算法。
AlphaGo,蒙特Carlo树搜索法(Monte 卡洛 tree
search,MCTS)和纵深卷积神经网络(deep convolutional neural
network,DCNN)。估值互连网(value
network,盘面评估函数),总结盘面分类。计谋网络(policy
network),总括种种棋可能率、胜率。磨炼模型进程,分类方法赢得第2手战略,直接攻略对历史棋局资料库实行神经网络学习(深度卷积神经互联网)得到习得战术,强化学习自己对局(蒙特Carlo树状搜寻法)得到立异计策,回归全部总括得到估值互联网。谷歌(谷歌(Google))《Nature》诗歌,《Mastering
the game of Go with deep neural networks and tree search》。

深度学习。前身 是人工神经网络(artificial neural
network,ANN),模仿人脑神经元传递、管理信息格局。输入层(input
layer)输入磨炼多少,输出层(output layer)输出计算结果,中间隐藏层(hidden
layer)向前传播数据。

多少预管理,图片,图像居中、灰度调节、梯度锐化、去除噪声、倾斜度调节。输入神经网络第三层,第叁层提取图像特点,有用向下传递,最终壹层输出结果。前向传播(forword
propagation)。分类概率向量,前5可能率值。

深度学习,利用已知多少学习模型,在鲜为人知数据做出预测。神经元特性,激活函数(activation
function),非线性函数,输入非线性别变化化,前向传来;开支函数(cost
function),定量评估预测值和真实值差异,调解权重参数,减少损失,反向传播(backword
propagation)。

神经互联网算法大旨,计算、连接、评估、纠错、磨炼。深度学习增加中间隐藏层数和神经元数,网络变深变宽,多量数码陶冶。

分类(classification)。输入磨炼多少特征(feature)、标识(label),找寻特色和标识映射关系(mapping),标志核对学习不是,提升预测率。有旗号学习为监察学习(supervised
learning)。无监督学习(unsuperVised
learning),数据唯有特点未有标志。磨练不钦赐明显分类,数据聚群结构,相似类型聚集一齐。没有标识数据分结合,聚类(clustering);成功激情制度,强化学习(reinforcement
learning,安德拉L)。延迟奖励与教练相关,激励函数获得意况行动映射,适合再而三决策领域。半监察学习(semi-supervised
learning),磨炼多少部分有标识,部分未有,数据遍及必然不完全自由,结合有号子数据局地特征,多量无标记数据完整布满,获得较好分类结果。有监察和控制学习(分类、回归)-半监督学习(分类、回归)-半监督聚类(标志不分明)-无监督学习(聚类)。

纵深学习入门,算法知识、大量数量、计算机(最佳GPU)。
学学数学知识,磨炼进度涉及进程抽象数学函数,定义互连网布局,定义线性非线性函数,设定优化指标,定义损失函数(loss
function),练习进程求解最优解次优解,基本可能率总结、高级数学、线性代数,知道原理、进度,兴趣涉猎推导评释。

经文机器学习理论、基本算法,扶助向量机、逻辑回归、决策树、朴素贝叶斯分类器、随机森林、聚类算法、协同过滤、关联性剖判、人工神经互联网、BP算法、PCA、过拟合、正则化。

编程工具(语言),Python解释型、面向对象、动态数据类型高档程序设计语言,线性代数库、矩阵操作,Numpy、Pandas第二方库,机器学习库sklearn,SVM、逻辑回归,MATLAB,哈弗,C++,Java,Go。

经文散文,最新动态商讨成果,手写多少字识别,LeNet,物体指标检验,MSCNN,博客、笔记、微信公众号、腾讯网、新媒体音讯,新兵陶冶练方法,新模型。

温馨出手陶冶神经网络,采纳开源深度学习框架,主要考虑用的人多,方向入眼集聚视觉、语音,初学最佳从Computer视觉出手,用各个网络模型磨练手写数字(MNIST)、图像分类(CIFAKoleos)数据集。

学入兴趣职业圈子,Computer视觉,自然语言管理,预测,图像分类、指标检查测试、视频目的检查评定,语音识别、语音合成、对话系统、机译、文摘、心绪剖析,管艺术学行业,艺术学印象识别,Tmall穿衣,衣裳搭配,款式识别,保证、通信客服,对电话机器人智能问答系统,智能家居,人机自然语言交互。

干活难点,正确率、坏案例(bad
case)、识别速度,恐怕瓶颈,结合具体行业领域工作立异,最新应用斟酌成果,调解模型,改造模型参数,贴近专门的学问须要。

理念基于规则,依赖知识。总计办法为基本机器学习,首要的是做特色工程(feature
engineering),调参,依照世界经验提取特征,文字等华而不实领域,特征相对轻松提取,语音壹维离散时域信号、图像二维空域时限信号等世界,提取特征不便。深度学习,神经互连网每层自动学习特征。TensorFlow深度学习开源工具。

TensorFlow支持异构划设想备布满式总结(heterogeneous distributed
computing)。异构,包涵区别成分,异构网络、异构数据库。异构划设想备,CPU、GPU主旨协同合作。遍布式架构调治分配计算能源、容错。TensorFlow帮忙卷积神经互连网(convolutional
neural network,CNN)、循环神经互联网(recurrent neural
network,讴歌ZDXNN),长长时间记念网络(long short-term memory,LSTM,SportageNN特例)。

《The Unreasonable Effectiveness of Recurrent Neural
Networks》。Tensor库对CPU/GPU透明,差别器材运维由框架完成,用户内定什么设置做什么样运算。完全部独用立代码库,脚本语言(Python)操作Tensor,完毕全数深度学习内容,前向传来、反向传播、图形总括。共享陶冶模型,TensorFlow
slim模块。未有编写翻译进度,越来越大更纷繁芜杂互联网,可解释性,有效日志调节和测试。

探讨人群。学者,深度学习理论商量,互联网模型,修改参数方法和辩驳,产耱调研战线,理论研究、模型试验,新技艺新理论敏感。算法立异者,现成互连网模型适配应用,到达更好立人日木,模型创新,新算法立异应用现存模型,为上层应用提供不错模型。工业斟酌者,掌握种种模型互连网布局、算法完成,阅读卓绝杂谈,复现存果,应用工业,主流人群。

TensorFlow工业优势,基于服务端大数据服务(谷歌(谷歌)云平台、搜索),面向终端用户移动端(Android)和嵌入式。模型压缩、八人低精度数据存款和储蓄。

TensorFlow性子。中度灵活性(deep flexibility),数据流图(data flow
graph)数值总结,只需求塑造图,书写计算内部循环,自定义上层库。真正可移植性(true
portability),CPU、GPU、台式机、服务器、移动端、云端服务器、Docker容器。生产钻探结合(connect
research and
production),连忙试验框架,新算法,陶冶模型。自动求微分(auto-differentiation),只须求定义预测模型结构、目的函数,增加数量。多语言帮忙(language
options),Python、C++、Java接口,C++实现宗旨,Jupyter
Notebook,特征映射(feature map),自定义其余语言接口。优化质量(maximize
performance),线程、队列、布满式计算扶助,TensorFlow数据流图分歧总结成分分配不一致道具,最大化利用硬件能源。

选择集团。谷歌(谷歌)、京东、BlackBerry、Uber、eBay、Dropbox、Airbnb。

201陆.四,0.捌版协助分布式、多GPU。201陆.陆,0.九版援救活动道具。20一柒.贰,1.0版Java、Go实验API,专项使用编写翻译器XLA、调节和测试工具Debugger,tf.transform数据预管理,动态图总括TensorFlow
Fold。

机器学习赛事。
ImageNet ILSVLacrosseC(ImageNet Large Scale Visual Recognition
Challenge,大规模视觉识别挑衅赛),对象检验、图像识别算法。20拾年开班,最大图像识别数据库,1500万张有标识高分辨率图像数据集,23000项目,比寒用1000连串各一千图像,120万演练图像,五万注明图像,一四万测试图像。每年约请有名IT公司测试图片分类种类。Top-壹,预测输出可能率最高类型错误率。Top-伍,预测输出可能率前伍种类错误率。201陆,CUImage目的检验第二,商汤科技(science and technology)、香港(Hong Kong)中大;CUvideo录制物体检查评定子项目第二,商汤科学技术、Hong Kong中大;SenseCUSceneParsing场景深入分析第三,商汤科学和技术、Hong Kong中大;Trimps-Soushen目的一定第三,公安局3所NUIST录制物体探测八个子项目第二,San Jose音信工程高校;Hikvvision场景分类第二,海康威视;
Kaggel,二零零六年创立,数据发掘、数据解析推测比赛在线平台。集团出多少出钱,Computer物文学家、地文学家、数据地艺术学家领取职分,提供化解方案。叁万到贰5万欧元奖励。
天池大数目竞技,Ali,穿衣搭配、微博互动预测、用户重复购买行为预测,赛题计谋。

国爱妻工智能公司。腾讯优图、Ali云ET、百度无人驾车,搜狗、云从科学和技术、商汤科技(science and technology)、昆仑万维、格灵深瞳。
陌上花科学技术,衣+(dress+),图像识别、图像寻找、特殊形体追踪检查评定是、图片自动化标志、图像录制智能深入分析、边看边买、人脸识别解析。旷视科学和技术,Face++,人脸识别精度,美颜,支付。中国科学技术大学讯飞,语音识别、语音合成、语言云、分词、词性标注、命名实体识别、依存句法剖判、语义剧中人物标注。地平线,嵌入式。

参谋资料:
《TensorFlow技巧深入分析与实战》

应接付费咨询(150元每小时),笔者的微信:qingxingfengzi