随着复杂和高效的神经网络架构的出现，卷积神经网络（CNN）的性能已经优于传统的数字图像处理方法，如 SIFT 和 SURF。在计算机视觉领域，学者们开始将研究重点转移到 CNN，并相信 CNN 是这一领域的未来趋势。但是，人们对成效卓著的 CNN 背后的机理却缺乏了解。研究 CNN 的运行机理是当今一个热门话题。基本上，有三种主流观点：1>优化、2>近似、3>信号。前两种观点主要集中在纯数学分析，它们试图分析神经网络的统计属性和收敛性，而第三种观点信号尝试解决以下问题：1）为什么非线性激活函数（activation function）对所有中间层的过滤式输出（filter output）是必不可少的？2）双层级联系统（two-layer cascade system）比单层系统的优势在哪里？球面修正相关性（REctified COrrelations on a Sphere/RECOS）众所周知，前馈神经网络（FNN）可以被看作是一个万能的近似器，在给定包含有限数量神经元的单个隐藏层的情况下，它能够近似任何连续的函数。FNN 的特殊之处在于神经元的非线性激活函数。有的神经网络庞大且深度，但如果离开非线性激活函数，它们的复杂架构的效果与一个简单的单层线性模型没什么不同，都是将输入映射到另一个输出空间。具体来说，非线性激活函数学习到的输入的表征集合更适合解决实际问题。CNN 只是 FN ...继续阅读 (19)

完成图像修复需要三步：1. 我们首先要把图像解析成概率分布中的样本点2. 这种解析让我们学习如何产生伪图像3. 接着我们就能找到补全修复所需的最佳伪图像目录介绍第一步：把图像解析成概率分布中的样本点第二步：快速生成伪造图像第三步：找到修复图像的最佳伪造图片结论部分延伸阅读目录关于TensorFlow 和 Torch 不完整的想法介绍设计师和摄影师用内容自动填补这种强大的工具来补充图像中不想要的或缺失的部分。与之相似的技术还有图像完善和修复。实现内容自动填补，图像完善和修复的方法有很多。在本文中我要介绍的是 Raymond Yeh 和 Chen Chen 等人的论文「Semantic Image Inpainting with Perceptual and Contextual Losses」，此论文于2016年7月26日刚在 arXiv 上发表。这篇论文演示了如何通过一个 DCGAN 用深度学习进行图像修复。本文面向一般的技术读者，有部分深度内容针对有机器学习基础的人。 我加 [ML-Heavy] 这个标记的部分如果你不想知道太多细节就可以跳过。我们只关注修补人脸图片缺失像素这种情况。完成图像修复需要三步。1. 我们首先要把图像解析成概率分布中的样本点2. 这种解析让我们学习如何产生伪图像3. 接着我们就能找到补全修复所需的最佳伪图像例如 PS中自动抹去图像中不想要的部分（图像来源 ...继续阅读 (19)

近日，Science 报道了一种利用最高法院数据库和随机森林算法构建的法官判决预测系统，该系统在判决预测上甚至要比法律专家还准得多。以前机器之心就曾对话过首个致力于法律服务的人工智能创业公司 Ross Intelligence，这一次是人工智能应用于法律的新进展。「最高法院见！」唐纳德·特朗普总统在上周为回应地方法院对国家安全政策的看法而发推文这样说。但把这样一个案件直接递送到最高法院是一个好主意吗？人工智能可能会很快就给出答案。一项新研究表明，即使在信息比较少的情况下，计算机也能比法律学者更好地预测最高法院的判决。还有其他一些研究也通过算法预测法官的判决行为。例如在 2011 项目中，其使用了 1953 年到 2004 年任意八名法官的投票来预测同一个案件下第九名法官的判决，该系统实现了 83% 的准确度。而另一篇 2004 年发表的论文通过使用 1994 年以来一直在法院工作的法官及其判决来预测 2002 年案件的判决结果，该系统实现了 75% 的准确度。而现在新的研究利用更丰富的数据集预测任意法官在任何时候的判决。研究者们使用的是最高法院数据库，该数据库包含的信息甚至可以追溯到 1791 年处理的案件。利用这一大型数据库，研究者们构建了一个通用型算法，该算法可以预测任何法官在任何时间所做的判决。研究者们将每一个判决使用 16 个特征表达，其包括了法官、时期、问题和原审判法院等 ...继续阅读 (18)

深度学习简史第一个貌似深度学习的、具有多层非线性特征的算法可以追溯到1965年，Ivakhnenko和Lapa 用多项式激励函数组了个模型（图1），不宽但还挺深，结合统计方法做分析。在每一层里都用统计方法选择出最好的特征，并前馈给下一层。他们并没有使用反向传播来端到端地训练网络，而是逐层使用最小二乘法单独拟合。图1：已知的第一个深层网络架构，由Alexey Grigorevich Ivakhnenko在1965年训练。每层之后的特征选择都导向更窄的架构，当再也加不上别的层的时候，网络优化也中止了。Image of Prof. Alexey Ivakhnenko courtesy of Wikipedia.1979年，Fukushima最早使用了卷积网络。Fukushima的网络有多个卷积核池化层，这跟现代网络很像，只不过Fukushima的网络是用一种增强格式训练的：一溜激励函数随着时间逐步增强。另外还可以手动增加某些连接的权重，以指定重要的特征。 此时，用于训练深度模型的误差反向传播还没有诞生。早在1960年代，反向传播就已经被推导出来了，但是形式因为不尽完善，效率还太低。现代的反向传播形式是Linnainmaa在他1970年发表的硕士论文中推到的，还包含了Fortran代码，不过没有提到在神经网络中的应用。至此，反向传播还是默默无闻，到80年代早期还是仅有极少成型的应用。直到1 ...继续阅读 (22)

本文为大数据杂谈4月27日微信社群分享内容整理。大家好，我是欢聚时代的高扬，这次跟大家分享的内容是深度学习在游戏AI中的应用这样一个话题。NPC的驱动粗分可以分成低级、中级、高级、特高级，这样几个类别。当然，按照其它的方式分也未尝不可，这里主要是针对实现方式和应用场景的一个粗略划分。低级NPC通常说的是一些游戏中所谓的杂兵，不涉及什么情节，也没有什么所谓的策略作为驱动。基本上就是按照一定的设计好的路线行进，并直接攻击游戏主角。这类游戏很常见，尤其是老的单机游戏中，绝大部分就是这类NPC。中级NPC常见于游戏群战中的配合型NPC。这类机器人会有一定的事先编号的策略作为驱动，并且有简单的应变能力。当然，这些都是人类事先设定好的策略内容。比如优先攻击血量较低的游戏主角，比如在自己血量过少的时候会优先进行回血等等，通过这些行为完成一定的活动序列差异。但是场景非常单一而且确定。高级NPC是指网游中的高级团战中的配合。像王者荣耀、或者英雄联盟一类的游戏有着丰富的走位、加血、加防御、减速……等等复杂的影响盘面的因素。这些因素对于人来说都是需要长期摸索和练习才能在不同场景中得以良好配合的，所以这类NPC的策略是比较难编写的，至少很难找到一个相对确定的能够保证较高胜率的策略编写思路。特高级NPC泛指那些带有较强的博弈性的对抗策略。在这种NPC需要对长期的盘面演变有较好的全局能力，通常更难直接编写。如 ...继续阅读 (20)

还记得孩提时代，你是如何开始学习辨认水果、动物、汽车以及其他事物的吗?多年来，我们的大脑接受训练，识别这些图像，然后将它们进一步划分为苹果、桔子、香蕉、猫、狗和马。除了学习辨认食物和动物，我们还学习了品牌和它们的区别：丰田、本田、宝马等等。受人类大脑的生物学习过程的启发，科学家们研究出了人工神经网络(ANN)。“深度学习”指的是由许多层网络层组成的人工神经网络。它是机器学习中发展最快的领域。它使用包括多层网络层的深层神经网络(DNN)来学习表征和抽象，从而理解图像、声音和文本等数据。那么深度神经网络到底深到什么程度呢?为什么深度学习被称为“深度”学习?这是因为这些ANN网络的结构。几十年前，神经网络的深度只有两层，这是因为计算能力不足，无法构建更大的网络。而现在，10层以上或者100层以上的神经网络都是存在的。在深度学习中使用多层网络层，机器现在有能力去观察、学习和应对复杂的情况，有时甚至比人类做的更好。通常情况下，数据科学家会花大量的时间在数据的准备过程上，特征提取或变量选择(选择对预测分析有用的变量)。深度学习能自动完成这项工作，让生活更轻松。为了促进深度学习的发展，许多科技公司开放了他们的深度学习研究资源，比如谷歌的Tensorflow和Facebook的开源模块Torch。亚马逊在GitHub上发布了DSSTNE，而微软也在GitHub上发布了其开源深度学习工具包CNTK。 ...继续阅读 (21)

此为系列首篇，旨在提供直观简明的深度学习引导，涵盖深度学习的基本概念，而不设计很多数学和理论细节。当然如果要做更深入的研究，数学肯定是必不可少的，但是本系列主要还是用图片和类比等方式，帮助初学者快速建立大局观。第一节介绍深度学习的主要概念。第二节交代一些历史背景，并解释训练过程、算法和实用技巧。第三节主讲序列学习，包括循环神经网络、LSTM和机器翻译中的编码-解码系统。第四节将转进到增强学习领域。Kaiser：因为本篇主要讲概念，所以较为平铺直叙，结构上呈“分-总”模式。如果你对某些概念已经了解，可以跳过当节。核心概念机器学习(Machine Learning)在机器学习中，我们(1)读取数据，(2)训练模型，(3)使用模型对新数据做预测。训练可以看作是当模型拿到新数据的时候、逐步学习一个的过程。在每一步，模型做出预测并且得到准确度的反馈。反馈的形式即是某种衡量标准（比如与正确解的距离）下的误差，再被用于修正预测误差。学习是一个在参数空间里循环往复的过程：当你调整参数改正一次预测，但是模型却可能把原先对的又搞错了。需要很多次的迭代，模型才能具有良好的预测能力，这一“预测-修正”的过程一直持续到模型再无改良空间。特征工程(Feature Engineering)特征工程从数据中提取有用的模式，使之更容易被机器学习模型进行分类。比如，把一堆绿色或蓝色的像素区域作为标准，来判断照片上是陆 ...继续阅读 (22)

我们在实验机器学习算法时，常常遇到一种情况：相同的算法，相同的数据，但每次计算得到的结果都不同。这是因为算法中存在随机的因素，导致最终的结果不稳定。因此，为了比较随机算法的优劣或是检验参数的最优解，我们需要多次重复实验，取平均值来衡量算法。那么问题来了，假设场景不变，随机算法实验需要重复多少次才足以客观公正地反映模型的效果呢？有些朋友建议至少重复30次，甚至100次，更有甚者重复上千次的实验。在本文中，我们将会用统计学的方法来教你如何正确地估计随机算法实验的重复次数。本文所有代码的执行环境可以是Python 2或者3，并且安装了NumPy、Pandas和Matplotlib。准备数据假设我们在一组训练数据上重复训练了1000次结构相同的神经网络模型或是其它随机算法，并且记录模型在测试集的RMSE。另外，我们假设数据是正态分布的，这是开展后续分析的必要条件。记得每次查看预测结果的分布，往往也是呈正态分布。这里我们随机生成一组均值为60、标准差为10的正态分布数据。生成数据的代码如下图所示，并将结果保存为CSV格式的文件，命名为results.csv。我们用seed函数作为随机数生成器，以保证每次运行这段代码时得到的数据都一致。用normal()函数生成正态分布随机数，savetxt()函数保存结果。fromnumpy.randomimportseedfromnumpy.randomi ...继续阅读 (18)

本文是作者对于逻辑回归算法的学习和思考，主要介绍：逻辑回归的算法介绍、逻辑回归的数学原理、逻辑回归的实际应用、逻辑回归的总结以及网络安全场景预测，欢迎大家参考讨论。逻辑回归的算法介绍逻辑回归（Logistic regression）是机器学习分类算法的其中一种，核心思想是利用现有数据对分类边界建立回归方程，以此进行分类。回归可以理解为最佳拟合，是一种选择最优分类的算法。逻辑归回中会有一些新词汇需要理解。h函数： 根据输入的数据预测类别的函数，Andrew Ng的公开课中称为hypothesis function。j函数： 我们需要一个机制去评估我们的h函数的好坏,j函数的作用是评估h函数的好坏,一般这个函数称为损失函数(loss function)或者错误函数(error function)。逻辑回归的数学原理h函数相关（预测函数）首先，我们先看看逻辑回归的预测函数，h函数！]1lr_2其中含有θ (又称：theta)的变量为（当x0=1时，可以进行矩阵变换）：]2lr_1h函数的原型函数为sigmoid函数，展示如下：]3sigmoid_functionsigmoid方程的图形如下，sigmoid函数的取值范围为 (0,1)]4sigmoid_pic这里进行下小结，逻辑回归的预测函数使用sigmoid函数作为原型函数，然后对sigmoid函数的x进行替换，替换为一个多元一次方程。 ...继续阅读 (20)

随着IT互联网信息技术的飞速发展和进步。目前大数据行业也越来越火爆，从而导致国内大数据人才也极度缺乏，下面介绍一下关于Hadoop环境中管理大数据存储技巧。在现如今，随着IT互联网信息技术的飞速发展和进步。目前大数据行业也越来越火爆，从而导致国内大数据人才也极度缺乏，下面介绍一下关于Hadoop环境中管理大数据存储技巧。1、分布式存储传统化集中式存储存在已有一段时间。但大数据并非真的适合集中式存储架构。Hadoop设计用于将计算更接近数据节点，同时采用了HDFS文件系统的大规模横向扩展功能。虽然，通常解决Hadoop管理自身数据低效性的方案是将Hadoop数据存储在SAN上。但这也造成了它自身性能与规模的瓶颈。现在，如果你把所有的数据都通过集中式SAN处理器进行处理，与Hadoop的分布式和并行化特性相悖。你要么针对不同的数据节点管理多个SAN，要么将所有的数据节点都集中到一个SAN。但Hadoop是一个分布式应用，就应该运行在分布式存储上，这样存储就保留了与Hadoop本身同样的灵活性，不过它也要求拥抱一个软件定义存储方案，并在商用服务器上运行，这相比瓶颈化的Hadoop自然更为高效。2、超融合VS分布式注意，不要混淆超融合与分布式。某些超融合方案是分布式存储，但通常这个术语意味着你的应用和存储都保存在同一计算节点上。这是在试图解决数据本地化的问题，但它会造成太多资源争用。这个H ...继续阅读 (16)

人工智能作为大数据在垂直领域的重要组成部分，对人类劳动力带来了不小的困扰，这一状况会随着人工智能性能的增长而继续下去。不可避免地，“人工智能很快将能胜任对公司经理而言耗时繁多的工作，并会做得更好，它的开销也会更少”。 人工智能作为大数据在垂直领域的重要组成部分，对人类劳动力带来了不小的困扰，这一状况会随着人工智能性能的增长而继续下去。不可避免地，“人工智能很快将能胜任对公司经理而言耗时繁多的工作，并会做得更好，它的开销也会更少”。可是，一旦涉及到更加复杂、更富有创造性的活动——比如发明创造——无论人工智能是否比人类更能胜任，这一争论仍会持续下去。不容置疑地，近年来人工智能所取得的发展是卓绝的。举例来说，IBM公司的人工智能程序Waston能在多个领域工作，在癌症研究和纳税申报领域它正发挥着作用。AlphaGo，一个被设计用来完成围棋这项古老的棋类游戏的计算机程序，以4胜1负的成绩，打败了身列当今国际棋坛最佳棋手的李世石。AlphaGo之胜的突破在于围棋的游戏难度远高于国际象棋。在2016年3月的大胜之后，AlphaGo并没有停止它的脚步，这个谷歌公司名下的程序在互联网上连胜了60名棋手，这条消息对全世界的顶尖棋手们来说无疑是晴空霹雳，也让他们陷入了失控。“人类千年的实战演练进化，计算机却告诉我们，人类全都是错的，”中国围棋职业选手如是说：“我甚至觉得没有人真正了解围棋的真谛。”纵然 ...继续阅读 (16)

AI和大数据在争分夺秒深入到商业和生活中。未来每一家公司都可能是一家大数据公司，一家AI人工智能公司，正如现在每一家公司都是互联网公司一样。了解人工智能在城市管理和商业领域的应用，将有助于每个创业者在实践中为自己的产品和商业模式赋能。微软亚洲研究院“城市计算”领域负责人郑宇博士在源码资本2017年码会上，分享了人工智能在城市计算领域的进展。微软亚洲研究院资深研究员、“城市计算”领域负责人，ACM数据挖掘中国分会(KDDChina)秘书长、上海交通大学讲座教授、香港科技大学客座教授、人工智能国际权威期刊(SCI一区刊物)ACMTIST主编。他主持开发了多个城市大数据系统，其中UrbanAir首次利用大数据来监测和预报细粒度空气质量，该服务覆盖了中国的300多个城市，并被中国环境保护部采用。他主持了城市大数据平台的设计和实施，并成功在中国大数据示范基地贵阳市部署。2013年被MIT科技评论评为“全球杰出青年创新者”(TR35)，并作为现代创新者代表登上了美国《时代》周刊。2014年，由于他主导的城市计算具有巨大的商业前景和改变行业格局的潜力，他被《财富》评选为中国40位40岁以下商界精英。2016年被评为美国计算机学会杰出科学家(ACMDistinguishedScientist)。以下是郑宇博士在2017年码会上的演讲原文：非常高兴有机会能够跟大家分享我们在城市计算(UrbanCom ...继续阅读 (20)

对于自动驾驶的发展，Tom Mitchell认为，很多技术它还没有真正成功商业化之前可以去推动一部分商业化。近日，在北京举办的GMIC 2017上，卡内基梅隆大学机器学习学院院长兼教授Tom Mitchell接受了网易智能等媒体的采访，回答了关于脑机交互、自动驾驶、AI教育、AI公司发展、人才培养等一系列问题。对于自动驾驶的发展，Tom Mitchell认为，很多技术它还没有真正成功商业化之前可以去推动一部分商业化。比如以滴滴作为例子，现在滴滴就可以把这种自驾汽车运用在一些主路上，如果主路以外的岔路、小路、泥泞的道路还有石子路等等，就是最后这一公里可以让一些真正的人来作为司机，帮忙人们完成行程。对于马斯克创立的脑机交互公司，Tom Mitchell指出，脑机交互有两个层次的问题，第一个层次就是我们是否可以去观察大脑的这种思考过程，第二个就是是否其他的大脑也是会有相似的思考过程。目前我们在第一个层次上有了一些发展，但在教会机器观察大脑方面还是比较青涩的。对于AI公司的发展，Tom Mitchell指出，AI公司如果想长期发展，一定要有自己的产品，具体解决一个问题。如果纯开发技术，像DeepMind，最好的结局就是寄望于被别的公司收购。Tom Mitchel对人工智能的发展很乐观，他认为，这次人工智能浪潮已经在商业上取得了很大的成功，是前所未见的，企业界也投入了更多的资源来发展人工智能 ...继续阅读 (18)

作者：赖明星我会先给出我对精通Python的理解，然后给出一些Python中有难度的知识点。如果大家在看完我这篇回答之前，已经充分理解了我列出的各个知识点，那么，我相信你已经算是精通Python了。如果不能，我希望这篇回答能让你意识到自己Python知识还存在哪些不足，在之后的学**中，从哪些方面去改进。一、精通是个伪命题怎样才算精通Python，这是一个非常有趣的问题。很少有人会说自己精通Python，因为，这年头敢说精通的人都会被人摁在地上摩擦。其次，我们真的不应该纠结于编程语言，而应该专注于领域知识。比如，你可以说你精通数据库，精通分布式，精通机器学**，那都算你厉害。但是，你说你精通Python，这一点都不酷，在业界的认可度也不高。再者，Python使用范围如此广泛，一个人精力有限，不可能精通所有的领域。就拿Python官网的Python应用领域来说，Python有以下几个方面的应用:Web Programming: Django, Pyramid, Bottle, Tornado, Flask, web2pyGUI Development: wxPython, tkInter, PyGtk, PyGObject, PyQtScientific and Numeric: SciPy, Pandas, IPythonSoftware Development: Buildbot ...继续阅读 (19)

百度是中国最具技术基因的互联网企业，一定程度可以说技术是其根基。中文搜索、知识图谱、大数据、自然语言处理、智能广告等细分技术已成为百度独有优势，所有这些技术的基石又是什么呢？答案或许是NLP：自然语言处理。NLP是搜索引擎的技术之本搜索引擎最基本的模式是自动化地聚合足够多的“内容”，对之进行解析、处理和组织，响应用户的搜索请求找到对应结果返回。每一个环节，都需要用到自然语言处理。爬取网页时要分析HTML页面以及处理爬取到的网页内容时，需要对起进行解析、分词、变换等，这十分依赖自然语言处理技术。搜索引擎要听懂用户的“人话”，用户的搜索请求又是千奇百怪的，关键词组合的方式越来越少，直接用自然语言搜索已成为不少人的习惯，人们更倾向于搜索“广州到北京的航班信息”而不是“广州 北京 航班”，因此搜索引擎必须理解用户意图才可以帮助其去找到准确答案。每一个环节自然语言处理都十分重要。这是NLP技术致力于解决的问题。自然语言处理(Natural Language Processing：NLP)是计算机科学、人工智能以及语言学的交叉学科，旨在解决计算机与人类语言之间的交互问题，这其中包括对自然语言的分析、理解、生成、检索、变换及翻译等方面。不只是搜索本身，搜索引擎衍生产品大都会应用到NLP技术。譬如百度、Google均提供的翻译服务就是最经典的自然语言应用，它可以智能化地翻译大段文章，支持多种语言之 ...继续阅读 (29)

来自中美加的全球最为顶尖的科研实验室、学术权威、产业大咖、投资领袖共同探讨人工智能、机器人、无人机、智能驾驶等四大领域的未来趋势和产学研发展方向。雷锋网(公众号：雷锋网)将会议精彩演讲内容与视频精心编辑，近期将逐步放出。人工智能和机器人领域的创业如火如荼，与此同时各种公司也是泥沙俱下，不管和人工智能有没有关系，都自称人工智能企业。在这种情况下，投资人应该如何应对呢？怎么样才能在沙砾中淘出黄金。在8月举办的CCF-GAIR大会上，智能投资人Yobie Benjamin向我们介绍了他的一些投资方法。关于Yobie BenjaminYobie Benjamin是世界经济组织的顾问，该组织刚刚在天津办了年会，接下来还会在大连办会。同时，他还是Token.io的CTO，Silver Trail风投公司的合伙人，Avegant的创始人，以其它一些职位。他曾担任Intel Capital的顾问及花旗银行的CTO。Yobie最近投资的一家公司是GUSTO。捕捉独角兽Yobie Benjamin用了三张PPT来讲述如何系统地捕捉科技行业的独角兽创业公司。首先他将当下科技行业最热的一些创业方向及其可能的应用方向制成了上面这张图表。基于上图他举了两个例子，首先，他认为所有的企业IT类服务最终都会转移到云端，这将是一个亿万美元的机会，从软件、硬件、系统、基础设施、网络以及存储等各个行业都需要适应这一转变， ...继续阅读 (20)

去年11月，一篇名为《Playing Atari with Deep Reinforcement Learning》的文章被初创人工智能公司DeepMind的员工上传到了arXiv网站。两个月之后，谷歌花了500万欧元买下了DeepMind公司，而人们对这个公司的了解仅限于这篇文章。近日，Tartu大学计算机科学系计算神经学小组的学者在robohub网站发表文章，阐述了他们对DeepMind人工智能算法的复现。在arXiv发表的原始论文中，描述了一个单个的网络，它能够自我学习从而自动的玩一些老的电视游戏。它仅仅通过屏幕上面的图像和游戏中的分数是否上升下降，从而做出选择性的动作。 在训练的一开始，这个程序对游戏一点都不了解。它并不知道这个游戏的目标，是保持生存、杀死谁或者是走出一个迷宫。它对这个游戏的影响也不清楚，并不知道它的动作会对这个游戏产生什么影响，甚至不知道这个游戏中会有哪些目标物品。通过在这个游戏中尝试并且一遍一遍失败，这个系统会逐渐学会如何表现来获得比较好的分数。同时需要注意的是，这个系统对所有不同的游戏使用了同样的系统结构，程序员没有对不同程序给予这个程序任何特殊的提示，比如上、下或者开火等等。最终结果显示，这个系统能够掌握一些游戏，并且比一些人类玩家还要玩得好。这个结果可以看作对AGI(Artificial General Intelligence)迈近的一小步，非常 ...继续阅读 (20)

这篇文章介绍几个最流行的机器学习算法。现在有很多机器学习算法，困难的是进行方法归类，这里我们介绍两种方法进行思考和分类这些算法。第一组算法是学习风格，第二组是在形式和功能上类似。学习风格一个算法基于问题建模有不同的方法，无论这个问题是基于经验或环境的交互，或者是基于我们需要输入的数据，学习风格是机器学习首先必须考虑的问题。下面我们看看一些算法的主要学习风格或者称为学习模型。Supervised Learning有监督式学习: 输入的数据被称为训练数据，一个模型需要通过一个训练过程，在这个过程中进行预期判断，如果错误了再进行修正，训练过程一直持续到基于训练数据达到预期的 精确性。其关键方法是分类和回归，算法是逻辑回归(Logistic Regression)和BP神经网络(Back Propagation Neural Network)Unsupervised Learning无监督学习: 没有任何训练数据，基于没有标记的输入数据采取推导结构的模型，其关键方式是关联规则学习和聚合，算法有Apriori 算法和k-means.Semi-Supervised Learning半监督式学习: 输入数据是标记和非标记的混合案例，模型必须学习其中结构然后按照预期组织数据，其关键方法是分类和回归。强化学习：模型必须能从一个环境刺激中进行应对和反应。反馈不会作为一个教学过程的形式，但是可以环境的奖 ...继续阅读 (29)

语音科学仍是最终解决口音识别问题的关键所在插图 | Laurent Hrybyk编译团队 | 蒋宝尚 Jennifer Zhu主播 | 段天霖   校对&后期 | 崔云柯转载请注明来源“这些软件好像听不懂我在说啥。”我妈等了整整两个月才收到Amazon echo这个软件，不过她还要等我帮她安装到手机上。当我下载软件的时候，她皱起了眉头。我猜，她可能想到了过去使用Siri的不愉快回忆，也可能她现在会怀疑所有的语音助手设备。 她说：“这些软件好像听不懂我在说啥。”我老妈出生在菲律宾，老爸出生在印度。英语是他俩的第三语言。虽然他们在美国已生活了近50年，早已能讲流利的英语，然而多少还是会带点儿口音，并常常夹杂不那么道地的短语。 过去，包括Siri、Alexa在内的语音识别技术设备，基本上都不能识别他们“特别”的语音指令。这不是什么我父母才有的特殊经历。（这样的经历甚至被记录在某些喜剧中，比如这个广为流传的被困在语音控制电梯里的段子（https://www.youtube.com/watch?v=NMS2VnDveP8）。）我嫂子说，她发现Siri不能识别她朋友和家人的“民族名字”，所以就放弃了使用Siri。这种沮丧我能想象：某天我命令Siri“发短信给Zahir”，结果变成了“发短信给Zara”。尽管看起来，这还不是什么太大的问题，但考虑到一场语音革命正在进行中，这个问题将会变得愈来愈重 ...继续阅读 (19)

你希望学习文本挖掘，却发现大多数教程难度跨度很大？或者说你找不到心仪的数据集？本文将会通过 8 个小贴士帮助你走进文本挖掘之门。对文本保持好奇在数据科学世界中，凡事的第一步都是“感到好奇”，文本挖掘也不例外。就像 StackOverflow 的数据科学家 David Robinson 在他的博客中说的那样，“当我看到一个假设 […] 我就迫不及待地想要用数据验证它”。你也应该像他那样对文本保持好奇心。David Robinson 看到的假设是：即使你并不打算真的去验证它，你也应该对自己看到的词云图感到好奇，并且有想要自己动手复现一遍的想法。如果你还未能感受到文本挖掘的魅力，那就来看看这些最近在媒体上广受关注的文本挖掘应用案例吧，比如 South Park dialogue, film dialogue 等等，你会从中得到启发。掌握你所需要的知识和技能当你拥有了好奇心，是时候去学习关于文本挖掘的知识和技能了。你可以通过完成一些教学课程轻松地做到这一步。在这些教程中你需要格外关注的是数据科学工作流中的基本步骤，比如数据预备和预处理，数据探索，数据分析等等。推荐阅读：Ted Kwartler: Text Mining in R: Are Pokémon GO Mentions Really Driving Up Stock Prices?Ted Kwartler: Text Mining ...继续阅读 (21)

“数据科学家走在通往无所不知的路上，走到尽头才发现，自己一无所知。”-Will Cukierski，Head of Competitions & Data Scientist at Kaggle最近不少网友向我咨询如何学习大数据技术?大数据怎么入门?怎么做大数据分析?数据科学需要学习那些技术?大数据的应用前景等等问题。由于大数据技术涉及内容太庞杂，大数据应用领域广泛，而且各领域和方向采用的关键技术差异性也会较大，难以三言两语说清楚，本文从数据科学和大数据关键技术体系角度，来说说大数据的核心技术什么，到底要怎么学习它，以及怎么避免大数据学习的误区，以供参考。1.大数据应用的目标是普适智能要学好大数据，首先要明确大数据应用的目标，我曾经讲过大数据就好比万金油，像百度几年前提的框计算，这个框什么都能往里装。为什么会这样，因为大数据这个框太大，其终极目标是利用一系列信息技术实现海量数据条件下的人类深度洞察和决策智能化，最终走向普适的人机智能融合!这不仅是传统信息化管理的扩展延伸，也是人类社会发展管理智能化的核心技术驱动力。通过大数据应用，面向过去，发现数据规律，归纳已知;面向未来，挖掘数据趋势，预测未知。从而提高人们对事物的理解和决策处置能力，最终实现社会的普适智能。不管是商业智能，机器智能，人工智能，还是智能客服，智能问答，智能推荐，智慧医疗、智慧交通等相关技术和系统，其本质都是朝着这一 ...继续阅读 (17)

问题导读1.如何描述语音？2.如何理解语音的构成？3.语音如何识别？语音的基本概念语音是一个复杂的现象。我们基本上不知道它是如何产生和被感知的。我们最基础的认识就是语音是由单词来构成的，然后每个单词是由音素来构成的。但事实与我们的理解大相径庭。语音是一个动态过程，不存在很明显的部分划分。通过音频编辑软件去查看一个语音的录音对于理解语音是一个比较有效的方法。下面就是一个录音在音频编辑器里的显示的例子。目前关于语音的所有描述说明从某种程度上面讲都是基于概率的（基于频谱？）。这意味着在语音单元或者单词之间并没有确定的边界。语音识别技术没办法到达100%的准确率。这个概念对于软件开发者来说有点不可思议，因为他们所研究的系统通常都是确定性的。另外，对于语音技术来说，它会产生很多和语言相关的特定的问题。语音的构成在本文中，我们是按照以下方式去理解语音的构成的：语音是一个连续的音频流，它是由大部分的稳定态和部分动态改变的状态混合构成。一个单词的发声（波形）实际上取决于很多因素，而不仅仅是音素，例如音素上下文、说话者、语音风格等；协同发音（指的是一个音受前后相邻音的影响而发生变化，从发声机理上看就是人的发声器官在一个音转向另一个音时其特性只能渐变，从而使得后一个音的频谱与其他条件下的频谱产生差异。）的存在使得音素的感知与标准不一样，所以我们需要根据上下文来辨别音素。将一个音素划分为几个亚音素单元。 ...继续阅读 (24)

前不久，微软人工智能及微软研究事业部技术院士、微软首席语音科学家黄学东博士，作为清华大学的校友在母校举办了一场讲座，为大家回顾了微软在人工智能领域的最新成就，并详细解释了微软是如何使用微软认知工具包CNTK在语音识别和机器翻译研究中取得最新进展的。想知道微软语音识别技术达到人类专业水平背后的惊天大秘密么？快来一起听听黄学东博士的分享。视频由学堂在线提供今天我想给大家分享一下微软在人工智能领域取得的一些最新突破，也分享一下我们在20多年的历程中，是怎样持之以恒取得这些突破的。先看看今年《经济学人杂志》的封面故事——我们终于可以和机器讲话了。里面有一个很有名的图表总结了整个领域从1954年IBM科学家第一次进行机器翻译的探索，到2016年微软第一次在会话语音识别上达到人类水平的历史性突破。在几十年的历程中，有非常多优秀的公司在语音和语言领域进行了不懈地探索，终于在今天，达到了和人一样精准的语音识别，这是非常了不起的历史性突破。1982年我在清华做硕士论文时，做的就是语音识别。硕士毕业读博士时，我在计算机系方棣棠先生的带领下，继续做这方面的研究。很难想象在我的有生之年，我们能让计算机语音识别可以达到如此精准的水平。所以想跟大家分享一下，我们是怎样追求这个梦想，持之以恒，通过不懈的努力达到历史性突破的。近两年人工智能受到热议，其实人工智能包括了两个主要的类别以及三个主要的因素：第一，平台。 ...继续阅读 (26)

4月27日，GMIC 2017（全球移动互联网大会）北京站开幕。三位前微软人——李开复、张亚勤、张宏江齐聚一堂，主要探讨了AI的未来的发展前景、中国在AI领域的优势、以及AI人才的战略布局等问题 。AI未来的前景如何？李开复：AI的主要应用领域是金融、医疗和无人驾驶。’张亚勤：AI技术的未来是生物和数字智能的融合。张宏江：如今是互联网+，未来是智能+。中国靠什么引领AI时代？张宏江：高质量的大数据，高质量的AI人才。AI时代需要怎样的人才？张亚勤：需要数学好、编程好、态度好，要比机器学的块。李开复：做综合性的人才，学会把AI当做工具去使用。以下是雷锋网整理的现场对话：AI未来前景如何？高欣欣：人工智能对我们的生活产生了这么大的影响，再往后看19年后的未来会是什么样的呢？您又将为这样的未来做什么样的布局呢？李开复：我们现在是一个VC投资机构，还有一个是工程院，所以我们看的可能是10年后，19年后的事情还是要让霍金教授和学者们来推测。如果看未来这十几年，我们的机会肯定是把已有的数据拿来用。比如BAT、滴滴、美团等互联网公司已经用的很好了，但是中国还有很多新的公司，新的独角兽，每年几十个独角兽里可能有一半会有千万级别的用户，他们的千万级别的用户都是需要AI的，用AI来做运营，用AI来了解用户，用AI来变现，有AI跟没有AI的公司是巨大的差别。比如我们最近看到崛起特别快的几个公司，背后都是 ...继续阅读 (24)

为牺牲性能追求生产率而呐喊让我从关于 Python 中的 asyncio 这个标准库的讨论中休息一会，谈谈我最近正在思考的一些东西：Python 的速度。对不了解我的人说明一下，我是一个 Python 的粉丝，而且我在我能想到的所有地方都积极地使用 Python。人们对 Python 最大的抱怨之一就是它的速度比较慢，有些人甚至拒绝尝试使用 Python，因为它比其他语言速度慢。这里说说为什么我认为应该尝试使用 Python，尽管它是有点慢。速度不再重要过去的情形是，程序需要花费很长的时间来运行，CPU 比较贵，内存也很贵。程序的运行时间是一个很重要的指标。计算机非常的昂贵，计算机运行所需要的电也是相当贵的。对这些资源进行优化是因为一个永恒的商业法则：优化你最贵的资源。在过去，最贵的资源是计算机的运行时间。这就是导致计算机科学致力于研究不同算法的效率的原因。然而，这已经不再是正确的，因为现在硅芯片很便宜，确实很便宜。运行时间不再是你最贵的资源。公司最贵的资源现在是它的员工时间。或者换句话说，就是你。把事情做完比把它变快更加重要。实际上，这是相当的重要，我将把它再次放在这里，仿佛它是一个引文一样(给那些只是粗略浏览的人):把事情做完比快速地做事更加重要。你可能会说：“我的公司在意速度，我开发一个 web 应用程序，那么所有的响应时间必须少于 x 毫秒。”或者，“我们失去了客户，因为他 ...继续阅读 (23)

中国的人工智能战略何去何从2010年前后，国内众多讨论集中于为什么中国造不出自己的操作系统。在IT行业，操作系统可谓王冠上的明珠，它控制了硬件和应用软件之间的联系，也控制了智能设备的整个生态。正所谓“得操作系统者得天下”，上可支配应用，下可控制硬件，更重要的是操作系统是信息和知识的核心控制点，这是个出世界级企业的机会。当年微软正是依靠对PC操作系统的垄断，成为了全球市值最高的科技企业，也正是失去对操作系统的控制而彻底丧失了在智能手机中的机会。如今，苹果和谷歌取而代之，在手机操作系统上占据着领先地位。调研公司Strategy Analytics去年11月份发布报告称，去年第三季度苹果公司攫取了全球智能手机利润的91%，创下历史新高。BMO Capital Markets则预计去年第三季度苹果攫取了全球智能手机行业103.6%的利润，而苹果在智能手机市场的份额只有12%。为什么超越了100%？因为有大量厂商在亏损。图片来源: Strategy Analytics过去的历史表明，有了操作系统这把屠龙刀，就能像微软、苹果那样汲取产业链条上的的大部分利润，公司也能立于不败之地，其它的都可能成为历史的配角和过客。那么在人工智能时代，新的“操作系统”会是什么呢？要回答这个问题，先从计算角度来分析，从目前人工智能行业的发展情况来看，由于人工智能算法涉及大量的矩阵计算和并行数值计算，下一代计算已经显 ...继续阅读 (26)

2017年国际消费类电子产品展览会（CES，International Consumer Electronics Show）落幕，亚马逊语音助手Alexa大出风头。参展的众多智能硬件设备都内嵌了Alexa语音功能，比如：智能家居类：惠而浦家电、三星扫地机器人、GE智能灯、LG智能冰箱、联想智能音箱；机器人类：LG家庭机器人、优必选机器人；汽车类：福特车载信息娱乐系统、大众车载系统 ；手机类：华为美国版Mate 9手机；可穿戴类：Martian智能手表、Onvocal智能耳机，等等。亚马逊副总裁Mike George则宣布：Alexa语音平台接入的语音技能已经突破7000。这无疑是一个惊人的数字。正是有了这样的成绩，亚马逊CEO贝佐斯最近在出席加州的科技会议才敢说：Alexa有望成为公司第四大支柱。Alexa语音技能突破7000，意味着亚马逊无论是在技术的积累上、还是平台的构建上，语音的商业化应用都已经建立起绝对的领先优势，一骑绝尘。亚马逊在人工智能领域一时风头无两。在亚马逊抢尽科技头条时，吃瓜群众不仅把目光投向科技头牌——谷歌。——怎么会这样？——又把事情搞砸了？——这不是谷歌的强项吗？语音意味着什么？为了把这件事说清楚，我们有必要先站在一个高度理一理语音到底意味着什么。人类社会有两个最基本的事情：一是人与人之间的交流；二是人对工具的使用。当工具有信息产生和入口的作用时，就产生了人 ...继续阅读 (15)

1、国内外巨头相继进入语音交互领域去年10月份，Intel与科大讯飞宣布合作共同研发AI芯片，该芯片将麦克风阵列、远场语音识别等功能集成到SOC当中，形成完整的远场语音交互链条，此次合作正式宣告Intel也将进入智能语音交互市场。此前，科大讯飞的麦克风阵列等硬件一直委托国内的全志科技研发，全志科技显然是ARM阵营的追随者。然而，根据Intel内部人员的透露，科大讯飞对于和国内芯片厂商的合作并不完全满意，语音交互市场竞争激烈，而国内初创公司如声智科技等，在麦克风阵列技术和方案方面带给讯飞不小的压力，这近一步促成了科大讯飞与国外芯片巨头Intel的联盟，希望与Intel联合的芯片计划从根本上扭转这个趋势。今年2月份，百度宣布全资收购渡鸦科技，创始人吕骋携团队正式加盟百度，并出任百度智能家居硬件总经理，向百度集团总裁和首席运营官陆奇汇报。陆奇同时宣布原度秘团队升级为度秘事业部，加速人工智能布局。陆奇指出，凭借语音与对话技术的优势，百度在引领新一代人机交互平台上将拥有巨大的机会，自然语言和其他智能交互方式有可能出现在从手机到家居的每一个设备中。百度通告还显示，百度高级总监景鲲和首席架构师朱凯华将担任事业部的核心管理层。而近日，据彭博社报道，华为在深圳有一个超过100名工程师的团队正在开发语音助手服务，开发工作目前还处于早期阶段。华为语音助手项目目标宏大，瞄准苹果Siri、亚马逊Alexa和 ...继续阅读 (24)

摘要：在组织结构、营销策略、客户关系急剧变化的今天，国内 B2D 厂商的 「开发者战略」是时候升级了！作者：晋剑（猿生态 创始人兼CEO）背景：据 Evans Data 的数据显示，截至 2020 年，世界上将会有超过 2500 万名软件开发者。软件开发人才市场已经成为科技领域最炙手可热的部分，从事这一职业的人数也是如今增长最快的。那些为开发者服务的 B2D 公司，例如 GitHub、Stripe、Twilo 以及我们 DigitalOcean 等等，通过自身的努力和平台本身的原生性吸引了数以百万计的用户。2017 开年 Q1 季度，各大厂一点也没闲着：阿里启动“NASA”计划、 Google 上线了面向中国的开发者网站、华为在长沙召开中国生态伙伴大会、京东开年技术大会，一系列动作揭示着大厂正式进入技术军备赛。一方面重仓自家的技术及技术人才的储备，另外一方面对于外部第三方开发者也在摩拳擦掌，逐步在开放其多年的技术积累，赋能第三方开发者，抢夺云服务入口！开发者越来越重要，开发者战略升级势在必行。而随着互联网+、O2O的提出与发展，为互联网开发人员提供服务的中小平台和其服务种类也增长迅速、蓬勃发展。根据DevStore 2015年发布的国内开发者服务地域分布数据报告，开发者服务平台主要集中在北上广深，其中北京以254家，52%的占比遥遥领先，深圳、上海、广州开发者服务在数量上差异不大， ...继续阅读 (16)

随着机器学习越来越流行，也出现了越来越多能很好地处理任务的算法。但是，你不可能预先知道哪个算法对你的问题是最优的。如果你有足够的时间，你可以尝试所有的算法来找出最优的算法。本文介绍了如何依靠已有的方法（模型选择和超参数调节）去指导你更好地去选择算法。本文作者为华盛顿大学 eScience Institute 和 Institute for Neuroengineering 的数据科学博士后 Michael Beyeler。步骤 0：了解基本知识在我们深入学习之前，我们先重温基础知识。具体来说，我们应该知道机器学习里面三个主要类别：监督学习，无监督学习和强化学习。在监督学习（supervised learning）中，每个数据点都会获得标注，如类别标签或与数值相关的标签。一个类别标签的例子：将图片分类为「猫」或「狗」；数值标签的例子如：预测一辆二手车的售价。监督学习的目的是通过学习许多有标签的样本，然后对新的数据做出预测。例如，准确识别新照片上的动物（分类）或者预测二手车的售价（回归）。在无监督性学习（unsupervised learning）中，数据点没有相关的标签。相反，无监督学习算法的目标是以某种方式组织数据，然后找出数据中存在的内在结构。这包括将数据进行聚类，或者找到更简单的方式处理复杂数据，使复杂数据看起来更简单。在强化学习（reinforcement learning） ...继续阅读 (21)