新智元编译作者：Peter High编译：张易、刘小芹【新智元导读】离开百度之后，吴恩达首次接受了媒体的长篇专访。面对他的老朋友，Forbes、华尔街日报等专栏作家 Peter High，吴恩达畅谈了他下一步的规划。吴恩达，AI 领域最重要的思想家之一。他创立并领导了开发大规模深度学习算法的“谷歌大脑”项目。2011年，他引领了斯坦福大学的大规模开放在线课程（MassiveOpen Online Course，MOOC）平台的发展。他的机器学习课程很快将有第10 万名学生“入学”。这一经验促使吴恩达联合创立了 Coursera——一个与世界顶尖大学合作的 MOOC 平台，提供高质量的在线课程。今天，Coursera 已成为世界上最大的 MOOC 平台。吴恩达此前任百度首席科学家。在他在职期间，百度成为了在每个主要人工智能领域都拥有世界一流专业知识的少数几家公司之一：语音，NLP，计算机视觉，机器学习和知识图谱。他的团队为百度引入了两个全新的业务单元：无人驾驶和 DuerOS 对话式计算平台。今年三月下旬，吴恩达宣布他将离开百度。他对外表示：“百度的 AI 非常强大，团队很有天赋，我相信百度的 AI 会越做越好。离职以后，我将很高兴地继续致力于我们社会的 AI 转型，利用 AI 使每个人都能生活得更好。”现在距他离职已经有两个多月了，我很好奇他的计划实施的如何。于是我在斯坦福大学的  ...继续阅读 (30)

深度学习是一项庞大又复杂的工程，在建立深度学习模型时，走进死胡同被迫从头再来似乎是常事。近日，Semantics3网站的联合创始人Govind Chandrasekhar在官方博客上发表了一篇文章，讲述了程序员在解决深度学习问题时的应该自问的五个问题。Semantics3是一家2012年成立的数据科学初创公司，它创建了一个数据库，跟踪产品在网上的销售过程，为零售商提供数据。对于Govind Chandrasekhar写的这篇文章，量子位全文翻译如下：研究数据科学是一件悲喜交加的事情。喜在当你偶然的发现提高了算法的性能，可能让你拥有持久的兴奋感；悲在你会经常发现自己站在一条单行道的尽头，苦苦探索到底哪里出了问题。在这篇文章里，我将详述走过无数条深度学习死路后，得到的五个教训。在处理新问题或新方法前，我都会用想想下面这五个问题。问题一：先不管神经网络，一个没有先验知识、只受过你的数据集训练的人能解决这个问题吗？这个问题对解决监督学习的困境尤为受用——这些问题的典型前提是，一个小的高质量数据集（比如N个实体）可以帮助你的模型近似得到一个潜在的功能，之后泛化到包含1000N个实体的整个数据集。这些方法的好处在于，人类只需要研究很小部分数据就可以了，机器会学会把它运用到大范围的示例中。但是在现实世界中，问题不总是含有可以被优先识别的模式。人们利用外部常识来解决的认知挑战比我们意识到的还要多， ...继续阅读 (43)

目前使用了深度学习技术的移动应用 通常都是直接依赖云服务器来完成DNN所有的计算操作，但这样做的缺点在于移动设备与云服务器之间的数据传输带来的代价并不小（表现在系统延迟时间和移动设备的电量消耗） ；目前移动设备对DNN通常都具备一定的计算能力，尽管计算性能不如云服务器但避免了数据传输的开销。论文作者提出了一种基于模型网络层为粒度的切割方法，将DNN需要的计算量切分开并充分利用云服务器和移动设备的硬件资源进行延迟时间和电量消耗这两方面的优化。 Neurosurgeon很形象地描述了这种切割方法：向外科医生一样对DNN模型进行切分处理。对于所有使用深度学习技术来处理图像、视频、语音和文本数据的个人智能助手而言，目前工业界通常的做法是，利用云服务器上强大的GPU集群资源来完成应用程序的计算操作（以下简称为现有方法）。目前运行在移动设备上的个人智能助手（例如Siri、Google Now和Cortana等）也都是采用这种做法。尽管如此，我们还是会思考，能不能也对移动设备本身的计算能力加以利用（而不是完全依靠云服务），同时确保应用程序的延迟时间以及移动设备的电量消耗处于合理范围内。目前的现状是，智能应用程序的计算能力完全依赖于Web服务商所提供的高端云服务器。而Neurosurgeon打破了这种常规做法（即智能应用的计算能力完全依托于云服务）！在这篇出色的论文中， 作者向我们展示了一种新思路 ...继续阅读 (33)

近日，英国卫报等外媒披露了特斯拉位于美国加利福尼亚州费利蒙市的“未来工厂”内，和机器人一起工作的员工饱受激进的生产目标和工伤折磨，看见工友晕倒还要继续工作，据调查自2014年以来特斯拉一共呼叫过得救护车超过100次，而被抢救的员工经历过晕厥、眩晕、癫痫发作、呼吸异常和胸痛的健康问题。英国卫报评价“代表着尖端科技的炫酷特斯拉，是不少人心中的智能化汽车代表，但这样的科技成果，却以无数员工的痛苦为代价。”特斯拉的老板兼CEO、火箭计划SpaceX的创始人、以及民用太阳能公司ColarCity的老板、他被誉为现实版的“钢铁侠”。“当一件事情足够重要时，即使赢利并没有达到你的预期，你仍然需要坚持不懈地去做它！”——埃隆·马斯克（Elon Musk）就是因为他有着超越现实的判断力与执行力，更重要的是他有着对人类未来科技的无穷无尽的梦想！更是因为特斯拉的超级全自动生产工厂，当你看完之后，就会知道为什么叫“钢铁侠”了！特斯拉的这个号称全球最智能的全自动化生产车间里，从原材料加工到成品的组装，全部生产过程除了少量零部件外，几乎所有生产工作都自给自足。冲压生产线、车身中心、烤漆中心与组装中心，这四大制造环节种总共有超过150台机器人参与工作。当然， 在车间中你很少能见到有人的影子。组装中心，全部是机器人每一个机器人可以完成多种动作喷漆烤漆车间组装车间，按装挡风玻璃组装车间，安装座椅6秒钟完成一个发动机 ...继续阅读 (27)

原文：How to create a mind: The secret of human thought revealed作者：Milo Spencer-Harper翻译：Kaiser（王司图）前言原作者Milo毕业于牛津大学经济学专业，也是一名Python开发者和人工智能爱好者。本文是他对Ray Kurzweil的著作How to create a mind: The secret of human thought revealed的读后感，首发于Medium，原文链接及作者主页可见于文首。Ray Kurzweil，就职于Google，著有《人工智能的未来》、《机器之心》、《奇点临近》等书。至于Kurzweil究竟是真正的“未来学家”，还是美国版的“大脑升级人”，留待读者们思考。正文在学习AI的过程中，我读了Ray Kurzweil的How to create a mind: The secret of human thought revealed，这本书非常的exciting所以我想与诸位分享一些感悟。如果要用一句话来概括这本书的话，那Kurzweil自己的话最好不过了：“The question is whether or not we can find an algorithm that could turn a computer into an entity ...继续阅读 (31)

2015年，云计算产值为1750亿美元，2016年为2092亿美元，据最新的预测，2017年云计算的产业总值可以达到2468亿美元。如果按照这样的势头去发展，2018年就能达到2900亿美元，而2019年就已经快达到3500亿美元了。2015年，云计算产值为1750亿美元，2016年为2092亿美元，据最新的预测，2017年云计算的产业总值可以达到2468亿美元。如果按照这样的势头去发展，2018年就能达到2900亿美元，而2019年就已经快达到3500亿美元了。2015年的时候Gartner预计，2019年云计算2019年云计算的产业总值为3150亿美元，现在看来这家调研机构似乎低估了云计算的市场。然而，这样的狂野生长背后，却扩大了这四个问题的严重性。先来说说是怎么成长的吧众所周知，云是一种基于互联网的计算方式，它提供的是端到端的软件解决方案。这也就意味着，云计算产业的规模云供应商说了不算，要由云计算所服务的垂直行业而定。而云计算对于企业的提升，在现阶段来看是通过计算资源(如亚马逊AWS)、软件(如微软CRM)、操作环境(如谷歌APP引擎)，带给企业更高效的部署能力，变相降低了运营成本。因此，以工业、金融为首的垂直行业纷纷踩着五彩祥云购买云计算解决方案，最终造就了云计算市场在这短短几年内的蓬勃。一、马太效应严重，小玩家、新玩家陷入迷局2016年年末，云计算市场发展情况拔云见日，亚 ...继续阅读 (33)

在互联网发展到大数据时代，那么数据就等于金钱。随着向一个基于应用的领域过渡，数据则呈现出了指数级增长。在互联网发展到大数据时代，那么数据就等于金钱。随着向一个基于应用的领域过渡，数据则呈现出了指数级增长。然而，百分之八十的数据是非结构化的，因此它需要一个程序和方法来从中提取有用信息，并且将其转换为可理解、可用的结构化形式。在数据挖掘过程中，有大量的工具可供使用，比如采用人工智能、机器学习，以及其他技术等来提取数据。以下为您推荐六款的数据挖掘工具：1、WEKAWEKA 原生的非 Java 版本主要是为了分析农业领域数据而开发的。该工具基于 Java 版本，是非常复杂的，并且应用在许多不同的应用中，包括数据分析以及预测建模的可视化和算法。与 RapidMiner 相比优势在于，它在 GNU 通用公共许可证下是免费的，因为用户可以按照自己的喜好选择自定义。WEKA 支持多种标准数据挖掘任务，包括数据预处理、收集、分类、回归分析、可视化和特征选取。添加序列建模后，WEKA 将会变得更强大，但目前不包括在内。2、RapidMiner该工具是用 Java 语言编写的，通过基于模板的框架提供先进的分析技术。该款工具最大的好处就是，用户无需写任何代码。它是作为一个服务提供，而不是一款本地软件。值得一提的是，该工具在数据挖掘工具榜上位列榜首。另外，除了数据挖掘，RapidMiner 还提供如数据预处 ...继续阅读 (44)

人工智能技术正成为全球科技发展的主流，而在这一领域，中国正快速进步。在人工智能相关项目上，中国投入了相当于欧美6倍的资金，这使得中国正成为人工智能领域的重要玩家，距离美国也只有一步之遥。人工智能技术正成为全球科技发展的主流，而在这一领域，中国正快速进步。在人工智能相关项目上，中国投入了相当于欧美6倍的资金，这使得中国正成为人工智能领域的重要玩家，距离美国也只有一步之遥。报道美媒报道，德国人工智能专家师泽仁在德国完成了有关自主机器人的博士后研究，按理来说，接下来他应该会去人工智能研究比较领先和成熟的欧洲或美国，但他没有，他去了中国。“在其他地方，你建不了我这样的实验室。”师泽仁说。据美国《纽约时报》网站5月27日报道，科技领域的力量平衡正在发生改变。中国多年来一直羡慕地看着西方发明驱动这个数字时代的软件与芯片，如今，它也成了人工智能领域的一个重要玩家——有人认为这或许会是未来最重要的技术。专家们普遍认为，中国距离美国只有一步之遥。报道称，中国计划利用这项技术预测犯罪行为、协助发放贷款以及通过无所不在的闭路摄像头缓解交通堵塞，与此同时正在投入大笔资金支持人工智能的发展。在之前几十亿美元投资的基础上，中国又在为一个数十亿美元的新计划做准备，这些资金将用来资助登月项目、创业公司和学术研究，目标都是增强中国的人工智能能力。在中国加大投资的同时，美国却在削减开支。上周，特朗普政府发布了一份预算 ...继续阅读 (71)

在今年的 Google IO，当 Google 宣布 Google Assistant 将登录 iPhone，一时间关于 Google Assistant 和 Siri 之间的竞争被推到了台前。但其实 Google Assistant 的对手早已不是 Siri，「AI Assistant」如今也许只是场 Google 一个人的战争……AI 成为了 Google 2017 的绝对主角，而 Google Assistant 作为串联起所有 Google AI 服务的关键，同时更是让这些服务更自然的出现在用户的需求场景中，自然到不会感知到科技的存在，这正是它伟大的地方。从战略的转换到全线产品和服务与 AI 的深度结合，Google 对未来的态度早已坚决又鲜明的展示给了全世界。像 Google 如此体量的公司能够在短短 2 年时间里就完成如此彻底的转变绝对不是一件容易的事，除了决策者的胆识，更是必须对 AI 的未来有足够坚定的信心，Google 如此表现就像是早已预见了未来。如果我们回顾谷歌在 AI 助手领域发展过程的同时，再结合现在 Google Assistant 的格局和姿态，或许也能多少看清谷歌到底如何将智能语音助手变成了一个人的游戏……从 Google Now 到 Google Assistant谷歌的智能语音助手最早是以 Google Now 的形式出现在众人面前，Google ...继续阅读 (50)

莱斯大学的计算机科学家已经改编了一种普遍使用的技术来快速检查数据从而削减计算量，因此深度学习所需的能耗和时间也有所削减。莱斯大学的助理教授 Anshumali Shrivastava 说，「它应用于任何深度学习架构，该技术都能亚线性地扩展，也就是应用到的深度神经网络越大节省的计算越多。」该研究将会发布在今年的 KDD 会议上被介绍，它解决了谷歌、Facebook、微软等大公司面临的最大难题之一。这些大公司都在争相建立、训练、部署大量的深度学习网络来发展不同的产品，例如自动驾驶汽车、翻译、邮件智能回复。Shrivastave 和莱斯大学的研究生 Ryan Spring 表示该技术来自于哈希法（hashing)，一种行之有效的数据检索方法，经过改编可极大地减少深度学习的计算成本。哈希法使用哈希函数将数据转换为易管理的小数值哈希（被称作 hash）。哈希被存储在表格中，类似于印刷书中的索引。Spring 说：「我们的方法融合了两项技术——巧妙的本地敏感性哈希法变体（variant of locality-sensitive hashing）和稀疏反向传播变体——以减少计算需求，且不附带大量的精确度损失。例如，在小规模的测试中发现我们可以降低 95% 的计算，但是和通过标准方法获取的精确度依然差 1% 以内。」深度学习网络的基本构建块是人工神经元。尽管在 1950 年代就被作为生物大脑神经 ...继续阅读 (28)

【新智元导读】纽约时报长文《人工智能的竞赛,中国超越美国》引发热议，吴恩达特别推荐了一篇“很有见地的回应”：《中美 AI 之争是个伪命题》。文中指出，一方面，在消费者市场层面， 中国 AI 确实先人一步，但美国不该盲目模仿；另一方面，AI 发展已经全球化，AI 并非零和游戏。新智元创始人杨静女士也撰文指出，我们对美国媒体的这类声音,“需要保持清醒的认识”，无论是在产业还是学术层面，中美差距仍然很大，“中国企业深知,DeepMind 在通用人工智能领域的研发竞争力是中国任何一家企业或机构难以企及的——中国甚至尚未在企业层面或国家战略层面对通用人工智能研发进行重大布局”。《纽约时报》近日刊发以“人工智能的竞赛,中国超越美国?”为题的长篇报道,核心观点是中国在人工智能领域的投入巨大,人才团队日益向东方倾斜,与美国的差距正在缩小。“专家们普遍认为，中国距离美国只有一步之遥”，甚至可能超越美国。文章引起了热议。新智元创始人杨静女士为此专门撰写了评论文章《中国人工智能超美?远着呢》，指出：在 AI 的疆场上,无论产业还是学术层面,中国和美国的实际差距都还很大。现在，对中美两国 AI 发展都有着深刻认识的吴恩达也加入了讨论。他在最近发表的一篇推特里，推荐了 Derrick Harris 的文章《中美 AI 之争是个伪命题》（China vs. America is an AI red herri ...继续阅读 (39)

文|刘知远前几年曾经马少平老师的引荐，为某科普图书写过一篇短文介绍自然语言处理。如果只是介绍NLP的概念、任务和挑战，应该可以参考这篇小文。原文如下，仅供参考。自然语言处理Natural Language Processing一、什么是自然语言处理简单地说，自然语言处理（Natural Language Processing，简称NLP）就是用计算机来处理、理解以及运用人类语言(如中文、英文等)，它属于人工智能的一个分支，是计算机科学与语言学的交叉学科，又常被称为计算语言学。由于自然语言是人类区别于其他动物的根本标志。没有语言，人类的思维也就无从谈起，所以自然语言处理体现了人工智能的最高任务与境界，也就是说，只有当计算机具备了处理自然语言的能力时，机器才算实现了真正的智能。从研究内容来看，自然语言处理包括语法分析、语义分析、篇章理解等。从应用角度来看，自然语言处理具有广泛的应用前景。特别是在信息时代，自然语言处理的应用包罗万象，例如：机器翻译、手写体和印刷体字符识别、语音识别及文语转换、信息检索、信息抽取与过滤、文本分类与聚类、舆情分析和观点挖掘等，它涉及与语言处理相关的数据挖掘、机器学习、知识获取、知识工程、人工智能研究和与语言计算相关的语言学研究等。值得一提的是，自然语言处理的兴起与机器翻译这一具体任务有着密切联系。机器翻译指的是利用计算机自动地将一种自然语言翻译为另外一种自然 ...继续阅读 (28)

简介几乎所有人都喜欢与家人、朋友一起观看电影度过闲暇时光。大家可能都有过这样的体验：本想在接下来的两个小时里看一个电影，却坐在沙发上坐了20分钟不知道看什么，选择困难症又犯了，结果好心情也变得沮丧。所以，我们很需要一个电脑代理，在做挑选电影的时候提供推荐。现在，电影智能推荐系统已经成为日常生活中的一部分。Data Science Central 曾表示：“虽然硬数据很难获得，但知情人士估计，对亚马逊和Netflix这样的大型电商平台，推荐系统为它们带来高达10%至25%的收入增长”。在这个项目中， 我研究了一些针对电影推荐的基本算法，并尝试将深度学习融入到电影推荐系统中。把娱乐与视觉艺术相结合，电影是一个很好的例子。电影海报可以直接、快速地把电影信息传达给观众。Design Mantic表示：“不论上映前后，电影海报都是创造噱头的主要因素。多半的人（目标观众）都根据海报来决定买不买票，看不看电影。”我们甚至可以仅仅根据海报字体，来推测这个电影的情绪。这听起来有点像魔术——但看一眼海报就预测出电影的类型，的确是可能的。就拿我来说，瞟一眼海报就知道我想不想看这个电影了。举个例子，我不是卡通迷，一看到有卡通主题海报，就知道不是我的菜。这个决策的过程很直接，并不需要阅读电影评论（不确定谁真的有时间读那些评论）。因此，除了标准的电影推荐算法，我还用了深度学习来处理海报，并将相似的电影推荐给用 ...继续阅读 (37)

公元七世纪，在车迟国国家气象局组织的一次求雨活动中，虎力、鹿力、羊力三位大仙成功地祈下甘霖，于水火中救了黎民。老国王虽然不明就里，却从此尊他们为国师，奉道教为圭臬。本世纪，算法工程师们的境遇也差不多：早些年，信奉糙快猛主义的大佬们觉得他们饱食终日、无所用心，没工作只好在学校混博士，靠数据上的障眼法装神弄鬼。可是，随着去年AlphaGo大破李世石，大佬们在心底喊出“我操”的同时，慌不择路地把各种搞劫持、送外卖的生意包装成人工智能，并纷纷请来几位懂算法的国师加持。虽然他们对国师们所做的事智商上并不理解，却虔诚地希望他们快点儿求下雨来。于是，算法工程师的身价也水涨船高了。各门派工程师不论过去练的是java、php还是excel，都放弃了最好语言的争论，抄起了深度学习，发誓重新修炼成算法工程师。前些天，还有人在知乎上问我：20万、50万、100万的算法工程师，到底有什么区别？这样充满铜臭味儿的问题，让我十分欣慰。虽说在北京，20万已经基本不可能招到靠谱儿的算法工程师了，还是姑且用上面的数字做个参照，谈谈算法工程师的三个层次吧。（这里说的算法，并不是计算机系本科课程《算法与数据结构》里那个算法。那门课里讲的，是排序、查找这类”确定性算法”；而这里我们说的，是用统计方法对数据进行建模的”概率性算法”。）下文中会提到一些算法和模型，但不过是为了举例说明概念，无需深究，有兴趣钻研的朋友可以自己查阅 ...继续阅读 (29)

深度学习的核心问题就是一个非常难的优化问题。所以在神经网络引入后的几十年间，深度神经网络的优化问题的困难性是阻碍它们成为主流的一个重要因素。并导致了它们在20世纪90年代到21世纪初期间的衰落。不过现在已经基本解决了这个问题。在本篇博文中，我会探讨优化神经网络的“困难性”，以及理论上是怎么解释这个问题的。简而言之：神经网络变得越深，优化问题就会变得越难。最简单的神经网络是单节点感知器，其优化问题是凸问题。凸优化问题的好处是所有的局部最小值也是全局最小值。存在各种各样的优化算法来解决凸优化问题，并且每隔几年就会发现更好的用于凸优化的多项式时间的算法。使用凸优化算法可以轻松地优化单个神经元的权重（参见下图）。下面让我们看看扩展一个单神经元后会发生什么。图1 左图：一个凸函数。右图：一个非凸函数。凸函数比非凸函数更容易找到函数曲面的底部（来源：Reza Zadeh）下一步自然就是在保持单层神经网络的情况下添加更多的神经元。对于单层n节点感知器的神经网络，如果存在边权重可以使得神经网络能正确地对训练集进行分类，那么这样的边权重是可以通过线性规划在多项式时间O(n)内找到。线性规划也是凸优化的一种特殊情况。这时一个问题应运而生：我们可以对更深的多层神经网络做出这种类似的保证么？不幸的是，不能。为了可证明地解决两层或多层的一般神经网络的优化问题，需要的算法将会遇到某些计算机科学中最大的未解问题 ...继续阅读 (41)

人工智能(AI)是当今最令人兴奋和最有前景的前沿技术之一。它是计算机科学的一个领域，主要涉及到机器和程序的开发，这些机器和程序非常智能，它们可像人类一样工作和行动。随着科技的日新月异，人工智能越来越受到人们的重视。要实现AI并将其应用到现代生活的各个领域，需要广泛而高度的技术研究。在AI中，知识工程是为了使机器能够像人类一样行为、思考与反应，在计算机科学领域已取得重大进展。一些正在开发的AI技术必将在当今各行业中创造巨大变化。以下是将被AI彻底颠覆的12个领域。个人助手目前已有各种各样的程序和应用能够作为个人助手。Siri和Warren就是很好的例子。这些程序能够准确回答你问它们的问题。他们懂自然语言，并会以你能理解的形式给你答案。另外，他们处理信息非常准确并可活在你的智能手机和电脑里。 人工智能个人助手正应用在很多部门，例如日常生活、医疗部门、金融和工程。AI助手程序势必在不久的将来颠覆整个行业的个人助手。医疗诊断与药物处方AI的应用之一就是医疗诊断。很多智能程序可根据患者的症状和报告诊断出疾病和病情。AI程序能够听到症状并分析医疗报告，如X射线、超声、核磁共振(MRI)和CT扫描。掌握这一信息，AI程序可以诊断任何疾病并开出处方。这种AI程序将来可取代药剂师和医生。B2B流程与互动得益于互联网和计算机网络，企业可以相互交易。他们可完成销售、合作、客户关怀、联盟营销、兼并和创造商 ...继续阅读 (27)

机器学习、深度学习与人工智能的崛起已经成为一项不争的事实，且开始对计算机科学领域产生极为深远的影响。正如大家所知，截至目前，在从图像识别到围棋竞技的众多领域内，深度学习的实际表现已经将人类远远甩在身后。深度学习社区目前正在将自然语言处理（简称NLP）视为技术研究与应用的下一个前沿。深度学习的一大优势在于，其水平提升往往能够在各类场景下实现通用。举例来说，在某一领域中适用于深度学习的具体技术通常可以直接转移至其它领域，而无需经过任何修改。更具体地讲，构建大量计算密集型图像与语音识别类深度学习模型的方法已经全面渗透至自然语言处理当中。在最新、最先进的翻译系统的帮助下，这套系统足以带来远胜以往的实际表现——当然，仍需要大量计算设备作为配合。尽管我们必须利用性能极强的系统从现实世界数据当中偶然发现高度复杂的分析模型，但在另一方面，这些模型将能够以规模化方式应用于其它多种任务。而这就提出了新的问题：是否一切任务都有必要使用如此复杂的模型？下面我们一起来看一套双层式MLP模型，其已经接受相关训练并可实现情感分析。这是一套简单的深度学习系统，我们将其称为“词袋”模型，它会把句子分为正或负两类。最终可视化效果由词袋模型中双层MLP架构中处于上层的T-SNE隐藏层实现。每个数据点对应一个句子，并根据深度学习系统的预测结论与真实目标标以不同颜色。图中的边界框体根据句子的内容进行绘制。感兴趣的朋友可以通 ...继续阅读 (47)

今天，面对AI如此重要的江湖地位，深度学习作为重要的一个研究分支，几乎出现在当下所有热门的AI应用领域，其中包含语义理解、图像识别、语音识别，自然语言处理等等，更有人认为当前的人工智能等同于深度学习领域。如果在这个人工智能的时代，作为一个有理想抱负的程序员，或者学生、爱好者，不懂深度学习这个超热的话题，似乎已经跟时代脱节了。但是，深度学习对数学的要求，包括微积分、线性代数和概率论与数理统计等要求，让大部分的有理想抱负青年踟蹰前行。那么问题来了，理解深度学习，到底需不需要这些知识？关子就不卖了，标题已经说明。前段时间，编辑闲逛各大社区论坛，发现一篇非常适合初学者学习的深度学习的回复帖子，用风趣的白话和例子深入浅出的分析了深度学习的过程，非常通俗易懂。通过与在西门子从事人工智能领域的杨安国老师沟通，获得内容编辑授权，把内容重新整理修正，内容更加通俗易懂，希望人人都能够理解深度学习。关于深度学习，网上的资料很多，不过貌似大部分都不太适合初学者。杨老师总结了几个原因：1、深度学习确实需要一定的数学基础。如果不用深入浅出地方法讲，有些读者就会有畏难的情绪，因而容易过早地放弃。2、中国人或美国人写的书籍或文章，普遍比较难一些。深度学习所需要的数学基础并没有想象中的那么难，只需要知道导数和相关的函数概念即可。高等数学也没学过？很好，这篇文章其实是想让文科生也能看懂，只需要学过初中数学就完全可以。 ...继续阅读 (38)

最近这段时间系统性的学习了 BP 算法后写下了这篇学习笔记，因为能力有限，若有明显错误，还请指正。什么是梯度下降和链式求导法则假设我们有一个函数 J(w)，如下图所示。梯度下降示意图现在，我们要求当 w 等于什么的时候，J(w) 能够取到最小值。从图中我们知道最小值在初始位置的左边，也就意味着如果想要使 J(w) 最小，w的值需要减小。而初始位置的切线的斜率a > 0（也即该位置对应的导数大于0），w = w – a 就能够让 w 的值减小，循环求导更新w直到 J(w) 取得最小值。如果函数J(w)包含多个变量，那么就要分别对不同变量求偏导来更新不同变量的值。所谓的链式求导法则，就是求复合函数的导数：链式求导法则放个例题，会更加明白一点：链式求导的例子神经网络的结构神经网络由三部分组成，分别是最左边的输入层，隐藏层（实际应用中远远不止一层）和最右边的输出层。层与层之间用线连接在一起，每条连接线都有一个对应的权重值 w，除了输入层，一般来说每个神经元还有对应的偏置 b。神经网络的结构图除了输入层的神经元，每个神经元都会有加权求和得到的输入值 z 和将 z 通过 Sigmoid 函数（也即是激活函数）非线性转化后的输出值 a，他们之间的计算公式如下神经元输出值 a 的计算公式其中，公式里面的变量l和j表示的是第 l 层的第 j 个神经元，ij 则表示从第 i 个神经元到第 j 个神经元 ...继续阅读 (27)

雷锋网AI科技评论按：ICRA 全称为“IEEE International Conference on Robotics and Automation”（机器人与自动化会议），是机器人技术领域最有影响力的国际学术会议之一。ICRA 2017 于 5 月 29 日至 6 月 4 日举行，雷锋网AI科技评论从新加坡带来一线报道。该会议举办期间，雷锋网将围绕会议议程及获奖论文展开系列专题报道，敬请期待。在 ICRA 2017 前夕，雷锋网有幸对 ICRA 大会主席、南洋理工大学机器人研究所、IEEE & ASME Fellow 陈义明教授进行了一次专访。值得一提的是，陈义明教授今年 7 月将来到 CCF－GAIR 大会的现场并做主题演讲，敬请关注。雷锋网 AI 科技评论：今年 ICRA 的主题是「Innovation, Entrepreneurship, and Real-world Solutions」，每年的主题是怎样确定下来的？陈义明：ICRA 每年的主题通常是根据机器人的发展现状来确定，不一定是由大会组委会决定，有时候也和主办国有关系。新加坡政府现在非常重视机器人的发展，不纯粹只是基础研究，而是希望它能够真正应用于实际领域。纵观全球的机器人领域现在很红火，因为工业界等各方面都感觉到了痛点，比如人口老龄化问题，还有比如新加坡的话，因为移民政策的影响，找不到合适的技术工人，所以说自 ...继续阅读 (29)

随着城乡差距的拉大和人口的增长，教育资源正愈发倾斜和缺乏。快速发展的人工智能技术成以前所未有的影响力推动着教育领域的变革。人工智能或将成为解决诸多教育难题的关键。无论是前段时间引发热议的上海幼升小事件，还是每次都会牵动大众神经的天价学区房，归根结底，最大症结就在于优质教育资源的稀缺。互联网教育可以实现教育资源的重新分配和充分利用。通过互联网，最好的老师可以影响和帮助最多的人。尤其对于乡村和偏远地区等最缺教育资源的地方而言意义非凡。但互联网教育也只完成了连接的工作，入驻平台的老师毕竟精力有限，不可能随时随地解答学生的所有问题，也无法真正做到因材施教。人工智能的应用或将使这个问题真正迎刃而解。人工智能在去年AlphaGo战胜李世石后成了热词，但它并不是一个新事物，早在五六十年前就已经有了。只是那个时候市场还没有需求，完全是科学家驱动，再加上关键技术没有突破，所以不为世人所熟知。互联网发展到今天，有了大数据、云计算和深度学习。计算能力的大幅提升促使人工智能得到了井喷式的发展。创新工场创始人兼CEO李开复采用智能投资算法获得了比他的私人理财顾问高八倍的收益;陪护机器人开始成为老人、儿童的新伙伴，陪他们度过了或孤独或患病的难熬日子;世界第一家机器人酒店也在日本开业，从前台到后勤的工作岗位全部由机器人担任。根据美银美林估计，到2020年，全球机器人和人工智能市场规模将达1530亿美元;艾瑞咨询 ...继续阅读 (32)

到底要不要进AI创业公司?最近遇到几位朋友,都面临这个重大选择问题。他们都已工作5年以上,在大公司有不错的title和收入,职业技能趋于成熟;但看到人工智能行业这么火热,不禁有兴趣看看AI方向的机会,但一方面,不知道自己去AI行业能做什么,另一方面,又有点舍不得跳出目前的舒适区……一、去AI行业能做什么从互联网转型到AI行业的职场过渡,我定义了3类模式:1)技能重合类;2)场景重合类;3)素养重合类。以我熟悉的“从互联网产品经理转型到AI产品经理”为例:技能重合类(技能重合度80%)。比如,小明是某大公司XX开放平台的产品总监/产品经理,日常工作主要是网站产品框架流程、账号体系、消息通知、数据分析、开发者运营等等,就非常适合AI开放平台网站方面的产品经理职位;20%的非重合部分,是知识库等AI相关的新内容。场景重合类(技能重合度50%)。比如,小花是某儿童阅读方向的内容从业者、app产品经理或儿童玩具产品经理,对儿童场景非常熟悉,了解家长、儿童的各种心态和需求,甚至有一些硬件(技术)背景,就比较适合儿童机器人方向的产品经理。50%的非重合部分,是AI对话聊天、软硬件结合的产品体验设计等新内容。素养重合类(技能重合度10%)。比如,小强是搜索背景的产品经理,对自然语言处理、知识图谱等方面有相关经验,就可能比较适合转做AI对话聊天方面的产品经理;但毕竟还是有很大的区别(暂不细说),特别 ...继续阅读 (43)

2017年 5月5日消息   近年来，新兴产业不断受到各大科技巨头的青睐以及资本追逐，无人机 “概念热”也掀起了一场市场卡位战，越来越多的无人机公司如雨后春笋般冒出来，无人机开始飞入寻常百姓家，与之而来的是全国半数之多的无人机在“黑飞”，屡禁不止，监管却如同隔靴挠痒。无人机“黑飞”逼停航班，牵动国民安全神经近日，成都双流机场频繁遭遇“黑飞”侵扰致百余航班受影响，再一次触动国民的安全神经，将无人机“黑飞”推上风口浪尖。据了解，4月14日至21日就因无人机“黑飞”导致百余架次航班被迫备降或返航。又双叒叕，成都仍未平静，4月26日下午，成都双流机场再遭无人机干扰，造成21架次航班备降、返航。在短短17天的时间里，一共有超过100个班次航班受到影响，如此频繁的在机场出现“黑飞”的事故此前在国内都没有出现过，一时间全城哗然。如果说无人机闯入“净空区”是偶然？那么在郫都区、双流区、崇州市、逼停几十架无人机被迫备降其他机场，甚至已经猖狂到直接从飞机下方穿过，这令人发指的巧合与不断挑衅已经不得不让人怀疑背后是否有不为人知的深水利益在作祟？成都无人机“黑飞”延烧半月之久，如此密集的“黑飞”现象更是全国罕见，有媒体形容“危害程度空前”，广大民众惶惶不安，相关监管部门如坐针毡。警方商家统一战线，大疆悬赏全面狙击成都公安第一时间立案侦查，主动出击，悬赏、发动人民群众求线索，针对成都发生的多起无人机干扰航班 ...继续阅读 (42)

讲你肯定能懂的机器学习多维极值求解事先说明本文面向学习过高等数学统计学和线性代数基础知识的本科生，并假设读者拥有基本的矩阵运算和求导运算的相关知识，类似梯度，方向导数、Hessian Matrix这些东西不懂也没关系，我会用尽可能通俗的语言说明运算中的意义。那么从最简单的开始。梯度下降算法梯度是个啥?我想最开始接触梯度的各位是在方向导数那一章接触这一概念的，如果老师没怎么讲的话可能有些人还不知道梯度是个向量。当你学梯度的时候，所有的概念全都是在二元函数下的，well，也写想象力不是很丰富的同学可能不知道这是个啥。来，我们降维先。多维条件下是曲面对函数的一阶偏导数向量，那么在一维条件下梯度会是什么的?显然就木有偏导数了，只有一个东西，当然你也可以把它写成向量的形式，就是一个导数，只不过现在变成一维的了，所以方向只有俩，向左和向右。值为正的时候向右，值为负的时候向左，值大值小不影响方向只影响距离。在二维条件下，因为有了两个偏导数，所以这个向量能表示一圈。如果你以前看过些文章或者视频或者什么ppt之类的东西，大概你会听说一种说法：“梯度是曲面中最陡峭的方向，这个方向是下降最快的方向。”实际上这种说法是不准确的，从一维的角度来看，“梯度”其实是上升最快的方向，比如处的导数是1，方向向右，这个方向函数是增长的。同样二维也是如此。只不过大部分迭代公式中在梯度的前面会加一个负号，比如这个所以也就 ...继续阅读 (32)

深度学习作为机器学习的一个分支，是近年来最热门同时也是发展最快的人工智能技术之一，相关学习资源包括免费公开教程和工具都极大丰富，同时这也为学习深度学习技术的IT人才带来选择上的困扰，Yerevann整理的这个深度学习完全指南 ，汇集了目前网络上最优秀的深度学习自学资源，而且会不定期更新，非常值得收藏关注，以下是IT经理网编译整理的指南内容：自学基本要求（数学知识、编程知识）数学知识：学员需要具备普通大学数学知识，例如 《Deep Learning》 一书中若干章节提到的数学概念：Deep Learning第二章：线性代数Deep Learning第三章：概率与信息理论Deep Learning第四章：数值计算编程知识：你需要懂得编程才能开发和测试深度学习模型，我们建议在机器学习领域首选Python。同时也要用到面向科学计算的NumPy/SciPy代码库。资源链接如下（本文出现的星标代表难度等级）：Justin Johnson’s Python / NumPy / SciPy / Matplotlib tutorial for Stanford’s CS231n★Scipy lecture notes– 涵盖了常用的各种库，介绍也比较详细，还涉及一些深入的技术话题 ★★四大入门教程如果你具备以上自学基本要求技能，我们建议从以下四大入门在线教程中任选一项或多项组合学习（星标为难度等级） ...继续阅读 (29)

作者：肖仰华复旦大学计算机科学技术学院，副教授，博士生导师，上海市互联网大数据工程技术中心副主任。主要研究方向为大数据管理与挖掘、知识库等。大数据时代的到来，为人工智能的飞速发展带来前所未有的数据红利。在大数据的“喂养”下，人工智能技术获得了前所未有的长足进步。其进展突出体现在以知识图谱为代表的知识工程以及深度学习为代表的机器学习等相关领域。随着深度学习对于大数据的红利消耗殆尽，深度学习模型效果的天花板日益迫近。另一方面大量知识图谱不断涌现，这些蕴含人类大量先验知识的宝库却尚未被深度学习有效利用。融合知识图谱与深度学习，已然成为进一步提升深度学习模型效果的重要思路之一。以知识图谱为代表的符号主义、以深度学习为代表的联结主义，日益脱离原先各自独立发展的轨道，走上协同并进的新道路。知识图谱与深度学习融合的历史背景大数据为机器学习，特别是深度学习带来前所未有的数据红利。得益于大规模标注数据，深度神经网络能够习得有效的层次化特征表示，从而在图像识别等领域取得优异效果。但是随着数据红利消失殆尽，深度学习也日益体现出其局限性，尤其体现在依赖大规模标注数据和难以有效利用先验知识等方面。这些局限性阻碍了深度学习的进一步发展。另一方面在深度学习的大量实践中，人们越来越多地发现深度学习模型的结果往往与人的先验知识或者专家知识相冲突。如何让深度学习摆脱对于大规模样本的依赖？如何让深度学习模型有效利用大量 ...继续阅读 (36)

近日，杨强教授在［范式大学］内部课程中，与大家分享了他在 “生成式对抗网络模型“ 和迁移学习等领域的独特见解和最新思考。在此特别感谢杨教授的博士生张颖华同学的帮助。以下内容根据杨强教授演讲编写，略微有所删减。杨强教授是香港科技大学计算机与工程系主任，首位国际人工智能学会华人Fellow（AAAI Fellow）, 并为IEEE Fellow等多个国际学术协会的Fellow，ACM TIST和IEEE 大数据期刊创始主编，中国人工智能学会海外副理事长，国际人工智能协会(IJCAI) 常务理事，AAAI Executive Council member。曾任华为诺亚方舟实验室创始主任和2015年国际人工智能大会（IJCAI）程序主席。主要研究兴趣是人工智能和大数据，是迁移学习领域的开拓者。发表论文共计400余篇，引用超过两万次。同时，杨强教授受邀担任CCAI 2017中国人工智能大会的大会主席，CCAI由中国人工智能学会发起、目前已成功举办两届，这也是中国国内级别最高、规模最大的人工智能大会。秉承前两届大会宗旨，由人工智能学会、蚂蚁金服主办，CSDN承办的第三届中国人工智能大会（CCAI 2017）将于7月22-23日在杭州召开。本文由第四范式授权CSDN转载，特此感谢。有些人看过电视剧《西部世界》—在《西部世界》里，你可能问的一个关键问题是什么？就是当剧中的人们，其中任何一个人走到你 ...继续阅读 (32)

商业领域的数据科学家其实和侦探有着异曲同工之处，就是要去探索未知。不过在这过程中可能一不小心就会坠入“陷阱”，所以这就需要去了解和避免这些“陷阱”。爱尔兰小说家James Joyce 提到过 “错误是探索的入口”，这句话在大部分情况下这是无可厚非的。对于数据科学家而言，犯错可以帮他们发现新的数据趋势和找到更多数据模式。话虽如此，对于数据科学家而言，允许的误差范围往往非常小。数据科学家是通过大量考察才被高薪聘请的，而企业也担不起由于忽略失败案例和重复犯错所产生的严重后果。因此，这些错误有可能会毁掉一个数据科学家的职业生涯。因此对数据科学家来说，追踪所有数据实验、从错误中吸取经验教训、以及避免在未来的项目中出错是至关重要的。夏洛克·福尔摩斯以下的这句话很好的诠释了数据科学家在商业领域中扮演的角色：“我是夏洛克·福尔摩斯，去了解别人不知道的事是我的使命”而对于企业而言，如果想在商业中保持竞争力，并不仅仅要依靠大数据分析。如果不事先评估数据质量以及他们希望达到的目标和利润，就很难判断出哪个数据分析项目会带来盈利。出现第一次失误是可以接受的，但反复地在同一个地方摔倒，就会造成商业运营中的重大损失。应用Python语言去学习数据科学，并成为企业数据科学家以下来分享该如何避免常见的数据科学错误：错误 1：因果关系和相关性的概念混淆对于任何数据科学家而言，把相关性和因果性混淆都会造成损失。《魔鬼经 ...继续阅读 (43)

作者：池建强很久没有挖一个坑转身离去之后，坑边的群众久久驻足不愿离去，不停的冲着黑漆漆的坑底喊话「啥时回来啊~~」。行走江湖，讲究一个信字。Python 这一篇，来了。我和 Python我接触 Python 并不算早，第一次使用 Python 写生产系统的程序是2004年，那时候我已经有了几年的编程经验。当然了，现在这年头说早晚都不合适，昨天我说2000年就开始使用 Vim 编程了，有小伙伴回复，那年我才12，这……多少有点尴尬。早期用 Python 主要写一些服务器端的工具，后来也写后端服务，再后来还写过内容抓取、数据分析和 Alfred 的插件等一系列杂七杂八的东西，简单的工具用 Shell 写，复杂的和庞大的用 C 或 Java 实现，中间的三不管地带，用 Python 就好，每次都不会让你失望。2005到2006年那段时间我参加了一个类似 Corba 的分布式应用系统的开发，与国外的程序员合作，写了大量的 Python 代码。Python 有什么好处？功能强大，使用简单，语言唯一性的特征明显（唯一性的意思就是你不能用十八种写法实现一个功能），而且具备海量的第三方库……Python 程序员最爱说的一句话是：人生苦短，我用 Python（也是 Python 之父的名言）。这句话与「PHP 是世界上最好的编程语言」一样并世无双，可谓「倚天不出，谁与争锋」。Python 支持交互式 ...继续阅读 (37)

作者：yhat大约3年前我开始使用R，起初进展很慢，与我习惯的语言相比，语法更加直观也比较简单，而且需要一段时间才能习惯于细微的差别。我还不清楚语言的力量与社区和各种包的密切关系。和其他语言（比如Python和Java）相比，R可以更模糊和麻烦。好消息是，有大量的包可以在R基础库上提供简单和熟悉的界面。这篇文章是我喜欢和每天使用的10个包，并且我希望自己能早些知道他们。1. sqldfR语言学习曲线中最陡峭的一部分就是语法，我花了一段时间才习惯使用<-代替=。我听到很多人问如何实现VLOOKUP?!?R 对于一般的数据粗加工任务非常有用，但需要一段时间才能掌握。可以认为sqldf是我的R”辅助轮子”。sqldf让你在R数据框上执行SQL查询。来自SAS的人会发现它非常熟悉，任何具有基本SQL技能的人都可以轻松的使用它—sqldf使用SQLite语法。install.packages("sqldf") library(sqldf) sqldf("SELECT day , avg(temp) as avg_temp FROM beaver2 GROUP BY day;")# day avg_temp#1 307 37.57931#2 308 37.71308#beavers1 和 beavers2 是R ba ...继续阅读 (43)