制作：Sheldon科学漫画工作室你有没有发现？人工智能这个词最近越来越火了。2017年菠萝科学奖的主题，也是“人工智能”。我们的口号是：“你有病，人工智能有药。”这是一种什么药？人工智能到底是什么？除了下围棋，它将来还能干什么？这篇漫画就是在试图解答这些问题。End. ...继续阅读 (20)

作者：岑文初在SIP项目设计的过程中，对于它庞大的日志在开始时就考虑使用任务分解的多线程处理模式来分析统计，在我从前写的文章《Tiger Concurrent Practice —日志分析并行分解设计与实现》中有所提到。但是由于统计的内容暂时还是十分简单，所以就采用Memcache作为计数器，结合MySQL就完成了访问控制以及统计的工作。然而未来，对于海量日志分析的工作，还是需要有所准备。现在最火的技术词汇莫过于“云计算”，在Open API日益盛行的今天，互联网应用的数据将会越来越有价值，如何去分析这些数据，挖掘其内在价值，就需要分布式计算来支撑海量数据的分析工作。回过头来看，早先那种多线程，多任务分解的日志分析设计，其实是分布式计算的一个单机版缩略，如何将这种单机的工作进行分拆，变成协同工作的集群，其实就是分布式计算框架设计所涉及的。在去年参加BEA大会的时候，BEA和VMWare合作采用虚拟机来构建集群，无非就是希望使得计算机硬件能够类似于应用程序中资源池的资源，使用者无需关心资源的分配情况，从而最大化了硬件资源的使用价值。分布式计算也是如此，具体的计算任务交由哪一台机器执行，执行后由谁来汇总，这都由分布式框架的Master来抉择，而使用者只需简单地将待分析内容提供给分布式计算系统作为输入，就可以得到分布式计算后的结果。Hadoop是Apache开源组织的一个分布式计算开源框 ...继续阅读 (38)

作者：慕歌  来源：站酷电商的视觉创意中，一个好的页面所要做的也是要做到的不仅仅是视觉上觉得这是一个好作品，在用户体验上也需要做到一个“好”数据证明一切，这是前几年一个运营对我说的一句话。我是一个被数据论征服的设计人员,我相信我不是第一个也不会是最后一个。下面让我，一个伟大而自恋的电商设计师来用我三寸不烂之舌,一步一步征服你。现如今越来越多的电商非常注重店铺的设计,“淘宝美工”“网页设计”“外包设计公司”等行业或名词也渐渐的浮出了水面,来到了公众的视野,大家的职称也渐渐的从“美工”转为“设计师”。那么什么是“美工”什么是“设计师”呢？一个好的页面需要具备什么特征呢？一个设计师或者说“电商设计师”需要学会什么呢？不会数据分析,你一辈子只是一个只会用Photoshop来作图的美工！不会数据分析,你一辈子能做一个只会作图不会优化的美工！关于电商设计的数据有很多很多很多,不知道你在乎过几个你关注过几个,一个好的电商页面所要呈现的不仅仅是一个好的页面,相对于你的创意产品似乎更加重要,用户体验也是我们所必须要面对的一个关卡.当你觉得你做的非常棒非常不错的一个作品为什么在运营的眼里居然是不削一顾,或者你的一个“神作”在他的眼里是一个“神经病作品”。这时候请不要和你的疯子运营装逼运营进行三百六十度托马斯回旋的辩解和争吵,初学者从设计看设计,入行者从数据看设计,懂行者从设计看设计；这句话仿佛就是看山 ...继续阅读 (23)

刘知远关于NLP的精彩回答从实用文本分析技术而言，如果只做主题聚类、文本分类等任务的话，中英文最大差别就在于，中文需要做自动分词，相关工具包已经很多了，包括题主提到的Jieba，还有哈工大的LTP，北理工的ICTCLAS，还有我们组研制的THULAC。当然，在文本分类时，到底是选词还是Ngram作为特征，在SVM+BOW时代曾是个问题。进入到深度学习时代，就直接可以用基于字的神经网络模型了。从NLP研究角度而言，中英文在词性标注、句法分析等任务上颇有差异。主要体现在英语有明显的屈折变化（单复数、时态等）而汉语缺少这些屈折变化，亦即有学者总结的“汉语重义合，英语重形合”。所以，英语里一个词被标为动词还是名词，没有太多争议；汉语里一个词应该被标为动词还是名词，例如“热爱学习”、“劳动光荣”中的“学习”、“劳动”如果按照英文语法规范应当标注为名词。著名语言学家沈家煊先生就曾提出“汉语动词和名词不分立”的理论。在句法分析层面汉语也有一些自己的特点，具体需要请教专业的语言学家解答了。从更广阔的语言研究角度而言，我觉得中英由于各自承载了两种截然不同的人类群体的文化信息，所以在更深层的文化内涵会有更明显的分野，例如两种语言的词汇联想网络、隐喻风格等，可能会有更大的不同。也许在NLP技术日渐成熟之后，我们可以透过语言更加定量地分析两种不同文化的差异。在这方面我非常感兴趣，期待更多专家指点交流。伴随 ...继续阅读 (30)

策划｜Tina    编辑｜大愚若智使用深度学习技术解决问题的过程中，最常见的障碍在于训练模型过程中所需的海量数据。需要如此多的数据，原因在于机器在学习的过程中会在模型中遇到大量参数。在面对某一领域的具体问题时，通常可能无法得到构建模型所需规模的数据。然而在一个模型训练任务中针对某种类型数据获得的关系也可以轻松地应用于同一领域的不同问题，这就是所谓的迁移学习。我认为实现人工智能的难度无异于建造火箭。需要有一个强大的引擎，还有大量的燃料。如果空有强大的引擎但缺乏燃料，火箭肯定是无法上天的。如果只有一个单薄的引擎，有再多燃料也无法起飞。如果要造火箭，强大的引擎和大量燃料是必不可少的。以此来类比深度学习的话，深度学习引擎可以看作火箭引擎，而我们为算法提供的海量数据可以看作是燃料。             — Andrew Ng最近深度学习技术突然开始大肆流行，并在语言翻译、玩策略游戏，以及无人驾驶汽车等涉及到数百万数据量的领域取得了醒目的成果。使用深度学习技术解决问题的过程中，最常见的障碍在于训练模型过程中所需的海量数据。需要如此多的数据，原因在于机器在学习的过程中会在模型中遇到大量参数。例如这些模型中常见的参数数量范围包括：深度学习神经网络（即深度学习）是一种分层式结构，但又能堆叠在一起（就像乐高积木）。深度学习技术其实就是一种大规模神经网络，我们可以将这种网络看作一种流程图，数据从一 ...继续阅读 (29)

【新智元导读】本文作者 Michael Elad 是以色列理工学院计算机科学系教授，也是成像科学期刊 SIAM 的主编。他对当前图像领域使用深度学习的矛盾做了深刻的反思：一方面效果绝佳，另一方面却缺乏数学上的优雅，对领域基础知识没有很大贡献。是该坚守传统严谨的方法，但在最终结果上落后于人，还是该拥抱深度学习？Elad 选择后者，但同时坚守寻求数学上的优雅，弄清方法的原理。所有人工智能从业者都需要考虑如何对待深度学习。欢迎留下你的看法和评论。（文／Michael Elad）我真的很迷茫，每天都在改变自己的看法，似乎对这个难题就是拿不出一个坚定的主意。不不不，我不是在说国际政治或现任美国总统，我说的是对全人类更重要的一件事，具体说，是事关我们这些工程师和研究人员生死存亡的事。我说的……是深度学习。虽然你可能觉得上面的话说得过于夸张，但深度学习确实带来了一些我们不得不去解决的重要问题。下面我将具体讲一下这个跟这个领域相关的一个关键问题，与图像处理领域的研究人员相关。深度学习：先遭唾弃，再突然杀一个回马枪首先，让我们先简单对深度学习做个定义。神经网络已经存在了数十年，提出了一种通用的学习机制，原则上可以适用于任何能够被学习的数据源。在神经网络的前馈架构中，感知机层（也被称为神经元）首先对输入进行加权平均，接下来非线性的运算，例如 sigmoid 或整流线性曲线（rectified-line ...继续阅读 (25)

最近一段时间微软很忙。继上周一个教育主题发布会上推出的Surface Laptop、Windows 10 S后，今晚微软Build 2017大会正式召开。今天HoloLens也正式进入中国，而再往后的5月底，微软还会在上海举办一场活动，很可能是发布Surface Pro 5。而今晚发布会上的微软更忙，Keynote环节长达三个小时，CEO萨蒂亚·纳德拉、云服务部门负责人Scott Guthrie，以及人工智能与研究部门负责人沈向洋轮番登台。会上发布了一系列你可能不太感兴趣的产品，因为它们主要面向开发者，但它们无疑会影响到微软的未来。其实从上台的部门负责人就可以看出，这次大会的主题是云与AI，但更重要的是无处不在的云，与无处不在的AI。智能云与智能边缘一开场，纳德拉以自己一张连女儿都没认不出来的1992年的照片作为笑料，来展现世界发展变化之快。他表示，在计算力的飞速发展中，微软要做的就是将计算的能力赋权给普通用户，让技术为更多用户所用，让计算机视觉、文本理解等技术变得更加普惠（inclusive），同时构建对技术的信任。这也是微软“云优先，移动优先”战略的出发点。目前，Windows 10的月活跃设备数是5亿，Cortana小娜每月有1.4亿用户，Office 365的月活用户是1亿，财富500强企业中90%都使用微软的云服务。在这种情况下，纳德拉称，微软预见到了一个新的世界，它是智 ...继续阅读 (20)

亚马逊Echo和谷歌Home争奇斗艳，除了云端服务，他们在硬件上到底有哪些差异?我们先将Echo和Home两款音箱拆开来看，区别最大的还是麦克风阵列技术。Amazon Echo采用的是环形6+1麦克风阵列，而Google Home(包括Surface Studio)只采用了2麦克风阵列。这种差异我们在文章《对比Amazon Echo，Google Home为何只采用了2个麦克风?》做了探讨。但是好多朋友私信咨询，因此这里想稍微深入谈谈麦克风阵列技术，以及智能语音交互设备到底应该选用怎样的方案。什么是麦克风阵列技术?学术上有个概念是“传声器阵列”，主要由一定数目的声学传感器组成，用来对声场的空间特性进行采样并处理的系统。而这篇文章讲到的麦克风阵列是其中一个狭义概念，特指应用于语音处理的按一定规则排列的多个麦克风系统，也可以简单理解为2个以上麦克风组成的录音系统。麦克风阵列一般来说有线形、环形和球形之分，严谨的应该说成一字、十字、平面、螺旋、球形及无规则阵列等。至于麦克风阵列的阵元数量，也就是麦克风数量，可以从2个到上千个不等。这样说来，麦克风阵列真的好复杂，别担心，复杂的麦克风阵列主要应用于工业和国防领域，消费领域考虑到成本会简化很多。 为什么需要麦克风阵列?消费级麦克风阵列的兴起得益于语音交互的市场火热，主要解决远距离语音识别的问题，以保证真实场景下的语音识别率。这涉及了语音交互 ...继续阅读 (27)

摘要: 深度学习框架选型及未来趋势的探讨交流架构师小组交流会：每期选择一个时下最热门的技术话题进行实践经验分享。邀请到了 Polarr 联合创始人宫恩浩、搜狗大数据总监高君、七牛云 AI 实验室负责人彭垚，对深度学习框架选型、未来趋势展开了交流。自由交流Polarr 宫恩浩我是宫恩浩，现在在斯坦福在读，主要做深度学习研究，特别是医学影像相关的研究。同时也在一家创业公司，国内叫泼辣修图，在美国是 Polarr，做图片的大数据，有云端的，也有手机端的，PC 端的。我们的 App 收集数据，建立优化的算法，我们在云端提供图片整理、图片选择、图片信息的识别，把识别的模型通过压缩手段，把整个深度学习放在手机的 App，实现图片裁定、识别、选择、渲染，国内可能叫霹雳相册吧。我主要负责所有的 AI 的部分。搜狗高君我是高君， 目前在搜狗负责精准广告的算法研究和大数据相关的技术研发工作。搜狗从用户端的产品来讲，有两个产品与深度学习有较强关系，一个是语音识别，应用在输入法，用于语音输入转文本，另一个是图像搜索。在我的团队中，深度学习主要是用在广告领域中，如 CTR 预估、广告检索，广告相关性的评估上。未来，我们希望在 NLU 上面做一些有价值的工作，也希望在网络压缩方向取得一些成绩。七牛彭垚我是七牛云 AI 实验室的负责人彭垚，七牛是一个以云存储起家的公司，在我们云平台上面有广泛的图像、视频、音频的 ...继续阅读 (25)

Facebook的工程师发明了Presto，一种针对点对点分析进行优化的定制分布式的SQL查询引擎。在Keen IO，我们认为会运用事件数据的公司才具有竞争优势，世界领先的科技公司证明了这一点。但是我们仍然对Facebook、Amazon、Airbnb、Pinterest和Netflix数据团队所做的事情感到惊讶。他们为软件和企业从数据中获取信息而制定了新标准。由于他们的产品用户量极大，所以这些团队必须不断地定义规模分析的方法。他们已经在数据架构中投入了数百万美元，并且在大多数公司中，数据团队的规模超过了整个工程部门的规模。我们建立了Keen IO，是为了以让大多数软件工程团队无需从头架设所有内容，就可以利用最新的大型事件数据技术。但是，如果您对如何成为巨头公司感到好奇，那么请从最好的公司中收集一些架构。NetflixNetflix拥有9300万用户，没有交互缺陷。正如他们的工程团队在Netflix数据管道的演变中描述的那样，他们每天大约捕获5000亿个事件，每天大约有1.3 PB的数据传输。在高峰时段，他们每秒将记录800万次事件。他们雇用了100多个数据工程师或分析师。以下是上述文章中数据架构的简化视图，其中显示：开源系统Apache Kafka，搜索服务器Elastic Search，亚马逊云存储服务AWS S3，进行大数据处理的Apache Spark，运行框架Apache ...继续阅读 (28)

在现如今，随着IT互联网信息技术的飞速发展和进步。目前大数据行业也越来越火爆，从而导致国内大数据人才也极度缺乏，下面介绍一下关于Hadoop环境中管理大数据存储技巧。1、分布式存储传统化集中式存储存在已有一段时间。但大数据并非真的适合集中式存储架构。Hadoop设计用于将计算更接近数据节点，同时采用了HDFS文件系统的大规模横向扩展功能。虽然，通常解决Hadoop管理自身数据低效性的方案是将Hadoop数据存储在SAN上。但这也造成了它自身性能与规模的瓶颈。现在，如果你把所有的数据都通过集中式SAN处理器进行处理，与Hadoop的分布式和并行化特性相悖。你要么针对不同的数据节点管理多个SAN，要么将所有的数据节点都集中到一个SAN。但Hadoop是一个分布式应用，就应该运行在分布式存储上，这样存储就保留了与Hadoop本身同样的灵活性，不过它也要求拥抱一个软件定义存储方案，并在商用服务器上运行，这相比瓶颈化的Hadoop自然更为高效。2、超融合VS分布式注意，不要混淆超融合与分布式。某些超融合方案是分布式存储，但通常这个术语意味着你的应用和存储都保存在同一计算节点上。这是在试图解决数据本地化的问题，但它会造成太多资源争用。这个Hadoop应用和存储平台会争用相同的内存和CPU。Hadoop运行在专有应用层，分布式存储运行在专有存储层这样会更好。之后，利用缓存和分层来解决数据本地化并 ...继续阅读 (24)

作者：Edison_G深度学习的”深度”， 早几年讨论的挺多的，身边有不同的理解：深度=更大规模的网络，也有认为：深度=更抽象的特征，近年来物理上也有人侧面显示：深度=玻璃相转变，如果后者的观点成立，那么仅仅引入GPU甚至FPGA硬件的目的只是加快， 没有算法的帮助(调参也算一种算法，后面会解释)是不会加深的!(注：等号表示强关系，不表示等价)度量“深”这个”深“同复杂度的联系是很紧密的。神经网络的复杂度，我们可以使用层数，神经元数目，或者连接权重数目作为度量。相对的，数据本身的复杂度，我们用带标签的数据的比例和不带标签的数据的比例来衡量。深度=规模?网络复杂性同分类误差之间的联系：70-90年代关于神经网络的数学结论可谓多如牛毛，基本上很多讨论了规模和泛化之间的关系，尤其是分类问题，关于分类的训练误差和测试误差(泛化能力)，基本上归结为几个基本要求和限制：模型要多复杂： 增加复杂度总是能拟合好训练样本，而要获得良好的泛化能力，普遍认为复杂度应该为训练数据数目的某种幂次，才能有较好的泛化能力。而且幂次要求小于1，若不然，每增加一个训练样本，都必须要扩充网络，这种模型没有任何实际意义。谢天谢地，神经网络可以满足这个要求，参考文献3。要多少训练数据：如果网络节点数为 N，连接权重数为W，那么泛化误差小于任意指定值ε 的一个合理的要求便是： 训练数据的数目 >(W/ε)Log(N/ε)， ...继续阅读 (32)

《经济学人》发表封面文章称，数据已经取代石油成为当今世界最有价值的资源，而面对这一新的变化，反垄断监管者也应该转变思维。一种新的大宗商品正在一个利润丰厚、增长迅猛的行业中酝酿，反垄断监管者也开始着手限制那些有能力控制这种商品的人。如果是在一个世纪前，这种商品就是石油。而现在，引发巨头们争相抢夺的变成了数据，也就是数字时代的石油。包括 Alphabet(谷歌母公司)、亚马逊、苹果、Facebook 和微软在内的科技巨头似乎都势不可挡。他们是当今世界上市值最高的五大公司，他们的利润都在飙升，他们 2017 年第一季度共计实现净利润逾 250 亿美元。全美超过一半的在线开支都被亚马逊吸走，谷歌和 Facebook 去年几乎攫取了美国数字广告营收的全部增量。如此强大的垄断地位引发了人们的警惕，很多人呼吁分拆这些公司，就像 20 世纪初对标准石油公司的分拆一样。本刊之前曾经反驳过这种激进观点。仅仅因为拥有庞大的规模并不构成犯罪。巨头的成功给消费者也带来了利益。没有几个人希望失去谷歌搜索引擎、亚马逊当日送达服务或者 Facebook 的 Newsfeed 信息流。如果套用标准的反垄断程序，这些公司似乎也没有达到警戒线。这些公司非但没有剥削消费者，反而提供免费的服务(用户实际上是用自己的数据来换取服务)。考虑到数量庞大的线下竞争对手，他们的市场份额似乎也不足为惧。而 Snapchat 等新兴企业 ...继续阅读 (20)

Unanimous A I 在每个调查问题下提供一个虚拟圆盘，用户可以将圆盘拖动到自己想要选择的答案位置，通过众人的“力量”将最终结果推向一个特定的位置。法国媒体当地时间7日晚8时进行的初步统计，39岁的中间派候选人埃马纽埃尔·马克龙以65.5%对34.5%的得票率击败极右翼政党“国民阵线”候选人马丽娜·勒庞当选新一任法国总统，他也成为了继拿破仑以来法国最年轻的国家元首。而这一次，曾经因预测希拉里将当选美国总统惨遭打脸的人工智能公司Unanimous A.I.，利用Swarm AI(集群人工智能)成功预测了法国大选的结果。Unanimous A.I.如何预测法国大选?在参与预测之前，用户首先需要注册账号。 Unanimous A.I.采用的并不是传统的问卷调查的形式，让你勾选一个答案，而是在每个问题下提供一个虚拟圆盘，用户可以将圆盘拖动到自己想要选择的答案位置，通过众人的“力量”将最终结果推向一个特定的位置。此外，每个参与调查的人还能看到其他用户的决定，并可以随时改变自己的的选择。这意味着，调查中的每名用户都是可以互相影响的，而整个调查过程也是动态的。 从上面的动图可以看出，参与调查的用户对于此次马克龙的获胜是抱有较大的信心的。而在下面的动图则显示，Swarm 对马克龙领先幅度的预测在15%~20%之间。不过，最终的选举结果显示，马克龙在大选中的得票率领先勒庞31%。虽然调查结果显 ...继续阅读 (36)

文 | 李喆摘要：Cloudera在技术与产品方面优势明显，但运营能力制约公司发展。未来毛利率有望提升至80%，销售费用将直接影响未来盈利空间。万众瞩目的大数据公司Cloudera终于上市了，但市值表现令人大跌眼镜。作为国外Hadoop三驾马车中体量最大、估值最高的公司，Cloudera一直受到各方关注。2014年，Intel斥7.4亿美金巨资收购Cloudera约18%股份，使得Cloudera估值达到41亿美金，成为估值第二高的大数据公司，仅次于Palantir，一时风头无二。上周五，Cloudera登陆纳斯达克市场，IPO价格只有19亿美金，还不到三年前的一半。尽管开盘之后，股价立刻上涨了20%，但短期内很难冲到41亿美元市值。爱分析认为，从定性层面判断，Cloudera所覆盖的市场规模2020年将超过600亿美金，作为开源社区领导者，Cloudera在技术与产品方面优势明显。从定量层面判断，Cloudera毛利率未来有望提升至80%以上，销售费用占比也有望降至40-50%，盈利空间在5-10%。综合判断，Cloudera当前市值处于合理估值区间，这个价格也表明了当前资本市场对大数据公司热情骤减，投资趋于理性。Cloudera Manager是核心产品，帮助客户搭建大数据平台随着数据量越来越大，传统数据库已经越来越难以满足企业级客户存储和处理数据的需求，Hadoop等分布式架 ...继续阅读 (32)

在这篇博文中，我们将从起点（从零开始）学习 DeepMind 最近提出的一篇论文—使用合成梯度的解耦神经接口。读者可以点击查看原文。作者：iamtrask合成梯度概述通常，神经网络将其预测与数据集进行比较，以决定如何更新其权重。然后使用反向传播来确定每个权重应该如何移动，以使预测更加准确。然而，对于合成梯度来说，数据的「最佳预测」由各层完成，然后基于这个预测更新权重。这个「最佳预测」被称为合成梯度。数据仅用于帮助更新每个层的「预测器」或者合成梯度生成器。这使得（大部分情况下）单个层独立学习，提升了训练的速度。上图对于所发生的事情（从左到右）给出了非常直观的解释。圆角的正方形是层，菱形物体是（我称其为）合成梯度生成器。让我们来看看一个常见的神经网络层是如何更新的。使用合成梯度我们不关注合成梯度（Synthetic Gradients）的创建方式，仅仅是关注其使用方法。最左边的框显示了如何更新神经网络的第一层。第一层前向传播到合成梯度生成器（M i+1），然后返回梯度。使用此梯度而不是实际梯度（这将需要一个完整的正向传播和反向传播来计算）。然后，权重正常更新，并认为该合成梯度是真实的梯度值。如果你需要了解如何使用梯度更新权重，请查看 A Neural Network in 11 Lines of Python （http://iamtrask.github.io/2015/07/12/ ...继续阅读 (29)

作者：田渊栋DL 的难度取决于看问题的角度。数学系的话应该往理论方向看。DL 用线性和非线性函数堆砌来构造函数，用随机梯度下降就可以训练，而且还有非常好的泛化能力，在我看来这样的东西居然没有原理这是完全不可想像的。但是 DL 很难，难到大家都不知道如何入手，用什么数学工具都不知道，所以说什么样的理论文章都有，凝聚态物理的（spin-glass)，量子物理的（重整化群），ODE 的（动力系统），各种优化理论（这个例子太多），各种复杂度理论，但还没看到真正提炼出本质的。数学这边那么多理论，但现在还没有哪个能搬到 DL 上而且能严丝合缝的，至于能进行有效预测的就更没有了。这就足够说明问题的复杂性，DL 是没那么简单的。要深入 DL，各种基础知识是不可少的。但是基础知识并不是拿来炫耀的本钱，因为学了一大堆，可能一个都没用。比如说 VC Dimension 或者 Rademacher Complexity 对 DL 有没有用？它们本身都很漂亮，但可能假设太强得到的结论和现实差很远，或者假设太宽泛得到的结论太弱，都不在 DL 的工作区间。所以做理论的人，不得不一个个学过来，想过了，试过了，然后放掉，下一个。解决问题是最终的目标，而不是学得比人多些，然后坐在原地不动夸耀自己厉害。耍弄十八般武艺，比不过高手一招制敌。至于这一招怎么找到，或者从理论分析这边入手，或者从实验入手，都是一样有价值，都是平 ...继续阅读 (26)

作者：龙心尘 &&寒小阳1. 引言我们今天打算讲一个相亲的故事。讲机器学习为什么要讲相亲？被讨论群里的小伙伴催着相亲，哦不，催着讲特征工程紧啊。只是我们不太敢讲这么复杂高深的东西，毕竟工程实践的经验太复杂了，没有统一的好解释的理论，一般的教材讲这方面的内容不多。我们就打算以一个相亲的故事为例，串一些特征工程的内容。2. 故事背景事先声明：本故事纯属虚构，如有雷同，纯属巧合！海归白富美韩梅梅刚回国，还没适应工作，母亲就催着相亲。以父母的关系，他们了解到的适龄单身男青年有100个。要从100个男生中找到1个理想的女婿，可谓百里挑一。韩梅梅母亲也担心女儿相亲多了会反感，打算草拟一个相亲名单，人数不多。怎么从中挑出优秀男青年就是一个首要的问题。3. 用机器学习的框架去分析我们用机器学习的框架分析，在父母眼中，这100个男生最终将会分成两类：“女婿”（1人）和“非女婿”（99人）。“女婿”和“非女婿”就叫做“标签”。而选择相亲名单的标准——如“是否高富帅”、“是否海归”等等——就叫作“特征”。最好能有一个特征能够精确定位理想女婿。但这太过理想了。比较现实的方法是从这些“特征”中选择、拆分、组合出最合适的特征，逐渐逼近我们的标签，以形成一个精简的相亲名单。而这个过程，就可以理解成特征处理、特征工程的过程。但是，现实中的特征有千千万，拆分重组之后特征又是几何级数地增加，可能永远也穷举不完。因此需 ...继续阅读 (31)

作者：龙心尘 &&寒小阳1. 剧情一：挑螃蟹的秘密李雷与韩梅梅的关系发展得不错，趁国庆休假一起来天津玩。今天，李雷十分神秘地请韩梅梅去一家餐馆吃螃蟹。韩梅梅大失所望，这个餐馆很不起眼，感觉就像路边的老食堂。菜单都用粉笔写在黑板上，一点都不高档。一看价格，满黄螃蟹120块钱一只!这也太贵了。李雷看到了韩梅梅的神情，笑着解释道：“这家店老板有一个绝活——会看螃蟹。他能保证120块的螃蟹就是满黄。如果拆开来不是，这个螃蟹就不要钱，再换一个。靠着老板的绝活，这家店已经是几十年的老店了，在当地非常有名气。郭德纲、赵丽蓉这些天津社会名流都来这家店吃过螃蟹。”韩梅梅将信将疑。拆开螃蟹，饱满的蟹黄喷薄欲出。韩梅梅边吃边惊叹：“从没有吃个这么好吃的螃蟹！”李雷接着说:“老板的绝活密不外传，几十年来都自己上货。虽说是一个大老板，一年到头满身海鲜味。而且他也不开分店。”韩梅梅说：“那是，这么高明的绝活只有他自己知道才能挣钱啊。”这时，韩梅梅拂面而笑，突然想考一考自己的相亲对象，说：“李大码农，你不是做机器学习的吗？如果要你去用机器学习挑满黄的螃蟹，你怎么做？”2. 初步划定特征的范围，获取特征李雷早就想过这个问题了。长期的职业素养让他对任何事情都想用机器学习的方法去鼓捣。李雷的基本思路是这样的，我们尽可能观察螃蟹更多的特征，从中找出与“螃蟹满黄”最相关的特征来，帮助我们去判断。当然特征有非常多，我们可以 ...继续阅读 (30)

原文：Learning AI if You Suck at Math — P5 — Deep Learning and Convolutional Neural Nets in Plain English!作者：Daniel Jeffries翻译：Kaiser（王司图）权重之前我们简单提过权重，这里深入探讨探讨。权重就是神经元之间的连接强度。在打哪农历，我们有许多的生物神经元，通过电/化学信号传递相连接。但这些连接并非一成不变，随着时间推移，有的增强，有的减弱。来自美国国家健康局两个神经元之间的电-化学信号传递越多，连接就越强。本质上，每当你获得了新的经验，大脑就会立即重写自己，通过加强某些神经元之间的连接，对你的记忆、感受、想法进行编码。计算机神经网络也是受此启发而来，我们称之为人工神经网络(Artificial Neural Network, ANN)，常说的“神经网络”其实就是指人工神经网络。ANN并非准确地用方程去描述生物神经，所以不要把ANN看成是对大脑的模拟，非也。生物神经网络(BNN)里，一个神经元并不是与其他所有神经元相连的，而人工神经网络中，一层里的每个神经元通常与下一层的所有神经元相连接。尽管多有差异，但BNN和ANN还是具有很强可比性的。就像脑中的神经元互联有强有弱，人工神经网络里的权重定义了神经元之间的连接强度，每个神经元都只是了解一丁点世界，但是组合起来就 ...继续阅读 (24)

本文作者 Steven Dufresne，总结了新手学 TensorFlow 需要的核心知识点和实操内容，旨在鼓励更多人借 TensorFlow 迈入深度学习殿堂 。作为基础入门教程，该教程从 TensorFlow 原理简介讲到上手操作，对核心概念逐条解释，非常适合基础薄弱、苦无入门途径的新手。Steven Dufresne：在90年代我开始写神经网络软件。TensorFlow开源后，一直十分渴望用它搭建一些有趣的东西。谷歌的人工智能系统是现在的新热点。当TensorFlow可以被安装在树莓派上，操作变得非常容易。在上面我很快就搭建了一个二进制神经网络。这篇文章中，我将把经验分享给大家，帮助其他想要尝试、深入了解神经网络的人更快上手。TensorFlow是什么?引用TensorFlow官网的话，TensorFlow是一个“采用数据流图进行数值计算的开源软件库”。其中“数据流图”是什么意思?这是个很酷的东西。在正式回答之前，我们先谈谈一个简单神经网络的结构。神经网络基础一个简单神经网络由输入层(input units)、隐层(hidden units)、阈值(bias unit)、输出层(output units)几部分构成。输入层负责接收数据。隐层之所以这么叫是因为从用户的角度来看，它们是隐藏的。输出层输出我们获得的结果。旁边的阈值是用来控制隐含层和输出层的值是否输出(即超过阈值的 ...继续阅读 (25)

在创造万物之前，上帝只是在做纯理论的数学。后来他想，做点应用数学应该是个有趣的变化。——数学家 John Edensor Littlewood数学和统计学是数据科学和机器学习的基础。就我所知，大多数成功的数据科学家都来自这些领域——计算机科学、应用数学和统计学、经济学。如果你想掌握数据科学，你就必须要对基本代数和统计学有很好的了解。但是，对于没有数学背景的人来说，起步之路可能会举步维艰。首先，你必须要搞明白哪些必须学，哪些没有必要——其中可能包含了线性代数、微积分、概率学、统计学、离散数学、回归、优化等许多主题。你需要多么深入这些主题？自学的话很难单靠自己把这一切都把握好。如果你正面临着这样的难题，不要惊慌，现在我已经把这项艰辛的工作帮你完成了。这份列表推荐了来自 Coursera、edX、Udemy 和 Udacity 的最受欢迎的数据科学数学基础公开课。这份列表经过了精心的编排，让你可以结构化地自学数据科学所需的数学概念。现在就开始学习吧！什么样的课程适合你？为了帮助你浏览这些课程，我将课程分为初级、中级以及高级三类，分别针对不同学习者。在深入学习前，请选择你的数学专业水平。我添加了修习每个课程之前必须做的功课，以资参考。学习完预备课程才能更好地理解后续课程，这样的课程很少。所以，你一定要确定了解这些课程主题或者上过这些课。接着读，找到适合你的课程！内容目录：初级数学水平/统计 ...继续阅读 (25)

任务：给一群六岁的孩子解释你的工作内容。难度：高（我自己的女儿在其中）。有不少人分享过他们关于这项任务的点子——你可以在Stack Overflow上找到许多非常有趣的例子（比如说这个http://dwz.cn/5U0UvO）。很多点子的出发点都是展示计算机有多么愚蠢，例如需要很精确地告诉计算机做什么、如何做。这些点子确实很有趣，但是我怀疑课后孩子们是否能真的理解一点儿编程方面的知识。如何做一次成功的presentation呢，我的观点是：用问题和画画吸引孩子们。我在现场使用的画纸非常大（用的挂纸板），我一边说一边画——顺便说下，这是个让小孩子保持积极性的好法子（他们玩得很高兴，笑话程序员笔下的稻草人和小猪佩奇不长这样，现场充满了笑点）。我忘了拍现场照片，但是我只要再画一遍你就能明白我的意思。 在孩子们已有知识的基础上讲解（YouTube, 笔记本，平板，DVD）。现在每个孩子都在YouTube上看动画片、在平板上玩游戏、观察父母在笔记本前工作。他们知道电影是保存在CD或者DVD上，智能电话和平板电脑是类似的东西（说到游戏和电影时）。我从一个基本的问题开始“谁知道程序员是干什么的？”由于孩子们昨天已经讨论过这个问题，此刻他们有一些想法一点也不奇怪。然后我告诉孩子们我自己的定义：“程序员是写计算机程序的人，他们会用特定的语言告诉计算机该做什么。程序员还懂很多关于计算机的东西。”然后我 ...继续阅读 (29)

说出来你可能不信，有一种从软件开发领域诞生的思维方式，自诞生以来就一直深远地影响着我们日常的工作和生活。这就是“敏捷方法”，即软件开发领域的“敏捷软件开发”（Agile Software Development）。2001年初，十几位来自美国各个软件开发的细分领域的代表们共同签署了一份名为《敏捷软件开发宣言》（Manifesto for Agile Software Development）的文件，标志着这一全新的软件开发方式的诞生（或者也可以称其为一种思维方式）。敏捷开发包含的内容十分丰富，总体上要求客户参与到整个的开发中，开发者需要根据客户的需求灵活变更代码，采用迭代、循序渐进的方法持续集成，提供持续可用的版本。事实证明，随着软件规模和复杂度的升高，在现实生活中成功应用于工厂生产的那一套瀑布式流程并不适合于软件开发。而敏捷开发正是为了解决瀑布式开发带来的诸多问题而提出的。将敏捷开发应用于深度学习事实上，敏捷开发自提出以来就一直在进行演变，而且目前正向着自动化的方向演变。随着这种自动化的引入，所谓“持续集成”和“持续开发”的概念将得以真正做到“持续不间断”。换句话说，当人们清楚地认识到究竟哪些环节适合于自动化实现，并成功地将自动化过程应用于强化人类的日常工作，敏捷方法才能发挥其最大的优势。就好像对于初创公司来说，敏捷方法几乎已经成为了他们的必修课。正是基于敏捷方法的核心理念，越来 ...继续阅读 (38)

原文：Learning AI if You Suck at Math — P5 — Deep Learning and Convolutional Neural Nets in Plain English!作者：Daniel Jeffries翻译：Kaiser（王司图）今天，我们要来写一个自己的Python图像识别程序。为此我们要了解一个强大的深度学习架构——深度卷积神经网络(Deep Convolutional Neural Network, DCNN)。卷积神经网络可谓计算机视觉界的劳模，从无人汽车到Google图片搜索，背后都有其功劳。在TensorFlow 2017 峰会上，一位研究者展示了用手机里的卷积神经网络诊断皮肤癌。为什么卷积神经网络如此强劲呢？一个关键原因在于：自动模式识别那模式识别又是什么？自动了又如何？模式可能以很多种形式存在，这里只看两个最重要的例子：定义物理形式的特征完成特定任务的步骤计算机视觉在图像处理的模式识别中，又叫作特征提取。当你看一张照片或者实物的时候，你会选择性地拎出关键特征来进行认识，这是无意识中发生的。当你看到我家猫Dove的照片，会想到“猫”或者“铲屎官”，但是你并不知道自己是如何想到的，而只是单纯地那样去做了，这都是自动而且无意识发生的听起来非常简单，每时每刻都在经历，但这是因为真正的复杂性隐藏在深处。大脑是个黑盒，我们谁也没有说明书。 ...继续阅读 (69)

这是本系列第四篇，这一篇中让我们一起深入学习一种让agent在环境中通过动作来最大化奖励的的机器学习方法————增强学习。增强学习还记得你是如何学会骑自行车的吗？一般都是大人陪在我们身边鼓励我们第一次迈出步伐，当我们摔倒时帮助我们继续骑。但是这很难解释我们到底是怎么骑的，而且就算再好的解释也没法让没骑过车的人理解这件事。我们只会有一种感觉，一开始试着骑车但总是不断地摔倒，直到突然成功地骑出去个十米开外，这时我们才感觉到学会了骑车。学习骑车的过程和增强学习很类似在这个过程中，有一些反馈信号告诉我们做得怎么样，比如摔倒的疼痛会告诉我们下次别这么做了不然会很疼，骑上车时的爽快感告诉我们接着骑，不要停。如果把这件事看成一个增强学习问题，我们作为agent就是要最大化从决定中获得的奖励。因此如果一个agent获得了一个最大的奖励，就可以被认为在给定状态时执行了最好的行为。agent在这里的定义是一种抽象的实体并且可以完成一些动作，比如：无人车，机器人，人类，客服聊天机器人，围棋选手。agent的状态指的是在抽象的环境中的位置和状态。比如在一个虚拟的建筑中或者棋盘上的位置，或者是赛道上的位置和速度。为了简化问题和增强学习问题的解，环境通常被简化到agent只需要知道那些对于作决定重要的细节，其他的都可以被舍弃。比如骑自行车的例子里，增强学习算法只需要两个反馈：疼痛（摔倒了），爽快感（顺利地骑车 ...继续阅读 (33)

系列的第一篇概览了一下深度学习中的基本概念。第二篇介绍了深度学习的历史背景，以及如何高效地训练神经网络。而这一篇当中，我们将一起认识自然语言处理领域的核心：序列学习。图1：长短期记忆(LSTM)单元。LSTM有四个输入权重和四个循环权重。Peepholes是记忆细胞和门之间的额外连接，但他们对性能提升帮助不到，所以常被忽略。序列学习生活中的所有事物都是与时间相关的，也就形成了一个序列。为了对序列数据（文本、演讲、视频等）我们可以使用神经网络并导入整个序列，但是这样我们的数据输入尺寸是固定的，局限性就很明显。如果重要的时序特征事件恰好落在输入窗以外，就会产生更大的问题。所以我们需要的是：能对任意长度序列做逐个元素读取的神经网络（比如视频就是一系列的图片；我们每次给神经网络一张图）；有记忆的神经网络，能够记得若干个时间步以前的事件、这些问题和需求已经催生出多中不同的循环神经网络。循环神经网络若我们想让一个常规的神经网络解决两个数相加的问题，那我们只需要输入两个数字，再训练两数之和的预测即可。如果现在有3个数要相加，那么我们可以：拓展网络架构，添加输入和权重，再重新训练；把第一次的输出（即两数之和）和第三个数作为输入，再返回给网络。方案(2)显然更好，因为我们希望避免重新训练整个网络（网络已经“知道”如何将两个数相加）。如果我们的任务变成：先对两数做加法，再减去两个不同的数，那这个方案又 ...继续阅读 (22)

虽然 YouTube 有很多不错的机器学习视频，但是很难搞清楚是否值得一看，何况每分钟上传的视频长达 300 小时。在本文中，我们整理了观看量最高的十大机器学习视频。今天这篇推送更新了之前颇受欢迎的博文（2015 年 Youtube 最受欢迎十大机器学习视频，https://goo.gl/6ElLdd）。另外，我们也添加了 4 个最受欢迎的相关视频列表（本文第二部分）。这份顶级机器学习视频排名包括斯坦福、 加州理工、谷歌 Tech Talks 深度学习方面的课程。我们可以看到使用机器学习玩马里奥和 Hearthstone，还可以从实时流媒体中侦测国家曲棍球联盟 (NHL）进球。下面是机器学习领域 10 个排名最高的 YouTube 视频（日期截止到 2017 年 5 月 3 日）。1.MarI/O – 用于视频游戏的机器学习（MarI/O – Machine Learning for Video Games）介绍：这个有趣的演示视频展示了如何把机器学习应用于视频游戏，其成功得益于神经网络和遗传算法。这个视频真正厉害的地方在于作者扼要描述神经网络如何实现给定性能的方式。作为也玩过超级马里奥世界的人，我可以说这款游戏极其吸引人，不管你玩没玩过！观看量：430 万时长：5 分 57 秒链接：https://www.youtube.com/watch?v=qv6UV ...继续阅读 (20)

从 Siri 到谷歌翻译，深度神经网络已经在机器理解自然语言方面取得了巨大突破。这些模型大多数将语言视为单调的单词或字符序列，并使用一种称为循环神经网络(recurrent neural network/RNN)的模型来处理该序列。但是许多语言学家认为语言最好被理解为具有树形结构的层次化词组，一种被称为递归神经网络(recursive neural network)的深度学习模型考虑到了这种结构，这方面已经有大量的研究。虽然这些模型非常难以实现且效率很低，但是一个全新的深度学习框架 PyTorch 能使它们和其它复杂的自然语言处理模型变得更加容易。虽然递归神经网络很好地显示了 PyTorch 的灵活性，但它也广泛支持其它的各种深度学习框架，特别的是，它能够对计算机视觉(computer vision)计算提供强大的支撑。PyTorch 是 Facebook AI Research 和其它几个实验室的开发人员的成果，该框架结合了 Torch7 高效灵活的 GPU 加速后端库与直观的 Python 前端，它的特点是快速成形、代码可读和支持最广泛的深度学习模型。开始 SPINN链接中的文章(https://github.com/jekbradbury/examples/tree/spinn/snli)详细介绍了一个递归神经网络的 PyTorch 实现，它具有一个循环跟踪器(recurre ...继续阅读 (38)

“分析时代”目前仍处于起步阶段，它为我们带来众多值得期待且为之兴奋的构想与承诺。在今天的文章中，BigML公司副总裁Atakan Cetinsoy将披露2017年中他眼中的机器学习技术及相关生态系统发展趋势。每一年结束时，技术专家们总会着眼于新的十二个月，思考其熟知的技术方案将在下一阶段迎来怎样的变化趋势。在BigML公司，我们结合2016年中机器学习技术的发展与演变，尝试解析其在新一年内的未来前景。首先需要强调的是，企业需要吹散围绕在机器学习概念周遭的炒作迷雾，探索将其切实引入自身业务体系的有效途径。更具体地讲，企业需要通过严谨决策立足内部环境选定平台，并逐步建立规模较小且易于实现的机器学习项目，从而尝试利用自有数据集。随着时间推移，此类增量型项目将带来积极的反馈，并最终实现决策自动化，甚至帮助敏捷性机器学习团队彻底改变其所在行业的运营常态。按照惯例，我们首先回顾机器学习技术在实际应用层面的发展历程：机器学习已经形成一种不可逆转的历史性趋势，我们需要立足于此考量如何进行跨部门日常事务处理并将自身业务与市场整体经济状况加以结合。在36年的发展历程中，众多企业一直在努力消化、采用并从机器学习技术的发展进步与相关最佳实践中获益。然而，鲜有企业能够真正将其转化为自身业务优势。出现了一大批所谓“新晋专家”，他们只读过几本相关书籍或者参加了几堂网络课程，就开始堂而皇之地借助廉价资本“改变”世 ...继续阅读 (20)