作者：Palaniappan Ponniah来源：http://bafflednerd.com/原文：Learn Deep learning online我爱机器学习编者按：Deep Learning收费免费课程很多，虽然不曾一一听过，但cs231n确实足够好。当然每个人的需求不一样，仍然摘录供大家选择。课程名难度讲师及网页评价时长价格( $ ）Deep LearningExpertGoogle (Udacity)NA3 monthsFreeDeep Learning from StanfordBeginnerSamy Bengio, Tom Dean, Andrew Ng (Stanford)NASelf-pacedFreeData Science: Practical Deep Learning in Theano + TensorFlowBeginnerJustin C (Udemy)4.82.5 hours50An Introduction To Deep Learning & Computer VisionBeginnerLoony Corn (Udemy)4.52 hours20Unsupervised Deep Learning in PythonIntermediateJustin C (Udemy)4.82.5 hours50Data Science: D ...继续阅读 (5)

Neural and Evolutionary ComputingReactive Collision Avoidance using Evolutionary Neural NetworksHesham Eraqi,Youssef EmadEldin,Mohamed MoustafaComments: ECTA 2016. Final paper is at SCITEPRESS digital librarySubjects:Neural and Evolutionary Computing (cs.NE)Collision avoidance systems can play a vital role in reducing the number ofaccidents and saving human lives. In this paper, we introduce and validate anovel method for vehicles reactive collision avoidance using evolutionaryneural networks (ENN). A single front-facing rangefinder sensor is the onlyinput required by our method. The training ...继续阅读 (1)

来源：http://mlwave.com/kaggle-ensembling-guide/原文链接：KAGGLE ENSEMBLING GUIDECreating ensembles from submission filesVoting ensembles.AveragingRank averagingStacked Generalization & BlendingNetflixStacked generalizationBlendingStacking with logistic regressionStacking with non-linear algorithmsFeature weighted linear stackingQuadratic linear stacking of modelsStacking classifiers with regressors and vice versaOnline StackingEverything is a hyper-parameterModel SelectionWhy create these Frankenstein ensembles? ...继续阅读 (8)

作者：Mostafa Samir来源：https://mostafa-samir.github.io/Part1：Machine Learning Theory – Part 1: IntroductionPart2：Machine Learning Theory – Part 2: Generalization BoundsMachine Learning Theory – Part 1: IntroductionMENUMotivationWho is this Series for?PrerequisitesCautionsFormalizing the Learning ProblemReferences and Additional ReadingsMachine Learning Theory – Part 2: Generalization BoundsMENUIndependently, and Identically DistributedThe Law of Large NumbersHoeffding’s inequalityGeneralization Bound: 1st AttemptExamining the Independence AssumptionThe Symmetrization ...继续阅读 (4)

作者：叁公子_KCN原文链接：验证码破解技术四部曲之使用卷积神经网络（四）前言在这节，我将用卷积神经网络（简称：CNN）破解新浪微博手机端的验证码(http://login.weibo.cn/login/)，验证码如下。本节的代码可以在https://github.com/nladuo/captcha-break/tree/master/weibo.cn找到。关于神经网络的原理很难在一节讲清楚。在这里，只需要把神经网络当成一个黑匣子，输入是一个图片，输出一个label，也就是类别。LeNet5本节使用的神经网络是国外学者Yann LeCun的LeNet5，该神经网络以32×32的图片作为输入，对于字符的变形、旋转、干扰线等扭曲都可以很好的识别，可以实现以下效果。更多的效果可以在http://yann.lecun.com/exdb/lenet/上查看，具体原理可以查看Yann LeCun的论文。字符下载字符下载和上节差不多，这里需要注意的是新浪微博的验证码下载下来是gif格式的，opencv不支持读取gif的读取，需要用PIL把验证码转换成png格式。另外，新浪微博的验证码明显比CSDN下载的验证码要复杂得多，所以需要大量的样本，至少要下载上千个验证码。字符分割新浪微博的验证码需要进行去除椒盐噪声、去除干扰线、二值化后，才能很好的进行垂直投影分割，我算法写的不是很好，就不在 ...继续阅读 (3)

作者：叁公子_KCN原文链接：验证码破解技术四部曲之使用K近邻算法（三）前言在上一节中，我们使用了google的开源OCR库来对字符进行识别，这一节以及下一节我们将要使用机器学习算法来识别验证码。本节的代码都在https://github.com/nladuo/captcha-break/tree/master/csdn可以找到。下载验证码在这一节中，将要对CSDN下载的验证码进行破解，就是在http://download.csdn.net/下载东西的时候，短时间内下载次数过多弹出来的验证码。做机器学习的第一个步骤就是采集数据，构建训练样本。首先，来看一下CSDN下载中出现的验证码。在每次刷新的时候，会有以上这两种验证码出现。在本节中，为了方便学习K近邻算法（简称为：KNN），选择第二种来进行破解，因为第二种的字母分割十分容易，每个字母的位置都是固定的。由于两种验证码的图片大小不一样，所以可以使用图片大小来判断哪个是第一种验证码，哪个是第二种验证码，这里使用python进行验证码下载。# coding:utf-8importrequestsimportuuidfromPILimportImageimportos  url="http://download.csdn.net/index.php/rest/tools/validcode/source_ip_vali ...继续阅读 (1)

作者：叁公子_KCN原文链接：验证码破解技术四部曲之使用Tesseract（二）代码下载本节的代码可以通过此处进行下载。图像直方图首先看验证码的样子，可以看到这几个验证码最大的特点就是字母比较深，而周围的背景很浅，把图像转换成黑白颜色，可以显示的更加的明显。//按黑白读取图像Mat mat=imread("test1.jpg",0);cv::imshow("initial_mat", mat);cv::waitKey(0);可以看到所有背景的灰度值，都会小于字母的灰度值，为了让tesseract更准确的识别，可以把图像进行二值化，也就是把背景都改成纯白色，把字母都搞成纯黑色。那么如何确定分割的阈值呢？比较好的方法是画出图像的直方图。//画出直方图Histogram1D histogram1d;cv::imshow("histogram1d", histogram1d.getHistogramImage(mat));cv::waitKey(0);直方图的横坐标代表灰度值，纵坐标代表指定灰度值的点数。图像阈值接下来，开始对图像进行阈值，这里选择的灰度值位150，灰度下于150的设置为白色，灰度大于150的设置为黑色。//阈值Mat ...继续阅读 (2)

作者：叁公子_KCN原文链接：验证码破解技术四部曲之环境搭建篇（一）前言转眼就要变成大四狗了，大学期间做的比较深入的技术是爬虫，但是爬虫也有很多高级的技术没有涉及，比如说验证码的破解便是其中之一，再加上我对其非常感兴趣，于是乎，开始苦学图像处理、学习机器学习，验证码破解也有了些眉头。以下是我破解的几种验证码。1、最容易破解的验证码直接使用tesseract库识别。2、download.csdn的验证码使用K近邻算法识别。3、weibo.cn验证码使用卷积神经网络训练识别。说明项目源码：https://github.com/nladuo/cap…(可以帮我点个star(^__^))开发语言：python(编写爬虫),c++(编写图像处理部分以及机器学习算法)开发环境：ubuntu 14.04依赖库：Python：PIL、BeautifulSoup4、requestsC++：boost、opencv2、tesseract-ocr环境搭建安装opencv 2.4.12sudo apt-get install build-essential cmake libgtk2.0-dev pkg-config python-dev python-numpy libavcodec-dev libavformat-dev libswscale-dev wget https://codel ...继续阅读 (5)

来源：新智元(微信号AI_era)记者：胡祥杰  闻菲原文链接：【重磅】ImageNet 挑战赛落幕，中国团队包揽冠军 | 李飞飞专访谈计算机视觉先驱本文为新智元授权转载，严禁二次转载。1 新智元原创记者：胡祥杰  闻菲【新智元导读】世界著名的 ImageNet  大规模图像识别挑战赛（ILSVRC2016）今天公布赛果，来自中国的团队大放异彩，包揽多个项目的冠军。新智元日前专访ImageNet 创建者之一、斯坦福人工智能实验室和斯坦福视觉实验室主任李飞飞，她在视频专访中回顾了人工智能 60 年发展，阐述了未来 5 到 10 年产业界应该重点关注的方向，以及 AI 的最终使命。在10月18日在国家会议中心举办的世界人工智能大会上，李飞飞作为大会特邀嘉宾将发表视频讲话。敬请期待。ImageNet 2016的结果揭晓，冠军几乎被中国团队包揽：CUImage（商汤和港中文），Trimps-Soushen（公安部三所），CUvideo（商汤和港中文），HikVision（海康威视），SenseCUSceneParsing（商汤和港中文），NUIST（南京信息工程大学）分别拿下多个项目的冠军。1、物体探测任务1a，用提供的训练数据进行物体探测，冠军队伍 CUImage，使用提供数据合成6个模型，探测物体胜出种类数量109，精准度 0.662751。下图，任务1b，使用额外训练数据进行物体探测 ...继续阅读 (9)

Neural and Evolutionary ComputingAn Ontology of Preference-Based Multiobjective Evolutionary AlgorithmsLongmei Li,Iryna Yevseyeva,Vitor Basto-Fernandes,Heike Trautmann,Ning Jing,Michael EmmerichComments: 19 pages, 7 figuresSubjects:Neural and Evolutionary Computing (cs.NE)User preference integration is of great importance in multiobjectiveoptimization, in particular in many objective optimization. Preferences havelong been considered in traditional multicriteria decision making (MCDM) whichis based on mathematical programming and recently it is integrated inevolutionary multiobjective optimiza ...继续阅读 (1)

@Qiang-W Reddit comment on ILSVRC resultsTop-5分类错误率降至3%以内知乎：如何评价ILSVRC2016的比赛结果？‘pre-trained model’和’provided data track’的问题@星空下的巫师今年ImageNet有85只队伍参赛，344次提交，比去年增长56%。检测的mAP从去年的62.1%提升到66.3%；定位错误从9.0%降到7.7%，top5分类错误率从3.6%降到3.0；视频检测的mAP从67.8%提升到80.8%；场景分类有28个队伍，92次提交，top5的错误率是9.0%；场景分割有23个队伍，80次提交，最后的平均性能是57.2%。 ...继续阅读 (17)

原文：http://image-net.org/challenges/LSVRC/2016/resultsLarge Scale Visual Recognition Challenge 2016 (ILSVRC2016)DETLOCVIDSceneTeam informationLegend:Yellow background = winner in this task according to this metric; authors are willing to reveal the methodWhite background = authors are willing to reveal the methodGrey background = authors chose not to reveal the methodItalics = authors requested entry not participate in competitionObject detection (DET)[top]Task 1a: Object detection with provided training dataOrdered by number of categories wonTeam nameEntry descriptionNumber of object categorie ...继续阅读 (1)

来源：Data Science and Robots原文：How do Convolutional Neural Networks work?用X和O分类很直观的解释了CNN相关的如下概念：X’s and O’sFeaturesConvolutionPoolingRectified Linear UnitsDeep learningFully connected layersBackpropagationHyperparametersBeyond imagesLearn more ...继续阅读 (3)

Neural and Evolutionary ComputingMulti-Output Artificial Neural Network for Storm Surge Prediction in North CarolinaAnton Bezuglov,Brian Blanton,Reinaldo SantiagoSubjects:Neural and Evolutionary Computing (cs.NE); Atmospheric and Oceanic Physics (physics.ao-ph); Applications (stat.AP)During hurricane seasons, emergency managers and other decision makers needaccurate and `on-time’ information on potential storm surge impacts. Fullydynamical computer models, such as the ADCIRC tide, storm surge, and wind-wavemodel take several hours to complete a forecast when configured at high spatialre ...继续阅读 (4)

来源：知乎原文链接：https://www.zhihu.com/question/30643044我爱机器学习编者按：基本原理周志华老师的《机器学习》书上介绍差不多了，相关关系的话推荐paper：The Relationship Between Precision-Recall and ROC Curves(ICML06)http://pages.cs.wisc.edu/~jdavis/davisgoadrichcamera2.pdfAUC的实现方法：http://mark.goadrich.com/programs/AUC/（能work，但性能很一般，如果经常用建议改写）精度、召回、F1点直观理解下文摘自：http://www.chmod764sean.com/computer-tec/data-mining-machine-learning/501.html（原链已挂，来自镜像）作者：sean2.ROC曲线和PR曲线的关系在ROC空间，ROC曲线越凸向左上方向效果越好。与ROC曲线左上凸不同的是，PR曲线是右上凸效果越好。ROC和PR曲线都被用于评估机器学习算法对一个给定数据集的分类性能，每个数据集都包含固定数目的正样本和负样本。而ROC曲线和PR曲线之间有着很深的关系。定理1：对于一个给定的包含正负样本的数据集，ROC空间和PR空间存在一一对应的关系，也就是说，如果recal ...继续阅读 (5)

作者：Stephen Smith网站：https://smist08.wordpress.com/The Road to TensorFlow – Part 1 LinuxIntroductionLinuxSummaryThe Road to TensorFlow – Part 2: PythonIntroductionInstallation and VersionsPython the LanguageSummaryThe Road to TensorFlow – Part 3: Python LibrariesIntroductionSome Useful LibrariesSome Code FinallySummaryThe Road to TensorFlow – Part 4: The Stock MarketIntroductionIs This a Suitable Problem for AI?Hedge FundsThe Efficient Market HypothesisCAPMThe Fundamental Law of Active ManagementAdjusted CloseStock PricesTesting with Real MoneySummaryThe Road to TensorFlow – Part 5: ...继续阅读 (26)

Reinforcement Learning: An IntroductionSecond edition, in progress ****Draft****Richard S. Sutton and Andrew G. Barto c 2014, 2015, 2016强化学习的教程Sutton和Barto的书最为经典，目前出第二版了，目录如下：全文下载链接：https://webdocs.cs.ualberta.ca/~sutton/book/bookdraft2016sep.pdf ...继续阅读 (22)

Paper:Exploring the Limits of Language ModelingAuthors:Rafal Jozefowicz,Oriol Vinyals,Mike Schuster,Noam Shazeer,Yonghui WuGithub：https://github.com/tensorflow/models/tree/master/lm_1bAbstract:In this work we explore recent advances in Recurrent Neural Networks for large scale Language Modeling, a task central to language understanding. We extend current models to deal with two key challenges present in this task: corpora and vocabulary sizes, and complex, long term structure of language. We perform an exhaustive study on techniques such as character Convolutional Neural Networks or Long-Short ...继续阅读 (6)

来源：新智元(微信号AI_era)英文来源：qz.com作者：Dave Gershgorn译者：刘小芹、闻菲原文链接：论文 | 预测 API 从谷歌、亚马逊等大平台盗取机器学习算法本文为新智元授权转载，严禁二次转载。【新智元导读】Cornell Tech 研究人员发现，使用预测 API 通过反向工程，能够从谷歌、亚马逊等大平台“偷”机器学习算法，准确率超过99%。不仅如此，偷完算法后，还可以强制它生成训练用的数据样本。这意味着不仅能够从谷歌、微软偷走人工智能产品并且免费使用它们，大公司独有的数据也面临威胁。在新智元后台输入“0924A”下载论文。无数金钱被投入去设计精密的人工智能算法，但只要有一扇小小的门开着，这些算法就可能被偷走。AI 算法和源数据能被轻而易举地偷取现在，有一项研究发现，只需使用 API 就能通过反向工程得到机器学习算法，准确率超过 99%。这意味着能够从微软、IBM 这些公司偷走人工智能产品，免费使用它们。只有单一机器学习 API的小公司可能会失去全部竞争优势。而且，复制了算法之后，研究者还可以强制它生成潜在的私密数据样本。如果这个算法是基于用户数据的，那么所有这些用户信息都可能泄露。“事后想来，原理其实很浅显。”该研究的共同作者同时也是 Cornell Tech 副教授的 Thomas Ristenpart 说，“这就像高中程度的练习题，只是把一系列高中水平的 ...继续阅读 (9)

Deep Learning SchoolSeptember 24-25, 2016Stanford, CA官网地址:http://www.bayareadlschool.org/1. 直播地址周六 YouTube 直播地址：https://www.youtube.com/watch?v=eyovmAtoUx0周日 YouTube 直播地址：https://www.youtube.com/watch?v=9dXiAecyJrY2. 课程讲义和练习Theano tutorial:https://github.com/lamblin/bayareadlschool3. 机器之心这个周末，享受Yoshua Bengio、吴恩达、Andrej Karpathy等人的深度学习直播讲座 ...继续阅读 (19)

来源：机器之心选自Standford参与：吴攀、李亚洲原文链接：这个周末，享受Yoshua Bengio、吴恩达、Andrej Karpathy等人的深度学习直播讲座本文经机器之心（微信公众号：almosthuman2014）授权转载，禁止二次转载这个周六、周日（当地时间），斯坦福（Standford CEMEX auditorium）将举办为期两天的讲座，探讨近期深度学习领域内取得的新进展。Yoshua Bengio、吴恩达、Open AI 的Andrej Karpathy等 12 人将进行专题讲演，届时斯坦福将在 YouTube 上对此次讲座进行直播。此次讲座无疑与 Bengio 8 月份组织深度学习暑期班（重磅 | Yoshua Bengio 深度学习暑期班学习总结，35 个授课视频全部开放（附观看地址））一样是一个很好的学习机会。在此篇文章中，机器之心对 12 位大牛即将讲演的主题进行了介绍，读者可以针对自己感兴趣的深度学习研究领域在这个周末享受这些讲座。YouTube 直播地址如下。周六 YouTube 直播地址：https://www.youtube.com/watch?v=eyovmAtoUx0周日 YouTube 直播地址：https://www.youtube.com/watch?v=9dXiAecyJrY周六Hugo Larochelle：介绍前馈神经网络（In ...继续阅读 (8)

来源：机器之心选自THE ASIMOV INSTITUTE参与：吴攀、李亚洲原文链接：图文并茂的神经网络架构大盘点：从基本原理到衍生关系本文经机器之心（微信公众号：almosthuman2014）授权转载，禁止二次转载随着新型神经网络架构如雨后春笋般地时不时出现，我们已经很难再跟踪全部网络了。要是一下子看到各种各样的缩写（DCIGN、BiLSTM、DCGAN……），真的会让人有点招架不住。为此，Fjodor Van Veen 写出了一篇包含了大量架构（主要是神经网络）的盘点性文章，并绘制了直观的示意图进行说明。将这些架构绘制成节点图的一个问题：它并没有真正展示这些架构的工作方式。比如说，变自编码器（VAE）可能看起来和自编码器（AE）一样，但其训练过程却相当不同。训练好的网络的使用案例之间的差别甚至更大，因为 VAE 是生成器（generator），你可以在其中插入噪声来得到新样本；而 AE 只是简单地将它们的输入映射到其所「记得」的最接近的训练样本。所以必须强调：这篇概览中的不同节点结构并不能反映出这些架构的内在工作方式。列出一份完整的列表实际上是不可能的，因为新架构一直在不断出现。即使已经发表了，我们可能很难找到它们，而且有时候还会不自觉地忽略一些。所以尽管这份清单能为你提供人工智能世界的一些见解，但无论如何请不要认为这份清单是全面的；尤其是当你在这篇文章写出后很久才读到时（注 ...继续阅读 (6)

来源：机器之心选自devblogs.nvidia.com参与：武竞、Rick R、吴攀原文链接：深度学习漫游指南：强化学习概览本文经机器之心（微信公众号：almosthuman2014）授权转载，禁止二次转载本文是 NVIDIA 博客上 Tim Dettmers 所写的《Deep Learning in a Nutshell》系列文章的第四篇。据介绍，该系列文章的目的是「提供对每一种概念的理解而不是其数学和理论上的细节」。除了必要理解的数学术语之外，这些文章还提供了直观的类比和图像来帮助理解深度学习。在此之前，作者已经探讨了深度学习的核心概念、深度学习的训练及其历史、序列学习，本文（第四篇）的主题是强化学习（Reinforcement Learning）。强化学习学习骑自行车需要试错（trial and error），这很像强化学习。还记得你是如何学习骑自行车的吗？一般都有一个大人在你旁边或你后面帮助你，并鼓励你骑出你自行车生涯的第一步，在你绊倒或摔倒的时候还会帮助你再次尝试。解释儿童学习骑自行车的方式是很困难的，而即使很好的解释对从没骑过自行车的人而言也不会有多少意义：你必须自己去感受。所以如果你不能解释如何骑上自行车的，又怎么能学会骑自行车呢？事实上，你是在不断地通过尝试进行学习，你很可能会跌倒，或至少可能会突然停下然后不得不控制好自己。你会不断跌倒或跌跌撞撞——直到你突然掌握 ...继续阅读 (5)

来源：机器之心选自Google Research blog作者：Chris Shallue, Software Engineer, Google Brain Team参与：李亚洲原文链接：Show and Tell：谷歌在TensorFlow上开源图像描述系统本文经机器之心（微信公众号：almosthuman2014）授权转载，禁止二次转载2014 年，Google Brain 团队的研究科学家训练了一个自动准确描述图像内容的机器学习系统。后来对该系统的进一步开发使其赢得了微软 COCO 2015 图像描述挑战赛的并列冠军，这项比赛是为了对比出准确描述图像的最佳算法。今天，该团队在 TensorFlow 上开源最新版本的图像描述系统。此次公开的版本相比于原始版本包含了对图像描述系统计算机视觉组件的极大改进，可更快速的进行训练，并产出更精细、准确的描述。这些改进在论文 Show and Tell: Lessons learned from the 2015 MSCOCO Image Captioning Challenge 中有详尽的概述与分析。我们系统生成的对图片的自动描述新旧版本有什么不同？在 2014 年的系统中，我们使用 Inception V1 图像分类模型初始设定图像编码器，它可产生对识别图像中不同物体有帮助的编码。当时，它是可用的最好的图像模型，在 ImageNet 2 ...继续阅读 (10)

来源：机器之心作者：Jason Brownlee编译：杜夏德、陈晨、吴攀、Terrence、李亚洲原文链接：深度 | 提升深度学习模型的表现，你需要这20个技巧（附论文）本文经机器之心（微信公众号：almosthuman2014）授权转载，禁止二次转载本文原文的作者 Jason Brownlee 是一位职业软件开发者，没有博士学位的他通过「从应用中学习」的方法自学了机器学习，他表示对帮助职业开发者应用机器学习来解决复杂问题很有热情，也为机器学习社区贡献了很多实用的建议和指南，本文所讲解的是「能帮助你对抗过拟合以及实现更好的泛化」的 20 个技巧和技术。你可以怎样让你的深度学习模型实现更好的表现？这是一个我常被问到的问题：「我该怎么提升准确度？」或者「如果我的神经网络表现很糟糕我该怎么办？」……我常常给出的回答是：「我也不完全知道，但我有很多想法。」然后我开始列出所有我可以想到的可能能够带来效果改进的想法。我将这些想法汇集到了这篇博客中，这些想法不仅能在机器学习上为你提供帮助，而且实际上也适用于任何机器学习算法。提升算法的表现的想法这份列表并不是完整的，但是却是一个很好的开始。我的目标是给你大量可以尝试的想法，希望其中会有一两个是你从来没有想到过的。毕竟，你总是需要好的想法来获得进步。我将这份列表分成了 4 个子主题：1. 通过数据提升性能表现2. 通过算法提升性能表现3. 通过算法 ...继续阅读 (10)

来源：KDnuggets原文链接：The 10 Algorithms Machine Learning Engineers Need to KnowSupervised Learning  <strong>1. Decision Trees </strong><strong>2. Naïve Bayes Classification </strong><strong>3. Ordinary Least Squares Regression <strong>4. Logistic Regression <strong>5. Support Vector Machines </strong></strong></strong><strong><strong>6. Ensemble Methods</strong> </strong>Unsupervised Learning  <strong>7. Clustering Algorithms <strong>8. Principal Component Analysis</strong> <strong>9. Singula ...继续阅读 (5)

作者：Adit DeshpandePart1:A Beginner’s Guide To Understanding Convolutional Neural NetworksPart2:A Beginner’s Guide To Understanding Convolutional Neural Networks Part 2Part3:The 9 Deep Learning Papers You Need To Know About (Understanding CNNs Part 3)编者按：比较完善的CNN入门文档，第一部分介绍CNN基本概念，第二部分介绍CNN相关的技术细节，比如：Pooling、ReLU、Dropout等，第三部分CNN、R-CNN系列、GAN等经典的9篇论文。Part1目录IntroductionThe Problem SpaceInputs and OutputsWhat We Want the Computer to DoBiological ConnectionStructureFirst Layer – Math PartFirst Layer – High Level PerspectiveGoing Deeper Through the NetworkFully Connected LayerTraining (A ...继续阅读 (144)

来源：KDnuggets原文：7 Steps to Mastering Machine Learning With Python编者按：掌握Python机器学习七步走：基本Python技能，基本机器学习技能，Python科学包，开始机器学习之旅，机器学习相关主题，机器学习高级主题，Deep Learning。Step 1: Basic Python Skills▪Python The Hard Wayby Zed A. Shaw▪Google Developers Python Course(highly recommended for visual learners)▪An Introduction to Python for Scientific Computing (from UCSB Engineering)by M. Scott Shell (a great scientific Python intro ~60 pages)▪Learn X in Y Minutes (X = Python)Step 2: Foundational Machine Learning Skills▪Unofficial Andrew Ng course notes▪Tom Mitchell Machine Learning LecturesStep 3: Scientific Python ...继续阅读 (7)

作者：Jason Brownlee来源：http://machinelearningmastery.com/原文链接：How To Improve Deep Learning Performance[1] Improve Performance With Data.Get More Data.Invent More Data.Rescale Your Data.Transform Your Data.Feature Selection.[2] Improve Performance With Algorithms.Spot-Check Algorithms.Steal From Literature.Resampling Methods.[3] Improve Performance With Algorithm Tuning.Diagnostics.Weight Initialization.Learning Rate.Activation Functions.Network Topology.Batches and Epochs.Regularization.Optimization and Loss.Early Stopping.[4] Improve Performance With Ensembles.Combine Models.Combine Views.Stacki ...继续阅读 (17)

来源：知乎原文链接：深度学习系统相比较传统的机器学习系统，针对常见的分类问题，精度究竟能有多大提升？问题：我现在手头有一个binary classification的问题。数据量在一百万左右。每个sample都是一个14个feature组成的vector。每个feature都是一个0～1的float数值。我用random forest ；1000棵树，grid search 调参数。10 fold validation 大概76% 左右的precision/recall .我是一个机器学习的外行，但是比较好奇如果我用一些深度学习的系统，比方说TensorFlow，针对我描述的这种二项分类的问题，我能否期盼着会有一个准确度的显著提升？如果可以有这样的预期，一般大家都是怎么做的呢？我手头的机器就是一台128G 32核的服务器。好像暂时没有别的好机器了。够用么？我描述清楚了么？ 恳请大家给予指导，谢谢！我爱机器学习回答：先分析下问题，100万训练数据14个特征，如果你的特征表征能力牛逼，数据偏差不大，机器学习书里面随便挑个分类算法90%精度不在话下，但现在模型能力很强的随机森林都只能到76%左右，那么肯定哪里出了问题，问题在哪里，看case是王道。当然这个问题中特征表征能力不够可能性比较大，那接下来的事情就是特征工程，找什么样的特征，依然是看case，看看badcase是因为缺失什么样的 ...继续阅读 (8)