IT博客汇
  • 首页
  • 精华
  • 技术
  • 设计
  • 资讯
  • 扯淡
  • 权利声明
  • 登录 注册

    love 0
    刘思喆@贝吉塔行星
    发表于
    2015-12-12 00:00:00

    Spark or R

    前天下班浏览朋友圈,雪晴数据网转发了一篇译文,大数据工具比较:R 语言和 Spark 谁更胜一筹?,原作者测试了在限定为单机环境下,使用Kaggle提供的手写识别的数据在R和Spark平台 运行不同算法的对比速度,结论有一下几个:主成分分析R要4小时,Spark要10秒逻辑回归:R运行7小时,Spark约5分钟朴素贝叶斯,因为算法太简单,差异不那么巨大(45s和9s)决策树:R完全跑不起来,Spark花20秒在整篇文章作者的测试非常武断,有很多误导观众的信息。R再怎么样也不会如此不济,下面会逐条针对原文做补充。 当然,这里面我还想强调:在使用算法解决问题的过程中,以下几大行为必须纠正(或者叫做流氓法则):不贴源代码,是耍流氓张冠李戴,完全复制,不做任何优化就对比,更是耍流氓不考虑业务场景乱用算法,就是耍流氓不考虑数据形态以及精度要求,拿算法的帽子乱盖,还是耍流氓我们也来玩玩测试首先提供一下我的环境,11年购入的Thinkpad T420,i7-2640M,4核心,8G内存;R版本Windows 64位原生编译版本,未做Blas库的任何优化。在这台玩魔兽现在都有点卡的老爷机上, 以上几个算法在单机版的R平台上测试速度为:主成分分析为 1.64s二分类逻辑回归 5s,多分类逻辑回归为58s决策树使用更高级的GBDT,3s同时为了表明不是流氓,给出代码library(data.table ...继续阅读 (75)


    love 0
    杨嘉宁
    发表于
    2015-12-11 23:30:00

    从事造价工作需要多少施工知识?

    ...继续阅读 (31)


    love 0
    知乎用户(登录查看详情)
    发表于
    2015-12-11 22:30:00

    应该怎样阅读建筑杂志以及怎样进行实地建筑考察才能学到更多的东西?

    其实一个建筑的评判标准太多,每个人想从一个建筑上获取的东西也都不一样,就像一千个人有一千个哈姆雷特一样所以,与其说漫无目的的看,倒不如通过逐渐了解自己的设计弱点,然后对应的,每个时间段给自己确定一个方向。举个栗子,比如我1,刚开始学建筑时候,总是构成与空间组织不好——所以那段时间我会着重看或者手绘一些杂志上的平面图和体量关系2,慢慢学了一段时间后,我发现自己立面有时候不是很完美,同时设计理念贯彻不到位——这个时候我会着重看一些立面的处理手法以及一些优秀建筑作品的设计理念如何从头贯穿至尾的。3,再后来,我发现自己设计很多都是纸上谈兵,很多根本就是瞎扯——这个时候我就看很多已建成的建筑是如何建造的。4,逐渐的,发现自己对材料的了解近乎为零,在设计的时候就导致材料语言捉襟见肘——这个时候我就会留意生活中一些不错的项目的材料使用,同时着重关注杂志上很多建筑材料的语言5,再后来,我发现材料不同的不同营造手法会产生不同的空间质感——所以我就开始关注营造了。6,到现在,我发现自己很多时候,自己设计的手法与理论体系不成系统,导致每个方案都是从头开始,没有一套完整的系统的设计方法——这个时候我就会阅读一些理论性书籍,完善自己设计中的不足.......................我的建筑师执业生涯还在继续,我也会不断发现自己新的不足当发现了自己的不足,有的放矢的去学习,去获取知识,才是提高设计能力 ...继续阅读 (42)


    love 0
    匿名用户
    发表于
    2015-12-11 20:00:00

    如何准确解读 Ray Dalio 的「配置风险 而不是配置资产」的核心投资哲学?

    ...继续阅读 (44)


    love 0
    王立铭
    发表于
    2015-12-11 19:00:00

    糖尿病:过去、现在和未来(八):雄关漫道(下)

    ...继续阅读 (58)


    love 0
    雪球
    发表于
    2015-12-11 18:30:00

    中国的「乡村建设」对建筑师而言是新机遇还是陷阱?

    我个人的一点乡建体会。首先要定义“乡村”是什么。我们讲的“乡村”,其实和普遍意义上的“农村”是不一样的。这里的“乡村”,往往拥有不错的景观资源,距离大都市较近(1-2小时车程),是最有潜力的一部分农村。针对它们的打造,往往以“旅游目的地”的目标为主。中国城市居民收入的增长、小长假的拆分,以及私家车保有量的不断增加,为近郊游、城市周边的乡村旅游提供了更多的便利条件。此外,基础设施愈加成熟,高速公路、城际铁路、高铁延伸到了全国各地,租车行业蓬勃发展,价格合理、支持异地还车,甚至北京到杭州托运私家车服务开通,大大提升了出行便捷度、鼓励了自驾出行。同时,观光旅游业开始发生质变,旅行者不再以跟团去过的景点数量为荣,转而开始积极追求主体化的旅行,个人或家庭的旅行逐渐成为主流,差异化的地区特色与主题逐渐受到重视。近年来更为突出的是,单一中心的大城市困局导致城市环境的不断恶化,让人们的目光慢慢转向他们离开已久的乡村。事实上,北上广深近郊度假村层出不穷,周末出城高速拥堵不堪,小长假更是一床难求,从侧面证实了人们逃离城市的愿望。而对建筑师来说,乡建这个工作,恐怕最难的是放下单纯对形式的追求、表现欲、对曝光率的渴望,真正“扎根”到一线建设里去。在这里,他们遇到的是往往是大都市办公室里画图的时候从不会面对的问题。乡村是美丽的,乡建又往往是联合村民、政府、开发商共同努力的复杂建设行为,有些时候,真正适合这里 ...继续阅读 (35)


    love 0
    扣小米
    发表于
    2015-12-11 18:00:00

    在什么情况下(其他条件不变),专利对经济增长有负影响呢?

    这个问题挺有意思。因为在创新研究中,专利数量通常被用作创新产出的一个常用指标,也就是默认了专利是好的、积极的。通常情况下也确实是这样。题主问专利对经济增长的负面影响,这样的研究的确很少见,因为事实上专利数代表着创新和技术进步,而技术进步是经济增长的重要推动力。另外专利保护对于创新者和发明家来说是一种正面激励,让他们更有动力从事创新活动。但关于专利的负面影响的文章并非没有,我这里来说一个比较早的研究,来自德国秩序自由主义(Ordoliberalism)、弗莱堡学派(Freiburg School)的代表人物瓦尔特-欧肯(Walter Eucken)。他主要是批判专利法的设定。自由主义自然是主张政府较少对市场的干预,而秩序自由主义相对于完全的自由主义而言,认为政府可以适当的干预市场,但不可干预市场机制和价格机制发挥作用。欧肯认为专利降低了经济的灵活度和活力,是造成当年(大概19世纪)德国经济发展缓慢的原因之一。通俗的理解是,专利法保护了某一种发明,设置了进入某一市场的壁垒,甚至会造成垄断,通过行政手段抑制了该行业的竞争,从而对经济增长产生了负面影响。当然,欧肯也并非对此持完全反对的态度,他主要的观点是政府的规定不能破坏市场的竞争。另外还可以几点可以考虑,比如专利保护年限到底多少合适,以及在某些情况下专利的灵活性,比如那些包含高额专利费的救命药品在贫穷国家的使用(这可以参考盖茨基金会的措 ...继续阅读 (32)


    love 0
    知乎用户(登录查看详情)
    发表于
    2015-12-11 17:00:00

    经典条件反射与操作条件反射的联系与区别

    ...继续阅读 (43)


    love 0
    wuzhiyao
    发表于
    2015-12-11 16:30:00

    巴黎有哪些值得一去的摄影书店和摄影画廊?

    ...继续阅读 (34)


    love 0
    知乎用户(登录查看详情)
    发表于
    2015-12-11 16:00:00

    银行如何向互联网公司学习交叉营销

    ...继续阅读 (29)


    love 0
    Close Tony
    发表于
    2015-12-11 15:00:00

    东非大裂谷是正在形成的板块边界吗?

    ...继续阅读 (31)


    love 0
    田格媛
    发表于
    2015-12-11 14:20:00

    中国是为数不多的医疗付费国家吗?若是,为什么大部分国家或地区可以免费医疗而中国依然收费?

    ...继续阅读 (39)


    love 0
    纸巾
    发表于
    2015-12-11 13:00:00

    气象雷达和气象卫星能否彼此替代?

    肯定是不能啊,气象卫星虽然发展迅速,极轨和同步卫星对地球进行全方位的监控,但是这种监控尺度太大了,面积太广,对于尺度较大的、持续时间不短的系统可以做到有效监控。但是对于尺度比较小,持续时间比较短的局地系统观测就稍显不足。这个时候雷达就体现了其必要性。举个例子:局地强对流,当一个龙卷风产生并不断发展时,卫星云图上表现并不能观察到,还是需要雷达来探测是否有勾状回波产生。像是这种尺度的系统,卫星云图是不能看出什么名堂的,尤其是其发生于夜间,,没有VIS的情况下,而且像是2013年的Moore,卫星云图下和雷达下完全是两个不同的样子,此类系统存在时间短,尺度极小,若不是有雷达探测,或许我们都不能知晓这个龙卷风的本来面目Moore的雷达Moore的卫星云图雷达的存在让气象界对这类系统有了更深的了解,有助于科研和预报,比如垂直探测让我们对这些系统有了更加直接的认识,包括此类系统的定强问题,如何判断这个龙卷风的强度?除了事后灾害分析,部分实测,还要靠雷达观测。若不是雷达,我们就无法看到下图,对一个龙卷风内部的探测结果。这种数据对于科研的意义不言而喻,也更有利于优化当前的气象理论的架构。而且雷达的精度是大于卫星云图的,因为它做的是对局地小尺度天气过程的实时探测。在热带气旋靠近沿海时,雷达将对热带气旋的定位和定强有着巨大贡献。在热带气旋预报中,气象迷圈子一直认同的是:近岸看VIS和雷达,雷达尤其重要 ...继续阅读 (34)


    love 0
    Timothy Wang
    发表于
    2015-12-11 12:30:00

    从摄影专业的角度上来看,一个好的摄影项目应有哪些细节与深度?

    能做运作摄影项目的摄影师都已经完成了技术的积累,所以贯穿整个项目的都是思想和表达,技术的运用对于成熟的摄影师来说只是一种本能反应,所以当你看到一个项目的陈述中对技术的描述超过了拍摄内容本身,那么基本就可以认为这个项目不会是好项目。以上为丑话说在前面。对于一个摄影项目而言,在没有开始拍摄之前对于内容的设计与构想才是一切的核心。这种构想不是凭空产生的,而是基于摄影师或者预期观众的某种需求,进一步说是表达和理解的需求。离开了这些需求,就会使整套作品显的空洞和幼稚。当一个有效的需求在不断的思考中被具体化之后,就产生了拍摄动机。好的作品都是有复杂的拍摄动机的,我们常常说学生的作品充满了“学生气”,就是因为学生的作品大多是deadline压迫的产物,简单的说,就是动机不良。然而即便如此,这些充满“学生气”的作品有时候还是要比500px上那些炫酷的照片好多了,因为他们至少经过了一些思考。总而言之,需求与拍摄动机是一个摄影项目成长的土壤,贫瘠的土壤注定不能生长出繁茂的森林。再说简单一点,就是要有想法。有了良好的需求与拍摄动机之后,就要对拍摄进行一系列的规划,因为我们不想盲目的进行拍摄,即使是布列松这样的大师,在拍摄之前也要思考一番。项目规划所花费的时间常会远远超出实际的拍摄时间。就如同拍电影,一个好的剧本可以写十年,但是拍摄也就是几个月的事情。在项目规划中,摄影师要考虑的是片子去哪拍,怎么拍,讲什 ...继续阅读 (31)


    love 0
    知乎用户(登录查看详情)
    发表于
    2015-12-11 12:00:00

    Margin Call

    ...继续阅读 (79)


    love 0
    This Is Not Tina
    发表于
    2015-12-11 11:30:00

    有哪些长期被「科学」地解释,最后发现那解释并不科学的现象?

    ...继续阅读 (38)


    love 0
    Shan Ye
    发表于
    2015-12-11 11:00:00

    地图的细节是怎样被简化掉的?

    ...继续阅读 (32)


    love 0
    Mickey Yin
    发表于
    2015-12-11 10:30:00

    建筑史上出现过的重大失误有哪些?

    魁北克大桥(Quebec Bridge)相信学建筑、土木工程的同学对它都不陌生吧,在材料力学、结构力学和钢结构课上多次被提到。魁北克大桥是一座铆接钢桁架悬臂梁桥,位于加拿大魁北克市,全长987米,宽29米,迄今为止其549米长的悬臂梁主跨仍然保持着世界第一长的记录。魁北克桥从规划至竣工花费了30年的时间,在建造过程中发生过两次坍塌事故,共造成88名工人罹难。第一次坍塌建设过程进入了1907年夏,QBRC(魁北克桥梁公司)现场工程师Norman McLure开始注意到了桥梁主结构构件不断增加的变形,于是多次向QBRC顾问工程师Theodore Cooper反应这一问题,起初Cooper并未引起重视,只说这是个很小的问题。之后,PBC(凤凰桥梁公司)的官员声称主梁在安装完成之前就已经发生弯曲变形,McLure也确认工程存在问题,他再次写信给Cooper,并且在8月29日前去与Cooper会面。最终,Cooper也确认工程存在严重问题,发电报给PBC要求施工方不要再往桥面增加荷载,两人一同前往PBC公司。然而就在8月29日下午,两人还未来得及将消息传递给施工方,魁北克大桥南部悬臂和中心部位发生了坍塌,在15秒内全部坠入圣劳伦斯河,造成桥上的86名工人中75人丧生,11人受伤,成为了当时世界上最严重的桥梁工程事故。第二次坍塌1916年9月11日,桥梁中段主跨在吊升安装的过程中坠入圣劳伦斯河 ...继续阅读 (36)


    love 0
    慧航
    发表于
    2015-12-11 10:00:00

    雾霾会影响工作效率吗?

    ...继续阅读 (44)


    love 0
    Patrick Zhang
    发表于
    2015-12-11 09:30:00

    不是说并联电路电压处处相等吗?为什么农村电路里,别家的电器功率大了其他家的电器也会受影响?

    ...继续阅读 (38)


    love 0
    匿名用户
    发表于
    2015-12-11 08:00:00

    中国有金融评级机构吗?和监管机构的关系是怎样的?

    ...继续阅读 (34)


    love 0
    知乎用户(登录查看详情)
    发表于
    2015-12-11 07:30:00

    为什么不能一次把一天的药都吃了?

    ...继续阅读 (31)


    love 0
    死者代言人
    发表于
    2015-12-11 07:00:00

    下雪时,在野外睡觉会「一觉不醒」吗?为什么?

    ...继续阅读 (33)


    love 0
    知乎用户(登录查看详情)
    发表于
    2015-12-11 02:30:00

    有轨电车到底有什么存在的意义?

    ...继续阅读 (31)


    love 0
    孙志超
    发表于
    2015-12-11 00:00:00

    团队的融资能力在风投眼中的重要性是怎样的?都有哪些维度能考量一个团队的融资能力?

    ...继续阅读 (29)


    love 0
    知乎用户(登录查看详情)
    发表于
    2015-12-10 23:30:00

    可能发现了一个戴森球是怎么回事?

    ...继续阅读 (37)


    love 0
    twine pink
    发表于
    2015-12-10 22:30:00

    你知道有哪些非常好但是未建成的建筑方案?

    ...继续阅读 (36)


    love 0
    Mimi谜妹
    发表于
    2015-12-10 21:00:00

    伴侣间亲热少了,感情也渐渐变淡,怎么重燃激情?

    ...继续阅读 (37)


    love 0
    知乎用户(登录查看详情)
    发表于
    2015-12-10 20:00:00

    如何用例子浅显地解释什么是统计套利?

    用最简单的方式说,量化策略大体分为两种,momentum和mean-reversion。momentum:过去涨的我赌他涨,过去跌的我赌他跌。mean-reversion:过去跌的我赌他涨,过去涨的我赌他跌。统计套利就是mean-reversion,但是它不是对一个资产做mean-reversion(因为做不起来),他是对一个 “资产组合” 做mean-reversion,相当于你自己 “造一个” 具有mean-reversion性质的产品然后对他做mean-reversion trade。最简单的统计套利是pairs trading,就是两个票按某个比例一long一short,会搞出一个mean-reversion形状的东西。这时候对这个 “一long一short的复合产品” 低买高卖就行了。。再复杂一点就是多个产品之间统计套利,比如long一个股票同时short它的eigenportfolio们,或者long一个股票同时short它所在的ETF们(前提是你要有够多ETF,比如美国市场)====================我以前一直从技术宅的角度觉得做stat arb的主要瓶颈在于技术,后来和practitioner聊才知道其实技术都差不多,stat arb最大的问题是大部分时候市场没有volatility。。。====================针对题目描述写几句。题目 ...继续阅读 (62)


    love 0
    王新廷
    发表于
    2015-12-10 19:00:00

    可不可以像轮耕一样通过短时间的禁用有效药物来减少抗药性的产生?

    ...继续阅读 (51)

上一页 618/842 下一页
沪ICP备19023445号-2号
友情链接