bzb2023/ZhihuJunkieSpoken huggingface dataset:
中国和美国谁能成人工智能领域的领军者？

先说结论：未来10年，中国在基础研究上仍将处于追赶地位，但是在产业应用上很可能赶上甚至反超美国。
很多答案对中国的AI水平不屑一顾，甚至还有人说不如英国。但实际上真的有这么差吗？
必须承认，中国人工智能的学术能力仍然落后于欧美。尤其是有影响力的，突破性的研究远少于美国。但是这个劣势的影响并没有看起来的那么大。
第一，人工智能的技术壁垒相对来说很低，追赶较容易。美国有的硬件（显卡）我们也有，美国人能看到的最先进研究成果我们也能看到，甚至这些成果的代码都是公开在Github上的。
第二，两国人员流动频繁。很多美国的先进研究，是由（一代）华人科学家做出的。虽然这些人在美国工作，但是一方面他们在中国人圈子活跃，从而带动中国科研发展，另一方面，随着中国的发展和美国华人的生存环境持续恶化，越来越多的人会选择回国（美国华人面临左派种族配额政策和右派排外主义两方面的压迫）。另外华人在美国公司遇到玻璃天花板，也是很多高端人才回国的原因。
第三，个人认为这一波人工智能的科研爆发已经进入瓶颈期，接下来进展将会减缓，产业应用将会成为重点。这个是我的主观判断，不一定对，但是CV，Speech等主力方向进展缓慢，学术界转向GAN，RL等应用前景不明朗的方向是目前的趋势。
产业应用方面，我判断中国可以赶上甚至超越美国，主要依据是以下几点：
第一，中国有14亿人口的统一市场，同时产生了海量的数据。资本和数据是人工智能产业的重要推动力。欧洲由于语言和国家碎片化，导致市场和数据碎片化，进而导致互联网产业没有竞争力，几乎没有拿的出手的互联网巨头。而且这一问题目前看不到解决的希望。
第二，中国有多家互联网巨头，培养了大批人才。很多人崇拜google、facebook，看不起BAT。但是中国互联网公司和google、facebook一样能为10亿级的用户提供服务，技术水平是很强的。
第三，中国官方大力支持人工智能发展，大众对人工智能技术应用的阻力小。中国把人工智能发展提到国家战略的层面，将来自动驾驶、智能城市、智能医疗等技术的落地必然一路绿灯。
反观美国，近年政府对互联网和人工智能态度暧昧。一方面facebook等公司被指责在2016年大选中起了负面作用（右派认为他们压制右派言论，左派认为他们对极端右派言论太宽容），深陷舆论漩涡。另一方面美国人极端注重保护隐私，并对公权力不信任，医疗数据获取困难，安防更是想都不要想。还有美国各行业工会势力强大，它们害怕人工智能抢人的工作，将会大力阻挠技术落地。例如美国卡车司机工会已经在游说禁止自动驾驶卡车上路。
实际上，在一些领域已经可以看到中国产业赶超的苗头。
例如在人脸识别／安防领域，中国人工智能技术应用已经领先。一些公司的技术可以在上亿的人脸库中检索每个人。而美国政府在棱镜门后根本就不敢提智能安防这茬。
中国人工智能芯片产业的进展也很快。例如中国2000万安防摄像头提供了庞大的人工智能芯片市场。现在这些摄像头采集的视频需要上传到服务器处理，如果加装人工智能芯片，可以大幅节约带宽，提高性能。一些公司已经在进行相关研发。
另外，借着比特币的东风，比特大陆的利润已经超过NVidia。通过销售矿机，比特大陆积累了大量资本和ASIC芯片设计经验，进军AI芯片后进展值得期待。

PS：这种话题都能碰到你国党，也是服。为了避免招惹小管家，相关评论都删了。
到底有没有外国人羡慕中国？

外国人太多了不好说，但是库克看看支付宝再看看ApplePay肯定羡慕的要死。
同时银联看看美国平均每户欠1.6万信用卡债，银行每年利息+手续费收入1600亿刀，回头再看看中国人都在存支付宝赚利息，消费贷尽是凭本事借了钱就没打算还的戒赌吧老哥，肯定也羡慕的要死。
为什么美剧相比很多国产剧更好看？

只有我觉得美剧这几年越来越不行了么？一大半都是男人中年危机的套路。
大概就是中年父亲事业瓶颈，夫妻感情不和，子女青春期叛逆，一天天过着苦逼的日子。这个时候突然危机从天而降，比如得癌症了，被卷入犯罪了，自然灾害了，觉醒超能力了，外星人入侵了…然后男主拯救家人和世界，尽显男人本色，修复夫妻感情，赢得子女崇拜。
不光电视剧，电影也有这种趋势。比如巨石强森的圣安德烈大地震，非常典型的套路。
感觉这个套路是08年金融危机之后越来越流行，到现在快半壁江山了。可见美国中年人08年后的日子真的不好过。但是作为一个二十多岁的青年，这种片看多了真心腻歪，感觉快未老先衰了。
我觉得现在比较好看的是《权利的游戏》这种大制作精品，还有《硅谷》这种角度新颖的喜剧。《纸牌屋》最后两季已经糊了。。。现在找好看的美剧越来越难，反而国产剧有复苏的迹象，比如《人民的名义》就不错。
为什么 AWS 云计算服务是亚马逊先做出来，而不是 Google ？

Amazon：客户大爷，您要什么功能，小的马上就做。不会用没关系，给您配个工程师教学，包教包会，24小时听命。
Google：亲爱的客户，我是你爹。我告诉你，XX，YY，ZZ都是世界上最好的技术，你应该跪着用。刚学会AA？早就过时了，我们3年前就淘汰了，赶紧学新的。学不会？贵司太弱了，回炉重造吧。
你说用户能当爷为啥要当儿子呢。
云服务和搜索的区别在于，云用户的需求多种多样，而且经常需要教学和客服。Amazon文化第一条就是Customer Obsession，翻译过来就是“全心全意为客户服务”。
然而客服是个苦差事，工程师很少有愿意做客服的。在Google这种工程师至上的文化里，产品经理压着工程师做客服怕是要被骂死。所以客户满意指数基本上跟工程师幸福指数成反比。
中美的云市场很好的反映了这个趋势。美国最大的是Amazon，然后是微软。IBM都比Google强。国内最大的是阿里，华为做的也不错，百度没啥存在感。
如何看待爱奇艺紧急下线《Darling in the Franxx》？

“等我们这一代上台就好了！“
所以说我国的审查制度是符合国情， 并且有广泛群众基础的。
在 2018 年的时间点，Google、Facebook、Amazon 三选一，你更看好谁？为什么？

索罗斯刚在达沃斯论坛上发表了对google和facebook的宣战书。大意是帮助trump上台乱我朝纲，一副势不两立的架势。华尔街估计要发力了，还是买我大亚麻吧～
不过话说回来亚麻也不一定不会成为靶子，还是腾讯爸爸靠谱。
宜家创始人英格瓦 · 坎普拉德（Ingvar Kamprad）去世，享年 91 岁，如何评价他的一生？

宜家的家具是真便宜，质量是真差，人称landfill generator（不可回收垃圾生成器），自己组装是真累…

(宜家，祝你生日快乐，这是你的蛋糕）
如何看待「华裔不是中国人」这句话？

这是西方华裔普遍面临的尴尬。这些人很多放弃了华夏文化，却又不被西方接受，两面不讨好。
华夏自古讲文化认同，而不是种族认同。夏入夷则夷，夷入夏则夏，说中文，认同华夏历史，吃中餐的才是华人。北越人、朝鲜人，日本人也是黑头发、黑眼睛、黄皮肤，但肯定不是华人。
在中国人看来，马来华人保留了华夏文化，所以是我们的同胞。而在西方生活的华人，面对近代强势西方文化，普遍放弃了自己的文化，希望彻底融入西方文明，而且往往比西方人更排斥华夏文化。这些不会说中文的ABC，对我们来说，和在美国出生的日本人、韩国人后代没有任何区别，他们只能算亚裔，但不能算华人，也不是我们的同胞。
但是西方文化种族主义深入骨髓，向来讲种族认同。在美国，白人不管来自英国，德国，还是俄罗斯，大家都是美国白人。而黑人不管来自哪里，世世代代都是美国黑人。西方华裔虽然抛弃了华夏文化，但是却脱不下黄皮，所以白人黑人都不会把他们当自己人。
这个问题从根本上无解，除非华夏文明或者西方文明之一彻底灭亡。对于西方华裔的遭遇，我报以人道主义同情，但是很难有同胞受苦时的痛心，也不会想要为他们做些什么。
与其去帮助这些对我们并不友好的亚裔，不如去开发非洲。
LeCun 为什么要卸任 FAIR（Facebook AI 实验室）负责人，工程和研究的矛盾可调和吗？

这次调动重要的不是掌管FAIR的LeCun卸任，而是接任的Pesenti同时接管FAIR和AML（产品AI部门）。
以前的FAIR完全不做产品，FB银根宽松的时候可以养着FAIR打广告，顺便期待一下“长期回报”。现在冬天要来了，即使FB也不愿意养闲人了。“长期回报”也要先活过短期才能兑现不是，再说贝尔实验室没能救得了ATT，救了微软的也不是MSR，而是云计算。所谓的“长期回报”，很容易被别人窃取革命的果实…
主要目的应该是整合研究和产品，让AI落地。整合以后的FAIR和AML明确提出要负责NewsFeed，这是FB的核心收入来源。渣总最近提出要给新闻网站“分级”，以便打击“假新闻”。不过大家都懂，这就是要删右翼新闻。LeCun虽然很左，但是也不一定愿意干这种勾当。
PS：FAIR的文化倾向于坚持“科研纯洁性”。但是公司不是学校，毕竟是要赚钱的，AI产品化落地是大势所趋。
微软前两年把msr的AI部门和产品部门合并搞了个超大的AI组，google brain一直兼顾科研和产品，deepmind也在做医疗等方面的产品，amazon ai从一开始就是产品科研合一的。阿里的达摩院实际上也是要做产品的。
可以预见，将来大多数公司的研究院都会越来越倾向于产品导向。毕竟永远说功在当代利在千秋，华尔街是不会买账的。
为什么大部分中国人对国家统一有如此深的执念？

今日割五城，明日割十城，然后得一夕安寝。起视四境，而秦兵又至矣…以地事秦，犹抱薪救火，薪不尽，火不灭。
—《六国论》
寸土必争，这个道理中国人一千年前就明白了。
一百年前英法把苏台德卖给德国，又被德国暴揍之后，西方人应该也明白了。
甚至被以色列坑了这么多年的阿拉伯人，估计都明白了。。。
中国现在有没有超过汉唐盛世？

组织上已经决定了，中国要在2050年建成社会主义现代化强国。翻译成人话就是要从美国那里拿回世界老大的地位。
天朝上国->日不落帝国->世界文明的灯塔->人类命运共同体的引路人（暂定）
几千年来称号换了那么多其实都是一回事，强权即真理。
如何看待 PG One《圣诞节》被共青团中央批评，及 PG One 和红花会宣布「主动全网下架作品」？

嘻哈起源于上世纪70年代，主要受众是美国监狱和街头的黑帮群体，内容充斥毒品，性，和犯罪。嘻哈代表美国流氓无产阶级文化，经过几十年发展（洗白）现在虽然主流化了一些，但是仍然不怎么雅观。
喊麦起源于本世纪00年代，主要受众是中国城乡工人农民，主要内容是狂霸酷拽，但无明显犯罪倾向。喊麦代表中国工人无产阶级文化，经过十多年发展，现在可以看到一点主流化的趋势。
马克思教导我们，工人无产阶级天生革命，而流氓无产阶级的特性使之无法产生阶级意识，因此对无产阶级革命无法做出贡献，甚至阻碍了无阶级社会的建立。
毛主席教导我们，只要有正确的引导，流氓无产阶级也可以成为一支革命的力量。
这帮嘻哈歌手，如果非要在TG的底盘上玩美国流氓无产阶级那一套，又不接受TG的正确引导，要不了几年就会被喊麦彻底碾压。到时候这帮嘻哈歌手都得转行去喊麦。

你说怎么看待？团团这是在救你们啊，识得唔识得？
中国能走美国吸引人才移民的路吗?

中国不缺可造之材，缺的是培养人才的资源和平台。中国会吸纳人才，但是路线必然和美国不同。
中国有13亿人口，有勤奋好学的传统，而且近代重视理工科教育。反观发达国家，全加起来也不过12亿人口，英美还认为医法比理工优越。中国的“可造之材”储备是惊人的。
但是中国严重缺乏培养高端人才的平台和资源——因为穷。中国的人才处于过度竞争的状态。高考一分有成千上万人。如果650分上清华，考649的人就比650差很多吗？然而资源就这么多，能培养的人是有限的。
所以有些人看到一年几十万人出国就高呼药丸，而国家却支持出国，为什么？因为650分的出国了，649分的顶上，差距并不大。而这些用外国资源培养的人才，只要回来一小部分，中国就赚了。
中国稀缺的，是消耗大量资源培养出来的高精尖人才，和掌握了核心技术的人才。不说钱学森，毛子飞机设计师这些，至少也要是青年千人这个级别的。
苏联解体的时候，中国吃了一波苏联人才，最近乌克兰内乱又吃了一波乌克兰人才。在可预见的将来，欧萌绿化可以吃一波欧洲人才，美国种族主义和排外主义盛行又可以回笼一波以前出国的华人人才。中国要做的与其说是吸引，不如说是鉴别。要分清，谁是浓缩了大量资源和核心技术的“成熟人才”，谁是要来中国争夺本来就不足的资源的“未发育人才”。
如何评价周志华在微博对 AlphaGo 和机器学习技术的评论？

我是不同意这个说法的。机器学习，尤其是深度学习，进步的基础是算力。巧妇难为无米之炊，有了算力才能谈别的。
就拿象棋的例子来说，深蓝的算力是11 gflops，而现在的一个cpu就有几百gflops，一个显卡有几千gflops。表面看深蓝每秒算6亿个位置，比现在每秒两万个多，但实际上评价每个位置花费的算力大大提升了。

谷歌训练alphago用了5000个比gpu更猛的tpu。就算你带着alphago的全套代码穿越回20年前，也打败不了人类。
每一次算法突破就像浮在海面上的冰山，海面下是几十年一点一滴的算力积累。大家在为英雄欢呼的时候，也不要忘了广大挖沙子，炼晶圆，刻芯片，水paper的人的贡献。毕竟，历史是由人民群众书写的。
远古时期没有形成语言概念时，人类是如何思考的？

现代人的语言能力是基因决定，与生俱来的。有语言才能称为现代人。把几个婴儿放在一起，他们自己就会开始发明语言。虽然复杂度和表达能力可能更低，但是人类一直是用语言交流的。
如何评价MXNet发布的1.0版本？

这次主要是速度和稳定性上的改进，多卡imagenet训练可以比pytorch快20%吧。
新功能不多，值得一提的主要是gluon的dataloader支持多个worker了，速度快不少。
欢迎试用，有什么问题可以到我们的中文论坛上来讨论：https://discuss.gluon.ai/
另外推荐李沐的动手实践深度学习的课程：https://m.bilibili.com/space/209599371
21日潮汕枪击案？

题主是上网冲浪的GG还是MM啊？这事好几天前微博上的人就笑疯了。。。
这是林选手的作案工具，你们感受一下。
主武器：AR15+三角握把+夜视仪+消音器
副武器：S1897双响喷子
满配AR15+喷子，三杀，最后被警察叔叔吃鸡。林选手以一己之力将中国涉枪案件武器水平提高到了美帝的标准。
怎么看待有些政府的公信力下降的问题?

政府和媒体公信力下降是全球问题。你看川普天天骂除了fox news以外的媒体都是假新闻，而除了fox news以外的媒体天天骂川普是假总统。
原因之一是社交媒体的崛起和传统媒体的衰落。社交网络时代地不好洗了，大家都愁。但是在这个比烂的世界里，中国是有一定比较优势的。
在中国，对政府和媒体失去信任的主要是微博和知乎上的市民阶级，这些人在网上骂破天也不会去造反。而代表了中国最广大无产阶级人民群众的快手老铁们，大体还是乐观积极，安居乐业的。
Yann LeCun、Geoffrey Hinton或Yoshua Bengio能得图灵奖吗？

被打脸了，真疼，见https://www.zhihu.com/question/317715156/answer/634060435
不能。
深度学习是一个系统性工程，发展的核心是算力，算力够了才能谈别的。深度学习的历史是在算力不断提高的过程中，由群众们一点一点书写的。虽然整个领域的发展对计算机科学乃至人类社会做出了巨大的贡献，但是任何一个人很难分到足够获得图灵奖的份额。
LeCun主要贡献是在MNIST上用神经网络（LeNet）得出了不错的结果（但是神经网络并不是他发明的）。
Hinton主要贡献是早期参与了提出BP（但不是第一个），后来提出用autoencoder做预训练，然后提出了Alexnet（超大号LeNet）。
Bengio涉猎广泛，很难简单概括他做了什么。
这些贡献都很重要，但是很难说哪一个是根本性的飞跃，基本都是在前人工作上的一步改进，所以拿图灵奖是没什么希望的。

PS，如果一定要给谁发一个图灵奖的话，我提议两弹元勋黄仁勋。毕竟靠牙膏厂和按摩店，深度学习的发展至少要拖后三、五年。
性侵门延烧到新闻界，又一自由派旗手落马。美国自由派为什么天真到拿“性私德”这个议题攻击保守派？

性侵门运动已经明显超出党争的范畴了，这是美利坚资产阶级文艺大革新的新阶段：打倒老白男当权派。
在上一阶段（破四旧）取得初步成果，粉碎了李将军、哥伦布一干人等的历史地位后，革命进入了下一个阶段。从伟因斯坦被曝光开始，娱乐和政治界有权有势的老白男们，以一天一两个的速度接连被爆出性骚扰。
这些指控有两个共同点：其一，目标都是有名望有地位的老年白人男性。其二，事件大多发生在很多年前，被指控者多是历史很长的惯犯。
有理由相信，被曝光的人不是个例，而是体制出了问题。这些人性侵了这么多年，圈内人心里肯定都有数，为什么现在才被爆出来？既然现在的大佬们从年轻的时候就在干这些勾当，那么我们是不是可以认为，当下嫉恶如仇的年轻造反派们自己屁股也不怎么干净？
性侵门运动，是青年造反派对老年当权派的革命。目前，当权派毫无还手之力，全面败退。在新闻娱乐圈权力大洗牌完成之前，吃瓜群众们还有很长时间的好戏可看。
如何看待科技部公布的首批国家新一代人工智能开放创新平台？

这是国务院人工智能发展规划落实的一个环节，旨在政府推动一些关键领域发展，同时参与标准制定，即早加强监管，提高透明度。具体内容虽然有待商榷，但是简单的全盘否定也是不对的。
这个问题下的多数答主强调自由市场，反对政府介入和监管。但是自由市场不是万能的。例如上个世纪太空竞赛的时候美国一样是举国体制。再例如，自由市场中的金融寡头制造了08年的金融危机，而危机后，这些寡头不仅没有付出代价，反而巩固了自己的地位。
在互联网行业，竞争的结果大概率是一家独大。智能语音先不说，城市大脑（很大一块是安防）和医疗这种关系到民生和社会稳定的行业，如果任由一家私营公司垄断是很危险的。
例如今年美国政府发现Facebook，twitter这些平台上的社会动员能力巨大，Antifa，新纳粹这些危害社会稳定的组织都以Facebook为动员平台。但是当美国国会想要监管Facebook等大佬的时候，他们只是派律师搪塞，完全不想搭理国会。
政府从早期开始介入，逐步加强监管，是希望可以避免行业已经垄断后大佬抗拒监管的后果。政府介入的范围和力度问题有待商榷，但是我认为不应该全盘否定任何政府参与。
猫的咬合力到底有多大？

人的咬合力其实很强，有45公斤，比大多数狗都高。跟家猫比一个可以打5个。
但是人的咬合力是用来咬骨头的，发力点在后槽牙，而且嘴短，想一口咬断喉咙比较不方便，题主可以试试把整个兔头塞嘴里用后牙咬。。。
中国真的在文化、数学上都曾经领先世界几百年吗？

中国（和东亚文化圈国家）在国家建设上曾经领先非东亚国家1500年以上。这不是我说的，是西方高到不知道哪里去了的弗朗西斯福山说的。就是写历史的终结那位。
中国在秦汉结束了贵族分封体制，建立了中央政府和文官体制。而西方到法国大革命才开始这一过程，到二战结束基本完成。非洲和中东到现在都没完成。
有一个段子说，美国笑中国没经历过宏观经济周期，中国笑美国没经历过改朝换代。
如何看待加州将成美首个非法移民“庇护州”？

大量引进非法移民说白了就是现代奴隶制。
先是民主党唱红脸张开双臂欢迎非法移民。非移来了开出租、刷盘子、扫大街是可以的，但是社保、福利、公民权利是不可能的，这辈子都不可能的。非移只能战战兢兢的打黑工，被欺负了也不敢维权，否则一不小心就被遣返了。
然后共和党唱白脸，隔三差五抓一批非移遣返，非法所得充公。这种没有人权的干脏活累活的劳工，养肥了还要被宰，跟奴隶有什么区别？有些民主党人居然直接明说，我们要非法移民，是因为他们来美国干美国人不愿意干的工作，没有抢美国人的工作。
我严重怀疑两党是串通好了一唱一和建设非移奴隶制的，比如奥巴马嘴上说的好听，但是他任上可一点都没少驱逐非法移民。
直到川普这个愣头青上来真要阻止非移入境给底层白人让工作，民主党自然是如丧考妣，但是共和党建制派好像也不是很热心建墙。
说起来美国人先是奴役黑人，然后先引进华工再排华法案加屠杀，现在又搞墨西哥非法移民。真是立国之本不能忘啊！

更新：有人说非移是自愿来美国当奴才的，自愿的不能算剥削。这么说被遣返的是“求做奴才而不得的”，黑下来的是“暂时做稳了奴才的”。堂堂美利坚怎么就成了鲁迅笔下的黑暗旧社会了呢。再说当年奴隶制合法的时候有的是把自己卖给奴隶主的自由人，这么说奴隶制不应该废除喽？
如何看待百度要求内部全面停止使用 React / React Native?

前一阵收到Apache的通知，要求所有Apache项目禁止使用带Facebook BSD+PATENTS License的项目，并限时完成替代，估计好多人要加班了，幸好我们没用。现在抵制这个License的公司越来越多，加班的苦逼工程师也越来越多。。。
其实这个License不光React用，大家可以看看Facebook的开源项目，很多都带了这个PATENTS文件：
Facebook Incubator
Facebook
这License思路很清奇，它带来的风险不是一般的专利风险，也就是你用了React有可能被Facebook告你专利侵权。而是只要你在用React，Facebook侵权你的专利你也不能告他，而且不只是跟前端相关的专利，而是包括了你拥有的所有专利。否则在你提起诉讼的瞬间，你就失去了使用React的授权。
但是如果Facebook抄袭了你的产品，你又不能马上放弃React怎么办？当然是选择原谅他啦。
Facebook说这个PATENTS是防护性的，只是为了防止有刁民诬告Facebook。但是被Facebook从头抄到脚的Snapchat有句mmp不知当讲不当讲。结合前一阵爆出来的Facebook用“Early Bird”系统来发现可能对Facebook业务产生威胁的创业公司，然后尝试收购或者模仿它们来把它们挤出市场，是不是细思恐极。
Facebook's new 'early bird' spy tool is just the tip of the iceberg
Facebook的这个License其实开了一个很不好的头。大公司可以通过在开源软件里塞私货来妨碍小公司崛起，进一步巩固自己的垄断地位。个人认为这种污染开源精神的行为很不好，希望Facebook能浪子回头，改用Apache2.0这种开放友好的License。
在中小学阶段设置人工智能相关课程对于培养人工智能人才具有哪些意义？如何推进会比较有效？

我跟你们说哦，现在的高中生可牛逼了，都开始发AI顶会的一作论文了。
至于小学和初中生，有钱的可以搞机器人，没钱的也可以写代码嘛（逃
如何看待清华大学副校长施一公的言论「当国内所有精英都想往金融上转时，我认为国家出了大问题」？

当一个专业的学生毕业找不到工作，却疯狂扩招；大肆鼓吹学术理想，却不不告诉你学术圈根本容不下这么多人，这个专业一定出了大问题。。。
提倡学生有学术理想没问题，那你就重点培养少量有理想的学生，保证他们毕业了都能留在学术圈继续追求理想。
而现实是生物专业招收大量的学生，师生比极低，一个老师恨不得带20个学生。用脚趾头想都知道，这些人毕业了不可能都去当老师，只能出去就业。
这种情况还不考虑就业献身生物，当大家都是一辈子不愁钱的富二代么。
如何看待MXNet在CVPR2017上公布的gluon接口？

谢邀，之前在专栏发过介绍了，既然很多人关注这个问题就在这里再贴一遍吧。
转自：https://zhuanlan.zhihu.com/p/28648399

经过3个月的开发，MXNet 0.11版发布啦！0.11是MXNet正式加入Apache以后的第一个版本，官方网站搬到了Apache的服务器（注意：要在最上方Version处选择master才能看到包含Gluon的最新文档）。
这次最大的改进是加入了动态图接口Gluon。Gluon学习了Keras，Chainer，和Pytorch的优点，并加以改进。接口更简单，且支持动态图（Imperative）编程。相比TF，Caffe2等静态图（Symbolic）框架更加灵活易用。同时Gluon还继承了MXNet速度快，省显存，并行效率高的优点，并支持静、动态图混用，比Pytorch更快。
同时为了彻底解决MXNet文档不全的弱点，我们还特地邀请了前CMU知名教授Alex Smola和即将出任CMU教授的小网红Zachary Lipton联手为Gluon打造文档！

接口更简洁
Gluon采用Keras和Numpy风格API，并且Layer可以自动判断输入长度。用过Chainer和Pytorch的人想必都体会过每一层都要记住前一层输出长度的麻烦，从卷积层到全联接层过度时长度计算更是痛苦，往往要运行一遍才知道。在Gluon里则没有这种问题，每层只要指定输出长度，输入长度则可以由系统自动计算。

速度更快
深度学习框架大体分为两类：以TensorFlow，caffe2为代表的静态图（Symbolic）框架和以Chainer，Pytorch为代表的动态图（Imperative）框架。静态图的优势在于速度快，省内存，便于线上部署。而动态图框架的优势是灵活，易用，debug方便，特别是在自然语言处理和增强学习等领域，比起静态图框架有显著优势。
Gluon同时支持灵活的动态图和高效的静态图，让你在享受动态编程的灵活易用的同时最小化性能的损失。而Gluon的HybridBlock和hybridize接口让你可以在静态动态间一键切换。0.11版Gluon比0.20版Pytorch快10%以上，在未来的一两个月我们会加入更多优化，再提高10%以上的性能。

即是文档，又是教材
深度学习的教材和样例虽多，但是教材往往重理论轻实践，而样例重实践却不系统。为了填补理论和实践之间的空白，并一举解决MXNet文档不全的弱项，我们特邀两位CMU教授Alex Smola和Zachary Lipton为Gluon撰写一部兼顾深度学习理论，动手编程，和实战应用的文档+教材。
Gluon教程包括深度学习理论讲解和代码实践。前五章每个例子都包括了两个版本。从零开始（from scratch）版本深入讲解所有细节，Gluon版本则着重演示高级封装的灵活高效。建议刚开始接触深度学习的同学从头开始顺序阅读，而已经有一定经验的同学可以跳过基础教程只看Gluon版。这套教程现在在Github上公开写作，共计划18章，已经完成了前五章。印刷出版和中文翻译也在计划中。我们保证每天更新，绝不弃坑，欢迎大家试读，也欢迎参与创作！

Gluon与其他框架的对比
Tensorflow：Gluon同时支持静态图和动态图，在灵活性和速度上都有优势。但由于Gluon刚刚面市，在成熟度和线上部署方便还有不足。总的来说在做深度学习研究的同学不妨一试。
Pytorch：Gluon与Pytorch的相似度很高，而Gluon独特的静、动态图混合功能可以在不牺牲灵活性的前提下提高性能。如果你喜欢pytorch的简单易用又在乎性能，那么强烈建议你试一试Gluon。

链接
Apache MXNet官方网站：https://mxnet.incubator.apache.org/
0.11 新特性：https://github.com/apache/incubator-mxnet/releases
安装指南：https://mxnet.incubator.apache.org/versions/master/get_started/install.html
Gluon教程：http://gluon.mxnet.io/
Gluon讲座PPT： https://github.com/zackchase/mxnet-slides/blob/master/kdd-mxnet-slides.pdf
Gluon深度学习样例：https://github.com/apache/incubator-mxnet/tree/master/example/gluon

PS：本文允许转载
如何看待 TI7 上与 Dendi solo 的 OpenAI？

最新消息，AI已经被干死50多次了：https://www.google.com/amp/s/amp.reddit.com/r/DotA2/comments/6t8qvs/openai_bots_were_defeated_atleast_50_times/
一个简单的套路是勾对面的兵然后带着在野区转，AI就懵逼了。也有基本功超强的人正面干死AI的。还有用小鸡勾引ai让他被塔砸死的。这样看来openai的ai基本还是停留在微操碾压的级别上，缺乏套路和反套路能力，离5v5还有很大距离。
哪些人适合读博士？

首先，很难事前判断一个有意向读博的人适不适合读博，否则也不会有那么多人读一半跑路了。如果很想读，就试试，大不了读两年发现自己不是这块料就拿个master走人也不亏嘛（逃
总的来说，如果以学术为终身追求而读博的话，有两种人比较合适。一种是自我为中心，不在乎多赚钱，够用就行，也不怎么在乎别人的评价，满足了自己的求知欲和创造欲就开心。这种教授一般带几个学生，搞一些比较冷门的方向，隔几年憋一个大成果。
另一种是人际关系好，表达能力强，有协调组织能力和管理能力的人。这种教授一般有一个大实验室带一车学生，说不定下面还有小老板，一年发N篇论文灌到飞起。
目前在美国两种教授都能混的挺滋润，在国内第一种相对会比较苦。

如果以毕业找工作为目的读博的话，需要根据具体专业分析。对计算机来说，读不读其实两可。一个刚毕业的博士和一个4年工作经验的硕士其实半斤八两，硕士的能力和工资可能还更高一点。对于某些专业来说还是没信仰就不要读了，读了5年出来找不到教职不说，说不定对口工作都找不到，只能转行。
我个人是不信什么读博锻炼思维那一套的，是金子在哪都能发光。对我来说读博（已quit）最大的收获是认识了很多大神。虽然公司里大神也不少，但是好学校里大神的密度绝对是要高出一大截的。而且大家不赶deadline的时候比较闲，政治斗争也少，一般会比较愿意勾搭。跟大神们学习是很涨姿势的，哪天聊的开心了合作个项目也是极吼的。
NTIRE2017夺冠的EDSR去掉了Batch Normalization层就获得了提高为什么？

bn其实一点都不好。个人认为bn是深度学习界有史以来最恶心的trick，实现起来一堆坑不说，加上bn以后你的输入都不iid了，要是在深度学习爆火以前有人提出bn，肯定会被统计学家打死…无奈它在图像识别上效果很好，大家只能忍了。
bn的主要作用是控制数值区间，让比较深的网络训练起来稳定性比较好，更不容易爆炸。但是初始化和调参其实可以部分解决这个问题，能不用bn的时候还是尽量不要用，尤其是做一个新的问题的时候，不要想当然就把bn塞进去。
顺便推荐一下selu，是一个有希望代替bn的研究方向https://www.zhihu.com/question/60910412/answer/181988782
你在 GitHub 上看到过哪些有意思的 Issue？

有人给linux交了个pull request，去掉了文档里一个重复的词：long long。然后惨遭围观。。。
如何评价加州大学伯克利分校人工智能实验室(Berkeley AI Research)的博客?

既然楼已经歪了…题主有同学要找实习么
如何评价百度自动驾驶 ApolloAuto 在 Github 上发布的代码？

虽说百度比较招黑，但是这个框架做的还是可以的。代码风格和文档在开源项目里都算不错的。
而且UI做的挺好，拿来当增强学习的框架玩玩说不定不错：

百度的思路应该是放个框架出来做生态，吸引别人来帮忙做具体算法。思路是好的，不过开源不是把代码都出来就完了，后期的维护和社区培养其实才是难点，尤其是公司内部开源出来的项目需要转变心态，平等对待其他公司和个人贡献者，看看百度能不能做好吧。
为什么很多人认为物理研究已接近极限？

因为有些人刚出新手村，就要去打大boss。发现打不过以后产生了两种反应，一拨人表示物理药丸啊药丸，另一拨人表示做人没有理想和咸鱼有什么区别，几千亿的对撞机，咬碎了牙也要造给你看。
然而稍有常识的人都知道，打不过boss你就去练级啊！以人类现在对能量的利用水平，连母星上气温升高个0.5度都控制不了，离I型文明都还差得远。不如说物理研究的能标能怼到这个地步已经超乎想象了。
与其大呼药丸或者硬提能标，还不如先把可控核聚变搞了，到时候发电量提高几个数量级，所有行业都能前进一大步，对撞机的能标自然就上去了。
如何评价Sony新出的深度学习库NNabla？

粗看了一下，API跟chainer很像，也是动态构图自动求导的设计。都是日本人搞的，估计有不少交流吧。
其实pytorch的API也是跟chainer基本一样，但是chainer没人知道，pytorch火了，心疼chainer小哥1s。。。
个人认为chainer的API设计挺不错的，过一阵mxnet也会推出一个类似chainer的高级封装，敬请期待。
如何看待李飞飞高徒Karpathy加入特斯拉，主管人工智能部门？

毕业两年就升Director真是叹为观止。OpenAI呆一年就跑的都升职加薪了，看来openai是个猎头公司。。。
如何评价 Self-Normalizing Neural Networks 这篇论文?

今天早上起来看到这篇文章火了，主要爆点是长达93页的附录证明。下面是附录的一页，你们感受一下（让我们一起心疼reviewer一秒）：
而这篇文章的实现却简短的醉人，只有5行：
我刚刚在飞机上看完了正文，并扫了一眼附录。其实证明思路并不复杂，但是场面十分暴力，满篇复杂不等式求值，还上了电脑辅助证明。作者为了证明过程严谨，还引用了IEEE浮点数的精度保证。。。
先说两句题外话，我认为这篇文章才是深度学习理论研究的正确方向，作者通过求解不动点，设计出了一个新颖的自稳定激活函数，保证训练过程中梯度不会爆炸或消失。而且定理的假设非常弱，作用域非常大，直觉很容易理解。读完证明的感觉是如果那93页的附录没错，那么这个方法就一定会好用，这样才是好理论。
反观很多鸡汤理论，用一车极强的假设，证出一个松到天上的bound，假装解释了一个已经被实践广泛证明好用的算法，实际上原来的算法已经被relax的妈都不认识了。搞理论的证完了心满意足，搞实验的看了感觉就像喝了一碗鸡汤，喝完了该干嘛干嘛，对未来探索新的算法一点具体的启发都没有。

==========================正题的分割线=========================
听我吹了一波以后有兴趣的同学可以自己看证明，我这里主要讲一下直观理解。文章提出的新激活函数很简单：
其实就是ELU乘了个lambda，关键在于这个lambda是大于1的。以前relu，prelu，elu这些激活函数，都是在负半轴坡度平缓，这样在activation的方差过大的时候可以让它减小，防止了梯度爆炸，但是正半轴坡度简单的设成了1。而selu的正半轴大于1，在方差过小的的时候可以让它增大，同时防止了梯度消失。这样激活函数就有一个不动点，网络深了以后每一层的输出都是均值为0方差为1。

美中不足的是这篇论文实验比较弱，但是因为理论很赞，我认为不能成为否定selu的理由，可能只是因为作者的预算或者码力受限吧。另外个人认为没有做cifar，imagenet这些原因是selu的强项是全连接网络，在CNN上不一定好用。可以期待后续在kaggle数据挖掘任务上面的表现。
如何评价生成模型框架 ZhuSuan?

前一阵看到zhusuan发布，我脑海中最先浮现出的画面就是作者教美国人念这个名字，教了十遍还是念不对。美国人回家想试试，结果忘了怎么拼了，怎么都搜不出来…
同学们，名字起的不好是要尴尬一辈子的，而且会影响宣传，这都是血的教训啊。你看caffe，torch，theano，keras，tensorflow这些名字就起的很好，最主要是上口好念，而且读音可以帮助记忆拼写。
起名还是要多考虑世界人民的感受，建议珠算可以改叫abacus，背过gre单词的人都认识（逃
更新：鉴于有同学觉得abacus丢掉了东方特色，我觉得也可以叫Zul'Suan（光速逃
如何看待 Google 既可以作 Inference，又可以作 Training 的新一代 TPU？

这次主要是宣传稿，完全没有技术细节。内存带宽和访存模式没有说。最关键的flops/watt也没有说。问了一下核弹厂的人，他们表示从这个散热器大小来看，功耗比起volta gpu估计没有优势。
从这个设计看估计google是不会卖tpu的，甚至可能在云上也不会让用户直接用，大概是以托管训练服务的形式存在，类似于你上传数据再点几个按钮，他直接帮你把模型训练好。
如何看待「快手」APP？

更新：快手用户破5亿是前几天的事，他们员工发在朋友圈的，还晒了第五亿个用户的头像。不过快手基本不怎么做宣传，网上只能搜到以前三亿和四亿时候的新闻。当然这五亿里肯定有重复注册的，但是哪个app报用户数也没见去重的不是。
==========
不管你喜不喜欢，快手有5亿用户，反映了最广大一线以下中国人民的真实面貌和趣味。物质基础决定上层建筑，快手用户的精神面貌反映了一线城市繁华背后的真实的中国的发展进程。
看到人民的艰辛，社会主义者会想怎么改善他们的生活。
资本家会想怎么赚他们的钱。
而键盘小布尔乔亚只会想和他们切割来显示自身的高贵。通过鄙视他们来显示自己已经脱离了低级趣味，是一个步入上层阶级的人。
看宏观问题的时候要尽量避免自身阶级的局限性。毕竟眼里只看得见自己那一亩三分地怎么和西方记者谭笑风声。
如何看待部分西方媒体称「中国在非洲搞新殖民主义」？

其实西方在非洲干的事更配得上新殖民主义这个称号，中国顶多算垄断资本主义，火候差得远。
新殖民主义和旧殖民主义的区别可以概括为开农场和开分基地的区别。老牌殖民主义国家在殖民地奴役当地人搞建设，修路修工厂，然后运走产品。但是这个思路注定是不可持续的：在这个过程中不可避免的会被当地人学走技术和文化，时间一长当地人总有觉醒的一天，然后就会用殖民者的技术和文化赶走殖民者。比如英联邦的殖民地一个一个都独立了。而且殖民者留下的先进工业和文化会帮助当地人高速发展，几十年以后你发现自己培养了一堆竞争者。
而现在西方国家吸取了教训，从开分基地转型为养猪加开动物园。他们再也不在殖民地搞生产了，转而“援助”食品和卫生，看起来很善良，但转念一想养猪场也给猪提供饲料和疫苗啊。。。顶多再搞个互联网快乐养猪顺便卖广告。而没有工业和基建的被殖民者人数再多也没用反抗的力量。这样就可以千秋万代的持续殖民。
而中国去了非洲大搞基建，修铁路修楼房修工厂。眼看猪就要变成人了，到时候又要重复揭竿而起赶走殖民者的老路。中国这种为了赚快钱不顾可持续养殖的行为当然要受到西方国家的一致谴责。
PhD 第三年还没有发 paper 是怎样一种体验？

第三年结束才发出paper的来强答一波。
其实PhD发不出paper可能的原因众多，并不是说三年没有paper就是失败，还是要考虑具体原因的。如果觉得做research并不开心又没有灵感，那么可以考虑及时止损。但如果是跟老板不合／方向不对胃口／运气原因，应该想想怎么改变现状。
我本科的时候走运发了一篇NIPS一作，凭着这个进了UW。当时是有点小激动的，觉得自己在宿舍里都能鼓捣出paper，去了UW不是分分钟走上人生巅峰。结果博一就被打脸，当时老板搞的方向比较偏门，而且比较强势，一定要我做他的idea。但是我对这个方向实在不感兴趣，结果一年半什么都没搞出来。
第二年我果断（并没有，纠结了一个学期）换了一个老板。新老板虽然是跟我一年入学的AP，但是学生众多，所以对我hands on的指导并不多。但是他非常会拉co-advisor，给我拉到了大名鼎鼎的Ross Girshick，后面一年半research终于有了起色。但是第一篇paper还是被拒了2次，第三年结束才和第二篇paper一起中了。我的经验是有两个co-advisor比只有一个老板要好很多，因为除非口才很好，作为学生基本是吵不过老板的。有时候老板一拍脑袋硬塞给你一个不靠谱的idea，你也很难说服老板他的idea不靠谱。但是有一个co-advisor的时候就可以联吴抗曹。。。
然后第四年开始我就quit去Amazon了。因为花在MXNet上的时间越来越长，搞paper的时间越来越短，在学校里两边都做不好。所以最后决定还是去Amazon专心搞MXNet吧。。。
如何看待 Google TPU？寒武纪芯片较之有哪些优势与不足？

深度学习加速芯片主要有四种，按灵活易用排CPU>GPU>FPGA>ASIC，效率则是相反的（还有DSP，不过个人不太了解）。谷歌这次的TPU属于ASIC，针对特定算法优化可以达到很高的效率，缺点是灵活性较差，只支持8bit预测，无法训练。而且应用面太窄量做不上去成本就降不下来。芯片在产量趋于无穷大的时候成本会趋于沙子价，但产量小的时候固定成本会很高。

实际上TPU是几年前的技术，很早就看到过介绍TPU的新闻稿。但当时几乎没有细节，唯一能得到信息就是谷歌做了个芯片…
那么谷歌在这个时间点上放出这篇论文并大力宣传是什么用意呢，我猜大概有三个可能：
1 内部已经有更好的技术，过时的技术放出来做宣传。
几年过去了谷歌几乎肯定有更好的技术，TPU公开也不会给竞争者学走什么东西。这时候论文发出来既可以抬股价又可以吸引人才。
2 和nvidia杀价
nvidia盈利大涨，股票一年翻了4倍。这个钱很大一部分来自各大公司的硬件采购。nvidia现在垄断了服务器GPU市场如日中天，定价底气很足。谷歌搞TPU不一定比GPU经济（因为量小固定成本高），但是放出来可以打压一下nvidia，增加议价能力。
nv的老板黄仁勋第二天就发了一篇回击的文，表示根核弹比起来TPU就是渣。但是仔细一看两边的文章都有点论据不足，偷换概念。只能说全是套路。
3 战略性忽悠
这么多年下来很多人都发现了，谷歌发论文经常是有战略目的的，有的时候会故意放一些烟幕弹来误导别人的研究方向。有可能是谷歌发现TPU这个路线做不下去了所以忽悠别人跳坑。
汉语是否会在可预见的将来与英语并驾齐驱成为科研界主流语言？

有些答主过于悲观了，我觉得这个问题可以从另一个角度考虑。以现在的趋势看，几十年后欧洲可能会变成阿拉伯语地区，美国可能会变成西班牙语国家。到时候就是中文的机会了。
历史上来看中华文明是最顽强的，入侵的外族都被同化了，而西方文明经常换文换种。所以说打不过你只要活得比你长就可以了，毕竟活着才有dps。
计算机视觉和自然语言处理，哪个更具有发展前景呢，还是各有千秋呢？

发展前景要从两个学术和工业两个方面来说：
先说学术圈
视觉大热过后现在已经进入了一个瓶颈期，现有数据上比较重要的问题都已经做的差不多了。视觉有三大问题：分类（classification）、检测（detection）、分割（segmentation）。
分类方面，imagenet已经MNIST化，折腾半天提升半个点实在没什么意思。检测方面有RCNN和SSD两个大方向，骨架已经搭好，剩下的就是填trick了。分割基本上是dilated convolution/upsampling的各种变种，也是过几个月加几个trick提高一个点的模式。
视频理论上是未来的方向，但是似乎视频需要的计算量比图片大得多，目前还没有什么突破，前途不明朗。可能还要等核弹厂挤两年牙膏。所以现在大家都在搞GAN啊pix2pix啊这种看起来炫酷但是无法量化评价的东西，虽然看起来百花齐放但是很难说前途明朗。

自然语言处理有些不温不火，虽然深度学习在翻译等方面带来一些进步但是并没有翻天覆地的感觉。由于自然语言先天的高度结构化、高度抽象、数据量（相对）小的特点，糙快猛的神经网络有些施展不开。如果说视觉已经过气了，那么自然语言就是还没火起来。未来应该是有前途的方向，但是这个未来有多远还不好说。
再说工业和应用方向

视觉在学术圈退火意味着技术已经比较成熟，正是工业界大干快上的好时机。但是工业应用想要成功，必须深耕一个垂直市场，比如自动驾驶，医疗图像，安全监控，其中医疗图像我认为是最有潜力的方向。想要做一个通用平台搞分类监测的公司基本都会遇到商业模式不清晰，竞争激烈，变现困难的问题，最好的下场也就是被大厂收购或者包养。
自然语言处理也有一些商业机会，但是想靠深度学习横扫天下不现实。需要新老方法的结合以及深厚的经验积累。自然语言更是需要深耕垂直市场，通用算法完全看不到商业模式，像聊天机器人啊自动翻译这种东西都是大厂用来提高知名度的，无法变现。垂直市场方面我看好法律应用，助理律师的很多工作，比如对比判例、专利这种，完全可以自动化。
如何评价Yann LeCun 说的「要研究机器学习，本科应尽量多学物理和数学课」？

杨乐村这话说的有一定道理，但是不能全信。
首先想做机器学习数学肯定是要学好的，线性代数，微积分，概率论，这三门是重中之重。学好了就有足够的基础开始入门机器学习了。学不好只能当个data scientist（逃
然后物理我持保留意见，我觉得他这么说是因为CS高年级的很多课，尤其是硬件课，对搞机器学习帮助有限，所以还不如学学物理，巩固一下数学基础。但是！如果你自学能力强或者有人带，直接入门机器学习比学物理更好。学物理这个建议是在你不知道干什么好的时候的权宜之计。
为什么这么说呢？机器学习大概有两个方向，理论和应用。应用方面跟物理有一个本质区别：物理主要研究对少量对象或低纬情况精确建模，比如四维时间的几个基本粒子或者三位宇宙里的很多行星，就算最不靠谱的弦论也就11维到头了，而建模的数学通常极为复杂，一个公式写一页纸是常有的事。
而机器学习善于对大量高维数据简单建模。在实际应用中，通常数学越简单的模型效果越好，因为简单的模型对算力和数据的利用率更高。尤其是deep learning兴起以后，把一票没有解析解只能靠近似的复杂方法都扫进了角落。简单、粗暴、有效。如果你看到一个论文数学特别复杂，证明了一堆定理，通常意味着一件事：他们的实验不work，想搞点复杂的数学制造一种不明觉厉的效果让reviewer一脸懵逼把论文收了…
从另一个方向来说，如果你想做理论，那么可以考虑多学点物理，找点复杂的模型搬到CS，其实也不一定有多难，但是reviewer才不会为了审一篇paper去查文献研究到底怎么回事。最后谁也看不懂又不愿意承认自己看不懂，实验不work也能发paper。
做底层 AI 框架和做上层 AI 应用，哪个对自己的学术水平（或综合能力）促进更大？

作为一个深度学习转系统的人，我最近也在反思一个问题：深度学习系统（Deep Learning System）的核心到底是深度学习还是系统？

先放结论：无论你想做深度学习还是深度学习系统，都需要同时了解两方面的知识，根据自己的方向可以有所侧重，但一定不能对一方面完全不懂，否则是很难做出在实践中有用的成果的。
首先我们来看一下目前流行框架的开发团队和他们开发框架的驱动力：
Caffe：贾扬清和伯克利视觉实验室的小伙伴们开发。开始主要是自己用，属于需求驱动。
Torch：Yann LeCun的学生。需求驱动。
Theano：Yoshua Benjio的学生。用于自己科研，但是也发了系统的paper，属于需求＋科研驱动。
Tensorflow：Jeff Dean带领的Google员工，主要是系统出身。源于Google在AI领域的布局需求，资本驱动。
Neon：nervana员工，作为创业公司的产品。资本驱动。
MXNet：DMLC（主要是华人机器学习和分布式系统学生）的小伙伴。主要是Minerva，Purine，和cxxnet的开发团队合在一起，一半搞机器学习的，一半搞系统的。需求＋兴趣驱动。
剩下还有很多搞系统的人出于兴趣或者科研目的开发的框架，但大多没有流行起来，就不再赘述了。
可以看出，除了Google强推的Tensorflow，大多都是从自用和兴趣开始的。而Tensorflow的开发经费比其他所有框架的经费加起来还要多出几十倍，但是一年下来并没能一统江湖。可见需求驱动的力量，所谓“需要是发明之母”。
为什么主流深度学习框架多数出自“懂一点系统的搞深度学习的人”之手，而不是“懂一点深度学习的搞系统的人”呢？我认为主要是因为深度学习系统和传统系统（比如操作系统，数据库）有一个本质区别：深度学习算法各部分的耦合非常紧密，牵一发而动全身。
搞系统的人的思路是，我做一个系统，定义好接口，保证接口正确，用户用就可以了，不需要了解实现细节。毕竟你用操作系统并不需要了解文件系统格式，用数据库并不需要了解一致性是怎么实现的。
但是这套思维用在深度学习系统上却不合适。其一，一个数据矩阵流过整个系统，每一步的细节都可能对一百步以后的结果造成影响。而对于中间结果，你无法严格定义什么是正确的，一个好的算法不是N个好的部分的简单叠加。Hinton就说过，Dropout看起来像个Bug，但是它提高了精度，所以是个“好bug”。其二，因为深度学习算法复杂，需要控制的因素多，一个固定接口很难满足所有用户的需要。还不如把系统写的简单灵活一点，让用户根据需要可以很方便的自己修改。
反过来对搞深度学习的人来说，如果你不了解系统内部细节，当你的算法效果好的时候，你并不知道到底是哪些因素导致了效果好。可能换了一个框架，效果就不好了，而原因是你根本不知道的某个实现细节。当效果不好时，你也不知道如何改进。另一方面来说，当你需要实现一个新的算法的时候，经常会发现框架现有的接口不能解决你的问题，这时候就需要对系统内部的了解才能修改系统已实现自己的目的。
如何看待Jeff Dean&Hinton投到ICLR17的MoE的工作？

这篇paper中心思想很简洁，但是实现起来trick茫茫多。另外Google一如既往的没有公开代码，个人感觉又是一篇看起来很美但是没人能重现的典型G家paper。。。
中心思想一幅图两条公式就总结完了：
简单来说每个E（Expert）是一个网络，G是用softmax算出来的一个类似于attention的gate，每个sample会根据gate被分配给k个Expert，随后再加起来。这样的好处是大大提高了模型参数数量，但是计算量不会提高太多。
可但是，细节里面trick太多了，比如G并不是简单的Softmax算出来的，很丑陋的加了个noise，然后更丑陋的强行取了k个。noise的计算方法也很丑，主要目的是为了防止训练开始的时候收敛到永远用固定的k个Expert。这里应该有不小的研究空间，可以做的更系统更美观一点。。。
这个想法看起来比较像attention，但是我认为首先应该联系最近的Xeption（Google）和ResNext（Facebook）来看。一个很有意思的insight是：跟传统机器学习模型不同，一个DNN的计算量和它含有的参数数量并不一定要是正相关的。通过把一层拆成很多并行的层，可以固定计算量而调整参数的数量。
现有经验看来，parameter数量决定了一个DNN有多容易overfit/underfit（传统VC维分析），但是同样参数数量的情况下计算量对DNN最终建模能力的影响很大，甚至起到决定性作用。于是通过固定计算量，单独改变参数数量可以有效的解决overfitting/underfitting的问题。我认为这个方向上还大有文章可以做，想搞深度学习理论的同学也可以关注一下。
如何看待Google 在NIPS2016上的强势表现？

深度学习大潮下各大公司都在努力招揽科研人才，比如Facebook拉走了Yann LeCun和他的小伙伴们，Uber一把挖走了CMU的一个系。。。
而志在星辰大海，想要从芯片到生态一统人工智能界的Google在这方面特别舍得砸钱。先是花了上亿买了Hinton，组建Google Brain。然后收购DeepMind，大把大把的拨钱。最近一笔投资把Yoshua Bengio也收入麾下。Google不光砸钱买人，科研条件也不含糊，随便一个研究就可以用上百个GPU。跟学校里只能用一两个GPU慢慢跑的苦逼比起来，就好比是你在这边摩托车运兵运的正High，人家五对负重轮碾过来了。。。
DeepMind充分利用了这一优势，抬高门槛，强势垄断了Reinforcement Learning（增强学习，就是AlphaGo用的算法）。前一阵我奇怪为什么只有DeepMind在发Deep RL的论文。Google吃肉围观群从蹭碗汤喝也好啊。仔细一看才知道，以前搞RL的人都是控制个火柴棍小人走走路。DeepMind说你们太low，我们要打小霸王，光打一个游戏还不行，怎么也得把一盘卡56个游戏都来一遍才能说明你得模型叼。但是同学们，训练一个游戏就要3、5天，就算你想出了一个绝妙的idea，你用一个GPU跑一遍结果也要半年，人家都发了两轮paper了。
美中不足的是Google极少公开代码，所以每次Google发一篇paper，都会出现世界各地人民加班加点验证结果的盛况，而且基本都验证不了。比如大名顶顶的Inception貌似到现在也没重现出来，大家都比官方结果低一个百分点以上。再比如Wavenet效果惊为天人，但也没人能跑出Google的效果。DeepMind海量的RL论文就更是了，至今也没看到多少靠谱的重现。苦逼PhD们不禁心中呐喊：Google啊，请你停下前进的脚步，等等你的人民（大雾）。当然也有正面例子，比如BatchNorm，虽然Google的paper里细节极少，但是大家不屑尝试后发现真的很好用，现在新的模型里基本都会塞个BatchNorm。
至于题主问对我们有什么启示，对我的启示就是不要跟资本过不去，所以我果断quit了（逃
如何评价 MXNet 被 Amazon AWS 选为官方深度学习平台？

你问我怎么评价，当然是好评:)
MXNet发展到现在有一年多了，已经是一个相对成熟的项目。我对我们的技术很有信心。MXNet的速度，节省内存，接口灵活性，和分布式效率都是可圈可点的。作为一个由爱好者发起，没有投资的项目，MXNet以前最大的短板是文档和宣传。而Amazon作为大财主以后在这方面可以起到很好的作用。
实际上Amazon对MXNet的支持已经有一段时间了，在Github上提交了很多文档方面的改进。细心的同学可能已经发现最近网站变好看了，拼写错误也少了很多（
MXNet Documents
），花钱请的前端和文案就是不一样。总体来说Amazon对开源社区很友好，除了对文档和稳定性的要求严格了一些并没有干涉我们的开发。Code Review还是我们自己在做，是否接收代码也是社区决定的。
在Amazon之前已经有很多公司在默默的用MXNet了，只是没有大肆宣传。比如图森，地平线，搞Mathematica的Wolfram都给MXNet贡献了很多代码。
我对MXNet的前景很乐观，欢迎大家试用，也欢迎贡献代码，众人拾柴火焰高嘛，不知道从哪里下手的同学帮忙完善一下文档也是好的。有意全职做MXNet相关工作的可以联系我们，我们可以帮忙介绍美国Amazon以及北京、深圳各大机器学习Startup的工作:)
P.S. 这篇文章里关于分布式效率的细节比较少，GPU也是K80，比较老。但是我以节操担保线性加速的结果是靠谱的。我们自己在Titan X上用resnet也能跑出类似的效果。大家可以来试试。
如何进行图像模糊与清晰的分类？

Sobel算子是convolution的特例，sobel能做的神经网络肯定也能做。正确率只有50%说明你训练的姿势不对。试试小点的网络，从头训练。调参是玄学。慢慢来吧。。。