AI时代的智能研究：Hinton,Ilya, Demis大神同台圆桌【中英】

logsai:
个人感觉目前的技术突破总结起来embedding和selfattention更重要，反馈和梯度在计算框架中作为自回归技术的关键是很显然的重要，作为从概率推断迁移过来的机器自回归技术，其实还蛮自然的，真正难以开发的是embedding和self attention，这两个技术源自向量运算和图计算的复杂应用，个人觉得比较难发现和开发，算是神经网络最终呈现惊人效果的关键了。其他一些技术例如归一标准正则残差位置编码独热等都算是trick。

【回复】回复 @何为用户名 :hinton的完整观点是？
【回复】回复 @logsai : 就前面那5分钟的观点，我感觉还是挺有道理的，如果是在research风格下。
【回复】还是回到计算上，像Hinton说的那样，计算效能。这是说的比较有道理的点。
不必问天机的施主:
Geoffrey Hinton 和 Demis Hassabis 一样是英国人，两人是剑桥大学校友，Hinton后来在爱堡大学完成博士学业后去了北美，多伦多大学的那帮人（包括Ilya Sutskever）都是他带出来的。

【回复】demis是hinton学生的学生吧，论学术辈分比ilya其实还矮一辈
Mr_Encore:
Hinton既有维特根斯坦式的谨慎守则，总是说自己明确知道的，对于不知道的保持谦卑，又有接地气的抽象能力，可以把艰难晦涩解释的令人顿悟。Demis是个典型的创新科技公司的工程师，严守结构和规则的同时总想着向前一步。Ilya，我看了至少三篇超过1个小时的他的访谈，或许是某种大智若愚，但是我只能get到他是个猪鼻。

【回复】回复 @MJMOJ : 不能吧 这三个人都傻能搓出来ai？你这是在间接骂全球的科研人员比他们更傻[吃瓜]
【回复】一般。我觉得他们三个都挺傻的
【回复】一个说话时突然卡PPT式停顿，且基本在大段大段重复车轮废话的讲述人。他让我深刻的想起当年用基于GPT-2的playground玩文章接龙的感受。
洋镇不想当up主:
貌似讲了神经科学用来或者gpt4就是神经科学的功劳，需要打钱。 如果这是在做人脑，超级人脑，而非超级电脑，那么后果不可预测