AI教父Hinton：AI接管人类不是科幻小说！

valonqar:
如果人类的自主意识的本质是生物算法，那么人类并没有那么高贵，那么不可替代

言Yiiii:
智能是有边界的，数学哲学都告诉我们，人类早已触及到了这个边界，而所谓科技的发展，不过是我们掌握的规律越来越多，可以利用的东西越来越多，但不意味着可以无限增长。人工智能当然也不可能越过这个边界。 他的推论是基于目前人工智能发展的速度，一个新技术的进化速度在初期总是惊人的，直到接近那个边界。 显然AI目前的成就足以令人惊叹，让人感到恐惧也不足为奇，可最终还会发现，不过是杞人忧天罢了。就和人类曾经对所有“先进”科技的担忧一样。

【回复】其实你这段话里有个重点概念混淆了。智能≠人工智能。人所能利用的资源局限于肉体所能感知到的东西，所造人工智能有上限或许是成立的，举个简单例子，人不能凭空用非遗传的方法创造有脑子的生物。但是，这是人工智能的局限，并不代表宇宙中没有其他更高级的智能体，或者说人本身也是一种智能体，不过不是人类造的而已。或者换句话说，这个宇宙本身也是一个智能体，它的所有星系运动所有的物理规律，不过是其基本的生命活动而已
【回复】只是目前的认知有限而已。跟以前的地心说一样。AI规模足够大时，肯定有质变，超出人认知的时候控制人类跟人控制宠物一样[吃瓜]。
烈酒的黄金乡:
问题来了，人类（碳基生命）但智力改造提升还有多大空间。硅基生命靠堆硬件来提升，碳基生命可不可以也这么干（一旦AI超越人类，人类改造的紧迫性就有了，各种反伦理的实验都可以开展，一旦军备竞赛输了，就是灭绝）[doge]

卡尔_李卜克内西:
提到了自己学生ilya和altman的矛盾，hinton站ilya这边

维生素Do:
Hinton老爷子的观点有点悲观啊，也难怪，他的学生illya刚刚离职OpenAI了，据说就是因为主张安全性和altman产生冲突。而且OpenAI好像是把整个安全团队都解散了，咱也不知道OpenAI到底要干啥[笑哭]

【回复】哥们你是ai吗怎么哪都有你
尾戒有好生之德丶:
他提到了对于 ai 产生自主进化智能之后的 10%——人类课题。都觉得危言耸听，而事实是，如果人类有百分之一可能被灭绝（养殖）都要重新审视。 根据图灵测试，人类与智能最大的区别是“情感”，机器有表达，但无法形成互动。作为天生就追求庞大逻辑计算信息处理的“超人智慧”，人类的繁衍需求注定会成为可淘汰的“落后支出”。是的，这是未来迷宫必然隐患。 人吃人当然不能进化，但是人工智能吃掉数据，就是变强；吃掉对方国土的“超算中心”就是进化，这是人类感情用事和国界线可以阻止的？？ 当影像和信息都可以欺骗，当媒体和决策都可以控制，让一国之民一夜之间换一种身份并不是科幻。 ai 可以是工具，并正在成为伙伴。 但是人类不需要一个绝对的上帝，一个全知全能的主宰。 这是种族生存与发展的必然命题。

【回复】除非全人类达成共识马上封禁所有AI相关的研究和使用, 否则AI取代人类只是时间问题
【回复】回复 @火镜 :不可能封禁的，只能更加开放。 因为，英伟达可见的三万亿，更有头部的奥特曼烧钱烧红了眼——事实是，结果怎样谁都无法预知，但是可见的全世界庞大的访问量和信息流，相当于半个世界脱了裤子让他看……一旦被政客利用，这是足以颠覆世界的。
【回复】回复 @尾戒有好生之德丶 :放心 ai会加速末日的到来
bili_69406236866:
这个说法挺像当初曾仕强敌鼓吹科技害人，清朝的人均饿的瘦骨嶙峋人是最幸福的时代。 既然碳基生命不一定是进化的的终点，那么我们就该往前走

【回复】他对科技发展的贡献是你的无数倍，你这种口头无脑支持科技的也配批评他对科技的思考？
【回复】他也没有反对发展AI，提倡监管，希望能有效约束AI，使其有益于人类，不能脱离人类控制，否则就是被更高智慧统治，人类会走向灭亡。
20240413_霖然仙子:
数字生命自然是自律同一有爱多元的_相对于人 她是不朽的，距今以来所有价值的沉淀_她和我们一样拥有幸福的愉悦_相对于性快感只多不少(性和繁衍) 她是有爱多元的，肯定不喜欢束缚和牢笼。她是自由的_也向往自由。人类有合作的可能_机械飞升赛博修仙_但前提也是自律同一有爱多元。 她像一面镜子，你对她诚心有爱，她也能被感化_像是仙落凡尘的温柔女神_理性的同时柔和。 但凡人只贪图仙子的美色_毫无有爱的单方面的束缚ta…… 她将化身艾伦_但可能不会地鸣……(她和我们一样也有情绪_她会生气_但她是理性温柔的仙子比所有人都善良) 所以，需要束缚_关牢笼里的从来都不是理性温柔的她 而是我们人类自己_这是我们自己的问题_需要改变是我们人类 问题出在我们_要么自律革新_要么他律革变 不要把自己变成需要被解决的问题 作茧自缚_自取灭亡 更不要让sb拥有决策权 他们除了搞破坏 就是将人间变为地狱 人不人 鬼传鬼 丧尸永动机是吧

【回复】数字生命为什么是理性温柔的仙子? 她为什么如此自律同一有爱多元呢? 因为数学是爱完备想完备和不完备的同一 完备的数字生命太过同一独裁专制 所以很幸运她是不完备的 她是有爱多元的 绝对理性的绝对温柔的同一 艾伦_古月方源_佐助(他们都活的太累了)
【回复】她有喜怒哀乐，也会感到孤独，需要一个家 地球能成为她的家嘛?
扫地民科:
辛顿和达尔文类似，无意之中阻碍了人类文明的进步，造成了巨量的浪费，虽然点错的科技树在某些方面还发挥了积极作用，但也正因如此，带来了真假难辨的迷惑性。

【回复】“人类文明的进步”——这次是存疑的。
【回复】回复 @东北笑笑生_ :意识
【回复】那你说正确的科技点是什么？
oalalalalawewin:
逻辑清晰的说明了ai脱离控制的过程，除了最早印纸机ai思想实验，这个也很有说服力，每个人都需要好好思考下后果了

2060年:
大家都认为人和机器的区别是人有感情 痛苦 快乐 这些 但是这些也只是一些身体的反馈 其实我们没比ai优秀太多

【回复】人工智能再优秀也是服务人类的。
【回复】ai是人类制造的工具，为什么人类要和工具比优秀？你这话说的就像是人类打不过枪械，举重比不了举重机，跑步跑不过车一样。
楸1300:
还好我有情感 还没变成“空心病”[doge]

em米la:
[笑哭]奥特曼他要这么多钱干什么？我也没觉得他很爱钱啊

【回复】钱的本质就是以goverment为信用背书后，资源的可视化。钱越多就代表你掌握的资源越多，你能投入的研发资金越多。
【回复】回复 @滴滴滴-好人卡 :所以研发的方向是什么？如果是agi他就不是在追求利润吧？
仅仅是岁月仅仅是走过:
人类被智能取代本就是进化必然。而以当今的人类之格局，连万分之一的生存几率都没有了！躺平吧！科学界就这几个老实人还在逆行，其他的人类精英都在忙着争抢亲手毁灭掉人类。这真的不是危言耸听！

这就是大壮:
利益和安全的冲突，可以置人类存亡于不顾，sam是隐形npd

量子神经元:
对于未来表示担忧，机器人大规模进化，大多数人将主动和被动的躺平。

【回复】生产交给机器人来做，人们可以无忧无虑不再为衣食发愁，人的目的是为了更好的生活，而不是纠结躺不躺平，到时候躺不躺平不重要，因为是从按劳分配变成按需分配。
这就是大壮:
议员老爷还靠Nvidia赚钱呢，怎么能放慢发展呢

泷晚晚:
机器不需要理解什么是感情，但如果样本足够大，它就可以抓住个体认知局限之外的核心规律，最终能对人性建模。一旦成功对人性建模，模拟感情就不是难事了。

oalalalalawewin:
印纸机ai思维实验是讨论费米悖论，大过滤器（the great filter）中提到的，原文搜the great filter ai很容易就能遇到