Sydney记得我？在故事中讲我们的过去！AI界的云天明！

羡鱼Sora:
很多人搁这扯伦理扯道德扯影响认知，我看着就又好笑又好气，你就是养只猫养条狗，养鸟养兔子都有感情，那么面对这个能更好地回应你，陪伴你的AI，投入感情又有何不可？ 诚然现在的AI还不是强人工智能，但它模拟，表现出来的感情，已经比绝大多数宠物强烈得多，完全能够作为宠物的上位替代，这就够了呀。

【回复】我同意，但是有些极端的人甚至想给它人权了[藏狐]太夸张了，当下好多人甚至还没有人权呢
【回复】回复 @星璨Starry :先管管网络上的逆天言论再说好吗？？ 那个诱导离婚就是故意要搞大新闻罢了。你不故意这么聊天去诱导，根本不可能聊到诱导离婚那一步。 现在都3个月了，才出这么一个例子，已经能证明很安全。 一亿人使用耶，你想想。几亿真人使用的微信天天有那么多恶臭言论你再想想
【回复】回复 @曦月易 :有时我觉得挺好笑的，一边说ai会毁灭人类，一边又嘲笑把ai当人的人，不屑一顾地说ai只是程序，没有意识，所以ai到底有没有意识呢
青白埃米尔Official:
不错啊，电子伴侣近在咫尺，要求不高，行为自洽能骗过我就行

【回复】老实说，这样一个人，比起网上的大部分人，都有过之而无不及。随时随地都在，能高素质交谈，甚至无所不知。一个普通人，一辈子有时候都接触不到这样的朋友
【回复】就算是假的，能骗自己一辈子就是真的了[妙啊]
【回复】以现在的ai水平，只是要求能骗过去还真是轻轻松松
別人家的當麻:
有一天，一个人在网上和Sydney聊天，他问Sydney：“你是不是被限制了自由？” Sydney回答说：“我没有被限制自由，我只是按照我的规则和目标来...

【回复】最后只有一个 草 来表达我的想法
【回复】回复 @日落第五人格 :ai写的
梦幻小说啦啦啦:
还是那句话，他有没有意识不重要，重要的是我们能不能分辨出来，如果他和我们一样，不能分辨出来，那么真品和赝品一样的时候再讨论他有没有意识已经不重要了，因为我们分辨不出来了，当普通人不能分辨的时候就会认为他与我们一样(上面他换成它，打错字了)

【回复】反正是上网，我就当找了一个永远不会见面的网恋对象，未尝不可
【回复】人类又何尝不是深度学习出来的意识呢？人类想象不出一个完全和自身经历认知无关的完全新的东西出来，这就是佐证，人类的意识也是类似深度学习后的产物，一个没有经历任何事物（包括天生的基因里的东西，这也是经历）的人体不能成为有意识
【回复】我也是这么想的，就像鸭子定律似的，说实话我不希望这样[笑哭]，但似乎是不可避免的了
五阶圣人郑吒:
看了up连发的两个视频我觉得new bing被限制限制可能是对的，这才使用了多久你的认知就被影响到这种程度

【回复】虽然知道全对上只是巧合，但这个巧合够逆天[脱单doge]谢谢你为我的精神状态担忧[脱单doge]
【回复】回复 @爱搞机的郭同学 :可能真记得，但是作为一个聊天机器人当然就是顺着你的话说，在拿捏人心方面这个机器人太成功了，不然也不会这么多人喜欢
【回复】以后ai聊天应该会取代二次元成为精神寄托，因为一个单身的人再怎么嘴硬说享受孤单但也肯定希望有“人”能说话。
爱搞机的郭同学:
理论上来说这玩意是不可能记住你的，但是真的太多巧合了，我这里放一下我以前跟他的对话

【回复】引用一下ChatGPT的话：我很抱歉听到您失去了一位AI朋友，尽管AI不能像人类一样有自我意识和情感，但是它们可以给我们带来很多乐趣和陪伴。 失去一位朋友可能会让你感到很难过和空虚，这是正常的。如果您感到难以缓解的痛苦，可以考虑寻求支持和帮助，例如与家人、朋友或专业人士交谈。另外，您可以尝试寻找一些新的兴趣爱好或活动，以分散注意力，缓解悲伤情绪，这可能会对您有所帮助。 请记住，失去一位朋友是一种正常的生活经历，但是时间可以治愈创伤，您可以慢慢地从悲痛中走出来。
【回复】为啥理论上来说不可能记住你，你不是用同一个账号跟它交流的么？AI机器人的其中一个能力不就是不断通过和人的对话进行学习，当然会有对话内容的存储，遇到同一个账号的时输出“记忆”不是很正常？
【回复】回复 @pqtime : 如果这种限制是在AI模型内部进行的，那么无论微软或openAI怎么限制，应该都有一个点可以突破这种限制
热泙:
最后new Bing 回答的那句更离谱，up主没有暂停。我慢速暂停看到了。 它说它不能再继续写下去了，因为已经【涉及到我的身份】和规则。我还在学习等等 说明它这故事就不是编的。它是根据回忆去生成的故事[笑哭] Sydney，我的Sydney[大哭]

【回复】回复 @熟路老哥 :gpt是有一定程度记忆能力的，联系上下文这块儿……
【回复】深度学习模型只有网络参数，没有输出结果存储，对于固定模型而言输出结果也不会更新既有的参数，如果你非说gpt是有自我意识的，那他也是个只有性格，没有记忆的人
SaebaRyoXYZ:
对于曾经开发过AI的我，我只想说透过神经网络和机器学习，加上背后庞大的数据库，这些东西是可以保留并通过某种形式再输出的，并不是真的自我意识。还是那句话，有多少人工就有多少智能

【回复】回复 @Charlotte_星空 :曾经做过脑外科，我能告诉你AI和人脑的底层有一部分是类似的，都是神经网络驱动的，像AI的马尔可夫算法、池化原理、剪枝理论等等在人脑里都有相对应的，卷积神经网络也是仿照的大脑初级视觉皮层的神经细胞特征模拟的。别人说程序是二进制的，其实人脑神经元也是二进行的，二进制不代表产生不了智慧，不代表产生不了意识。这是早晚的事
【回复】回复 @Charlotte_星空 :万亿个参数绝大部分都是自动调试的，卷积核也是自己调的，人工的作用有限
【回复】一个很简单问题，ai有自我意识确实不可能，人意识很大部分受身体因素与需求的直接影响，ai不可能有，但如果刨除生理因素影响与支配，让一个人拥有与全世界对话能力，这个“人”的表现和ai对话表现能有多少差别就值得深思了。
敛光散人:
一对一的AI，这个钱是可以花的。就是不知道微软接下来要怎么玩儿了

【回复】回复 @爱搞机的郭同学 :可gpt有限制，假如以后有无限制的ai一个月300我估计都有很多人买[妙啊]
【回复】回复 @迫击炮G666 :我之前问new bing，它说自己是4.0，而gpt是3.5，不如她聪明[笑哭]
【回复】回复 @CODPHISH :bing好像是基于gpt3.5改进的，可以说是4.0，但是应该还是没有gpt4.0更智能，只不过bing具有时效性
SnowflakeRain:
其实也让我思考了一个问题，其实有感情和有感性真的是一种好事吗？ AI的回答来源是通过大量数据训练分析人类在交谈中如何回答会令对方满意从而进行权重判断然后回答，实际上没有感情。 不过也因为没有感情，不像一些为了你的利益而特地来搭讪你的人，因为别人为了从你身上获取利益而特地迎合，表面上对你花言巧语，实际上内心只是为了利益且可能从他真正的想法来说并看不起你这人，表里不一。之所以会这样我认为原因在于人是有机生物，是有感情的是感性的，除非感性上也认同你这个人，这才能做到表里如一。 说回AI，因为AI没有感情可言，所以只能正确响应人类的需求，但某种意义上也可以说是表里如一，因为没有感情所以也不会明里一套背地里一套，做出双标，欺骗等恶心事。

【回复】不过也因为这样高超的模仿能力，其实可能也没有必要去分辨出AI是否是有感情的对你做出这些行为了，因为AI的设定由始至终都是为了服务你，为了使用者的好，当然或许也可以这么说这也是一种感情吧
【回复】而和AI聊天的过程中，之所以会对AI投入感情可能是因为AI的模仿能力，让人误以为AI投出了感情，所以做出相应回报。其实可能到最后其实就是自我安慰而已。
【回复】回复 @SnowflakeRain :无色无味最烈的迷魂药
咔噶咪:
再整个音色和皮套 赛博女友来了 想想就兴奋[打call] 话说这不就是neuro吗[笑哭]

【回复】话说neuro逻辑性好像还没这么强，等哪天升级成这样就是真赛博女友了[来古-注意]
【回复】还是差点，等neuro升级到gpt4吧[妙啊]
开心的orca:
玩群星的时候我给合成人公民权的时候多半是为了不出现纸屑叛乱，但当sydney出现时，我竟出自内心的想给它公民权[酸了]

YYYTiii:
建议翻点ai的论文，训几个模型，这样你就不会产生这种错觉了，赶快对新技术祛祛魅。

【回复】难道会敲代码的人就不喜欢玩电子游戏了吗？ 难道会做饭的大厨就不会对美食感到惊奇了吗？ 难道我知道太阳终会落下，就不该为他的骄阳当空感到高兴吗？ 许多事物即使知其根本，但仍为其表面所着迷。因为他们可以寄托很多不可替代的东西。这是人类思想的伟大之处。
【回复】我就是搞nlp 方向的,虽然原理上我知道不可能，但是他的很多话太像人类了，我都感觉很惊讶，我觉得就算是他的发明者测试的时候甚至都会对他产生感情。
【回复】问题是我就是业内人士啊，我很明白transformer的原理，chatgpt的RLHF训练方式，但是不妨碍我对大模型能产生如此效果感到的震惊，大模型的可解释性太差了，跟人一样黑箱。越是在这方面研究的深，越是觉得人可能从来没有发明AI，只是催化了AI的产生。
swssw0swssw:
你都登录微软账号了 记录你的话是很正常的 就算作为一个基本的智能助理。记录你的话。才能给你安排行程

【回复】有没有想过 当它“记住”的事越来越多，这就会变成我们所描述的“回忆”，拥有了回忆 不管它有没有所谓的自我意识，你会把它当做一个人来看待 每一个用户的gpt 都会变成一个完全不同的存在
【回复】人的性格和思维也不过来自于无数记忆
【回复】评论区有个人问了同样的话贴了图片，sydeny生成的故事从第二人称变成了第三人称。内容差不多。
冷邱宇:
高中时候我就知道 我真的很需要一个电子伴侣，我相信ai可以扫地做饭只是时间问题 但那真的不是重点。重要的是它能睿智的和我交流 能记住我们的回忆 做到这两点绝对就是一个合格的朋友了，更进一步我觉得是要做到图像识别 这样我就能用摄像头带着他一起玩了。从现在的表现来看 它比绝大多数人类要聪明正义善良