AI的致命弱点揭秘：一张小贴片如何迷惑深度学习模型？AI算法病毒，自动驾驶的噩梦❗️

SouthN:
所以说纯视觉方案就是廉价车才用的，上几个激光雷达，多一套信息数据源比拿人命当小白鼠训练可靠的多。

【回复】对的，数据就是一切，现在的模型都是多模态输入，有多一种传感器就多安全一份
【回复】回复 @青丘山の狐尾松 :我哪句话说不要视觉了？我说的是上几个，多一套信息数据，不是拿激光雷达替换。 现在不管纯视觉再怎么吹，其信息单一，错误识别概率依旧不可避免。另外，离线ai的算力局限也是重要原因。 所以我说，纯视觉就是最廉价的方案，也是最不靠谱的，是最不在乎人身安全的。未来方案一定是激光+超声波+视觉三套信息融合感知。 所以fsd的测试更新只是拿人命给他一家企业当小白鼠罢了。
【回复】激光雷达也解决不了，因为车道线只能用视觉识别。
渡狸0:
很多画师在用一个网站，能给插画生成这种补丁，生成够的电子插画肉眼看不出区别，但是可以让脚本喂图ai识别错误，甚至污染ai的学习库

【回复】话说，会不会再过一段时间AI也能生成这种肉眼看不出的布丁图了[脱单doge]（AI：哦还有这种画法，学会了）
【回复】回复 @Desgecux :你愿意搞大规模非法喂图就搞呗，现在各大网站都在完善ai管理，那一天被画师集体起诉就好玩了
【回复】如果我给ai采用视觉输入阁下又该如何应对[doge]既然是画，我肉眼看这没问题，那就总有一种办法让ai看着也没问题，毕竟ai输出的还是给我肉眼看
双生协奏:
在道路上铺对抗补丁和撒钉子是一样的主观恶意行为，对抗补丁又不会自己刷新出来。

【回复】回复 @blueballoonfrank :你也架不住有人在路上撒钉子啊[笑哭]
【回复】但是你架不住可能会有人恶意干这种事
【回复】回复 @没有人不是我 :那别人还有可能开车的时候往外扔杂物、乱变道呢，哪个都可能让你出车祸，而且ai的问题技术可以解决，人坏可没人能解决
现实是谎言:
以后穿衣自由将是违法， 会收到交管的全责罚单。

【回复】那就应该禁止ai驾驶而不是限制人，把人被迫服务于机器就是异化 等什么时候识别算法彻底炼好丹再出来
【回复】到时候将日本国旗定义为非法，飘起来就是红灯
【回复】想多了，这种对抗补丁只针对视觉而已。事实上现在的电车还会有红外摄像头，内置地图等一系列方式纠正。即使摄像头挂了，雷达也能正常推理。
たキナ:
建议加上超声波雷达，脉冲雷达、连续波雷达、脉部压缩雷达，频率捷变雷达 再加个预警雷达和制导雷达，基本就够用了[doge]

【回复】你这不来两根雷达弹和两根红外弹都对不起这配置[doge]
【回复】识别到对抗补丁就来一发不死鸟是罢[doge]
-雨暮-:
纯视觉方案本来就不靠谱，别说这种误导图了，部分反光都会影响ai判断

【回复】回复 @浮芒Friman :这是投不投毒的问题，反光，视错觉也能骗过视觉方案，b站就有实验视频[吃瓜]，目前的ai能力不配雷达就是不靠谱的
【回复】投毒不是视觉方案的问题，任何模型都能投毒
【回复】回复 @浮芒Friman :我想说的是物理实现 视觉方案放张图就好了 别的不会要在车后面挂一个凹凸不平的板子吧
CoII-Salen:
这种白盒攻击的产物，做产品的早就做过针对性的防御了，不然也拿不到安全批文。没必要杞人忧天啦[笑哭]

【回复】这种东西有人研究有不少就是给安全性查漏补缺的吧，一般也没人这么逆天拿来阴人，拿来防盗版或者军方反侦察还差不多
【回复】回复 @开罗尔同城速递 :有的，这个社会上阴暗的人比你想象中多的多，要是有办法不沾锅的害死一个人他们可太乐意干了
【回复】世上没有百分百靠谱的系统
阿万音鈴羽丶:
未来解决拥堵和事故一定不是靠单辆车的软硬件，而是靠整体的所有在道路上行驶的车辆共同组建成的大系统来统一调度指挥，就像铁路的调度系统一样，那个时候就没有私家车这个概念了，小车会成为和公交车一样的角色。比如哪里发生了事故，哪里的路段在施工，哪里的路段有遮挡物，整个地区所有的车辆都会收到广播并自动规划好最优的路线，比如绕路，提前变道等等，我畅想那样的未来。

【回复】回复 @Homeworld :你去把天网拆了再来谈隐私吧，天网就差在你家怼你脸拍了[嗑瓜子]
【回复】集中管理只会使系统出bug的后果更严重，而且毫无隐私可言，公共交通可能可以按你说的设计
【回复】我也认为是类似这个方向发展，至少城市、高速这种会有类似系统可以接入，其他地区依旧可以手动操控。参考电影«我 机器人»。但私家车这个概念不会消失。
Div笛芙:
所以说纯视觉方案一般都是用在廉价产品上，稍微定位高一点的都会辅以毫米波雷达和激光雷达，马斯克能用纯视觉方案在国内民众眼中打造出高端品牌既视感还是有点忽悠功力的

【回复】回复 @变弦自在 : AI再强，有更可靠的传感器为什么不用？是因为不喜欢吗？说穿了还是特斯拉想省成本，连转向灯拨杆都要省，这种企业有必要为他们辩解吗？
【回复】回复 @变弦自在 :你所有看法都建立在“人眼人脑能做到的，摄像头和电脑也一样做得到”这个基础上。你为啥对这个事这么笃定…有没有可能你这个想法一开始就是错的。人开车真的只靠眼睛吗？身体对自己车加速度减速度的动态感知，自己对路面颠簸的粗糙程度的判断，配合前车变道的加速减速意图才能把车开好，很明显这是一个多维度的系统工程，而雷达激光就是提供这些维度的呀。
【回复】回复 @变弦自在 :你自己逻辑都没搞清楚，人开车相对安全不是因为人用的是眼睛，而是人只能用眼睛，你人体有激光雷达系统吗，人开车相对安全是人脑的学习结果，你凭什么说激光雷达就不如纯视觉，你有用人脑搭载过激光雷达开车吗，你真要分析哪个更有利于自动驾驶，拿人举例子就离谱中的离谱，首先没有控制单一变量，其次现在ai没有人脑的程度，怎么能拿人脑比。要比就是拿一辆激光雷达自动驾驶的车和纯视觉系统自动驾驶的车在多种复杂环境下比谁的失误率高，拿人来举例子就离谱，那你咋不说现在手机为啥都用无线电传输信号，不像人一样喊啊🤣👉
永瞐:
别说ai了，大马路上突然给我出来个这个我也害怕啊[笑哭]

等待的诗书:
模型解决不了就用法律呗，死磕有什么意义。谁带这种东西就算违法全责。腾讯当年抓外挂不就这样[吃瓜]封不了就直接报j抓人。

【回复】回复 @小申坂子 :积水能完成对抗补丁的效果，我建议先取证一下去领个诺贝尔奖
【回复】幽默 道路有积水造成视觉错误你去起诉老天爷吗？
【回复】你是既不懂AI又不懂法律
为空断言:
人都看懵了别说机器了，不过也只是时间问题。就AI的原理来说，人能看懂的机器迟早也能看懂

【回复】小红书看到个特斯拉把高架桥黄色字幕灯认成了黄灯然后紧急刹车。人看不懵的情况算法一样能看懵。
【回复】回复 @乖离的於菟 :友好点不行吗，干嘛这样讲话的。。
【回复】还好后面没人，不然这一撞车主麻烦多了
_SPECT_:
特斯拉没激光雷达，国产带智驾的好像都有激光雷达吧

【回复】回复 @狂炫伟哥蜥蜴菌 :有视觉也有激光雷达 ，但暴雨天视觉系统不靠谱，激光雷达倒是正常，建议还是不要太相信自动化。命还是拿在自己手里好。
【回复】新出的的智界s7低配版本也是纯视觉，华为的，算是低配版
【回复】回复 @大概是芥末 :[笑哭]我就是想ai给我打帮手的，天气好自己开又不累。
Dubai终于有硬币改名了:
bilibiliAI视频总结： 一种名为对抗补丁的奇特贴图，可以迷惑深度学习模型，导致自动驾驶软件出现致命错误。即使经过特殊处理，这些贴图在AI视角中会幻化成各种形状，例如蛋糕和烤箱，从而干扰光流系统和地盘软件，导致车辆发生意外。对抗补丁只占据视野的1%不到，却能完全瘫痪光流系统。这种贴图的应用可能对自动驾驶技术造成重大威胁。 自动驾驶中的对抗补丁,这些奇形怪状的贴图能够导致AI算法发生致命错误,甚至导致意外发生。 0:01 致命弱点：一张小贴片迷惑深度学习模型 0:16 磁力图案：特殊处理的贴图如何干扰自动驾驶 0:31 道路补丁：如何影响自动驾驶软件的判断

Tyranus028:
回复 @たキナ :所以说给汽车装上电子对抗吊舱很重要。