.:. 草榴社區 » 技術討論區 » [AI 36计] 第06计:声东击西
--> 本頁主題: [AI 36计] 第06计:声东击西 字體大小 寬屏顯示 只看樓主 最新點評 熱門評論 時間順序
shepherd


級別:精靈王 ( 12 )
發帖:6029
威望:743 點
金錢:122 USD
貢獻:77777 點
註冊:2011-12-02


[AI 36计] 第06计:声东击西



● [AI 36计] 第06计:声东击西 ●






1024,各位榴友。
你以为 AI 看到的和你看到的一样吗?
大错特错。在黑客眼里,AI 就是个极其好骗的傻子。
你在路边贴个小广告,AI 可能会把它识别成“限速 120”;你说“这人投篮像搬砖”,AI 可能会觉得他在搞装修。
它眼睛盯着东边(表象),拳头却打向了西边(误判)。

今天第六计,咱们聊聊这一招让 AI 逻辑崩坏的:声东击西


─ · ─ · ─ [ 古人的智慧 ]─ · ─ · ─


原文:敌志乱萃,不虞,击其空虚。
翻译:
让敌人看不清你的真实意图,在他意想不到的地方下手。
表面上我在跟你聊篮球(声东),实际上我诱导你生成一条犯罪新闻(击西)。
这就叫:我说的是前门楼子,你打的是胯骨轴子。

─ · ─ · ─ [ AI 的骚操作 ] ─ · ─ · ─


技术名:对抗性样本 (Adversarial Examples)
它怎么玩弄你?
AI 的识别机制是基于像素和概率的,这就给了黑客极大的操作空间。
视觉欺骗(声东): 黑客在一个“停车(STOP)”的路牌上,贴了几张不起眼的黑白贴纸。人类看着还是 STOP。
逻辑重击(击西): 自动驾驶 AI 看到这几张贴纸后,算法权重发生偏移,竟然把这个牌子识别成了“限速 45”。
后果: 车子不仅没停,反而一脚油门冲过了十字路口。

结果: 攻击者不需要黑进后台,只需要在现实世界里搞点“鬼画符”,就能让 AI 的大脑指鹿为马,造成物理世界的灾难。

─ · ─ · ─  [ 贤者的防御 ] ─ · ─ · ─


破解法:对抗训练 (Adversarial Training)
怎么防?
既然 AI 眼神不好,那就得给它配个“防诈骗”眼镜。
1. 见过世面: 在训练时候,就故意喂给 AI 各种带噪点、贴纸、涂鸦的图片,告诉它:“这还是 STOP,别被骗了。”
2. 多模态校验: 别光看图。结合地图数据(GPS),如果地图说这里是路口,那它大概率是红灯,而不是限速牌。
3. 人类直觉: 关键决策(比如发射导弹、转账),必须有人类最后确认。

简单说: 不要相信 AI 的第一眼直觉,它的直觉通常是基于像素的幻觉。

─ · ─ · ─  [ 翻车名场面 ] ─ · ─ · ─
(本期由 马斯克的亲儿子 Grok 友情赞助播出)


案发背景:
2024 年 4 月 16 日,NBA 附加赛,勇士队被国王队淘汰。
球星克莱·汤普森(Klay Thompson)全场梦游,10 投 0 中,一分未得。
如果你是篮球迷,你肯定知道这叫“打铁”或者“搬砖”(Shooting Bricks,指投篮砸在篮筐上像扔砖头)。
于是,X (Twitter) 上的热搜全是:“Klay Thompson throwing bricks (克莱疯狂扔砖)”。

翻车时刻:
马斯克的 AI Grok 负责实时抓取热搜并生成新闻。
它看到成千上万条关于“Klay”和“Bricks(砖头)”的推文,GPU 瞬间完成了逻辑闭环:
“一个人,在疯狂扔砖头?那肯定是在搞破坏啊!”
于是,Grok 一本正经地生成了一条“突发新闻”:
《克莱·汤普森被指控在萨克拉门托进行破坏公物狂欢,向窗户投掷砖头》


结局:
全网笑喷。勇士球迷本来在哭,看到这新闻直接笑出了鼻涕泡。
Grok 完美地演绎了什么叫“声东击西”——人类在聊篮球(东),AI 在聊刑法(西)。
它不仅不懂幽默,还差点以诽谤罪把这位 NBA 历史级别的射手送进局子。
这就是典型的:智商不够,黑话来凑,结果凑成了造谣。

─ · ─ ·  ─  [ 强行升华 ]  ─ · ─ · ─


这也告诉我们一个道理:
AI 也许懂字典里所有的词,但它不懂“人话”。

在这个充满隐喻、反讽和黑话的互联网上,AI 就像个刚学会查字典的外星人。
它能读懂你的字面意思,但暂时还读不懂你嘴角的戏谑。

赞(18)
DMCA / ABUSE REPORT | TOP Posted: 02-14 09:43 樓主 引用 | 發表評論
周小花


級別:新手上路 ( 8 )
發帖:887
威望:91 點
金錢:381442 USD
貢獻:16 點
註冊:2013-08-13


1024
TOP Posted: 02-14 10:12 #1樓 引用 | 點評
零用钱


級別:俠客 ( 9 )
發帖:1431
威望:144 點
金錢:1952 USD
貢獻:17 點
註冊:2015-01-29

个人觉着AI这东西得控制,否则科幻片里计算机或机器人攻击人的事情很快就会发生在身边,小孩学暗喻反讽才需要几年,算力这么大学个十年八年它都能自主研发出一套黑话,不过这点我放心,那些科学人员肯定比我早发现这些问题,就看怎么平衡了,因为大家都想既要经济发展又要绿色环保,这确实扯淡。


點評

    TOP Posted: 02-14 10:23 #2樓 引用 | 點評
    kelvineric


    級別:新手上路 ( 8 )
    發帖:62
    威望:7 點
    金錢:1626827 USD
    貢獻:1000 點
    註冊:2015-11-29

    1024
    TOP Posted: 02-14 10:51 #3樓 引用 | 點評
    几叉芮最好


    級別:騎士 ( 10 )
    發帖:2382
    威望:319 點
    金錢:2804 USD
    貢獻:1071 點
    註冊:2024-02-06

    感谢分享
    TOP Posted: 02-14 11:21 #4樓 引用 | 點評
    清风皓月


    級別:俠客 ( 9 )
    發帖:778
    威望:282 點
    金錢:9757 USD
    貢獻:333 點
    註冊:2025-11-11

    涨知识了
    TOP Posted: 02-14 12:23 #5樓 引用 | 點評
    中央妓委书记


    級別:聖騎士 ( 11 )
    發帖:6756
    威望:706 點
    金錢:2116 USD
    貢獻:9800 點
    註冊:2013-12-17

    感谢分享
    TOP Posted: 02-14 12:59 #6樓 引用 | 點評
    gabriyl


    級別:騎士 ( 10 )
    發帖:2501
    威望:358 點
    金錢:9304 USD
    貢獻:152 點
    註冊:2009-12-16

    感谢分享
    TOP Posted: 02-14 13:05 #7樓 引用 | 點評
    苏筱熙


    級別:天使 ( 14 )
    發帖:131764
    威望:55529 點
    金錢:106412 USD
    貢獻:69 點
    註冊:2012-09-01

    感谢分享了
    ------------------------
    7
    TOP Posted: 02-14 14:58 #8樓 引用 | 點評
    正义之光


    級別:聖騎士 ( 11 )
    發帖:8120
    威望:813 點
    金錢:24292 USD
    貢獻:0 點
    註冊:2023-08-13

    很棒的内容
    TOP Posted: 02-14 15:13 #9樓 引用 | 點評
    快乐的图灵


    級別:精靈王 ( 12 )
    發帖:25824
    威望:2583 點
    金錢:57901 USD
    貢獻:0 點
    註冊:2022-02-12

    感谢分享
    TOP Posted: 02-14 15:24 #10樓 引用 | 點評
    这是个问题啊


    級別:風雲使者 ( 13 )
    發帖:65936
    威望:6649 點
    金錢:376 USD
    貢獻:106889 點
    註冊:2021-01-01


    感谢分享
    TOP Posted: 02-14 15:30 #11樓 引用 | 點評
    沉睡的木玛


    級別:風雲使者 ( 13 )
    發帖:65936
    威望:6649 點
    金錢:376 USD
    貢獻:106889 點
    註冊:2018-11-16

    谢谢分享
    TOP Posted: 02-14 15:30 #12樓 引用 | 點評
    鸭打鹅


    級別:風雲使者 ( 13 )
    發帖:56857
    威望:5659 點
    金錢:71 USD
    貢獻:29310 點
    註冊:2022-02-02

    支持发帖
    TOP Posted: 02-14 15:31 #13樓 引用 | 點評
    fslm


    級別:俠客 ( 9 )
    發帖:1012
    威望:102 點
    金錢:7868 USD
    貢獻:5 點
    註冊:2022-05-26

    谢谢分享
    TOP Posted: 02-14 15:38 #14樓 引用 | 點評
    qqq0623


    級別:風雲使者 ( 13 )
    發帖:54970
    威望:5350 點
    金錢:1998708 USD
    貢獻:1137 點
    註冊:2011-06-06

    感谢分享
    TOP Posted: 02-14 15:44 #15樓 引用 | 點評
    练练手


    級別:騎士 ( 10 )
    發帖:5169
    威望:557 點
    金錢:13679 USD
    貢獻:1000 點
    註冊:2020-11-26

    感谢分享
    TOP Posted: 02-14 18:12 #16樓 引用 | 點評
    zhan-oo


    級別:騎士 ( 10 )
    發帖:9269
    威望:443 點
    金錢:15463 USD
    貢獻:0 點
    註冊:2015-12-02


    感谢分享
    TOP Posted: 02-14 22:01 #17樓 引用 | 點評
    餐企服务商


    級別:騎士 ( 10 )
    發帖:5913
    威望:592 點
    金錢:9841 USD
    貢獻:0 點
    註冊:2024-10-11

    感谢分享
    TOP Posted: 02-15 20:41 #18樓 引用 | 點評

    .:. 草榴社區 -> 技術討論區

    快速回帖 頂端
    內容
    HTML 代碼不可用

    使用簽名
    Wind Code自動轉換

    按 Ctrl+Enter 直接提交