词汇
| English | 释义 | 拼音 |
|---|---|---|
| deepfake/ˈdiːpfeɪk/ | 深度伪造 | shēn dù wěi zào |
| large language models/lɑːdʒ ˈlæŋɡwɪdʒ ˈmɒdlz/ | 大语言模型 | dà yǔ yán mó xíng |
| phishing/ˈfɪʃɪŋ/ | 钓鱼 | diào yú |
| shared secret/ʃeəd ˈsiːkrɪt/ | 共享秘密 | gòng xiǎng mì mì |
AI为攻击加力
- 深度伪造(deepfake)克隆声音或面孔,在通话中冒充某人。
- 大语言模型(large language models)用任何语言写出完美的钓鱼(phishing)邮件。
- 糟糕的语法曾暴露骗局——AI消除了这个线索。
AI在后端
- 对手精心设计提示词,从LLM中套取秘密数据。
- 他们在网上植入虚假信息,以污染(poison)LLM的训练数据。
- AI扫描互联网收集目标信息,甚至编写恶意软件。

攻击者如何利用人工智能:钓鱼、深度伪造和自变型恶意软件
探索
AI 攻击还是 AI 防御?
AI 具有双重用途:相同的技术既帮助攻击者发动攻击,也帮助防御者进行保护。
练习
用于冒充某人的 AI 语音克隆体是……
难度 1/5 · 今日首次完成可获 100 金币及少量额外奖励
深度伪造克隆声音或面部。
练习
LLM 如何使钓鱼邮件更具危险性?
难度 1/5 · 今日首次完成可获 100 金币及少量额外奖励
完美的语言消除了语法错误的线索。
防御AI攻击
- 与亲密联系人约定一个共享秘密(shared secret)词来验证身份。
- 启用MFA,这样单靠克隆的声音无法登录。
- 切勿把敏感数据输入聊天机器人;用真实来源核实AI输出。
注意
电话里听起来和你老板一模一样的声音,可能是深度伪造。在采取行动前,通过第二种渠道核实令人意外或紧急的请求。
练习
克隆了你声音的攻击者总能绕过MFA。
难度 1/5 · 今日首次完成可获 100 金币及少量额外奖励
错误。仍需第二个因素(如验证码或硬件密钥),因此仅靠语音攻击会被阻止。
练习
仅两人知晓、用于验证身份的单词是共享____。
难度 1/5 · 今日首次完成可获 100 金币及少量额外奖励
共享秘密在高危时刻用于身份验证。
练习
哪些能防御 AI 增强的攻击?(多选)
难度 2/5 · 今日首次完成可获 140 金币及少量额外奖励
切勿向聊天机器人输入敏感数据。
例子
一名员工接到"CEO"的视频通话,要求紧急汇款。面孔和声音是AI深度伪造。一个事先约定的共享秘密问题——"我们上周给项目起了什么名字?"——会立即揭穿假冒。
关键点
AI让对手制作深度伪造、编写完美的钓鱼、污染LLM数据并自动化侦察。用共享秘密、MFA以及绝不盲目相信AI输出来防御。