| English | 意味 |
|---|---|
| deepfake/ˈdiːpfeɪk/ | ディープフェイク |
| large language models/lɑːdʒ ˈlæŋɡwɪdʒ ˈmɒdlz/ | 大規模言語モデル |
| phishing/ˈfɪʃɪŋ/ | フィッシング |
| shared secret/ʃeəd ˈsiːkrɪt/ | 共有秘密 |
AIによる攻撃の強化
- ディープフェイクは音声や顔 clone（複製）し、通話中に他者を騙る。
- 大規模言語モデル（LLM）は、あらゆる言語で完璧なフィッシングメールを作成する。
- 以前は文法ミスが詐欺の兆候となるが、AIはその手がかりを除去する。
バックエンドにおけるAI
- 攻撃者はプロンプトを設計し、LLMから秘密データを引き出す。
- 网络上に虚偽情報を植え、LLMの学習データに**汚染（ポイズニング）**させる。
- AIはインターネットをスキャンして標的に関する事実を収集し、マルウェアまで作成する。
AI attack or AI defense?
AI is dual-use: the same technology helps adversaries attack and defenders protect.
An AI clone of a person's voice used to impersonate them is a...
難易度 1/5 · 100 コイン + 今日初回完了時に小ボーナス付与
A deepfake clones a voice or face.
How do LLMs make phishing emails more dangerous?
難易度 1/5 · 100 コイン + 今日初回完了時に小ボーナス付与
Perfect language removes the bad-grammar clue.
AI攻撃への防衛
- 親しい関係者との間で共有シークレットキーワードを合意し、本人確認を行う。
- MFAを有効化し、複製された音声だけではログインできないようにする。
- チャットボットに重要なデータを入力してはならず、AIの出力は必ず実在するソースで検証する。
電話で聽到した声が上司と全く同じ場合は、ディープフェイクかもしれません。驚くべき要求や緊急の依頼については、行動する前に別のチャネルで検証してください。
Enabling MFA can stop an adversary who has only cloned your voice.
難易度 1/5 · 100 コイン + 今日初回完了時に小ボーナス付与
A second factor blocks a voice-only attack.
A word known only to two people, used to verify identity, is a shared ____.
難易度 1/5 · 100 コイン + 今日初回完了時に小ボーナス付与
A shared secret authenticates in high-stakes moments.
Which defend against AI-augmented attacks? (Choose all)
難易度 2/5 · 140 コイン + 今日初回完了時に小ボーナス付与
Never type sensitive data into a chatbot.
「CEO」からのビデオ通話で急把钱送金依頼を受けた従業員がいる。顔と声はAIのディープフェイクである。事前に合意しておいた共有シークレット質問（例：「先週プロジェクトに何と名付けましたか？」）があれば、即座に偽物だと判別できる。
AIは攻撃者がディープフェイクを作成し、完璧なフィッシングメールを書き、LLMデータを汚染させ、偵察を自動化することを可能にする。防衛には共有シークレット、MFA、およびAIの出力を盲目に信じないことが必要である。