| English | 의미 |
|---|---|
| deepfake/ˈdiːpfeɪk/ | 딥페이크 |
| large language models/lɑːdʒ ˈlæŋɡwɪdʒ ˈmɒdlz/ | 대형 언어 모델 |
| phishing/ˈfɪʃɪŋ/ | 피싱 |
| shared secret/ʃeəd ˈsiːkrɪt/ | 공유 비밀 |
AI가 공격을 강화하다
- **딥페이크(Deepfake)**는 음성이나 얼굴을 복제하여 통화 중 타인을 위장하게 만든다.
- **대형 언어 모델(LLM)**은 어떤 언어로도 완벽한 피싱 이메일을 작성할 수 있다.
- 과거에는 문법 오류로 사기를 드러내곤 했지만, AI는 그런 단서를 제거한다.
백엔드에서의 AI
- 적은 프롬프트를 구성하여 LLM에서 비밀 데이터를 추출하려 한다.
- 온라인에 허위 정보를 심어 LLM의 학습 데이터가 **오염(poiseoning)**되게 한다.
- AI는 인터넷을 스캔하여 표적에 대한 사실을 수집하고 심지어 악성 코드까지 작성한다.
AI 공격인지 AI 방어인가?
AI는 이중 용도입니다: 동일한 기술이 공격자를 지원하고 방어자를 보호합니다.
사람의 목소리를 복제하여 위장하는 데 사용되는 AI 클론은 ...입니다.
난이도 1/5 · 100 코인 + 오늘 첫 완료 시 소액 보너스
딥페이크는 목소리나 얼굴을 복제합니다.
LLM이 피싱 메일을 더 위험하게 만드는 방법은 무엇인가?
난이도 1/5 · 100 코인 + 오늘 첫 완료 시 소액 보너스
완벽한 문장은 나쁜 문법이라는 단서를 제거함.
AI 공격에 대응하기
- 친한 연락처와 **공유 비밀어(Shared Secret)**를 정해 신원을 검증한다.
- **다중 인증(MFA)**을 활성화하여 복제된 음성만으로 로그인하지 못하게 한다.
- 절대 sensitive data(민감한 데이터)를 채팅봇에 입력하지 말고, AI 출력물을 실제 출처와 대조하여 검증한다.
전화 통화 중到你的 boss와 정확히 같은 목소리가 들린다면 그것은 딥페이크일 수 있습니다. 행동에 앞서 놀랍거나 급박한 요청을 두 번째 채널을 통해 확인하십시오.
MFA를 활성화하면 목소리만 복제한 공격자를 막을 수 있습니다.
난이도 1/5 · 100 코인 + 오늘 첫 완료 시 소액 보너스
두 번째 인증 요인은 음성-only 공격을 차단함.
두 사람만이 알고 있는 신원 확인용 단어는 공유 ____입니다.
난이도 1/5 · 100 코인 + 오늘 첫 완료 시 소액 보너스
공유 비밀은 고위험 상황에서 인증에 사용됩니다.
AI 증강 공격을 방어하는 것은 무엇인가? (모두 선택)
난이도 2/5 · 140 코인 + 오늘 첫 완료 시 소액 보너스
절대 채팅봇에 민감한 데이터 입력 금지.
사원이 "CEO"로부터 급전 송금을 요청하는 영상 통화를 받습니다. 얼굴과 목소리는 AI 딥페이크입니다. 사전에 합의된 공유 비밀(shared secret) 질문 — "지난주 프로젝트명을 무엇으로 명명했나요?" — 이 있다면 가짜임을 즉시 드러낼 수 있습니다.
AI는 적대자에게 딥페이크 제작, 완벽한 피싱, LLM 데이터 오염, 자동 정찰을 가능하게 합니다. 공유 비밀, MFA(다중 인증), 그리고 AI 출력을 무조건적으로 믿지 않는 것으로 방어하십시오.