هجمات الأمن السيبراني القائمة على الذكاء الاصطناعي
| English | العربية |
|---|---|
| deepfake/ˈdiːpfeɪk/ | الاستنساخ العميق |
| large language models/lɑːdʒ ˈlæŋɡwɪdʒ ˈmɒdlz/ | نماذج اللغة الكبيرة |
| phishing/ˈfɪʃɪŋ/ | التصيد الاحتيالي |
| shared secret/ʃeəd ˈsiːkrɪt/ | سر مشترك |
الذكاء الاصطناعي يعزز الهجمات
- الفيديو المزيف يُحاكي الصوت أو الوجه للتقمص شخص في مكالمة هاتفية.
- نماذج اللغة الكبيرة (LLMs) تكتب رسائل تصيد مثالية بأي لغة.
- استخدام لغات ركيكة كان يكشف الاحتيال — الذكاء الاصطناعي يزيل هذا الدليل.
الذكاء الاصطناعي في الخلفية
- يصوغ الخصوم أوامر لاستخراج بيانات سرية من نموذج اللغة.
- يزرعون معلومات كاذبة عبر الإنترنت بحيث تُسمّم بيانات تدريب نموذج اللغة.
- يفحص الذكاء الاصطناعي الإنترنت لجمع معلومات عن الهدف وحتى كتابة برمجيات خبيثة.
هل هو هجوم ذكاء اصطناعي أم دفاع به؟
الذكاء الاصطناعي ذو استخدام مزدوج: نفس التقنية تساعد الخصوم في الهجوم والمدافعين في الحماية.
نسخة ذكية اصطناعية لصوت شخص تُستخدم لانتحال هويته تسمى...
ديب فيك ينسخ صوتاً أو وجهاً.
كيف تجعل LLMs بريد الاحتيال أكثر خطورة؟
اللغة المثالية تزيل الدليل على الأخطاء اللغوية.
الدفاع ضد هجمات الذكاء الاصطناعي
- اتفقوا على كلمة سر مشترك مع جهات اتصال مقربة للتحقق من الهوية.
- فعّل المصادقة متعددة العوامل (MFA) حتى لا يمكن لصوت مُحاكى تسجيل الدخول وحده.
- لا تكتب أبدًا بيانات حساسة في محادثات الروبوت؛ تحقق من مخرجات الذكاء الاصطناعي مع مصادر حقيقية.
صوت على الهاتف يبدو تمامًا مثل رئيسك قد يكون فيديوًا مزيفًا. تحقق من طلب مفاجئ أو عاجل عبر قناة ثانية قبل الاستجابة له.
تمكين MFA يمكن أن يوقف خصماً يمتلك فقط نسخ صوتك.
عامل ثانٍ يحجب هجوم الصوت وحده.
كلمة معروفة لشخصين فقط، تُستخدم للتحقق من الهوية، هي سر مشترك ____.
السر المشترك يُثبت الهوية في لحظات عالية المخاطر.
أي مما يلي يدافع ضد الهجمات المعززة بالذكاء الاصطناعي؟ (اختر الكل)
لا تكتب أبداً بيانات حساسة في بوت المحادثة.
موظف يتلقى مكالمة فيديو من الـ "الرئيس التنفيذي" يطلب تحويل أموال بشكل عاجل. الوجه والصوت هما فيديو مزيف بالذكاء الاصطناعي. سؤال سر مشترك مسبق约定 — "ماذا سَمّينا المشروع الأسبوع الماضي؟" — سيكشف المزيف فورًا.
يتيح الذكاء الاصطناعي للخصوم إنشاء فيديوهات مزيفة، وكتابة تصيد خالي من العيوب، وتسميم بيانات نماذج اللغة، وأتمتة الاستطلاع. ادفع يد الدفاع باستخدام سر مشترك والمصادقة متعددة العوامل، وبعدم الثقة العمياء في مخرجات الذكاء الاصطناعي.