صفاء زمان: خطورة الذكاء الاصطناعي في تطوير أدوات الاختراق والاحتيال عبر الإنترنت

ضمن فعاليات معرض الكتاب الصيفي السابع لجمعية الخريجين، أقيمت أمس الأول محاضرة بعنوان «الأمن السيبراني ومستقبل الذكاء الاصطناعي»، قدمتها عضوة هيئة التدريس في جامعة الكويت رئيسة الجمعية الكويتية لأمن المعلومات د. صفاء زمان.

في البداية، قدم عضو مجلس إدارة جمعية الخريجين محمد المنيخ المحاضرة، مشيرا إلى أهمية تطبيقات الذكاء الاصطناعي ومتطلبات الأمن السيبراني في حياة الشعوب، وهو ما جعل بعض الدول، وأبرزها الولايات المتحدة والصين، تتسابق فيما بينها ليكون لها الريادة في هذا المجال الذي يشكل خطورة كبيرة وأهمية واضحة، مما دفع الإمارات إلى استحداث منصب وزير دولة للذكاء الاصطناعي.

وتناولت د. زمان، في بداية محاضرتها، تعريف الجمهور بالذكاء الاصطناعي، مبينة أنه قدرة الآلة على القيام بأحد سلوكيات البشر، مثل الإحساس، أو الإدراك، أو التعلم، أو الاختيار، أو الإبصار، أو الحركة، أو غيرها من خصائص.

وأوضحت الفرق بين الذكاء الاصطناعي والأمن السيبراني، والذي يعني الأمن المختص بالبيانات، ويطلق عليه أيضا أمن المعلومات، مشيرة إلى أن Cyber تعني الفضاء، وبما أن المعلومات أصبحت تنتقل عن طريق تقنيات الفضاء (Wifi)، لذا أطلق عليه أمن الفضاء أي أمن المعلومات.

وحول تأثير الذكاء الاصطناعي على الأمن السيبراني قالت زمان إنه يتمثل في 3 مجالات: هي «أنظمة الذكاء الاصطناعي لتطوير أنظمة الأمن السيبراني، من خلال المساعدة في تحليل سلوك المستخدم، والكشف عن مؤشرات الاختراقات او التهديدات وتحديد أو معرفة مؤشرات الأمن والحماية وتحسين وتسريع الاستجابة للحوادث وتحسين طرق المصادقة وتطوير طرق مراقبة سلوك المستخدم والشبكة، والكشف عن ثغرات النظام ونقاط الضعف، والحد من عمليات الاحتيال عبر الإنترنت التي تعد اختراقا للأمن السيبراني وتقديم مقترحات وحلول لتحسين وتطوير أنظمة الأمان في النظام».

وفيما يتعلق بدور أنظمة الذكاء الاصطناعي في تطوير أنظمة الاختراقات، أفادت بأنها تعمل على تحسين تقنيات الهجوم وأدوات هجمات الهندسة الاجتماعية، وتطوير وخلق هجمات إلكترونية مدعومة بالذكاء الاصطناعي، وإنشاء برمجيات ذكية معادية قادرة على خداع أنظمة الأمان المستخدمة، وإنشاء شبكات روبوتية (Botnets) ذكية قادرة على تنسيق الهجمات، والتهرب من الاكتشاف، والتكيف مع الظروف المتغيرة، مشيرة إلى خطورة فقدان الخصوصية، والذي يتسبب في حدوث خرق للبيانات وسرقة الهوية والاحتيالات المختلفة.

وحول اختراق أنظمة الذكاء الاصطناعي أكدت زمان ضرورة تعزيز أمن الأنظمة ​​في عصر الذكاء الاصطناعي عن طريق فهم التهديدات (مؤشرات الاختراق) ووضع خطط واستراتيجيات حماية، مع الابتكار بحذر والاستمرار في التعلم والتكيف وتصميم نماذج المخاطر (Risk Modeling) وإجراء تقييم أمني (security assessment).

وقالت: «من المهم أن نتذكر أنه على الرغم من أن الذكاء الاصطناعي يمكن أن يساعد بشكل كبير في مجال الأمن السيبراني، إلا أنه ليس حلاً كاملاً، وستظل الخبرة البشرية والتعاون والتكيف المستمر مع التهديدات المتطورة مكونات أساسية لاستراتيجيات الأمن السيبراني الفعالة، خاصة في ظل تحديات استخدام الذكاء الاصطناعي في مجال الأمن السيبراني، ومنها الهجمات المعادية (Adversarial Attacks)، حيث يمكن للمهاجمين استخدام الذكاء الاصطناعي لإنشاء هجمات معادية متطورة تستغل نقاط الضعف في أنظمة الأمان القائمة على الذكاء الاصطناعي.

وشددت زمان على ضرورة العمل على خصوصية البيانات، حيث إنه غالبا ما تتطلب أنظمة الأمن السيبراني، التي تعتمد على الذكاء الاصطناعي، الوصول إلى بيانات حساسة للتدريب والتحليل وفقا لمبادئ التحيز والإنصاف (Bias and Fairness) وفي مجال الأمن السيبراني يمكن أن تؤدي النماذج المتحيزة إلى نتائج غير عادلة أو تمييزية، مما قد يؤثر على مجموعات معينة بشكل غير متناسب ويؤثر على دقة اتخاذ القرار.

وأفادت بأن التعامل مع الكميات الهائلة من البيانات التي يتم إنشاؤها في الوقت الفعلي بواسطة الشبكات والأنظمة الحديثة قد يكون أمرا صعبا، كما قد يكون دمج الحلول التي تعتمد على الذكاء الاصطناعي مع البنية الأساسية الحالية للأمن السيبراني أمرا معقدا، وقد يتطلب جهود التخصيص والتوافق، مشيرة الى نقص القوى العاملة الماهرة، حيث تكافح المنظمات للعثور على الموظفين المهرة، والاحتفاظ بهم لتطوير وإدارة حلول الأمان القائمة على الذكاء الاصطناعي.