بحث مؤتمر أمن المعلومات والأمن السيبراني Caisec”24 في نسخته الثالثة والذي تنظمه شركة ميركوري كميونيكيشنز وشركة المتحدة للخدمات الإعلامية، الهجمات والدفاعات السيبرانية عبر استخدام الذكاء الاصطناعي التوليدي، وذلك خلال الجلسة النقاشية التي أدارها خبير الأمن السيبراني سامح إمام .
في بداية الجلسة قال لؤي صالح مدير أول الأمن السيبراني بالبنك الأهلي المصري، إن من بين استخدامات الذكاء الاصطناعي في الهجوم السيبراني على سبيل المثال هو إنشاء نموذج فيديو لشخص متحدث وليس هو ذات الشخص، وقد حدثت حالة هجوم فعلية عبر مكالمة هاتفية وصلت لأحد الموظفين في ألمانيا لتحويل مبلغ مالي كبير ولكن تم استخدام الذكاء الاصطناعي لتوليد صوت مشابه تماماً لصوت مدير هذا الموظف، وقد حدثت حالة شبيهة لموظف تلقى مكالمة من مديره لتحويل مبلغ ولكن عبر دعوة زووم فيديو وقد وجد رئيس مجلس الإدارة فعلاً يتحدث وطلب تحويل 25 ألف دولار ولكن هذا الفيديو لم يكن حقيقياً بل كان مولداً بالذكاء الاصطناعي وكانت هذه الحادثة في هونج كونج.
وأوضح أن هناك أنواع كثيرة من الهجوم بالذكاء الاصطناعي، ومن المتوقع في الولايات المتحدة الأمريكية في عام 2027 أن تصل التكاليف والخسائر الناجمة عن هذه الهجمات السيبرانية إلى 4 مليارات دولار بزيادة كبيرة كل عام عن العام السابق له.
وقال أحمد أبو عياد، استشاري أمن المعلومات بشركة دل تكنولوجيز، إن هناك تطور كبير ومتلاحق في أدوات وآليات الذكاء الاصطناعي، مؤكداً أنه يجب زيادة الاستثمارات في المراكز الدفاعية ضد الهجمات الخاصة بالذكاء الاصطناعي، وقد رأينا جهود كبيرة من الشركات والمؤسسات لتطوير استخداماتها ودفاعتها المعتمدة على الذكاء الاصطناعي على حد سواء.
وقال أكمل محمد رئيس قطاع التأمين السيبراني بمجموعة إي فاينانس للاستثمارات المالية والرقمية، إن أشكال الهجوم السيبراني عبر الذكاء الاصطناعي متعددة للغاية ومتنوعة بشكل كبير، مؤكداً أنه لابد للأعمال المعتمدة على الذكاء الاصطناعي والذكاء الاصطناعي التوليدي توخي الحذر من مشاركة الأعمال مع جهات عامة وجهات متعددة ومن الأفضل العمل مبدئياً في بيئات مغلقة قدر الإمكان.
قال الدكتور محمد حمدي، خبير أول في مجال أمن المعلومات بشركة AICTO أن الاستراتيجية العربية للأمن السيبراني تهدف إلى دعم العمل العربي المشترك خاصة فيما يتعلق بالذكاء الاصطناعي والذكاء الاصطناعي التوليدي، وفي المستقبل سوف يكون هناك استعمالات متعددة للذكاء الاصطناعي في مفاصل حيوية حساسة داخل الدول والمؤسسات، لذلك يجب التحوط جيداً وحماية تلك الاستخدامات من الهجمات السيبرانية.
وأضاف أن هناك نقطة مفصلية حساسة أيضاً وهي استخدام الذكاء الاصطناعي التوليدي في مجال الثقة الصفرية، وفي المستقبل سوف تعتمد الخوارزميات على الذكاء الاصطناعي التوليدي، وسوف تزداد تأثيرات الهجمات السيبرانية المعتمدة على الذكاء الاصطناعي ولذلك فقد تم وضع مخططات مواجهة تلك الهجمات المحتملة ومنها عمليات التدريب والمعرفة وكذلك تنويع الدفاعات بين خوارزميات عامة وأخرى تكون مستعملة في قطاعات خاصة، ولا يزال المجال مفتوح أمام الجميع للمشاركة في الاستراتيجية لدعم العمل العربي المشترك.
وأضاف أن أبرز التحديات في مجال الذكاء الاصطناعي هو تفاوت الدول العربية في الجاهزية لخوض هذا المجال فضلاً عن ضرورة زيادة وتعميق السيادة الرقمية للحد من المخاطر التي تكون على نطاق أوسع سواء على نطاق دولي أو إقليمي.
