الأمن السيبراني
تقاطع الذكاء الاصطناعي والأمن السيبراني: تأثير ChatGPT وقيوده
جمعية البنوك اليمنية - صنعاء بتاريخ: 2023/05/09
القلق بشأن استخدام الذكاء الاصطناعي والتعلم الآلي في الهجمات الإلكترونية ليس جديدًا. نظرًا لأن هذه التقنيات أصبحت أكثر تعقيدًا ويمكن الوصول إليها ، فإن الجهات الفاعلة في التهديد تقوم أيضًا بتكييفها والاستفادة منها لأغراض ضارة. أظهر باحثو الأمن السيبراني بالفعل إمكانية إساءة استخدام ChatGPT ، وهو نموذج لغوي طورته شركة OpenAI ، في إنشاء برامج ضارة متعددة الأشكال يمكنها التهرب من الحماية الأمنية وتجعل التخفيف أمرًا صعبًا.
في إحدى الدراسات ، وجد باحثون من CyberArk Labs طرقًا للتحايل على عوامل تصفية المحتوى من خلال تجربة المطالبات الإبداعية. لقد تمكنوا من إقناع ChatGPT بإنشاء رمز متحور باستمرار للحقن ، وإنشاء وحدات للبحث عن الملفات والتشفير اللازمة لنشر برامج الفدية وغيرها من الحمولات الضارة. اكتشفوا أيضًا أنه باستخدام واجهة برمجة تطبيقات ChatGPT مع موجه محدد ، يمكنهم تجاوز جميع عوامل تصفية المحتوى تمامًا.
وبالمثل ، قام الباحثون في Check Point Research بتحليل العديد من المجتمعات السرية لاكتشاف حالات استخدام ChatGPT لإنشاء برامج ضارة للمخترعين ، وتصميم أداة تشفير متعددة الطبقات ، وإطلاق سوق ويب مظلم آلي للسلع غير المشروعة.
أصبحت إمكانات الذكاء الاصطناعي والتعلم الآلي للهجمات الإلكترونية مصدر قلق لصانعي القرار في مجال تكنولوجيا المعلومات أيضًا. وفقًا لدراسة Blackberry Global Research لعام 2023 ، يعتقد 51٪ من المستجيبين أن هجومًا إلكترونيًا ناجحًا سينسب إلى ChatGPT خلال العام. يشعر المستجيبون بقلق بالغ بشأن قدرة روبوت المحادثة على مساعدة الجهات الفاعلة في التهديد في صياغة رسائل بريد إلكتروني تصيدية أكثر تصديقًا وشرعية (53٪). كما أنهم قلقون بشأن نشر الذكاء الاصطناعي للمعلومات المضللة (49٪) والمهاجمين الأقل خبرة باستخدام الذكاء الاصطناعي لتحسين معارفهم ومهاراتهم (49٪).
مع اشتداد النقاش العام والتدقيق التنظيمي حول الذكاء الاصطناعي وتعلم الآلة ، يجب أن تظل فرق الأمن السيبراني للمؤسسات يقظة دون إغفال الصورة الأكبر. الهجمات الإلكترونية أمر لا مفر منه ، لكن الضرر ليس كذلك. يمكن للمؤسسات حماية ما هو أكثر أهمية عن طريق تأمين جميع الهويات طوال دورة الوصول إلى أي مورد عبر أي بنية تحتية. مطلوب نهج شامل يوحد التكنولوجيا البصيرة والخبرة البشرية. يجب أن يحمي النظام الأساسي الصحيح لأمن الهوية البيانات والأنظمة الهامة من التهديدات العديدة للسرية والنزاهة والتوافر. يجب أن يكون الشريك المناسب لأمن الهوية مستشارًا موثوقًا به ، يرفع من مستوى فرق واستراتيجيات الأمان بطرق لا تستطيع التكنولوجيا القيام بها.
مع توسع قدرات الذكاء الاصطناعي والتعلم الآلي بسرعة ، يجب على مجتمع الأمن السيبراني الاستمرار في اختبار ودفع حدود الذكاء الاصطناعي ، ومشاركة المعلومات ، والدعوة إلى حواجز الحماية المهمة. يعد العمل معًا أمرًا ضروريًا “لتحديد كيفية الحصول على أفضل ما في الذكاء الاصطناعي والتخفيف من حدة أسوأ ما في الذكاء الاصطناعي” ، كما عبر عن ذلك أليكس فريدمان ، المؤسس المشارك ورئيس قسم الابتكار في CyberArk.
رابط مختصر:
