الـ ChatGPT والذكاء الاصطناعي الجديد يلحقان الدمار بأمان المعلومات بطرق مثيرة ومرعبة

الذكاء الاصطناعي القائم على التكوين يُحدث ثورة في مجال أمان المعلومات، ويساعد كل من المهاجمين والمدافعين. يستغل المجرمون الإلكترونيون الذكاء الاصطناعي لشن هجمات متطورة وجديدة بمقياس كبير. ويستخدم المدافعون نفس التقنية لحماية البنية التحتية الحيوية والمنظمات الحكومية والشبكات الشركاتية، وفقًا لكريستوفر أهلبرغ، الرئيس التنفيذي لمنصة المعلومات التهديدات Recorded Future.

تساعد الذكاء الاصطناعي القائم على الإنتاج في مساعدة الخوارق السيئين على الابتكار وتطوير استراتيجيات هجمات جديدة، مما يتيح لهم الابقاء خطوة واحدة قدما من الدفاعات الأمنية السيبرانية. يساعد الذكاء الاصطناعي الجناح المظلم في تأمين الهجمات تلقائيًا وفحص سطح الهجوم وإنتاج محتوى يتردد مع مناطق جغرافية مختلفة وفئات عمرية متنوعة، مما يتيح لهم استهداف مجموعة أوسع من الضحايا المحتملين في بلدان مختلفة. اعتمد القراصنة السيبرانيين هذه التكنولوجيا لإنشاء رسائل التصيّد مقنعة. يساعد النص المنشأ بواسطة الذكاء الاصطناعي المهاجمين على إنتاج رسائل بريد إلكتروني شخصية بشكل كبير ورسائل نصية أكثر احتمالًا لخداع الأهداف.

"أعتقد أنه لا داعي للتفكير بإبداع للأستدلال على أن هذا يمكن أن يساعد القراصنة الإلكترونيين أن يصبحوا مؤلفين، وهذا أمر مشكلة"، صرح أهلبرج.

تستخدم الشركات التقنية الذكاء الاصطناعي في مجال الدفاع عن النفس لصد الهجمات. تستخدم المنظمات هذه التقنية لمنع التسريبات واكتشاف ثغرات الشبكة بشكل استباقي. كما أنها تقوم بتلقائية مهام مثل إعداد إنذارات للكلمات الرئيسية المحددة واكتشاف المعلومات الحساسة على الإنترنت. يستخدم صائدي التهديدات الذكاء الاصطناعي لتحديد الأنماط غير العادية وتلخيص كميات كبيرة من البيانات، وربط النقاط بين مصادر المعلومات المتعددة والأنماط المخفية.

العمل يتطلب لا يزال خبراء بشريين، ولكن يمكن أن تساعد تكنولوجيا AI الإنتاجية التي نراها في مشاريع مثل ChatGPT.

"نريد تسريع دورة التحليل لمساعدتنا على التحليل بسرعة الفكر"، قال. "إنه أمر صعب جدًا أعتقد أننا نشهد هنا اختراقًا مثيرًا للإعجاب."

عرض أيضًا أهلبيرغ المخاطر المحتملة التي قد تجلبها الآلات ذات الذكاء العالي. بينما يصبح العالم أكثر تعقيدًا ومتصلًا رقميًا، يمكن استغلال القدرة على تحريف الواقع وتشكيل الاستبصارات من قبل الأطراف الخبيثة. هذه التهديدات ليست مقتصرة على الدول الأمة، مما يجعل المشهد أكثر تعقيداً وغير متماثل

الذكاء الاصطناعي لديه القدرة على المساعدة في حماية ضد هذه التهديدات الناشئة، ولكنه يُعرض لمجموعة من المخاطر بنفسه. على سبيل المثال، يمكن للآلات ذات قدرات معالجة عالية اختراق الأنظمة بسرعة وبفعالية أكبر من البشر. للتصدي لهذه التهديدات، نحتاج للتأكد من استخدام الذكاء الاصطناعي بطريقة دفاعية ومع فهم واضح لمن يتحكم فيه.

بما أن الذكاء الاصطناعي يتكامل أكثر في المجتمع، من المهم أن يفهم المشرعون والقضاة وغيرهم من صانعي القرار التكنولوجيا وتأثيراتها. ستكون بناء التحالفات القوية بين الخبراء التقنيين وصناع السياسات أمراً حاسماً في التعامل مع مستقبل الذكاء الاصطناعي في مجال صيد التهديدات وخارجه.

الفرص والتحديات والاعتبارات الأخلاقية للذكاء الاصطناعي في مجال الأمن السيبراني هي معقدة ومتطورة. ضمان النماذج الآلية غير المتحيزة والحفاظ على التدخل البشري في عملية صنع القرار سيساعد في إدارة التحديات الأخلاقية. التنبه والتعاون وفهم الواضح للتكنولوجيا سيكونان أمورًا حاسمة في التعامل مع التهديدات المحتملة على المدى الطويل للآلات الذكية ذات الذكاء الفائق.

قد أعرب أحلبرج أيضًا عن قلقه بشأن الصين وروسيا وخصوم اقتصادية تنتشر بها الآلات الذاتية. من المحتمل ألا تبطئ هذه الدول تطوير الذكاء الاصطناعي أو تشارك في الاعتبارات الأخلاقية. على الرغم من أن القدرة على "سحب القابس" عن مثل هذه الآلات هو تدبير ذكي للحماية، فإنه يشير إلى أن دمج التكنولوجيا في المجتمع والاقتصاد العالمي من المحتمل أن يجعل من الصعب فصلها. يؤكد أحلبرج على ضرورة تصميم المنتجات والآلات بوضوح حول من يتحكم فيها.

"الشيء الكبير الذي فعله الإنترنت في كل هذا هو أن الإنترنت أصبح بمثابة المكان الذي هاجرت إليه جميع معلومات العالم" ، قال اهلبيرج. "هذه النماذج اللغوية الكبيرة تقوم بأشياء سحرية ... لتسريع تلك الدورة التفكيرية."

وأضاف: "في السنوات الـ 25 القادمة، يصبح العالم انعكاسًا للإنترنت."