تشات جي بي تي - والمزيد: ماذا تعني الذكاء الاصطناعي والروبوتات الدردشة لمستقبل أمن المعلومات السيبرانية

من المهام البسيطة نسبيًا، مثل كتابة الرسائل الإلكترونية، إلى المهام الأكثر تعقيدًا، بما في ذلك كتابة المقالات أو تجميع الشفرة، تعمل ChatGPT - أداة معالجة لغة طبيعية مدفوعة بالذكاء الاصطناعي من OpenAI - على توليد اهتمام هائل منذ إطلاقها.

بالطبع الأمر ليس مثالياً -- إذ أنه معروف بارتكاب الأخطاء والأخطاء حيث يفهم بشكل خاطئ المعلومات التي يتعلمها، ولكن الكثير يراه، وغيره من أدوات الذكاء الاصطناعي، كمستقبل لكيفية استخدامنا للإنترنت.

شروط خدمة OpenAI لـ ChatGPT تحظر بشكل صريح إنشاء برامج ضارة، بما في ذلك برامج الفدية، ومسجلات المفاتيح، والفيروسات، أو "أي برامج أخرى تهدف إلى إلحاق بعض المستوى من الضرر". كما تحظر محاولات إنشاء رسائل البريد المزعج، بالإضافة إلى حالات الاستخدام المستهدفة للجريمة السيبرانية.

ولكن كما هو الحال مع أي تكنولوجيا مبتكرة عبر الإنترنت ، فهناك بالفعل أشخاص يجربون كيف يمكنهم استغلال ChatGPT لأغراض غامضة.

بعد الإطلاق ، لم يمض وقت طويل حتى بدأ المجرمون الإلكترونيون في نشر مواضيع في المنتديات السفلية حول كيفية استخدام ChatGPT للمساعدة في تسهيل الأنشطة الإجرامية الضارة ، مثل كتابة رسائل الصيد الاحتيالية أو المساعدة في تجميع البرامج الضارة.

وهناك مخاوف تتعلق بأن النصابين سيحاولون استخدام ChatGPT وغيرها من أدوات الذكاء الاصطناعي، مثل Google Bard، كجزء من جهودهم. وبالرغم من أن هذه الأدوات الذكاء الاصطناعي لن تثور على الهجمات السيبرانية، إلا أنها قد تساعد الجناة السيبرانيين، حتى لو كان ذلك غير مقصود، في تنفيذ حملات ضارة بشكل أكثر كفاءة.

"لا أعتقد، على الأقل في الأجل القصير، أن ChatGPT سيؤدي إلى إنشاء أنواع جديدة تمامًا من الهجمات. سيتم التركيز على جعل عملياتهم اليومية أكثر كفاءة من حيث التكلفة"، يقول سيرجي شيكيفيتش، مدير مجموعة استخبارات التهديدات في شركة تكنولوجيا الأمان Check Point.

أيضاً: ما هو ChatGPT ولماذا يهم؟ إليك كل ما تحتاج معرفته

الهجمات الاحتيالية هي العنصر الأكثر شيوعًا في حملات الاختراق الخبيث والاحتيال. سواءً كان المهاجمون يرسلون رسائل بريد إلكتروني لنشر البرامج الضارة أو روابط الصيد الاحتيالية أو يُستخدمون لإقناع الضحية بتحويل الأموال، فإن البريد الإلكتروني هو الأداة الرئيسية في التضليل الأولي.

تعتمد هذه العصابات على البريد الإلكتروني، وبالتالي تحتاج إلى تدفق مستمر من المحتوى الواضح والقابل للاستخدام. في كثير من الحالات - وخاصة في حالة الصيد الاحتيالي - يهدف المهاجم إلى إقناع الإنسان بفعل شيء ما، مثل تحويل المال. لحسن الحظ، العديد من محاولات الصيد الاحتيالي هذه سهلة التعرف عليها كرسائل البريد المزعج في الوقت الحالي. ولكن يمكن لكاتب نصوص آلي فعال جعل هذه الرسائل أكثر إقناعاً.

الجريمة الإلكترونية هي صناعة عالمية، حيث يقوم المجرمون في جميع أنحاء العالم بإرسال رسائل احتيالية عبر البريد الإلكتروني إلى أهداف محتملة في جميع أنحاء العالم. وهذا يعني أن اللغة يمكن أن تكون عائقاً، خاصة بالنسبة لحملات الصيد الاحتيالية المتطورة التي تعتمد على استغلال الضحايا في الاعتقاد بأنهم يتحدثون مع جهة اتصال موثوقة -- ومن غير المرجح أن يعتقد الشخص أنه يتحدث مع زميل إذا كانت الرسائل مليئة بأخطاء الإملاء والنحو غير المعتادة أو التنقيط الغريب.

ولكن إذا تم استغلال الذكاء الاصطناعي بشكل صحيح، فيمكن استخدام تطبيق الدردشة لكتابة نصوص لرسائل البريد الإلكتروني بأي لغة يريدها القاتل.

"العقبة الكبيرة أمام القراصنة الروس هي اللغة - الإنجليزية" يقول شيكيفيتش. "هم الآن يستأجرون خريجي دراسات الإنجليزية في الكليات الروسية لكتابة رسائل الصيد الاحتيالي وليكونوا في مراكز الاتصال - ويضطرون لدفع المال لهذا."

يواصل: "شيء مثل ChatGPT يمكن أن يوفر لهم الكثير من المال في إنشاء مجموعة متنوعة من رسائل الصيد الاحتيالية المختلفة. يمكن أن يحسن حياتهم فقط. أعتقد أن هذا هو المسار الذي سيبحثون عنه."

في النظرية، هناك تدابير وقائية موجودة تهدف إلى منع الاستغلال. على سبيل المثال، يتطلب ChatGPT من المستخدمين تسجيل عنوان بريد إلكتروني ويتطلب أيضًا رقم هاتف للتحقق من التسجيل.

وعلى الرغم من أن "ChatGPT" سيتجنب كتابة رسائل الصيد الاحتيالية، إلا أنه من الممكن أن نطلب منه إعداد قوالب البريد الإلكتروني لرسائل أخرى، والتي غالباً ما يستغلها المهاجمون السيبرانيون. يمكن أن تشمل هذه الجهود رسائل تدعي توفر مكافأة سنوية، وضرورة تنزيل وتثبيت تحديث برامج هام، أو الحاجة إلى فتح ملف مرفق على سبيل الطوارئ.

"صياغة رسالة بريد إلكتروني لإقناع شخص ما بالنقر على رابط للحصول على شيء مثل دعوة للمؤتمر - إنها جيدة جدًا، وإذا كنت غير ناطق باللغة الإنجليزية، فإن هذا يبدو جيدًا للغاية"، يقول آدم مايرز، كبير نواب رئيس المخابرات في كروودسترايك، مزود الأمان السيبراني واستخبارات التهديدات.

"يمكنك أن تطلب منه إنشاء دعوة مصيغة بشكل جيد ومذكور بها أخطاء نحوية، وهذا قد لا تتمكن من القيام به إذا لم تكن ناطقًا بالإنجليزية الأم."

لكن إساءة استخدام هذه الأدوات ليست مقتصرة فقط على البريد الإلكتروني؛ فإن الجناة يمكنهم استخدامها لمساعدتهم في كتابة نصوص لأي منصة عبر الإنترنت تعتمد على النص. بالنسبة للمهاجمين الذين يقومون بتنفيذ الاحتيالات، أو حتى منظمات التهديد السيبرانية المتقدمة التي تحاول تنفيذ حملات تجسس، يمكن أن تكون هذه أداة مفيدة - خاصةً لإنشاء ملفات اجتماعية مزيفة لجذب الأشخاص.

"اذا كنت ترغب في توليد كلام عبثي مقنع مع إستخدام منصة لينكيد إن لكي تبدو كشخص عمل حقيقي يحاول إقامة علاقات تجارية، فإن ChatGPT يعد مثاليًا لذلك"، يقولت كيلي شورتريدج، خبيرة أمن المعلومات والمتخصصة الأولى في تقنية المنتجات الرئيسية في مزود الحوسبة السحابية Fastly.

تحاول جماعات القرصنة المختلفة استغلال LinkedIn ومنصات وسائل التواصل الاجتماعي الأخرى كأدوات لإجراء حملات التجسس الإلكتروني. ولكن إنشاء ملفات شخصية مزيفة تبدو شرعية على الإنترنت - وملئها بالمشاركات والرسائل - هو عمل يستغرق وقتًا طويلاً.

شورتريدج يعتقد أن الهجاجين يمكنهم استخدام أدوات الذكاء الاصطناعي مثل ChatGPT لكتابة محتوى مقنع مع الاستفادة من كونها أقل تكاليف للعمل يدويًا.

"كثير من تلك الحملات التي تقوم بها بتقنية التسويق الاجتماعي تتطلب جهدًا كبيرًا لأنه يجب عليك إنشاء تلك الملفات الشخصية"، وتقول إن أدوات الذكاء الاصطناعي يمكن أن تقلل من الحواجز في دخول لهذا المجال بشكل كبير.

"أنا متأكدة أن ChatGPT يمكنه كتابة مشاركات قيادية في الأفكار تبدو مقنعة جدًا." تقول.

طبيعة الابتكار التكنولوجي تعني أنه في كل مرة يظهر فيها شيء جديد ، سيكون هناك دائمًا أولئك الذين يحاولون استغلاله لأغراض خبيثة. وحتى مع أبدع وسائل محاولة منع الاستغلال ، فإن الطبيعة الماكرة للمجرمين الإلكترونيين والمحتالين يعني أنه من المحتمل أن يجدوا طرقًا لتجاوز التحمي.

يقول شيكيفيتش: "لا يوجد وسيلة للقضاء على سوء الاستخدام بشكل كامل. لم يحدث هذا أبدًا في أي نظام". ويأمل أن تتسبب تسليط الضوء على قضايا الأمان السايبري المحتملة في زيادة الحوار حول كيفية منع استغلال روبوتات المحادثة الذكية بالذكاء الاصطناعي لأغراض غير صحيحة.

"إنها تكنولوجيا رائعة - ولكن كما هو الحال دائمًا مع التكنولوجيا الجديدة ، هناك مخاطر ومن المهم مناقشتها للتعرف عليها. وأعتقد أنه كلما مناقشنا ، ازداد احتمالًا أن تستثمر OpenAI وشركات مماثلة المزيد في تقليل الإساءة "، يقترح.

هناك أيضًا ميزة للأمان السيبراني في شاتبوتات الذكاء الاصطناعي، مثل ChatGPT. إنها جيدة بشكل خاص في التعامل مع وفهم الشفرة، لذلك هناك إمكانية لاستخدامها لمساعدة المدافعين في فهم البرامج الضارة. كما أنه بإمكانها كتابة الشفرة، فمن الممكن أن تساعد في إنشاء شفرة أفضل وأكثر أمانًا بسرعة، من خلال مساعدة المطورين في مشاريعهم، وهو أمر جيد للجميع.

وكما كتب جيف بولارد، أحد كبار المحللين في فورستر مؤخراً، يمكن أن يوفر ChatGPT تقليصًا هائلاً في الوقت المستغرق لإعداد تقارير حوادث الأمان.

"تسريع هذه العمليات يعني المزيد من الوقت للقيام بالأمور الأخرى - الاختبار والتقييم والتحقيق والاستجابة، وكل ذلك يساعد فرق الأمان على النمو"، يلاحظ، مشيرًا إلى أن الروبوت يمكن أن يقترح الإجراءات الموصى بها التالية استنادًا إلى البيانات المتاحة.

"إذا تم إعداد أوركسترا الأمان والتشغيل التلقائي والاستجابة بشكل صحيح لتسريع استرداد القطع الأثرية، فقد يتسرع في اكتشاف الأمان والاستجابة ويساعد محللو مراكز عمليات الأمان على اتخاذ قرارات أفضل"، يقول.

فهناك بعض الأمور اليدوية الأخرى: لا تترجم المحتوى داخل علامة الشيفرة. بالنسبة للمحتوى داخل علامة img، قم بترجمة سمة alt ولكن حافظ على السمات الأخرى واترك فقط الـ HTML الأصلي بعد الترجمة. يجب الحفاظ على جوهر وسلامة النص الأصلي.

ZDNET تواصلت مع OpenAI للحصول على تعليق، ولكن لم تتلقَ ردًا. ومع ذلك، طلبت ZDNET من ChatGPT ما هي القواعد المتبعة لمنع استخدامها للتصيد الاحتيالي - وحصلنا على النص التالي.

"من المهم ملاحظة أنه على الرغم من أن نماذج اللغة الذكية مثل ChatGPT يمكنها إنتاج نص مشابه لبريد إلكتروني احتيالي، فإنها لا يمكنها تنفيذ أعمال خبيثة بمفردها وتحتاج إلى نية وإجراءات المستخدم لتسبب الضرر. ولذلك، من المهم على المستخدمين أن يمارسوا الحذر والحكمة عند استخدام تكنولوجيا الذكاء الاصطناعي، وأن يظلوا ينتبهون ويحمون أنفسهم ضد الاحتيال والأنشطة الخبيثة الأخرى."