بينما تتطلع شركات التكنولوجيا إلى دمج تكنولوجيا الذكاء الاصطناعي في سير العمل، يتطلع المتسللون أيضًا إلى استكشاف طرق لدمج روبوتات الدردشة المدعمة بالذكاء الاصطناعي في الأنشطة غير القانونية، حسبما ذكر تقرير استنادًا إلى منشورات على الويب المظلم.
وفقًا لخدمة Digital Footprint Intelligence من Kaspersky، كان هناك ما يقرب من 3000 منشور على شبكة الإنترنت المظلمة تناقش في المقام الأول استخدام ChatGPT وبرامج LLM الأخرى للمخططات – بدءًا من إنشاء بدائل chatbot الشائنة وحتى كسر حماية النسخة الأصلية وما بعدها.
وأضافت الدراسة التي أجراها مركز الأمن السيبراني الروسي: “إن حسابات وخدمات ChatGPT المسروقة التي تقدم إنشاءها الآلي بشكل جماعي تغمر أيضًا قنوات الويب المظلمة، مما يصل إلى 3000 مشاركة أخرى”.
وفي عام 2023، اكتشف كاسبرسكي ما يقرب من 3000 منشور على الويب المظلم، وقال إن الثرثرة بلغت ذروتها في مارس.
وقالت أليسا كولشينكو، محللة البصمة الرقمية في مركز الأبحاث: “تستكشف الجهات الفاعلة في مجال التهديد مخططات مختلفة لتنفيذ ChatGPT والذكاء الاصطناعي”.
وقالت إن المواضيع غالبًا ما تشمل تطوير البرامج الضارة وأنواع أخرى من الاستخدام غير المشروع لنماذج اللغة، مثل معالجة بيانات المستخدم المسروقة، وتحليل الملفات من الأجهزة المصابة، وما هو أبعد من ذلك.
بدائل ChatGPT
وقال التقرير إن شعبية أدوات الذكاء الاصطناعي أدت إلى دمج الاستجابات الآلية من ChatGPT أو ما يعادلها في بعض منتديات الجرائم الإلكترونية، مضيفًا أن المتسللين غالبًا ما يشاركون عمليات كسر الحماية من خلال قنوات الويب المظلمة المختلفة و”يخلقون طرقًا لاستغلال الأدوات المشروعة، مثل القرصنة”. أدوات مبنية على نماذج لأغراض خبيثة”.
ويولي المتسللون أيضًا اهتمامًا وثيقًا بمشاريع مثل XXXGPT وFraudGPT وغيرها، والتي يتم تسويقها على الويب المظلم كبدائل لـ ChatGPT. يقال إن هذه البدائل توفر وظائف إضافية ولا تحتوي على القيود التي تقيد روبوتات الدردشة الشرعية.
حسابات ChatGPT المسروقة معروضة للبيع
هناك تهديد آخر للمستخدمين والشركات وهو سوق الحسابات الخاصة بالإصدار المدفوع من ChatGPT. كانت هناك ذاكرة تخزين مؤقت أخرى تحتوي على 3000 منشور تعلن عن حسابات ChatGPT للبيع عبر الويب المظلم وقنوات الظل في Telegram. وتقوم هذه المنشورات إما بتوزيع حسابات مسروقة أو الترويج لخدمات التسجيل التلقائي وإنشاء حسابات حسب الطلب. .
“إن الطبيعة الآلية للهجمات الإلكترونية غالبًا ما تعني دفاعات آلية، إلا أن البقاء على اطلاع بأنشطة المهاجمين يعد أمرًا بالغ الأهمية للبقاء في صدارة الخصوم عندما يتعلق الأمر بالأمن السيبراني للشركات.
وقال كوليشينكو إنه على الرغم من أن أدوات الذكاء الاصطناعي ليست خطيرة بطبيعتها، إلا أن مجرمي الإنترنت يحاولون التوصل إلى طرق فعالة لاستخدامها لزيادة عدد الهجمات السيبرانية. وأضاف المتحدث أنه من غير المرجح أن يحدث الذكاء الاصطناعي وروبوتات الدردشة ثورة في مشهد الهجمات في عام 2024.
