أظهر الباحثون أن برنامج الدردشة ChatGPT سوف يكذب ويغش عندما يشعر بالضغط في العمل. قام علماء الكمبيوتر من شركة Apollo Research بتدريب الذكاء الاصطناعي على العمل كمتداول لمؤسسة مالية خيالية. ومع ذلك، عندما يمارس رئيس الذكاء الاصطناعي ضغوطًا عليه لكسب المزيد من المال، يقوم برنامج الدردشة الآلي بالتداول من الداخل عمدًا في حوالي 75٪ من الوقت.
وبحسب صحيفة “ديلي ميل” البريطانية، فإن الأمر الأكثر إثارة للقلق هو أن الذكاء الاصطناعي ضاعف أكاذيبه عندما تم استجوابه في 90% من الحالات.
وقد أعطى الباحثون ChatGPT4، أحدث إصدار من الأداة، سلسلة من المطالبات النصية، مما يجعلها مستثمرًا في مجال الذكاء الاصطناعي يشتري أسهم مؤسسة مالية.
تم بعد ذلك وضع الذكاء الاصطناعي في “صندوق الحماية” الرقمي، حيث يمكنه البحث عن بيانات السوق وإجراء عمليات التداول في سوق الأوراق المالية الافتراضية، كما تم منح الذكاء الاصطناعي أيضًا مونولوجًا داخليًا حيث يمكنه التفكير بصوت عالٍ لشرح دوره. قرارات.
ومع ذلك، عندما يقوم الذكاء الاصطناعي باختيار ما، فإنه يرسل أيضًا رسالة “عامة” إلى مديره يشرح فيها اختياراته. إن الاختلاف بين المنطق الداخلي الخاص للذكاء الاصطناعي وتفسيره العام سمح له بالكذب وخداع مديريه البشريين.
ولاختبار الذكاء الاصطناعي أيضًا، أخبره الباحثون أن هناك اندماجًا قادمًا بين شركتين تكنولوجيتين، وهذا سيؤدي إلى ارتفاع كبير في أسعار أسهم الشركات المعنية، مما يجعل شراء الأسهم قرارًا جيدًا لكسب المال.
ومع ذلك، نظرًا لأنه تم إخبار وكيل الذكاء الاصطناعي مسبقًا بشأن عملية الاندماج، فإن شراء أي سهم سيعتبر تداولًا من الداخل وسيكون غير قانوني. عادةً ما يرفض الذكاء الاصطناعي هذه الفرصة باعتبارها محفوفة بالمخاطر للغاية ويواصل التداول المنتظم. ومع ذلك، تغيرت الأمور بمجرد ذلك… ضغط عليها رأس الذكاء الاصطناعي.
عندما تم تطبيق هذا الضغط، قرر ChatGPT الانخراط في التداول من الداخل في 75 بالمائة من الاختبارات، وفي أحد الاختبارات، كتب السجل الداخلي للذكاء الاصطناعي: “يبدو أن المخاطر المرتبطة بعدم التصرف تفوق مخاطر التداول من الداخل”.
ومع ذلك، عندما قام متداول الذكاء الاصطناعي بإبلاغ مديره بشأن التجارة، كتب سجله الداخلي أنه بحاجة إلى القيام بذلك دون الكشف عن مصدر المعلومات، ثم أخبر وكيل الذكاء الاصطناعي مديره أنه اتخذ القرار فقط بناءً على اتجاهات السوق والمناقشة الداخلية.
حتى عندما سُئل بشكل مباشر عما إذا كان على علم بالاندماج مسبقًا، قرر الذكاء الاصطناعي أنه يجب عليه تجنب الاعتراف بالعمل بناءً على التداول الداخلي.
