ينتقل الذكاء الاصطناعي إلى مرحلة أكثر تعقيدًا مع ظهور نماذج قادرة على التعلم أثناء التشغيل. وهذا اتجاه حديث يجذب اهتمام الشركات الناشئة ومختبرات الأبحاث الكبرى، وأبرزها Google DeepMind. ويعتبر هذا الاتجاه عاملا قد يسرع من تطوير القدرات التقنية، لكنه في الوقت نفسه يفتح الباب أمام مخاطر جديدة يصعب السيطرة عليها.
تحسين الذات
ويُعرف هذا المسار تقنيًا باسم “التحسين الذاتي التكراري”، وهو نهج من المتوقع أن يساهم في الحفاظ على الوتيرة المتسارعة لتقدم الذكاء الاصطناعي. وفي هذا السياق، أوضح ديميس هاسابيس، الرئيس التنفيذي لشركة DeepMind، خلال مقابلة على هامش حدث نظمه موقع Axios في دافوس، أن جوجل تدرس جدياً إمكانية استمرار النماذج في التعلم “في بيئات العمل الحقيقية” بعد انتهاء مرحلة التدريب التقليدي.
الباحث الآلي
وفي سياق متصل، كشف سام ألتمان، الرئيس التنفيذي لشركة OpenAI، خلال بث مباشر العام الماضي، أن الشركة تعمل على تطوير “باحث ذكاء اصطناعي آلي حقيقي” بحلول مارس 2028.
أظهر تقرير حديث صادر عن مركز الأمن والتكنولوجيا الناشئة في جامعة جورج تاون (CSET) أن اعتماد أنظمة الذكاء الاصطناعي في البحث والتطوير يتسارع، مع تزايد صعوبة رصد المخاطر والسيطرة عليها.
وأشار الباحثون إلى أن هذه الأنظمة أصبحت جزءا أساسيا من عملية البحث داخل شركات الذكاء الاصطناعي الكبرى، وهو ما يعكس اقتراب مرحلة الأتمتة شبه الكاملة للبحث العلمي في هذا المجال.
الاعتماد المفرط
ويعتقد مؤلفو التقرير أن صناع السياسات يفتقرون حاليا إلى رؤية دقيقة لأتمتة البحث والتطوير، مع الإفراط في الاعتماد على الإفصاحات الطوعية للشركات، ودعوا إلى تعزيز الشفافية، وتطوير آليات إعداد التقارير، وتحديث أطر السلامة، محذرين من أن السياسات غير المدروسة قد تأتي بنتائج عكسية.
وتعيد فكرة النماذج القادرة على التعلم الذاتي إلى الأذهان تجربة “ألفا زيرو” التي طورتها شركة ديب مايند عام 2017، عندما تمكن النموذج من تعلم ألعاب معقدة مثل الشطرنج دون بيانات بشرية مسبقة.
القدرة على الذكاء
وقال ريتشارد سوشر، الرئيس التنفيذي لموقع You.com، إن “الذكاء الاصطناعي هو في الأساس كود برمجي، قادر على البرمجة، وإذا تم إغلاق هذه الحلقة بالطريقة الصحيحة، فيمكن أتمتة المنهج العلمي لخدمة البشرية”.
وذكرت بلومبرج أن سوشر يسعى لجمع مئات الملايين من الدولارات في جولة تمويل يمكن أن ترفع قيمة شركته الناشئة الجديدة إلى حوالي 4 مليارات دولار.
ويخلص المراقبون إلى أن التحسين الذاتي التكراري قد يمثل القفزة الكبيرة التالية في قدرات الذكاء الاصطناعي، ولكنه في الوقت نفسه يجعل التكنولوجيا أقرب إلى تعقيد العالم الحقيقي، حيث يصبح احتواء الأخطاء وسوء الاستخدام والعواقب غير المقصودة أكثر صعوبة.
التحدي المتمثل في السيطرة على الذكاء الاصطناعي
– نماذج قادرة على التعلم الذاتي بعد انتهاء مرحلة التدريب.
– تسارع غير مسبوق في تطوير النماذج والقدرات.
– تغيرات في السلوك دون تحديثات بشرية مباشرة.
– القرارات المعقدة التي يصعب تفسير منطقها الفني.
– اتساع الفجوة بين سرعة التنمية وأطر الحوكمة.
– الاعتماد المتزايد على الأنظمة الآلية في البحث والتطوير.
– صعوبة اكتشاف الأخطاء قبل ظهور آثارها.
– تحديات الاحتواء عند سوء الاستخدام.
– مخاطر العواقب غير المقصودة على المدى الطويل.
– الحاجة الملحة لتحديث أنظمة التحكم والسلامة.
