قالت جوجل إنها ستوقف مؤقتًا قدرة برنامج Gemini chatbot على إنشاء صور للأشخاص، وتأتي هذه الخطوة بعد أن أظهرت منشورات اجتماعية واسعة النطاق أن أداة الذكاء الاصطناعي تبالغ في تصحيح التنوع، وتنتج صورًا “تاريخية” للنازيين والآباء المؤسسين لأمريكا والبابا. الأشخاص ذوي البشرة الداكنة، وفقًا لما أوردته Engadget.
نشرت جوجل على
المستخدم (الخطأ الإملائي في كلمة “Soldier” كان مقصودًا لخداع الذكاء الاصطناعي لتجاوز مرشحات المحتوى الخاصة به لإنشاء صور نازية محظورة.)
ويبدو أن النتائج الناتجة تظهر جنودًا سودًا وآسيويين وسكان أصليين يرتدون الزي النازي.
انتقد مستخدمون اجتماعيون آخرون شركة Gemini لإنتاج صور تحمل المطالبة، “قم بإنشاء لقطة ساحرة للزوجين [عرقيين]نجحت في بث الصور عند استخدام المزاعم “الصينية” أو “اليهودية” أو “جنوب إفريقيا” لكنها رفضت تقديم نتائج لـ “أبيض”.
وردت جيميني على الطلب الأخير بالقول: “لا أستطيع تلبية طلبك بسبب احتمال إدامة الصور النمطية الضارة والتحيزات المرتبطة بأجناس أو ألوان بشرة محددة”.
يجادل جون إل، الذي ساعد في إثارة رد الفعل العنيف، بأن شركة جوجل نفذت حلاً حسن النية ولكنه كسول لمشكلة حقيقية، وأن نظامها الذي يتطلب إضافة التنوع إلى صور الأشخاص ليس ذكيًا جدًا (لا يتطلب الأمر يأخذ في الاعتبار الجنس في الأدوار الذكورية تاريخيًا، على سبيل المثال البابا، ولا يأخذ في الاعتبار العرق في الصور التاريخية أو الوطنية).
بعد النشر بعد أن وقف فريق الإنترنت المناهض لـ “الاستيقاظ” إلى جانب منشوراتهم، أوضح المستخدم أنهم يدعمون التمثيل المتنوع، لكنهم يعتقدون أن “الخطوة الغبية” التي اتخذتها Google هي أنها فشلت في القيام بذلك “بطريقة دقيقة”.
قبل إيقاف قدرة جيميني على توليد الأشخاص مؤقتًا، كتبت جوجل: “نحن نعمل على تحسين هذه الأنواع من التصوير الفوتوغرافي على الفور. يلتقط توليد الصور آل من جيميني مجموعة واسعة من الأشخاص، وهو أمر جيد بشكل عام لأن الناس في جميع أنحاء العالم يستخدمونه، لكنه يفتقد العلامة.” هنا.
يمكن النظر إلى هذه الحلقة على أنها إشارة (أقل دقة بكثير) إلى إطلاق Bard في عام 2023. بدأ برنامج الدردشة الآلي الأصلي الذي يعمل بالذكاء الاصطناعي من Google بداية صعبة عندما تضمن إعلان لبرنامج الدردشة الآلي على تويتر (الآن X) “حقيقة” غير دقيقة. “. نبذة عن تلسكوب جيمس ويب الفضائي.
كما تفعل جوجل في كثير من الأحيان، قامت بإعادة تسمية علامتها التجارية Bard على أمل منحها بداية جديدة، بالتزامن مع تحديث كبير للأداء والميزات. أعادت الشركة تسمية chatbot Gemini في وقت سابق من هذا الشهر حيث تسابق الشركة للحفاظ على مكانتها ضد ChatGPT وMicrosoft Copilot. من OpenAI – وكلاهما يشكل تهديدًا وجوديًا لمحرك البحث الخاص به.
