خطأ فادح في الذكاء الاصطناعي يكشف عن القوة المفرطة لعمالقة التكنولوجيا

كتبت نسمة أسامة \

الرئيس التنفيذي لشركة Google يعترف بأن تطبيق Gemini للذكاء الاصطناعي ارتكب أخطاء “غير مقبولة على الإطلاق
نموذج ذكاء اصطناعي يخلق نازيين ذوي بشرة سمراء لم يكن الخطأ الذي ارتكبه برنامج Gemini التابع لشركة Google غير ملحوظ بعد أن تم تصحيحه بسرعة، ولكنه يسلط الضوء على التأثير الشديد الذي تتمتع به حفنة من الشركات على هذه التكنولوجيا التي تزداد أهميتها.

في الشهر الماضي، قال الرئيس التنفيذي لشركة جوجل، سوندار بيتشاي، إن الأخطاء “غير المقبولة تمامًا” التي ارتكبها تطبيق الذكاء الاصطناعي الخاص بالشركة Gemini، بما في ذلك صور القوات النازية المتنوعة عرقياً، تسببت في منع الشركة مؤقتاً المستخدمين من إنشاء صور بشرية.

وقد سخر مستخدمو وسائل التواصل الاجتماعي من جوجل وانتقدوا الصور التي لم تكن دقيقة تاريخيًا، مثل صورة امرأة أمريكية من أصل أفريقي انتُخبت لمجلس الشيوخ في القرن التاسع عشر.

قال سيرجي برين، المؤسس المشارك لشركة Google في هاكاثون الذكاء الاصطناعي الأخير: “لقد ارتكبنا بالتأكيد أخطاء في عملية العرض”، مضيفًا أن برنامج Gemini يحتاج إلى اختبار أكثر دقة.

وقال الذين تمت مقابلتهم في مهرجان ساوث باي ساوث ويست، مهرجان الفنون والتكنولوجيا الشهير في أوستن، إن تعثر برنامج الجوزاء يسلط الضوء على السلطة المفرطة لحفنة من الشركات على منصات الذكاء الاصطناعي التي تغير طريقة عيش الناس وعملهم.

وقال جوشوا ويفر، وهو محامٍ ورائد أعمال في مجال التكنولوجيا، إن برنامج جوجل في البداية “أفرط في التأكيد” على مبادئ حركة المسيرة، مما يعني أن جهودها للتأكيد على الشمول والتنوع قد تجاوزت الحدود.

وقال تشارلي بورغوين، الرئيس التنفيذي لمعهد فالكيري للعلوم التطبيقية في تكساس، إن جوجل سرعان ما صححت أخطاءها، ولكن المشكلة الأساسية لا تزال قائمة. وشبّه بورغوين إصلاح جوجل لـ”جيميني” بوضع ضمادة على جرح رصاصة.

وأشار ويفر إلى أن جوجل لديها رفاهية تحسين منتجاتها، ولكنها الآن في سباق ذكاء اصطناعي مع مايكروسوفت وأوبن إيه آي وأنثروبيك وغيرها، مضيفًا “إنهم يتحركون أسرع مما يعرفون”.

وقد تفاقم الوضع بسبب منصة X لإيلون ماسك.

وقال ويفر: “الناس على تويتر [الآن X] يسارعون إلى الاحتفال بأي حدث محرج في مجال التكنولوجيا”، مضيفًا أن رد الفعل على هفوة جيميني كان “متطرفًا”.

ومع ذلك، أكد ويفر أن الحادث يثير تساؤلات حول مدى قدرة البشر الذين يستخدمون أدوات الذكاء الاصطناعي على التحكم في المعلومات.

وأشار ويفر إلى أنه في غضون العقد القادم، يمكن أن تتجاوز كمية المعلومات التي يولدها الذكاء الاصطناعي (سواء كانت صحيحة أو خاطئة) كمية المعلومات التي يولدها البشر، مما يعني أن من يتحكم في تدابير أمن الذكاء الاصطناعي سيكون له تأثير كبير على العالم.

التحيزات الداخلية والخارجية
تقول كارين بالمر، صانعة محتوى الواقع المختلط الحائزة على جوائز في شركة Interactive Films Ltd، إنه إذا ركب شخص ما سيارة أجرة بدون سائق و”قام الذكاء الاصطناعي بمسح وجهك واعتقد أن هناك جرائم استثنائية ارتكبت ضدك، فسيأخذك إلى مركز الشرطة المحلية، وليس إلى وجهتك… سيقوم الذكاء الاصطناعي بمسح وجهك، وإذا اعتقد أن هناك جريمة ارتكبت ضدك، فسوف يأخذك إلى مركز الشرطة المحلية، وليس إلى وجهتك”.

يتم تدريب الذكاء الاصطناعي على كميات هائلة من البيانات ويمكن استخدامه في مجموعة واسعة من المهام، بدءاً من توليد الصور والأصوات إلى تحديد ما إذا كان الشخص مؤهلاً للحصول على قرض أو ما إذا كان الفحص الطبي يظهر الإصابة بالسرطان.

ولكن هذه البيانات تأتي من عالم مليء بالتحيزات الثقافية والمعلومات المضللة والتفاوتات الاجتماعية والمحتوى على الإنترنت، بما في ذلك المحادثات العادية بين الأصدقاء والمنشورات التحريضية والمبالغ فيها عمداً، ويمكن لنماذج الذكاء الاصطناعي أن تكرر هذه العيوب.

مع برنامج Gemini، حاول مهندسو Google إعادة التوازن إلى الخوارزمية لإنتاج نتائج تعكس التنوع البشري بشكل أفضل. ولكن جهودهم أتت بنتائج عكسية.

يقول محامي التكنولوجيا أليكس شاريستاني، الشريك الإداري في شركة Promise Legal، وهي شركة محاماة تساعد شركات التكنولوجيا: “من الصعب حقًا معرفة مكان التحيز وكيف يتم تضمينه”. يعتقد بورغوين وآخرون أنه حتى المهندسين ذوي النوايا الحسنة المشاركين في تعليم الذكاء الاصطناعي لا يسعهم إلا أن يجلبوا تجاربهم الحياتية الخاصة وتحيزاتهم اللاواعية إلى العملية.

كما انتقد بورغوين من شركة Valkyrie Labs شركات التكنولوجيا الكبيرة لإخفائها عمل الذكاء الاصطناعي الإنتاجي الداخلي في “صندوق أسود”، مما يمنع المستخدمين من اكتشاف التحيزات الخفية. وقال: “إن القدرة الإنتاجية تتجاوز بكثير فهمنا للمنهجية”.

وقد دعا الخبراء والناشطون إلى مزيد من التنوع في الفرق التي تعمل على تطوير الذكاء الاصطناعي والأدوات ذات الصلة، وإلى مزيد من الشفافية حول كيفية عملها، خاصةً عندما تعيد الخوارزميات كتابة متطلبات المستخدم “لتحسين” النتائج.