جوجل لإدخال أداتين جديدتين لوضع حد للتحيز في الذكاء الاصطناعي

جوجل لإدخال أداتين جديدتين لوضع حد للتحيز في الذكاء الاصطناعي

    جوجل لإدخال أداتين جديدتين لوضع حد للتحيز في الذكاء الاصطناعي


    لقد تم التركيز في الآونة الأخيرة على الذكاء الاصطناعي بسبب نظامه المعيب. مطلوب إدخال الإنسان لتدريب الآلات وموارد التدريب ، في شكل أشخاص حقيقيين أو يتم استخدام بيانات وهمية أخرى.

    غالبًا ما تستخدم شركات التكنولوجيا الكبرى الذكور البيض لتدريب الذكاء الاصطناعي ، مما يؤدي إلى التحيزات في الخوارزمية الناتجة. قدمت AI monolith Google جهودها في I / O 2019 لعرض الجهود المبذولة للقضاء على هذه التحيزات.

    بعد سنوات من العمل ، قدمت الشركة واحدة من طرقه المعروفة باسم اختبار مع ناقلات تنشيط المفهوم (TCAV). الرئيس التنفيذي لشركة جوجل ، قدم ساندر Pichai مقدمة موجزة عن ذلك في مؤتمر المطور السنوي.


    من خلال أداة التحليل هذه ، سيكون بمقدور المطورين الحكم على كيفية استنتاج العينات بواسطة الذكاء الاصطناعي ، وكيف يتم تقييم الخوارزميات ، وترتبط مفاهيم الذكاء الاصطناعي بالعينات. يتم تحليل بكسلات المجموعة pf بواسطة الشبكات العصبية لدراسة الصورة. ثم يذهب TCAV بعمق لرؤية المفهوم الأكثر ارتباطًا والأقرب منه وفقًا للبشر الذين تفضلهم الشبكة.

    يمكن لـ TCAV فقط تحليل واكتشاف بينما سيتعين على المطورين أنفسهم إصلاح المشكلات في AI ، بدلاً من الاعتماد على TCAV لتصحيحها نيابة عنهم. ومع ذلك ، فهي خطوة مهمة نحو التقدم إذا استخدمت بشكل صحيح.

    تطور آخر من أجل تقليل التحيزات هو التعلم الاتحادي. يتم تطبيقه على Gboard التي تشير إلى مستخدمين آخرين حول المصطلحات ، وهي كلمات غير شائعة ولكن بعض المستخدمين يستخدمونها.

    تمنح جوجل طراز قاعدة بيانات الكلمة الرئيسية للهواتف ، وكلما تمت كتابة كلمة غير شائعة باستخدام Gboard ، يتم إرسالها إلى بيانات التدريب الخاصة بالجهاز. لم يتم جلب الجملة بأكملها ، بدلاً من ذلك فقط يتم إرسال هذه الكلمة الفريدة إلى جوجل بواسطة الجهاز.

    قد يكون تجميع الصور السلبية من المستخدمين مفيدًا للمطورين لاستخدام البيانات الجماعية لأخذ العينات.

    لا تزال هناك حاجة إلى مزيد من الجهود للتغلب على التحيزات المحتملة في الذكاء الاصطناعى ، لأنه أصبح أكثر شيوعًا في الاستخدام ، مثل إدارات الشرطة والسلطات الحكومية الأخرى

    إرسال تعليق