تیمیت گبرو به دلیل تحقیقاتش در زمینه تعصب و نابرابری در هوش مصنوعی شناخته شده است ، و به ویژه برای مقاله ای در سال 2018 که با همکاری Joy Buolamwini همکاری کرد و نشان داد که نرم افزار تشخیص چهره در هنگام طبقه بندی زنان و افراد رنگارنگ چقدر ضعیف است. کار آنها باعث آگاهی گسترده از موضوعات رایج در هوش مصنوعی امروزه شد ، به ویژه هنگامی که این فناوری وظیفه دارد هر چیزی را در مورد انسان شناسایی کند.
گبرو در نامه الکترونیکی ، که برای اولین بار توسط خبرنامه Platformer در روز پنجشنبه منتشر شد ، نوشت که او در گوگل احساس “غیرانسانی دائمی” می کند و از عدم تنوع مداوم در شرکت ابراز ناراحتی می کند.
“به این دلیل که مسئولیت پذیری صفر است. انگیزه ای برای استخدام 39٪ زنان وجود ندارد: وقتی شروع به دفاع از افراد کم نماینده می کنید ، زندگی شما بدتر می شود و رهبران دیگر را ناراحت می کنید وقتی که آنها نمی خواهند در هنگام کالیبراسیون رتبه بندی خوبی به شما بدهند. هیچ راهی وجود ندارد که اسناد یا مکالمات بیشتری به نتیجه برسد. “
گبرو همچنین از روند داخلی مربوط به بررسی یک مقاله تحقیقاتی که با دیگران در Google و خارج از شرکت همکاری کرده و هنوز منتشر نشده است ، ابراز سرخوردگی کرد.
مقاله تحقیق مورد بحث
Gebru ، که در اواخر سال 2018 به Google پیوست ، به CNN Business گفت که مقاله تحقیقاتی مورد بحث در مورد خطرات مدل های بزرگ زبان است – روند رو به رشد AI با انتشار سیستم های به طور فزاینده ای که می توانند متن قابل توجهی مانند دستور العمل های انسان ایجاد کنند ، شعر ، و حتی مقالات خبری. این همچنین منطقه ای از هوش مصنوعی است که گوگل نشان داده احساس می کند برای آینده آن در جستجو مهم است.
گبرو گفت این مقاله به کنفرانس انصاف ، پاسخگویی و شفافیت ارائه شده است که در ماه مارس برگزار می شود و هیچ چیز غیرمعمولی در مورد نحوه ارسال مقاله برای بررسی داخلی در Google وجود ندارد. وی گفت که وی ایمیل را سه شنبه عصر پس از مدتها رفت و برگشت با هدایت Google AI نوشت که در آن بارها به او گفته شده بود مقاله را برای ارائه در کنفرانس پس بگیرد یا نام خود را از آن حذف کند.
گبرو به CNN Business گفت که روز چهارشنبه به او اطلاع داده شد که دیگر در این شرکت کار نمی کند. گبرو گفت: “واقعاً لازم نبود که اینگونه باشد.”
ایمیلی برای کارمندان Google Research ارسال شده است
سخنگوی گوگل گفت این شرکت نظری ندارد.
در ایمیلی که روز پنجشنبه برای کارمندان Google Research ارسال شد و وی روز جمعه به صورت عمومی ارسال کرد ، جف دین ، رئیس هوش مصنوعی گوگل ، به کارمندان دیدگاه خود را گفت: Gebru مقاله ای را همکاری کرد اما دو هفته زمان لازم را برای بررسی آن به شرکت نداد مهلت آن وی نوشت که این مقاله در داخل بررسی شد ، اما “با نوار ما مطابقت نداشت.”
دین افزود: متأسفانه ، این مقاله خاص فقط با یک روز اخطار قبل از موعد مقرر به اشتراک گذاشته شد – برای این نوع بررسی دو هفته زمان لازم داریم – و سپس به جای انتظار برای بازخورد بازبینی ، برای ارسال تصویب و ارسال شد.
وی گفت که گبرو در صورت ماندن در Google به خواسته هایی پاسخ می داد که باید برآورده می شد. دین نوشت: “تیمنیت نوشت كه اگر ما این خواسته ها را برآورده نمی كنیم ، او گوگل را ترك می كند و در تاریخ پایان كار می كند.”
گبرو به سی ان ان بیزینس گفت که شرایط وی شامل شفافیت در مورد نحوه پس گرفتن مقاله ، و همچنین جلساتی با دین و یکی دیگر از مدیران هوش مصنوعی در گوگل برای صحبت در مورد درمان محققان است.
دین نوشت: “ما تصمیم او را برای استعفا از Google قبول و احترام می گذاریم.” وی همچنین برخی از مراحل تحقیق و بررسی شرکت را توضیح داد و گفت که با تیم های تحقیقاتی گوگل ، از جمله اعضای تیم اخلاقی هوش مصنوعی صحبت خواهد کرد “تا آنها بدانند که ما به شدت از این جریان های مهم تحقیق حمایت می کنیم.”
نمایش سریع پشتیبانی
درست بعد از توییت اولیه Gebru در روز چهارشنبه ، همکاران و دیگران به سرعت پشتیبانی آنلاین او را از جمله مارگارت میچل ، که رهبر تیم Gebru در Google بود ، به اشتراک گذاشتند.
میچل گفت: “امروز یک فقدان وحشتناک جدید در تغییر زندگی در یک سال خسارات وحشتناک در تغییر زندگی طلوع می کند.”
توییت کرد پنجشنبه. “من نمی توانم درد از دست دادنtimnitgebru را به عنوان سرپرست خودم بخوبی بیان کنم. من به دلیل او توانسته ام برتری پیدا کنم – مانند بسیاری دیگر. من بیشتر شوک دارم.”
“من پشت شما هستم همانطور که شما همیشه مال من بودید”
توییت کرد Buolamwini ، که علاوه بر همکاری در مقاله 2018 با Gebru ، بنیانگذار لیگ الگوریتم است. “شما درخشان و قابل احترام هستید. به سخنان دیگران گوش می دهید كه به راحتی آنها را نادیده می گیرند. شما س askالات سختی را می پرسید نه برای پیشرفت خود بلكه برای ارتقا جوامعی كه به بنیان خود مدیون هستیم.”
شررولین ایفیل ، رئیس جمهور و مشاور مشاور صندوق دفاع حقوقی و آموزشی NAACP ،
توییت کرد، “من در مورد سوگیری هوش مصنوعی چیزهای زیادی از او آموخته ام. چه فاجعه ای است.”
تا اواسط روز جمعه ، یک پست متوسط که عزیمت وی را تقبیح می کند و خواستار شفافیت درباره تصمیم Google در مورد مقاله تحقیقاتی است ، به امضای بیش از 1300 کارمند Google و بیش از 1600 حامی در زمینه های علمی و AI رسیده است. کسانی که پشتیبانی خود را به اشتراک می گذارند شامل زنان زیادی است که با نابرابری در صنعت فناوری مبارزه کرده اند ، مانند الن پائو ، مدیر عامل پروژه شامل و مدیر عامل سابق Reddit. آیفوما اوزوما ، کارمند سابق گوگل ، بنیانگذار Earthseed ؛ و مردیت ویتاکر ، مدیر دانشکده موسسه AI Now و سازمان دهنده اصلی Google Walkout 2018 ، که به آزار و اذیت جنسی و رفتار نامناسب در این شرکت اعتراض داشتند. بولوموینی ، و همچنین دانیل سیترون ، استاد حقوق که متخصص مطالعه آزار و اذیت آنلاین در دانشگاه بوستون و همکار MacArthur Fellow 2019 است.
سیترون به سی ان ان بیزینس گفت که وی در مورد افشای ، روشن سازی و مطالعه نژادپرستی و نابرابری های جاسازی شده که در سیستم های الگوریتمی ادامه می یابد ، گبرو را به عنوان “چراغ پیشرو” می داند. وی گفت که Gebru نشان داد که چقدر اهمیت دارد که در نحوه جمع آوری داده ها تجدیدنظر کنیم و سوالاتی درمورد اینکه آیا حتی باید از این سیستم ها استفاده کنیم نیز وجود دارد.
“WTF ، گوگل؟” او گفت. “متاسفم ، اما شما خیلی خوش شانس بودید که او حتی به کار شما آمد.”
