IBM رها تشخیص صورت, محصولات محکوم نژادی مغرضانه نظارت

بزرگنمایی این تصویر

آی بی ام این هفته اعلام کرد که این امر جلوگیری از فروش آن تشخیص چهره تکنولوژی به مشتریان از جمله ادارات پلیس. این حرکت باعث تماس برای دیگر شرکت فنی مانند آمازون و مایکروسافت برای انجام همان. ریچارد درو/AP پنهان کردن عنوان

تعویض عنوان

ریچارد درو/AP

آی بی ام دیگر نمی خواهد به ارائه تکنولوژی شناسایی چهره به ادارات پلیس برای توده نظارت و دهها Arvind کریشنا آی بی ام مدیر اجرایی نوشت: در نامه ای به کنگره است.

کریشنا نوشت که چنین فن آوری می تواند مورد استفاده توسط پلیس به نقض "حقوق اساسی بشر و آزادی" است و خواهد بود که با شرکت در آزمون ،

"ما اعتقاد داریم در حال حاضر زمان برای شروع یک گفتگوی ملی در مورد اینکه آیا و چگونه تشخیص چهره تکنولوژی باید شاغل داخلی سازمان های اجرای قانون" کریشنا گفت.

در سراسر کشور تظاهرات پس از پلیس با قتل جورج فلوید در حال حاضر منجر به تغییرات به ادارات پلیس در سراسر کشور - بیش از استفاده از زور در سیاست های پلیس و سوء رفتار پلیس قرارداد.

لحظه ای از حساب های این کشور در ارتباط با اجرای قانون نیز می آید به عنوان artificial-intelligence پژوهشگران و فن آوری دانشمندان همچنان به هشدار در مورد نرم افزار تشخیص چهره به خصوص که چگونه برخی از داده های مبتنی بر سیستم نشان داده شده است به لحاظ نژادی مغرضانه. مثلا MIT Media Lab پیدا کرده است که این فن آوری است که اغلب کمتر موفق در شناسایی جنس از تیره پوست چهره که می تواند منجر به misidentifications.

"این یک خوش آمدید, به رسمیت شناختن است که تشخیص چهره تکنولوژی به خصوص که مستقر توسط پلیس استفاده شده است به تضعیف حقوق بشر و به ضرر مردم سیاه و سفید به طور خاص و همچنین مردم بومی و افراد دیگر از رنگ" گفت: شادی Buolamwini که انجام MIT مطالعه و بنیانگذار الگوریتمی لیگ عدالت.

Nate آزاد Wessler یک وکیل با آیتالله سیستانی سخنرانی حریم خصوصی و فناوری پروژه گفت: در حالی که او با تشویق اخبار از IBM عمده دیگر شرکت های فن آوری هنوز ایستاده با نرم افزار.

"این خوب است که آی بی ام در زمان این مرحله اما نمی توان آن را تنها شرکت" آزاد Wessler NPR گفت. "آمازون مایکروسافت و دیگر شرکت ها در حال تلاش برای ایجاد مقدار زیادی از پول را با فروش این خطرناک مشکوک ابزار به ادارات پلیس. که باید در حال حاضر است."

در آی بی ام کریشنا که در زمان بیش به عنوان مدیر عامل در ماه آوریل با اشاره به تکنولوژی خطر تولید تبعیض آمیز نتایج خود را اعلام انداختن "هدف کلی" نرم افزار تشخیص چهره.

"هوش مصنوعی یک ابزار قدرتمند است که می تواند کمک به اجرای قانون و حفظ شهروندان امن" او نوشت: به دموکرات کنگره که به معرفی پلیس اصلاحات قانون روز دوشنبه که ممنوعیت اجرای قانون فدرال با استفاده از تکنولوژی شناسایی چهره. "اما فروشندگان و کاربران از هوش مصنوعی سیستم های یک مسئولیت مشترک برای اطمینان حاصل شود که هوش مصنوعی تست شده برای تعصب خصوصیات استفاده می شود که در اجرای قانون و این چنین تعصب تست حسابرسی و گزارش شده است."

IBM تا به حال تست شده نرم افزار تشخیص چهره با اداره پلیس نیویورک اما تصویب آن توسط دیگر اجرای قانون به نظر می رسد محدود شود. تحلیلگران که آهنگ آی بی ام اشاره کرده اند که این شرکت در صورت تشخیص نیست جلو در حد درآمد نشان می دهد که این تصمیم شاید خوب ساخته شده حس کسب و کار.

منتقدان از فن آوری نظارت که نام مایکروسافت و آمازون را شبیه تعهدات می گویند با تکیه بر داده ها-ابزار معدن به عمومی-ایمنی تصمیم گیری می اندازد شهروندان است.

"تشخیص چهره سیستم بسیار بالاتر از نرخ شکست آید از مردم از رنگ و زنان و افراد جوان که می توانید آنها را موضوع آنها را به آسیب بزرگ توسط پلیس," آیتالله سیستانی را آزاد Wessler گفت. "آیا برای استفاده از نیروی آیا به دستگیری کسی که برای متوقف کردن کسی در خیابان."

آمازون یک بازیکن اصلی در نرم افزار تشخیص چهره. آن Rekognition محصول استفاده شده است و توسط ادارات محلی پلیس در فلوریدا و اورگان است.

آیتالله سیستانی در بر داشت در سال 2018 است که این نرم افزار به اشتباه شناسایی 28 اعضای کنگره به عنوان افرادی که دستگیر شده بود به جرم جنایت.

و Buolamwini کشف شده است که زمانی که عکس ها از چندین سیاه برجسته زنان از جمله اپرا و میشل اوباما در حال اسکن شده توسط آمازون تکنولوژی که سیستم به اشتباه آمده است که آنها مرد هستند.

آمازون علنا به دفاع از خود نرم افزار تشخیص و گفت: مطالعات به چالش کشیدن آن دقت داشته موجود سوء تفاهم در مورد چگونه تکنولوژی عمل می کند.

"ما می دانیم که تکنولوژی شناسایی چهره استفاده می شود که غیر مسئولانه است خطرات" نوشته مت چوب, مدیر کل هوش مصنوعی در Amazon Web Services. "اما ما همچنان خوش بینانه در مورد این فناوری ارائه خواهد شد در جامعه و در حال حاضر شاهد معنی دار اثبات امتیاز با تشخیص چهره کمک به خنثی کردن کودک قاچاق reuniting از دست رفته کودکان و نوجوانان با پدر و مادر و ارائه بهتر پرداخت اعتبار و یا کاهش تقلب در کارت اعتباری.

آمازون بازگشت نیست یک درخواست برای اظهار نظر در مورد آی بی ام تصمیم به پیاده روی به دور از نرم افزار تشخیص چهره.

مایکروسافت که با استفاده از تکنولوژی شناسایی چهره از طریق آن Azure cloud computing services همچنین بازگشت نیست یک درخواست برای نظر.

بزرگ با تکنولوژی استفاده از تشخیص چهره به این اختلافها دامن زده و اقدام قانونی برای useage فراتر از اجرای قانون است.

در ماه ژانویه Facebook موافقت به پرداخت نیم میلیارد دلار برای حل و فصل یک دعوی در دادگاه اقدام کلاس به اتهام نقض ایلینوی مصرف کننده قوانین حفظ حریم خصوصی در استفاده از آن از تکنولوژی شناسایی چهره استفاده می شود که در صورت تطبیق نرم افزار به حدس می زنم که به نظر می رسد در عکس های ارسال شده به شبکه های اجتماعی است.