'کامپیوتر رو اشتباه': چگونه تشخیص صورت منجر به غلط دستگیری مرد سیاه

بزرگنمایی این تصویر

یک عکس از اتهام مظنون در سرقت مورد در دیترویت چپ در کنار گواهینامه رانندگی عکس از رابرت ویلیامز. یک الگوریتم گفت: ویلیامز بود مظنون اما او و وکلای او می گویند که ابزار تولید یک غلط رسید. ACLU در میشیگان پنهان کردن عنوان

تعویض عنوان

ACLU در میشیگان

پلیس دیترویت در تلاش بودند تا بفهمند چه کسی به سرقت برده پنج ساعت از یک Shinola فروشگاه های خرده فروشی. مقامات می گویند دزد در زمان خاموش با برآورد $3,800 ارزش کالا.

محققان کشیده امنیتی تصویری که ضبط کرده اند. کارآگاهان در بزرگنمایی روی دانه دار فیلم و زد کسی که به نظر می رسد مشکوک از طریق نرم افزار تشخیص چهره.

یک ضربه آمد: رابرت Julian-Borchak Williams, 42, از, Farmington Hills, Mich., حدود 25 مایلی شمال غربی دیترویت.

در ماه ژانویه پلیس کشیده تا به ویلیامز' خانه و او را دستگیر کردند در حالی که او ایستاده بود در مقابل چمن در مقابل همسر و دو دختر به سنین 2 و 5 که گریه که آنها را تماشا پدر خود قرار می گیرد در ماشین گشت.

همسرش ملیسا ویلیامز خواسته که در آن شوهر او گرفته شد.

"'آن را گوگل,' " او به خاطر یک افسر گفتن او.

رابرت ویلیامز قرار داده شد در یک اتاق بازجویی پلیس قرار دادن سه عکس در مقابل او: دو عکس گرفته شده از دوربین مدار بسته در فروشگاه و یک عکس از ویلیامز " دولت-صدور گواهینامه رانندگی.

"زمانی که من به تصویر نگاه کنید از پسر من فقط دیدن یک مرد بزرگ سیاه و سفید. من نمی بینم شباهت. من فکر نمی کنم او به نظر می رسد مانند من در همه" گفت: ویلیامز در مصاحبه با NPR.

"[کارآگاه] flips یک صفحه سوم بیش از و می گوید: "بنابراین من حدس می زنم کامپیوتر اشتباه کردم ، و من گفت: "خوب است که من اشاره در تصویر قبلی من گواهینامه" ویلیامز گفت: از بازجویی با کارآگاه. ""اما این که پسر من نیست," او گفت: با اشاره به دیگر عکس.

"من آن را برداشت و از آن برگزار شد به صورت من و به او گفت:" من امیدوارم که شما نمی فکر می کنم همه مردم سیاه و سفید نگاه کنید به طور یکسان,' " ویلیامز گفت.

ویلیامز بازداشت شد و به مدت 30 دقیقه و سپس با قرار وثیقه تا دادگاه در مورد وکلای او می گویند.

در این جلسه یک Wayne County دادستان اعلام کرد که اتهامات علیه ویلیامز می شد کاهش یافته است.

حقوق مدنی کارشناسان می گویند ویلیامز اولین نمونه شناخته شده از یک آمریکایی به ناحق بازداشت و بر اساس یک آمار غلط تولید شده توسط تکنولوژی شناسایی چهره.

وکیل: هوش مصنوعی 'قاب و مطلع از همه چیز'

چه چیزی باعث ویلیامز مورد فوق العاده ای است که پلیس اعتراف کرد که در صورت به رسمیت شناختن فناوری انجام شده توسط پلیس ایالتی میشیگان در یک crime lab در درخواست از دیترویت اداره پلیس باعث دستگیری با توجه به شارژ اسناد و مدارک بررسی شده توسط NPR.

پیگیری ویلیامز به عنوان یک ممکن است مشکوک آمد با وجود تکرار ادعاهای او و وکلای او که بازی تولید شده توسط هوش مصنوعی معیوب بود.

ادعایی مشکوک در دوربین های امنیتی تصویر با پوشیدن قرمز St. Louis Cardinals کلاه. ویلیامز دیترویت بومی گفت: تحت هیچ شرایطی بود که پوشیدن کلاه.

"آنها هرگز حتی از او خواست هر گونه سوال قبل از دستگیری او. آنها هرگز از او خواست اگر او تا به حال یک بهانه. آنها هرگز خواسته اگر او تا به حال یک کاردینالز کلاه. آنها هرگز از او خواست که در آن او بود که گفت:" وکیل فیل شهردار با آیتالله سیستانی در میشیگان.

روز چهارشنبه ACLU میشیگان شکایت علیه اداره پلیس دیترویت پرسیدن که پلیس از توقف استفاده از این نرم افزار در تحقیقات.

در بیانیه ای به NPR, دیترویت اداره پلیس گفت: پس از ویلیامز مورد بخش تصویب قوانین جدید است. در حال حاضر تنها هنوز عکس, نیست امنیت, فیلم استفاده می شود برای تشخیص صورت ، و آن است که در حال حاضر استفاده می شود تنها در مورد جرایم خشونت آمیز.

"نرم افزار تشخیص چهره یک تحقیقی ابزار استفاده می شود که منجر به تولید تنها. اضافی تحقیقی کار همخوانی شواهد و علت احتمالی مورد نیاز قبل از دستگیری می توان ساخته شده است" دیترویت اداره پلیس Sgt. نیکول کیرکوود در بیانیه ای گفت.

در Williams' مورد پلیس خواسته بود فروشگاه گارد امنیتی که تا به حال شاهد سرقت به انتخاب مشکوک از یک عکس ترکیب بر اساس فیلم و نگهبان انتخاب ویلیامز.

ویکتوریا برتون-هریس ویلیامز' وکیل در مصاحبه ای گفت که او شک و تردید است که محققان با استفاده از نرم افزار تشخیص چهره به عنوان تنها یکی از چندین ممکن است منجر می شود.

"وقتی که فن آوری برداشت من مشتری صورت بیرون از وجود آن قاب و آگاه از همه چیز که افسران را متعاقبا" برتون هریس گفت.

دانشگاهی و دولتی مطالعات نشان داده اند که در صورت به رسمیت شناختن سیستم های misidentify مردم رنگ بیشتر از مردم سفید.

ویلیامز: "اجازه دهید بگویم که این مورد نبود خرده فروشی و تقلب. چه اگر آن را تجاوز و یا قتل؟"

با توجه به جورج تاون قانون مرکز در حفظ حریم خصوصی و فن آوری حداقل یک چهارم از کشور سازمان های اجرای قانون دسترسی به, تشخیص چهره, ابزار.

"بسیاری از افرادی که دستگیر می شوند با استفاده از تشخیص چهره نیست گفت: تشخیص چهره استفاده شده برای دستگیری آنها گفت:" جیمسون Spivack یک محقق در مرکز.

در حالی که آمازون, مایکروسافت و آی بی ام اعلام کرده اند که توقف فروش تشخیص چهره تکنولوژی به اجرای قانون Spivack گفت که اثر کمی از عمده ترین نرم افزار تشخیص چهره قرارداد با پلیس هستند و با کوچکتر بیشتر شرکت های تخصصی مانند کارولینای جنوبی-بر اساس DataWorks به علاوه که این شرکت که عرضه اداره پلیس دیترویت با آن چهره-نرم افزار اسکن.

این شرکت پاسخ نمی دهند به مصاحبه درخواست.

DataWorks Plus عرضه کرده است این فناوری برای سازمان های دولتی در سانتا باربارا کالیفرنیا شیکاگو و فیلادلفیا.

تشخیص چهره تکنولوژی مورد استفاده توسط مصرف کنندگان هر روز به باز کردن قفل گوشی های هوشمند خود و یا به دوستان برچسب در رسانه های اجتماعی. برخی از فرودگاه ها با استفاده از تکنولوژی اسکن مسافران قبل از آنها در هیئت مدیره پرواز.

آن استقرار دولت اگر چه کشیده است نگرانی از طرفداران حفظ حریم خصوصی و کارشناسان که به مطالعه یادگیری ماشین ابزار و برجسته معایب خاص خود است.

"برخی از گروه ها وسایل نقلیه موتور را با استفاده از تشخیص چهره برای تشخیص مجوز تقلب و سرقت هویت اما رایج ترین استفاده از اجرای قانون است که آیا دولت های محلی و یا فدرال اجرای قانون" Spivack گفت.

دولت با استفاده از تکنولوژی شناسایی چهره ممنوع شده است در نیم دوجین شهرستانها.

در میشیگان ویلیامز گفت که امیدوار است مورد او این است که یک شوکی به قانونگذاران.

"اجازه دهید بگویم که این مورد نبود خرده فروشی و تقلب. چه اگر آن را تجاوز و یا قتل ؟
خواهد من را از زندان در یک پیوند یا که من همیشه می آیند؟" ویلیامز گفت.

ویلیامز و همسرش ملیسا, نگرانی در مورد اثرات طولانی مدت بازداشت خواهد شد که خود به دو دختر جوان.

"دیدن پدر خود در بازداشت بود که اول خود را در تعامل با پلیس است. پس از آن قطعا رفتن به شکل چگونه آنها را درک اجرای قانون" ملیسا ویلیامز گفت.

در شکایت خود ویلیامز و وکلای او می گویند اگر اداره پلیس نمی ممنوعیت تکنولوژی آشکار و پس از آن حداقل تا عکس باید از پایگاه داده به طوری که این اتفاق نمی افتد دوباره.

"اگر کسی می خواهد به جلو نام من و نگاه من" ویلیامز گفت: "چه کسی می خواهد به عنوان یک دزد؟"