دوربین های تشخیص چهره: ده دلیلی که باید در مورد این فناوری نگران باشید

دوربین های تشخیص چهره

رشد سریع این فناوری بحث بسیاری را به راه انداخته است. فعالان ، سیاستمداران ، دانشگاهیان و حتی نیروهای پلیس در مورد تأثیری که تشخیص چهره می تواند بر فرهنگ سیاسی مبتنی بر حقوق و دموکراسی داشته باشد ابراز نگرانی جدی می کنند.

مقاله یک فعال حقوق بشر:

نگرانی های حقوق بشر
من به عنوان کسی که در مورد آینده حقوق بشر تحقیق می کند، این نگرانی ها را به اشتراک می گذارم. در اینجا ده دلیل وجود دارد که چرا باید نگران استفاده از فناوری تشخیص چهره در فضاهای عمومی باشیم.

1) ما را در مسیری به سمت نظارت محیط خصوصی خودکار قرار می دهد

دوربین مداربسته در حال حاضر در سراسر جهان گسترده شده است، اما برای اینکه دولت ها از فیلم علیه شما استفاده کنند، باید کلیپ های خاصی از شما در حال انجام کاری که می توانند به عنوان مدرک ادعا کنند، پیدا کنند. فناوری تشخیص چهره، نظارت را به سطوح جدیدی می رساند. این امکان نظارت مستقیم و بدون تبعیض از افراد را در حین انجام کارهای روزانه خود فراهم می کند و به مقامات این فرصت را می دهد که هر حرکت شما را ردیابی کنند.

2) بدون چارچوب قانونی یا نظارتی مشخص عمل می کند

اکثر کشورها قانون خاصی ندارند که استفاده از فناوری تشخیص چهره را تنظیم کند، اگرچه برخی از قانونگذاران در تلاش برای تغییر این هستند. این خلع قانونی راه را برای سوء استفاده باز می کند، مانند به دست آوردن تصاویر ما بدون اطلاع یا رضایت ما و استفاده از آنها به روش هایی که ما آن را تایید نمی کنیم.

3) ناقض اصول ضرورت و تناسب است

یک اصل رایج حقوق بشر که توسط سازمان‌هایی از سازمان ملل  به رسمیت شناخته شده است ، این است که نظارت باید ضروری و متناسب باشد. این بدان معناست که به جای ایجاد امکان مداخله ناموجه در آزادی و حقوق اساسی ما، نظارت باید به تعقیب جنایات جدی محدود شود. فناوری تشخیص چهره با این اصول در تضاد است. این فناوری کنترلی است که نشانه بی اعتمادی دولت به شهروندانش است.

4) حق حریم خصوصی ما را نقض می کند

حق حفظ حریم خصوصی حتی در فضاهای عمومی مهم است. از بیان هویت ما بدون دخالت ناخواسته دولت یا شرکت های خصوصی محافظت می کند. ضبط، ذخیره و تجزیه و تحلیل بی رویه و بی رویه و بزرگ فناوری تشخیص چهره تصاویر ما این حق را تضعیف می کند زیرا به این معنی است که ما دیگر نمی توانیم کاری را در ملاء عام بدون اطلاع دولت انجام دهیم.

5) بر فرهنگ سیاسی دموکراتیک ما تأثیر وحشتناکی دارد

نظارت کامل می تواند افراد را از حضور در رویدادهای عمومی باز دارد. می تواند مشارکت در اعتراضات سیاسی و کمپین های تغییر را خفه کند. و می تواند از رفتارهای ناسازگارانه جلوگیری کند. این اثر وحشتناک نقض جدی حق آزادی اجتماعات، تشکل و بیان است.

بب

6) فرصت رضایت را از شهروندان سلب می کند

اطلاعات دقیق و مشخصی در مورد نحوه استفاده از تشخیص چهره وجود ندارد. این بدان معناست که به ما فرصت داده نمی شود تا با ضبط، تجزیه و تحلیل و ذخیره تصاویر خود در پایگاه های داده موافقت کنیم. با محروم کردن ما از فرصت رضایت ، از انتخاب و کنترل استفاده از تصاویر خود محروم می شویم.

7) اغلب نادرست است

فناوری تشخیص چهره نوید شناسایی دقیق را می دهد. اما مطالعات متعدد نشان داده‌اند که چگونه الگوریتم‌هایی که بر روی مجموعه‌های داده‌های مغرضانه نژادی آموزش داده شده‌اند، افراد رنگین‌پوست، به‌ویژه زنان رنگین‌پوست را به اشتباه شناسایی می‌کنند. چنین سوگیری الگوریتمی به ویژه اگر منجر به دستگیری های غیرقانونی شود، یا اگر سازمان های دولتی و شرکت های خصوصی را به تبعیض علیه زنان و افراد با پیشینه های قومی اقلیت سوق دهد، نگران کننده است.

8) می تواند منجر به سوگیری اتوماسیون شود

اگر افرادی که از نرم افزار تشخیص چهره استفاده می کنند به اشتباه تصور کنند که این فناوری خطاناپذیر است، می تواند منجر به تصمیمات بد شود. باید از این " سوگیری اتوماسیون " اجتناب شود. نتایج ماشینی نباید تعیین کند که سازمان های دولتی یا شرکت های خصوصی چگونه با افراد رفتار می کنند. اپراتورهای انسانی آموزش دیده باید کنترل معناداری داشته باشند و بر اساس قانون تصمیم بگیرند.

9) به این معنی است که فهرست‌های نظارت مخفی دولت وجود دارد

پایگاه‌های اطلاعاتی حاوی تصاویر صورت ما باید زنگ خطر را به صدا در آورند. آنها نشان می دهند که شرکت های خصوصی و سازمان های مجری قانون تصاویر ما را برای ایجاد لیست های نظارتی از مظنونین احتمالی بدون اطلاع یا رضایت ما به اشتراک می گذارند. این یک تهدید جدی برای حقوق فردی و آزادی های مدنی ما است. امنیت این پایگاه‌های اطلاعاتی و آسیب‌پذیری آنها در برابر اقدامات هکرها نیز جای نگرانی دارد.

10) می توان از آن برای هدف قرار دادن گروه های آسیب پذیر استفاده کرد

از فناوری تشخیص چهره می توان برای نظارت کامل استفاده کرد. اما همچنین می تواند به طور انتخابی مستقر شود، به عنوان مثال برای شناسایی مهاجران و پناهندگان. فروش نرم‌افزار تشخیص چهره به آژانس‌هایی مانند اداره مهاجرت و گمرک آمریکا (ICE) که به دلیل تاکتیک‌هایش در برخورد با مهاجران به شدت مورد انتقاد قرار گرفته است ، باید هر کسی را که به حقوق بشر اهمیت می‌دهد، نگران کند. و استفاده از دستگاه های تلفن همراه دستی با برنامه تشخیص چهره توسط نیروهای پلیس، شبح افزایش تبعیض نژادی را در سطح خیابان افزایش می دهد.

بحثی که به شدت لازم است

با توجه به نگرانی های بسیار در مورد فناوری تشخیص چهره، ما به شدت به گفتگوی عمیق تر در مورد تأثیر آن بر حقوق و آزادی های مدنی خود نیاز داریم. بدون تنظیم مناسب این سیستم ها، ما در خطر ایجاد دولت های پلیسی  در کشورهایی هستیم که زمانی آزاد و دموکراتیک بودند