وقتی پای سیاه و سفید به فناوری باز می‌شود/ تبعیض نژادی در دنیای تکنولوژی
تاریخ انتشار: ۵ شهریور ۱۳۹۹ | کد خبر: ۲۹۰۹۷۸۲۶
بسیاری از فناوری‌های امروزی مانند سیستم‌های تشخیص چهره و الگوریتم‌های هوش مصنوعی دچار سوگیری نژادی هستند. اگر این رفتارهای تبعیضی در دنیای فناوری به زودی حل نشود چالش‌های بسیاری را در آینده ایجاد خواهد کرد.
گروه دانشگاه خبرگزاری آنا-هانا حیدری؛ 100 سال قبل تبعیض نژادی در بسیاری از کشورهای جهان شایع بود، حال این نوع تفکر کمتر مورد پذیرش جوامع است؛ اگرچه بشر هنوز راه طولانی برای از بین بردن کامل تفکرات نژادپرستانه دارد.
بیشتر بخوانید:
اخباری که در وبسایت منتشر نمی‌شوند!
برای مثال فناوری هوش مصنوعی چهره‌های افراد سیاه‌پوست را به درستی تشخیص نمی‌دهد. این امر باتوجه به گسترش روزافزون هوش مصنوعی در ابعاد مختلف زندگی بشر می‌تواند در آینده چالش‌های بسیاری را ایجاد کند. واقعیت عجیب نژادپرستی در دنیای فناوری نیاز به بررسی دقیقی دارد تا مشخص شود که منبع این سوگیری ابزارها و گجت‌ها چیست.
نژادپرستی در ابزارهای فناورانه
نمونه‌های بسیاری از تبعیض نژادی تکنولوژی در صنایع مختلف پیدا می‌شود. نرم‌افزارها و محصولاتی که به صورت روزانه استفاده می‌کنیم در خصوص نژاد پیش‌داورانه تصمیم‌گیری می‌کنند. حتی لوازم بهداشتی ساده نیز سوگیری نژادی دارند، برا مثال شیرها و ظرف مایع دستشویی اتوماتیک قادر به تشخیص پوست‌های تیره‌رنگ نیستند. به نظر می‌رسد در هنگام طراحی و ساخت این محصولات بهداشتی رایج به پوست‌های تیره‌تر توجهی نشده است.
سوگیری نژادی در دوربین‌ها نیز به چشم می‌خورد. فیلم‌های رنگی مخصوص دوربین‌های خانگی به نحوی طراحی شده بودند که افراد سفیدپوست را زیباتر نشان دهند. همراه این دوربین‌ها کارت‌های درجه‌بندی معروفی به نام کارت‌های شرلی وجود داشت که کیفیت تصاویر را تضمین می‌کرد. این کارت‌ها باعث می‌شد که تصاویر افراد با پوست‌های روشن جلوه زیباتری داشته باشد.
دوربین‌های امروزی نیز دست کمی از نمونه‌های قدیمی ندارند و حساسیت‌های نژادی در عملکرد آنها نیز دیده می‌شود. برای مثال برخی از دوربین‌های نیکون در هنگام عکسبرداری از افراد آسیایی خندان، پیام‌هایی از جمله «آیا کسی پلک زد؟» ارسال میکند. در واقع این پیام به چشمان بادامی و کشیده مردم برخی از کشورهای آسیایی اشاره دارد. در این دوربین‌ها همچنین فیلتری برای جذابیت بیشتر وجود دارد که با فعال کردن آن، پوست افراد روشن‌تر می‌شود تا زیباتر به نظر برسند.
الگوریتم‌های نژادپرست
سوگیری نژادی تنها به دوربین‌ها و شیرآلات اتوماتیک ختم نمی‌شود. تبعیض نژادی در الگوریتم‌ها و هوش مصنوعی نیز رویت می‌شود. فیس‌بوک، یوتیوب و گوگل با استفاده از الگوریتم‌ها اطلاعات که کاربران می‌بینند را کنترل می‌کنند. این الگوریتم‌ها حباب فیلتری ایجاد می‌کنند.
این امر بدین معناست که کاربر بیشتر اطلاعاتی را می‌بیند که مطابق میل‌اش باشد و به ندرت با اطلاعاتی روبه‌رو می‌شود که برخلاف نظرش باشد. درواقع حباب فیلتری براساس رفتارهای آنلاین قبلی کاربر ایجاد می‌شود. بدین ترتیب احتمال ارائه محتوای افراطی توسط الگوریتم‌ها به کاربران افزایش می‌یابد که این امر باعث ترویج دیدگاه‌های تبعیضی می‌شود.
خطوط قرمز یکی دیگر از مشکلات سوگیری نژادی در دنیای تکنولوژی است. در اپلیکیشن‌هایی مانند «پوکمن گو» یا الگوریتم‌های ارسال و دریافت مرسولات محله‌ها و مناطقی که تراکم جمعیتی اقلیت‌ها در آن زیاد است را به عنوان خطوط قرمز در نظر می‌گیرند که نمونه بارزی از تبعیض نژادی در فناوری‌های امروزی به شمار می‌رود.
وقتی هوش مصنوعی نژادپرست می‌شود
بارزترین و نگران‌کننده‌ترین سوگیری نژادی در هوش مصنوعی دیده می‌شود. باتوجه به گسترش این فناوری در تمام ابعاد زندگی بشر، تبعیض نژادی هوش مصنوعی می‌تواند باعث مشکلات بسیاری را در آینده ایجاد کند. سوگیری نژادی هوش مصنوعی در سیستم‌های تشخیص چهره به وضوح دیده می‌شود.
سیستم‌های تشخیص چهره قادر به تشخیص صورت افرادی که پوست‌های تیره‌تری دارند، نیست. وب‌کم‌ها نمی‌توانند صورت افراد غیرسفیدپوست را ردیابی کنند. ناگفته نماند یک بار هوش مصنوعی یک زوج آفریقایی آمریکایی را به عنوان «گوریل» برچسب‌گذاری کرده است. البته این تبعیض نژادی تنها در تشخیص چهره هوش مصنوعی نیست. به طور کلی یادگیری ماشینی استعداد شگرفی در بروز نتایج نژادپرستانه دارد.
نژادپرستی چگونه به دنیای فناوری راه یافته است؟
منشأ بسیاری از سوگیری‌های نژادی ابزارها، گجت‌ها و فناوری‌های امروزی بی‌توجهی انسان است. درواقع افرادی که این این ابزارها را می‌سازنند متهمان ردیف اول به شمار می‌رود. به نظر می‌رسد محققان و مهندسان در پروسه تربیت، کدنویسی و آموزش هوش مصنوعی فراموش می‌کنند که انسان‌هایی با رنگ پوست‌های تیره‌تر نیز در دنیا وجود دارند.
برای حل تبعیض نژادی در دنیای فناوری چه کاری باید انجام شود؟
گام اول در رفع سوگیری‌های نژادی ابزارها و فناوری‌ها آگاهی از وجود آن است. پژوهشگران و مهندسان در هنگام توسعه و تربیت هوش مصنوعی باید از پایگاه‌های اطلاعاتی وسیع‌تری استفاده کنند که شامل تمام نژادهای بشری از سیاه‌پوست و زردپوست گرفته تا سرخ‌پوست و سفیدپوست شود. رفع و حذف سوگیری‌های نژادی فعلی در دنیای فناوری می‌تواند مانع از وقوع چالش‌های نژادپرستانه در آینده شود.
انتهای پیام/4021/
منبع: آنا
کلیدواژه: نژادپرستی هوش مصنوعی یادگیری ماشینی الگوریتم تبعیض نژادی سیاه پوست آفریقایی آمریکایی دنیای فناوری تبعیض نژادی پوست های تیره الگوریتم ها تشخیص چهره هوش مصنوعی فناوری ها دوربین ها
درخواست حذف خبر:
«خبربان» یک خبرخوان هوشمند و خودکار است و این خبر را به‌طور اتوماتیک از وبسایت ana.press دریافت کرده‌است، لذا منبع این خبر، وبسایت «آنا» بوده و سایت «خبربان» مسئولیتی در قبال محتوای آن ندارد. چنانچه درخواست حذف این خبر را دارید، کد ۲۹۰۹۷۸۲۶ را به همراه موضوع به شماره ۱۰۰۰۱۵۷۰ پیامک فرمایید. لطفاً در صورتی‌که در مورد این خبر، نظر یا سئوالی دارید، با منبع خبر (اینجا) ارتباط برقرار نمایید.
با استناد به ماده ۷۴ قانون تجارت الکترونیک مصوب ۱۳۸۲/۱۰/۱۷ مجلس شورای اسلامی و با عنایت به اینکه سایت «خبربان» مصداق بستر مبادلات الکترونیکی متنی، صوتی و تصویر است، مسئولیت نقض حقوق تصریح شده مولفان در قانون فوق از قبیل تکثیر، اجرا و توزیع و یا هر گونه محتوی خلاف قوانین کشور ایران بر عهده منبع خبر و کاربران است.
خبر بعدی:
پایان سلطه گوگل با این موتور جست‌وجوی جدید
به گزارش همشهری آنلاین به نقل از تکنو، گوگل چندین دهه است که تسلط بی‌سابقه‌ای بر صنعت موتورهای جست‌وجو داشته است و بیش از ۹۱درصد از سهم بازار را در سال۲۰۲۴ به‌خود اختصاص داده است. طی سال‌های اخیر موتورهای جست‌وجوی دیگری ازجمله بینگ، داک داک گو و حتی تیک تاک در تلاش برای سرنگونی این سلطنت بودند اما این غول جست‌وجو همچنان یک رهبر باقی مانده است.
اکنون، ChatGPT می‌تواند به‌طور بالقوه موتور جست‌وجویی را معرفی کند که ممکن است کاتالیزور مورد نیاز برای کنار زدن گوگل از تاج و تخت عرصه موتورهای جست‌وجو باشد. به‌گفته کارشناسان، این اپلیکیشن توانایی جست‌وجوی بینگ مایکروسافت را با مدل زبان ChatGPT ترکیب میکند تا نتایج جست‌وجوی دقیق‌تری ایجاد کند. با توجه به اینکه مایکروسافت یک سرمایه‌گذار بزرگ در OpenAI است، پیاده‌سازی بینگ به‌نظر یک حرکت تاکتیکی و محتمل از سوی غول فناوری است.
یکی از کاربران شبکه اجتماعی Reddit گواهی‌های SSL را برای یک دامنه جدید به نام «search.chatgpt.com» مشاهده کرد که ایده‌ای کاملاً ثابت برای موتور جست‌وجوی ChatGPT است. اگر URL را تایپ کنید، خطای ۴۰۴ یا سایر پیام‌های هشدار معمولی درباره وب سایتی که وجود ندارد، دریافت نمی‌کنید. بلکه فقط رمز مرموز «یافت نشد» روی صفحه ظاهر می‌شود. همه اینها نشان می‌دهد که جست‌وجوی ChatGPT در راه است.
بیشتر بخوانید:
این شبکه اجتماعی برای کاربرانش بازی راه‌اندازی کرده است!اگر در سال‌های اخیر از هر فناوری هوش مصنوعی مولد استفاده کرده باشید، می‌دانید که چقدر این فناوری نوین می‌تواند برای جست‌وجو ارزشمند باشد. پاسخ‌های بسیار پیچیده‌تری به پرس‌وجوهای اساسی ارائه می‌دهد و از نظر نتایجی که ارائه می‌دهد بسیار زبان ساده‌تری دارد. به هرحال واقعیت این است که گوگل در زمینه هوش مصنوعی از OpenAI و مایکروسافت عقب‌مانده است.
کد خبر 849165 برچسب‌ها اینترنت - موتور جستجو شرکت گوگل شرکت مایکروسافت هوش مصنوعی
خودکشی دانشجوی کارشناسی ارشد در کوی دانشگاه تهران