چرا شرکت‌ها به کمیتۀ اخلاق نیاز دارند
نظارت کارشناسان موجب حفاظت بیشتر از داده‌ها و برندتان می‌شود.
یکی از مقالات مجلۀ ساینس در سال 2019، هوش مصنوعی اوپتوم را زیر سوال برد. بسیاری از مراکز درمانی از این سیستم برای شناسایی آسیب‌پذیرترین بیمارانی استفاده میکنند که باید تحت مراقبت‌های بیشتری قرار بگیرند. اما به ادعای این مقاله، اوپتوم نگاه تبعیض‌آمیزی داشت. تنها 18 درصد از بیماران شناسایی‌شده سیاه‌پوست و 82 درصدِ باقی‌مانده سفیدپوست بودند. درحالی‌که محققان پس از ارزیابی داده‌های بدحال‌ترین بیماران، رقم درست را به ترتیب 46 و 53 درصد تشخیص دادند. آن‌هم درحالی‌که طبق برآورد محققان، از این هوش مصنوعی برای حداقل 100 میلیون بیمار استفاده شده بود.
یکی از مقالات مجلۀ ساینس در سال 2019، هوش مصنوعی اوپتوم را زیر سوال برد. بسیاری از مراکز درمانی از این سیستم برای شناسایی آسیب‌پذیرترین بیمارانی استفاده میکنند که باید تحت مراقبت‌های بیشتری قرار بگیرند. اما به ادعای این مقاله، اوپتوم نگاه تبعیض‌آمیزی داشت. تنها 18 درصد از بیماران شناسایی‌شده سیاه‌پوست و 82 درصدِ باقی‌مانده سفیدپوست بودند. درحالی‌که محققان پس از ارزیابی داده‌های بدحال‌ترین بیماران، رقم درست را به ترتیب 46 و 53 درصد تشخیص دادند. آن‌هم درحالی‌که طبق برآورد محققان، از این هوش مصنوعی برای حداقل 100 میلیون بیمار استفاده شده بود.
نویسنده
رید بلک‌من مشاور ارشد موسسۀ هوش مصنوعی دیلویت و همچنین بنیان‌گذار و مدیرعامل ویرچو، شرکت مشاورۀ ریسک اخلاقی است. او نویسندۀ کتاب «ماشین‌های اخلاق‌مدار: راهنمای فشرده‌ای برای توسعۀ هوش مصنوعی شفاف، محترمانه و عاری از سوگیری» (انتشارات کسب‌وکار هاروارد، 2022) است. این مقاله از همین کتاب اقتباس شد.
نظرات شما