چرا شرکتها به کمیتۀ اخلاق نیاز دارند
نظارت کارشناسان موجب حفاظت بیشتر از دادهها و برندتان میشود.
یکی از مقالات مجلۀ ساینس در سال 2019، هوش مصنوعی اوپتوم را زیر سوال برد. بسیاری از مراکز درمانی از این سیستم برای شناسایی آسیبپذیرترین بیمارانی استفاده میکنند که باید تحت مراقبتهای بیشتری قرار بگیرند. اما به ادعای این مقاله، اوپتوم نگاه تبعیضآمیزی داشت. تنها 18 درصد از بیماران شناساییشده سیاهپوست و 82 درصدِ باقیمانده سفیدپوست بودند. درحالیکه محققان پس از ارزیابی دادههای بدحالترین بیماران، رقم درست را به ترتیب 46 و 53 درصد تشخیص دادند. آنهم درحالیکه طبق برآورد محققان، از این هوش مصنوعی برای حداقل 100 میلیون بیمار استفاده شده بود.
خلاصه ایده
مسئله
حتی اگر قدرتمندترین فناوری و متنوعترین شرکت را داشته باشید، باز هم سوگیری به هوش مصنوعی و مدلهای یادگیری ماشین شما راه مییابد.
دلیل
هرچند عوامل زیادی در سوگیری هوش مصنوعی دخیل است، اما کارشناسان داده و فناوری بهراحتی میتوانند بر تمام آنها نظارت کنند.
راهکار
کمیتۀ اخلاق هوش مصنوعی میتواند ریسکهای اخلاقی طرحهای اختصاصی شرکتها یا سایر تامینکنندگان ثالث را شناسایی و تعدیل کند.
یکی از مقالات مجلۀ ساینس در سال 2019، هوش مصنوعی اوپتوم را زیر سوال برد. بسیاری از مراکز درمانی از این سیستم برای شناسایی آسیبپذیرترین بیمارانی استفاده میکنند که باید تحت مراقبتهای بیشتری قرار بگیرند. اما به ادعای این مقاله، اوپتوم نگاه تبعیضآمیزی داشت. تنها 18 درصد از بیماران شناساییشده سیاهپوست و 82 درصدِ باقیمانده سفیدپوست بودند. درحالیکه محققان پس از ارزیابی دادههای بدحالترین بیماران، رقم درست را به ترتیب 46 و 53 درصد تشخیص دادند. آنهم درحالیکه طبق برآورد محققان، از این هوش مصنوعی برای حداقل 100 میلیون بیمار استفاده شده بود.
خلاصه ایده
مسئله
حتی اگر قدرتمندترین فناوری و متنوعترین شرکت را داشته باشید، باز هم سوگیری به هوش مصنوعی و مدلهای یادگیری ماشین شما راه مییابد.
دلیل
هرچند عوامل زیادی در سوگیری هوش مصنوعی دخیل است، اما کارشناسان داده و فناوری بهراحتی میتوانند بر تمام آنها نظارت کنند.
راهکار
کمیتۀ اخلاق هوش مصنوعی میتواند ریسکهای اخلاقی طرحهای اختصاصی شرکتها یا سایر تامینکنندگان ثالث را شناسایی و تعدیل کند.
نویسنده
رید بلکمن مشاور ارشد موسسۀ هوش مصنوعی دیلویت و همچنین بنیانگذار و مدیرعامل ویرچو، شرکت مشاورۀ ریسک اخلاقی است. او نویسندۀ کتاب «ماشینهای اخلاقمدار: راهنمای فشردهای برای توسعۀ هوش مصنوعی شفاف، محترمانه و عاری از سوگیری» (انتشارات کسبوکار هاروارد، 2022) است. این مقاله از همین کتاب اقتباس شد.
نظرات شما