وقتی سازوکار هوش مصنوعی قابل درک نباشد، اعتماد مردم به آن بیشتر می‌شود

تیموتی دی‌استفانو از دانشگاه جورج‌تاون به همراه همکارانش -مایکل مِنیِتی از هاروارد و لوکا وندرامینلی از کاترین کلوگِ MIT- تصمیمات فروشگاه‌ پوشاک لوکس آمریکا برای توزیع 425 محصول در 186 شعبه‌اش را تحلیل کردند. دو الگوریتم در اختیار کارکنان قرار گرفت. یکی از آن‌ها فرایند ساده و مشخصی داشت، اما دومی قابل درک نبود. نیمی از تصمیمات کارکنان با توصیه‌های الگوریتم ساده و نیمۀ دیگر با الگوریتم غیرقابل درک گرفته شدند. همان‌طور که مقایسه میان تصمیمات نشان داد، احتمال پیروی کارکنان از الگوریتم‏‌های غیرقابل تفسیر بیشتر بود. در نتیجه:

استاد دی‌استفانو، از تحقیق خود دفاع کنید:

وقتی سازوکار هوش مصنوعی قابل درک نباشد، اعتماد مردم به آن بیشتر می‌شود

دی‌استفانو: بر اساس تحقیقات پیشین، تصمیم‌گیرندگان اغلب علاقۀ چندانی به پذیرفتن توصیه‌های هوش مصنوعی ندارند و عامدانه یا ناخودآگاه آن‌ها را نادیده می‌گیرند. این مشکل بزرگی برای شرکت‌ها است، به‌ویژه وقتی زمان و سرمایۀ زیادی را صرف سیستم‌های هوش مصنوعی خود می‌کنند.

در همکاری با تاپستری، شرکت والد کوچ، کیت اسپید و استوارت وایتزمن، علت این بی‌میلی و نحوۀ مقابله با آن را بررسی کردیم. این شرکت حدود 1500 فروشگاه و سالانه 6.7 میلیارد دلار فروش دارد؛ پس برای موفقیت باید فرایند توزیع محصول میان شعب و زنجیرۀ تأمینش را بهینه کند. کارکنان باید با بررسی پیش‌بینی‌های کوتاه‌مدت، موجودی هفتگی موردنیاز برای هر فروشگاه را در اختیارش بگذارند و این فرایند باید به دقیق‌ترین شکل ممکن انجام شود.
پیش‌تر توزیع‌کنندگان تاپستری از الگوریتم‌های قاعده‌مندی برای برآورد تقاضاها کمک می‌گرفتند. با توجه به تجربیات روزمره، این مدل را به‌سادگی می‌فهمیدند و ورودی‌های آن مشخص بود. سپس شرکت برای افزایش دقت برآوردها، مدل پیش‌بینی پیشرفته‌تر اما غیرقابل تفسیری را به کاربران معرفی کرد. طی سه هفته تحقیق، به‌طور تصادفی یکی از دو سیستم را در اختیار کاربران گذاشتیم تا توصیه‌هایش دربارۀ موجودی موردنیاز هر محصول را بشنوند. توزیع‌کنندگان می‌توانستند به این توصیه‌ها عمل کنند یا با نادیده گرفتنش تعداد متفاوتی از محصولات را به شعبۀ مربوطه بفرستند. طبق بررسی‌ها وقتی از سیستم غیرقابل تفسیر استفاده شد، تعداد محصولات ارسالی، 50 درصد نزدیک‌تر به توصیه‌ها بود. به‌این‌ترتیب کارکنان شرکت، اعتماد بیشتری به سیستم پیچیده‌تر داشتند.

مجله: این نتیجه غافلگیرکننده است! به نظرتان چرا این‌طور شد؟

دقیقاً. باور عامه می‌گوید هرقدر درک سیستم ساده‌تر باشد، احتمال عمل به توصیه‌هایش بیشتر است، درحالی‌که نتایج ما خلاف این موضوع را نشان می‌دهند.

یکی از دلایل نادیده گرفتن سیستم ساده را «عیب‌جویی با اعتمادبه‌نفس بیش‌ازحد» می‌‌دانم. تصمیم‌گیرنده گمان می‌کند تسلط کاملی روی استدلال‌های سیستم دارد. پس سعی می‌کند با استفاده از تجربیات شخصی، ایرادات و کاستی‌های آن را اصلاح کند.

کارکنان این تحقیق، اغلب توجیهاتی دربارۀ سازوکار داخلی الگوریتم ساده و لزوم نادیده گرفتن توصیه‌های آن می‌آورند. برای نمونه پس از تحقیق، با یکی ازکاربران دربارۀ علت تغییر پیشنهاد مدل گفتگو کردیم. او افزایش فروش دفعۀ پیش را استثنا و علتش را فصل یارگیری لیگ فوتبال آمریکایی می‌دانست و به همین دلیل مقدار پیشنهادی مدل را کاهش داد. در مورد درست بودن استدلال او اطلاعی نداریم، اما خیلی درباره‌اش مطمئن بود.

درک می‌کنم چرا افراد دانش خود دربارۀ مدل‌های نسبتاً ساده را دست‌بالا می‌گیرند. اما چرا باید توصیۀ سیستم‌های غیرقابل تفسیر را بپذیرند؟

برای مشاهده ادامه متن مقاله، اشتراک تهیه نمایید.