کنترل هوش مصنوعی

نویسندگان: گاردینر مورس

برای دفع خطرات جدی به قوانین جدید نیاز داریم

همیشه‌ ربات‌های فیلم‌ها را دوست داشتم، حتی آن‌هایی که نقش منفی داشتند. اما با توجه به افزایش هوشمندی دلهره‌آور ماشین‌های پیرامونمان، باید هم نگران باشیم که بالاخره روزی مقاصد شوم آن‌ها دامن‌گیر دنیای واقعی شود – نسخه‌ای از ترمیناتور یا هل (یک ماشین بسیار شبیه انسان در فیلم ادیسه فضایی) بروز خواهد کرد.

البته فقط خودم نیستم که چنین طرز فکر مأیوس‌کننده‌ای دارم. استیفن هاوکینگ هشدار داده است که «توسعه‌ی کامل هوش مصنوعی می‌تواند پایان‌بخش نژاد انسان باشد». و وقتی فیلسوف آکسفورد توبی اورد به بررسی مجموعه‌ای از تهدیدهای وجودی -شهاب‌سنگ‌، جنگ هسته‌ای، تغییر اقلیم – برای کتاب مهاربندی خود تحت عنوان «پرتگاه» پرداخت، «هوش مصنوعیِ لجام‌گسیخته» را در جایگاه محتمل‌ترین تهدید قرار داد.

با کندوکاو در جدیدترین کتاب‌های هوش مصنوعی، مشاهده‌ی اجماع متخصصان تا حدودی خیالم را راحت کرد. آن‌ها می‌گویند که «تکینگی» – نقطه‌ای که هوش مصنوعی از هوش انسان جلو می‌‌زند – به این زودی‌ها رخ نمی‌دهد؛ گمانه‌زنی‌ها درباره‌ی موعد این اتفاق، در بازه‌ی چند دهه تا چند قرن دیگر است. اما هنوز هم نمی‌توانیم آرام باشیم. این نویسنده‌ها ادعا می‌کنند که استرس حکومت ربات‌ها در آینده، حواسمان را از خطر قریب‌الوقوع هوش مصنوعی «محدود» پرت کرده، همان هوش مصنوعی‌ای که در انواع و اقسام دستگاه‌ها از اسپیکرهای هوشمند تا خودروهای خودران استفاده می‌شود.

برخی اعتقاد دارند که هرچند این نوع از هوش مصنوعی زرنگ به نظر می‌رسد، اما هیچ خطری ایجاد نخواهد کرد – یک عالِم بی‌خرد دیجیتال که وظایفی نظیر حرکت از نقطه‌ی الف به ب بدون برخورد با اشیاء پیرامون را انجام می‌دهد. اما همان‌طور که مایکل کنعان در کتاب «شمارش معکوس هوش مصنوعی» نوشته است، می‌تواند برای اجرای نیات شوم هم تا همین حد خونسرد و بهینه باشد. به‌عنوان مدیر مشترک هوش مصنوعی در نیروی هوایی آمریکا، کنعان به‌خوبی می‌داند که برخی کشورها به طرز متهورانه‌ای از هوش مصنوعی بهره می‌گیرند تا برنامه‌های ضد دموکراتیکشان را پیش ببرند.

«شمارش معکوس هوش مصنوعی»

مایکل کنعان، بن‌بلا بوکس، اوت 2020

برای مثال:

ولگردی، آشغال ریختن و پخش اطلاعات «غیرقابل قبول» می‌تواند موجب کاهش نمره‌ی فرد شود و کار او برای خرید بلیط هواپیما، دریافت وام یا برآورده‌سازی شرایط استخدام را دشوارتر کند. از آن بدتر اینکه چین هم‌اکنون از نرم‌افزار تشخیص چهره برای شناسایی اعضای عمدتاً مسلمان جامعه‌ی اقلیت اویغورها بهره می‌گیرد تا آن‌ها را به بازداشت و دوره‌های «آموزش مجدد» بفرستد (البته کمپانی‌ها و دولت‌های غربی هم هیچ دست‌کمی در زیر پا گذاشتن ایده‌آل‌های دموکراتیک ندارند و مصرف‌کنندگان و شهروندان را زیر نظر می‌گیرند). بنابراین کنعان خواهان یک گفتمان فوری درباره‌‌ی پیامدهای هوش مصنوعیِ بی‌حد‌ومرز و نحوه‌ی به‌کارگیری محدودیت‌های مناسب برای حفظ آزادی و امنیت نوع بشر است.

ویلیام داویدوف و مایکل مالون در «انقلاب خودکار» و دنیل ساسکایند در «یک دنیای بدون کار» هم صراحتاً از ریسک‌های ایجادشده به‌واسطه‌ی هوش مصنوعی می‌گویند. آن‌ها می‌گویند که ظهور هوش مصنوعی، صرفاً یک تحول فناورانه نیست که مثل انقلاب صنعتی باشد و انبوهی از مشاغل جدید بسازد، بلکه حتی تعدادی از آن‌ها را از بین خواهد برد. در عوض می‌گویند که در یک نقطه‌عطف تاریخی هستیم و با یک فناوری هوشمند و منحصربه‌فرد طرفیم که در تعداد فزاینده‌ای از وظایف، عملکرد بسیار بهتری دارد و نهایتاً می‌تواند جایگزین نیروی کار انسانی شود.

«انقلاب خودکار»
ویلیام داویدوف و مایکل مالون، برت-کوهلر، 2020

«یک دنیای بدون کار»
دنیل ساسکایند، متروپولیتن بوکس، 2020

داویدوف و مالون که یکی دیر صنعت فناوری و دیگری یک کارآفرینِ خبرنگار است، می‌گویند:

ازجمله پیامدهای بالقوه‌اش می‌توان به وفور اجناس ارزان‌تر اشاره کرد که البته کاهش حقوق، افزایش نابرابری اقتصادی، کاهش مشاغل و ظهور «میلیون‌ها ZEV» (افرادی با ارزش اقتصادی صفر که استخدام نخواهند شد، حتی اگر مجانی کار کنند) هم در پی آن می‌آیند.

ساسکایند به‌عنوان اقتصاددان که سابقه‌ی مشاوره‌ی سیاسی به دولت بریتانیا را دارد، پیش‌بینی می‌کند که با تاخت‌وتاز هوش مصنوعی، انسان‌ها به سایه رانده خواهند شد و مجموعه‌ی بسیار محدودتری از فعالیت‌ها را بر عهده می‌گیرند. راننده‌ی کامیون به‌علاوه‌ی جی‌پی‌اس، یک ترکیب بسیار قدرتمند است؛ اما وقتی هوش مصنوعی در نقش راهبر و مسیریاب ظاهر شود، 3.5 میلیون راننده‌ کامیون آمریکا باید شغل جدیدی پیدا کنند. حتی مشاغلی که اتکای زیادی به خصایص انسانی – همدلی، قضاوت و خلاقیت – دارند هم احتمالاً مصون نخواهند ماند. شاید ماشین‌ها هیچ‌گاه «حس ششم» یک پزشک برای تشخیص فلان بیماری یا ذوق هنری یک آهنگساز را نداشته باشند، اما قطعاً تقلید از کنش‌های انسان‌ها را یاد می‌گیرند، آن‌هم با چنان کیفیتی که نتوانیم تفاوت آن با اصلش را متوجه شویم.

هرچند این نویسنده‌ها یک راهکار ارائه می‌دهند که به کار دنیای امروز می‌آید، دنیایی که مشاغلش کمتر شده و نابرابری‌اش هم روزبه‌روز افزایش می‌یابد. راهکار مدنظر آن‌ها شکل‌گیری نهادهای قانونی جدید (به‌عنوان نمونه، ساسکایند از یک «سازمان نظارت بر قدرت سیاسی» می‌گوید که کمپانی‌های به‌شدت بانفوذ را کنترل کند) و دخالت بیشتر از سوی دولت است. در میان راهکارهای داویدوف و مالون (با فرض اینکه راهکارهای بازار آزاد به حد انتظار نرسند)، «سیستم‌های توزیع مجدد ثروت نظیر افزایش مالیات، مراقبت‌های بهداشتی رایگان برای کل دنیا و درآمد پایه‌ی جهانی» جای دارند.

وقتی قانع شدم که هیچ شغلی امنیت ندارد، مشتاق بودم کتاب خوش‌بینانه‌ی «برنامه‌نویسی مجدد رویای آمریکایی» اثر کوین اسکات را بخوانم. اسکات به‌عنوان مدیر ارشد فناوری مایکروسافت، افزایش قابل توجه مشاغل جدید برای کارگران روستایی علی‌الخصوص در بخش تولید را پیش‌بینی می‌کند. او به ما اطمینان می‌دهد: «مقصود نهایی هوش مصنوعی نه جایگزینی انسان بلکه تقویت آن است». در همین راستا به مشاغل کارگری (یقه‌آبی) اشاره می‌کند که به‌واسطه‌ی هوش مصنوعی، رباتیک و اتوماسیون ایجاد می‌شوند. مثلاً یک کارآفرین، کسب‌وکار فرآوری پلاستیک با کامپیوتر راه‌اندازی کرده است که «یک ماشین‌کار دیپلمه… با اندکی آموزش در حین اجرای وظیفه می‌تواند یک شغل با حقوق مکفی در یک شهر کوچک داشته باشد، درحالی‌که پیش‌تر چنین امکانی وجود نداشت». ضمناً اسکات بدون هیچ‌گونه طعنه‌ی آشکار، به دسته‌ی کاملاً جدیدی از مشاغل اشاره می‌کند که هدفشان پشتیبانی از هوش مصنوعی است: برچسب‌گذاری داده‌ها به‌منظور تعلیم هوش مصنوعی، موسسات کاریابی موقت برای ربات‌ها که توسط انسان‌ها هدایت می‌شوند، و مشاغل ساختمانی برای تاسیس مراکز داده‏ی عظیم همچون تشکیلات 500 هکتاری مایکروسافت که در ویرجینیا تاسیس شده است. دیدگاه اسکات آن‌قدر امیدوارانه است که فیلِ داخل اتاق – جایگزینی این شغل‌های جدید با مشاغل ازبین‌رفته – را نادیده می‌گیرد.

«برنامه‌نویسی مجدد رویای آمریکایی»
کوین اسکات، هارپر بیزنس، 2020

شاید جزئیات باورهای این نویسنده‌ها فرق کند، اما همگی نوعی خوش‌بینی مشروط نسبت به آینده دارند. اکثراً اعتقاد دارند که کلید کار در برپایی قوانین و سیستم‌هایی است که بدترین پیامدهای آینده را دفع کنند. همان‌طور که کنعان می‌گوید، «باید هوش مصنوعی را صرفاً به‌گونه‌ای پیاده کنیم که هم‌راستا با اساسی‌ترین کرامات انسان باشد… و فقط برای اهدافی که هم‌‌راستا با ایده‌آل‌های دموکراتیک، آزادی‌ها و قوانینمان باشند».

به نظرتان هوش مصنوعی چه نظری درباره‌ی این برنامه خواهد داشت؟ وقتی کنعان از یک نسخه نرم‌افزار یادگیری ماشینی به نام GPT-2 خواست تا این ایده را بررسی کند، بلافاصله یک پاسخ شسته‌رفته دریافت کرد: «هم‌اکنون وظیفه‌ی ما متقاعدسازی عموم جامعه است مبنی بر اینکه بهره‌گیری از هوش مصنوعی برای دستیابی به این اهداف را یک بخش ضروری و مطلوب از جامعه‌ی ما بدانند… اما در نهایت آینده از ما می‌خواهد که در تلاش برای ساخت یک دنیای امن و پایدار، تصمیمات اخلاقی هم اتخاذ کنیم، دنیایی که انسان و هوش مصنوعی بتوانند همزیستی مسالمت‌آمیز داشته باشند».


گاردینر مورس، ویراستار ارشد مجله‌ی کسب‌وکار هاروارد است.

این مقاله در شماره ی زیر منتشر شده است:

دیدگاهتان را بنویسید

نشانی ایمیل شما منتشر نخواهد شد. بخش‌های موردنیاز علامت‌گذاری شده‌اند *