اخلاق هوش مصنوعی | مسئله تراموا


یکی از مباحث مهم در تصمیم گیری، موضوع سلسله مراتب ارزش‌هاست.

ما علاوه بر درسی که مستقیماً به سلسله مراتب ارزش‌ها در کار و زندگی پرداخته‌ایم، یک بار هم به شکل غیرمستقیم در فایل صوتی تصمیم گیری در قالب مسئله‌ی قطار و سوزن‌بان به آن اشاره کردیم.

هم‌چنین به این نکته هم اشاره کرده‌ایم که تعیین ارزش‌ها چندان دشوار نیست؛ بلکه دشواری واقعی در تعیین سلسله مراتب ارزش‌هاست.

بسیاری از ما معتقدیم که در هر شرایطی باید از دروغ‌گویی اجتناب کرد. اما وقتی می‌خواهیم بین دروغ‌گفتن به اعضای خانواده و دروغ‌گفتن به همکار یکی را انتخاب کنیم، دیگر اصل مسئله از بین می‌رود و سوال‌، به انتخاب میان بد و بدتر تبدیل می‌شود.

مشابه همین مسئله قتل انسان‌ها است که هر انسان سالمی، نسبت به آن موضع مخالف می‌گیرد. اما می‌بینیم که در تمام نبردهای تاریخ، وقتی انتخاب به یکی از دو گزینه‌ی کشتن و کشته‌شدن می‌رسد، اصل مسئله رنگ می‌بازد.

به همین علت است که مسئله‌ی واگن به یک مسئله‌ی کلاسیک در تصمیم‌گیری تبدیل شده است: این مسئله، به جای این‌که از شما بخواهد ارزش‌های خود را اعلام کنید، شما را وادار می‌کند جایگاه ارزش‌ها را نسبت به یکدیگر مقایسه کرده و درباره‌ی اهمیت آن‌ها تصمیم بگیرید.

با جستجوی عبارت Trolley Problem یا مسئله ترموا در گوگل، می‌توانید فهرستی طولانی از مقاله‌ها و مطالب را ببینید که به شکل‌های مختلف به این انتخاب دوگانه (و در واقع اولویت‌بندی ارزش‌ها) پرداخته‌اند. ماکس بیزرمن هم در بخش‌هایی از کتاب مدیران و چالش های تصمیم گیری از روایت‌های مختلف مسئله ترامو برای بیان حرف‌ها و ایده‌های خود استفاده می‌کند.

مسئله تراموا - نمونه‌ای از اخلاق هوش مصنوعی

سری مطالب حوزه تصمیم گیری

The post اخلاق هوش مصنوعی | مسئله تراموا appeared first on متمم.

درباره نویسنده: administrator

ممکن است دوست داشته باشید

دیدگاهتان را بنویسید

نشانی ایمیل شما منتشر نخواهد شد. بخش‌های موردنیاز علامت‌گذاری شده‌اند *