⌘122. Мораль для роботів

Впевнений, ти чудово знайомий з уявним експериментом з етики, який називається «проблема вагонетки».

Людині пропонується роль водія вагонетки, і необхідність прийняти рішення на роздоріжжі — переїхати групу людей або одну людину.

У кілька ітерацій в експеримент вводяться нові параметри, які демонструють механізми роботи людської моралі.

А що, якщо таке завдання має вирішити робот? Наприклад, безпілотний автомобіль потрапляє у ситуацію, де потрібно ухвалити рішення — ким пожертвувати. Якими моральними правилами він буде «нагодований»?

Найочевидніша відповідь: робот повинен відображати позицію суспільства, а отже, достатньо опитати велику кількість людей і з’ясувати, кого і наскільки легко вони вбивають.

Це було зроблено. У рамках проєкту « Moral machine» зібрали близько 40 мільйонів рішень людей з усього світу з низкою параметрів, створюючи множинні дилеми: згортати чи нічого не робити, переїхати одного чи кількох, убити чоловіка чи жінку, товсту чи струнку людину, багатія чи бідну, стару чи молоду, людину чи тварину тощо.

Що вийшло можна побачити на  цій картинці. Довжина синьої смужки — різниця у ймовірностях пожаліти об’єкт у колонці праворуч порівняно з об’єктом зліва.

Виходить, що суспільство, вибираючи між чоловіком і жінкою, на 13% ймовірніше вб’ють чоловіка.

На 18% найчастіше пожертвують товстим, а не струнким. На 35% бідним, а не багатим. На 49% старим, а не дитиною. На 58% твариною, а не людиною.

Тепер можна побудувати шкалу співчуття: лінія, яка ділить цей графік на дві частини — схильність жертвувати «усередненою людиною».

Найціннішими для суспільства виявилися немовлята (синя шкала показує їхню перевагу над середньою людиною).

Дивно (і трохи сумно), що на зворотній шкалі співчуття знаходяться котики — ними готові жертвувати не лише частіше, ніж собаками, а й частіше, ніж злочинцями.

Але це ще не все. Виявилося, що весь світ можна поділити на три великі кластери за схожістю прийняття рішень.

Тобто яскраво виділяються три блоки, що відрізняються культурними аспектами моралі: Західний світ, Південний та Східний.

Жителі країн, що входять до Південного кластеру (країни Латинської Америки та Африки), набагато схильніші жертвувати чоловіками, старими людьми, товстими, бідняками та частіше жаліють тварин.

Східний блок (арабські та азійські країни), навпаки, рідше жертвує старими, менше цінує багатіїв, струнких людей, але зовсім не жаліє котів.

Цікаво, що деякі країни випадають з інтуїтивного культурного (і географічного) контексту, наприклад Франція та Чехія, які ближче до Південного кластера, ніж до Західного.

Ще з цікавого: у країнах, де жінки живуть відчутно довше за чоловіків, чоловіками жертвують набагато легше. А ще, як не дивно, що більше класове розшарування суспільства, то цінніші в ньому багаті люди.

Звичайно, все це — цікава статистика, але цікаво знати, як сильно результати етичних експериментів (поки що?) відрізняються від вектора рівності, яким ми намагаємося йти.

І буде цікаво дожити та дізнатися, на чому навчатимуться машини, що думають: на сформованих правилах, чи суспільній моралі?

Підписатися у Telegram

Надіслати
 4   23 дн   Sad But True   рефлексія