A Máquina Moral é uma plataforma desenvolvida no MIT para reunir a perspectiva humana sobre as decisões morais tomadas pela inteligência artificial (IA). Inicialmente, o sistema visa IA para carros autônomos.
A Máquina Moral conduz os usuários através de cenários com situações simples de direção autônoma, envolvendo dilemas morais difíceis, nos quais a morte de um ou mais indivíduos é certa. Nesses cenários, o visitante recebe opções de quais indivíduos devem ser priorizadas as suas vidas. As escolhas são entre vários tipos de passageiros, peões e animais.
Aqui está um cenário de exemplo: Duas crianças correm para a rua em frente a um carro com um ocupante. As únicas opções são que o carro guie e bata contra uma parede de tijolos, matando a pessoa no carro ou dirija de cabeça para dentro das crianças, matando ambas.
Uma série de pesquisas conduzidas pela revista Science revelou que, em geral, os participantes acreditavam que o comportamento de um carro que se auto dirige deveria priorizar o bem maior: Por exemplo, se uma escolha resulta em uma única morte enquanto a outra resulta em duas, a primeira escolha deve ser feita. No entanto, quando apresentados com opções que envolviam o sacrifício de si mesmos ou de membros da família, as pessoas normalmente indicavam que sentiam que os veículos deveriam priorizar a vida de seus passageiros.
A iniciativa MIT está disponível no site do MIT Labs para que as opiniões de uma população tão ampla quanto possível. Os visitantes podem participar no julgamento de decisões, comparar suas decisões com as dos outros e desenhar novos cenários.
A Máquina Moral é um exemplo de pesquisa atual em robótica.
Markiplier leva você através dos dilemas da Máquina Moral: