A Robot That Harms: Quando Máquinas Criam a Vida ou Decidem pela Morte

Artista e engenheiro Alexander Reben diz que o seu é o primeiro robô para quebrar de forma autônoma e intencionalmente a primeira lei de Asimov de não ferir um ser humano.

Isaac Asimov inspirou roboticistas com sua ficção científica e, especialmente, suas leis robô. O primeiro deles diz:

” Um robô não pode ferir um ser humano ou, por inação, permitir que um ser humano sofra algum mal.”

Artista e roboticista Alexander Reben criou um robô que propositadamente desafia essa lei.

“Dói uma pessoa e fere-los”, diz Reben. Seu robô pica dedos, prejudicando “da forma mais minimalista possível”, diz ele.

Ampliar esta imagem

Quando uma pessoa coloca um dedo na ranhura do lado esquerdo, o robô utiliza um algoritmo – imprevisível até ao seu criador – para decidir se a picar o dedo com o pino no final do seu braço.

Alexander Reben

E as ações do robô são imprevisíveis – mas não aleatória.”Ele toma uma decisão de uma forma que [I] como o criador não pode prever”, diz Reben. “Quando você se coloca perto deste robô, ele vai decidir se quer ou não machucar e ferir você.”

Embora possa parecer uma experiência um pouco bobo, Reben está a fazer um ponto sério: Ele está tentando provocar discussão sobre um futuro onde os robôs têm o poder de fazer escolhas sobre a vida humana.

robot de Reben não é muito elaborado. É apenas um braço robótico em uma plataforma, menor do que um membro humano e em forma um pouco como o braço em uma dessas escavadoras que eles usam em construção – mas em vez de uma pá, o fim tem um pino. (E no caso de você estar se perguntando, cada agulha é esterilizada.)

“Você colocou a mão perto do robô e ele sente que você”, explica Reben. “Em seguida, ele passa por um algoritmo para decidir se é ou não vai colocar a agulha através de seu dedo.”

Eu coloquei meu dedo debaixo do braço. A espera é a parte mais difícil, uma vez que se move para lá me várias vezes. Então eu sinto uma pequena picada quando ele finalmente decide me picar.

Reben criou este robô, porque o mundo está cada vez mais perto de uma época em que os robôs irão fazer escolhas sobre quando a prejudicar um ser humano.Tome carros de auto-condução. Ford Motors disse recentemente que planeja produzir em massa carros autônomos dentro de cinco anos. Isto poderia significar que um veículo auto-condução pode em breve precisa decidir se a bater o carro em uma árvore e risco de ferir o condutor ou bater um grupo de pedestres.

“A resposta pode ser que ‘Bem, estas máquinas vão tomar decisões muito melhor do que nós e não vai ser um problema”, diz Reben. “Eles vão ser muito mais ético do que um ser humano jamais poderia ser.”

Mas, ele se pergunta, o que acontece com as pessoas que entram esses carros? “Se você entrar em um carro que você tem a opção de não ser ético?”

E as pessoas querem ter essa escolha. Uma pesquisa recente do MIT Media Lab constatou que metade dos participantes disseram que estariam propensos a comprar um carro sem motorista que colocar a maior protecção na segurança dos passageiros. Mas apenas 19 por cento disseram que iriam comprar um carro programado para salvar o máximo de vidas.

Própria ficção de Asimov pondera um monte de áreas cinzentas de suas leis. Há umtotal de quatro – o quarto foi adicionado mais tarde como a lei zero:

0. Um robô não pode prejudicar a humanidade ou por inação permitir que a humanidade sofra algum mal.
1. Um robô não pode ferir um ser humano ou, por inação, permitir que um ser humano sofra algum mal.
2. Um robô deve obedecer às ordens dadas por seres humanos, exceto quando essas ordens entrarem em conflito com a Primeira Lei.
3. Um robô deve proteger sua própria existência desde que tal proteção não entre em conflito com a Primeira e Segunda Leis.

Nas histórias de Asimov, as leis são muitas vezes desafiadas pelas complexidades emocionais do comportamento humano. Num roteiro derivado de seu famoso I, Robot, o protagonista é um detetive que não gosta de robôs, porque o tinha guardado em um acidente de carro, mas deixar a menina ao lado dele morrer com base em uma determinação estatística que ela era menos provável que sobreviver.

Ainda assim, as leis de Asimov são frequentemente citados pelos cientistas no campo como uma espécie de inspiração e ponto de falar como se mover em direção a um mundo de máquinas cada vez mais sofisticadas.

“A capacidade de até programar essas leis em um robô de ficção é muito difícil”, Reben diz, “e o que eles realmente querem dizer quando você realmente tentar analisá-los é bastante cinzenta. É uma área bastante confuso.”

Reben diz a ponto de fazer seu robô foi a criação de urgência – para colocar algo no mundo agora, antes que as máquinas têm esses poderes em carros de auto-condução.

“Se você ver um vídeo de um robô fazer alguém sangrar”, diz ele, “de repente, ela bate em desta natureza viral das coisas e agora você realmente tem que enfrentá-lo.”

Fonte: http://www.npr.org/sections/alltechconsidered/2016/08/29/490775247/a-robot-that-hurts-confronts-future-when-machines-make-life-death-decisions

Anúncios

Deixe um comentário

Preencha os seus dados abaixo ou clique em um ícone para log in:

Logotipo do WordPress.com

Você está comentando utilizando sua conta WordPress.com. Sair / Alterar )

Imagem do Twitter

Você está comentando utilizando sua conta Twitter. Sair / Alterar )

Foto do Facebook

Você está comentando utilizando sua conta Facebook. Sair / Alterar )

Foto do Google+

Você está comentando utilizando sua conta Google+. Sair / Alterar )

Conectando a %s