# Deveríamos Tratar Uma Inteligência Artificial (IA) Com Ética? (Alan Turing, Bina e Extinção) ============================================================================================ Published in [Filosófica Mente](https://medium.com/filos%C3%B3fica-mente?source=post_page---byline--b0ab254feb3b--------------------------------) 5 min read Sep 19, 2019 Uma máquina é capaz de sentir? Deveríamos sentir compaixão com uma geladeira que faz gelo sozinha? Com um cãozinho robótico, talvez? E com um robô com crenças, valores e até sentimentos? > (Este texto foi adaptado para publicação em forma de vídeo no Youtube: [link](https://www.youtube.com/watch?v=hoGYilgS5ik&t=1s)) O que é isto que chamamos de mente? É uma alma, um espírito, ou é simplesmente o nosso cérebro? Já a algum tempo filósofos vem discutindo essa questão, neste texto eu vou trazer duas posições opostas e explicar como esse debate dentro da Filosofia da Mente se relaciona com os avanços mais recentes em inteligência artificial e, por último, como isso impacta nossa forma de pensar a moral. O texto será dividido em 3 partes: primeiro, vou fazer uma breve exposição do problema filosófico sobre o que é uma mente e como chegamos a ideia de que podemos criar artificialmente uma; em seguida darei um exemplo mais antigo, a máquina de Turing, um exemplo atual, a Bina, e um exemplo fictício de inteligência artificial; e por último vou defender uma posição, a de que os avanços nessa área impactam nossa ideia de Ética e nos obriga a repensá-la. Alguém poderia perguntar: “Ora, mas qual o dilema aqui? É claro que a mente é, ou está, no cérebro!”. Veja bem meu caro, pode ser tentador achar que as coisas são tão simples, mas observe o seguinte: quando tomamos um delicioso sorvete nós temos uma determinada sensação de doçura, se um neurologista especialista estivesse monitorando meu cérebro (e vamos supor que ele nunca tomou sorvete), a partir de suas observações poderíamos concluir que ele agora _sabe_ qual é a sensação de tomar um sorvete? Creio que não. Isso é um dos problemas envolvidos com a dificuldade de se determinar o que é uma mente. Uma resposta possível é a do Dualismo, que é a doutrina que pode ser genericamente descrita como aquela que separa as coisas que existem no mundo entre materiais e imateriais, cada uma com seus respectivos modos e atributos. Então não há mais dificuldade, uma coisa é o cérebro, outra distinta é a alma, ou a mente. Então, quando nosso corpo, que é material, experimenta um sorvete ele causa em nossa alma, que é imaterial, a sensação de tomar sorvete. Ora, mas como é que uma coisa imaterial _interage_ com uma coisa material, e vice-versa? Um dos princípios mais básicos da física, desde a modernidade, é o de que o mundo material é causalmente fechado, o que significa que a causa de um fenômeno material é sempre algo também material. Como algo como uma alma poderia se encaixar nisso? A resposta mais aceita atualmente é: não se encaixa. Com isso chegamos ao Monismo, que é a vertente defensora de um mundo unicamente material. A vantagem no monismo é que isso explica como nossa mente (enquanto cérebro) interage com o mundo, afinal também seria ela algo material. Porém, como fica os problemas como o do sorvete, nos quais as sensações, crenças, e outras entidades mentais aparecem para nós como não sendo materiais e nem observáveis por terceiros? Ora, uma solução proposta é a de que essas “entidades” são uma espécie de _epifenômeno_, isto equivale a dizer que é um fenômeno dependente, um subproduto da atividade cerebral. A ideia de que a mente é material pode ter uma consequência surpreendente (talvez nem tanto nos dias de hoje…), a de que assim como podemos criar braços e pernas artificiais (se tivermos os conhecimentos necessários sobre estes membros), podemos também criar uma mente (se tivermos o conhecimento adequado do cérebro. Essa posição é conhecida como Funcionalismo, a ideia é que uma mente é simplesmente um conjunto de funções que são realizadas, não importa com que tipo de material. Nossas mentes são capazes de desempenhar diversas tarefas, desde perceber, calcular, decidir, até antecipar, imaginar, sentir, etc. Se conseguirmos conhecer quais são os segredos de nosso cérebro, poderemos criar uma máquina que realize essas funções adequadamente, ou seja, uma máquina que _pense_. Alan Turing tentou fazer isso. Em seu artigo, publicado originalmente na Revista Mind, ele narra o experimento do “Jogo da Imitação”. O jogo consistia, grosso modo, em colocar pessoas para interagirem com máquinas sem que elas saibam, a fim de testar se elas seriam capazes de descobrir que estão se relacionando com máquinas. A ideia é que no momento em que nos comuniquemos com uma máquina e não saibamos a diferença entre ela e um ser humano, então obtivemos sucesso em criar uma mente autêntica. E as coisas vem evoluindo bastante, na série-documentário “A história de Deus” Morgam Freeman é colocado para conversar com uma robô, a Bina, eles batem um papo e de repente você descobre que essa robô é pra ser uma cópia de uma pessoa real. A esposa da verdadeira Bina está colocando na máquina as crenças, valores, gostos e demais características _mentais_ da Bina, com o objetivo driblar a morte ou, como ela mesma diz, impedir a morte de driblar a vida. Isso nos leva ao filme de ficção científica “Extinção”, publicado no Netflix (Err…eu vou precisar contar **spoilers** aqui…). O filme começa mostrando uma família e sua vida cotidiana comum, problemas em casa, problemas no trabalho, etc.. De repente começa uma invasão alienígena e os personagens principais fazem de tudo para sobreviver (e é agora que vem a parte que me chocou profundamente), em determinado momento você descobre que não são humanos ali, mas sim máquinas inteligentes, e os alienígenas é que são os humanos. Isso me chocou porque antes de ver esse filme eu tinha uma posição muito anti-Funcionalismo, eu não achava que pudessem criar de fato uma mente robótica e muito menos que devêssemos nos compadecer com essas criaturas. Mas o sentimento de identificação e compaixão, em relação aos personagens, que senti durante a primeira fase do filme me fez repensar, depois de descobrir que eram máquinas, minha posição. A Bina é o que eu conheço de mais avançado nessa área (vou até pesquisar mais coisas sobre isso e posso trazer aqui), e é bem fácil perceber que se trata de uma máquina, mas o problema é: e quando não der mais pra perceber? E quando o desafio Funcionalista for cumprido? Chego enfim parte final do texto, em que, diante dessa questão, esboçarei uma posição. Não sei se um dia chegaremos a este ponto (embora também não duvide disso), mas temos aqui um desafio para o futuro, especialmente para os filósofos. Eu, sinceramente, não seria capaz de ignorar o sofrimento, artificial ou não, de alguém (ou alguma coisa) que pudesse me causar a empatia que os personagens do filme me causaram. Precisamos refletir sobre como vamos, e _se_ vamos, incluir esses sujeitos em nosso sistema moral. Haverá limites morais para o que podemos fazer com essas máquinas? As trataremos como meros objetos, como tratamos hoje uma torradeira ou uma colher? Eu particularmente estou atormentado com essas dúvidas e ainda não sei responder essas perguntas. Mas e você, que resposta você daria?