‘Se um robô escrever um romance, devemos admitir que ele é consciente’, diz Ian McEwan

Escritor inglês trata de triângulo amoroso entre um casal e um robô no livro ‘Máquinas Como Eu’
André Cáceres, O Estado de S.Paulo

Alicia Vikander é a robô Ava em ‘Ex Machina’ (2014), de Alex Garland Foto: Universal Pictures

O ano é 1982: a então primeira-ministra britânica Margaret Thatcher envia uma força expedicionária ao outro lado do Atlântico para reaver o controle das Ilhas Malvinas. Na vida real, ela obtém sucesso; no novo livro do romancista inglês Ian McEwan, as tropas são repelidas pelos argentinos com uma tecnologia balística baseada em algoritmos do matemático Alan Turing (1912-1954). Na vida real, Turing morreu aos 41 anos, perseguido pelo Estado graças à sua condição homossexual; em Máquinas Como Eu(Companhia das Letras), ele viveu o bastante para viabilizar a construção de robôs quase indistinguíveis de seres humanos.

A história contrafactual — ou ucronia — é um subgênero fértil da ficção especulativa. Seu exemplar mais conhecido é O Homem do Castelo Alto, em que Philip K. Dickimagina as consequências da vitória nazista na 2.ª Guerra Mundial. Em Máquinas Como Eu, Ian McEwan trilha um caminho mais parecido com o de A Máquina Diferencial, de William Gibson e Bruce Sterling, situado numa Inglaterra vitoriana em que o cientista Charles Babbage (1791-1871) conseguiu construir computadores tão potentes quanto os do século 20, adiantando em décadas o progresso tecnológico. 

Embora o romance de McEwan se passe em 1982, essa é uma linha do tempo alternativa. Smartphones, internet e inteligências artificiais convivem com uma decepcionante turnê de reunião dos Beatles — com John Lennon ainda vivo. “O presente é o mais frágil dos artefatos improváveis”, pensa o protagonista Charlie Friend, ecoando o leitmotiv da ucronia. “Podia ser diferente. Qualquer parte dele, ou sua totalidade, podia ser outra coisa.”

Frustrado com fracassos financeiros sucessivos, inculto, formado em antropologia, mas amante de eletrônica, Charlie leva (mal) a vida apostando na bolsa de valores pelo computador. Quando surge uma nova coqueluche tecnológica, ele torra o dinheiro de uma herança para comprar o androide Adão (as ginoides Eva já estavam esgotadas). Se sua aquisição não  satisfaz seus desejos consumistas, pelo menos acaba servindo para aproximá-lo da vizinha de cima, Miranda, por quem logo se apaixona e com quem divide a criação do robô como se fosse um filho de ambos. 

McEwan constrói a todo momento um jogo de espelhos para brincar com a dualidade humano-robô ou espontâneo-automático. Por vezes, o relacionamento de Charlie e Miranda é tão frio e artificial que eles parecem ser as máquinas, enquanto o fascínio infantil de Adão pela arte, ciência e filosofia é tão genuíno que ele soa muito mais vivo do que seus donos. Quando os três visitam o pai de Miranda, um escritor de relativo sucesso já no ocaso da vida, após poucos minutos de conversa, ele pensa que o culturalmente oco Charlie é o robô e passa a entabular uma profunda discussão sobre Shakespeare com Adão.

O Teste de Turing, desenvolvido em 1950 para determinar a capacidade de uma máquina de se passar por um humano, leva à proposição de que, se um robô é indistinguível de um ser consciente, devemos tratá-lo como tal. Os dilemas morais derivados dessa questão começam a se insinuar no romance quando Miranda “trai” Charlie com Adão: “Poderia ter corrido escada acima e os impedido, irrompendo no quarto como o marido cômico num cartão-postal dos velhos balneários. Mas minha situação tinha um aspecto excitante, não apenas de subterfúgio e descoberta, mas de originalidade, de precedência moderna, de ser o primeiro homem corneado por um artefato. (…) No momento, apesar do horror da traição, tudo era interessante demais e eu não tinha como escapar do papel de quem escuta atrás da porta, de voyeur cego, humilhado e atento.”

Máquinas Como Eu vem sendo rotulado como um triângulo amoroso entre um homem, uma mulher e um robô, mas é muito mais que isso. Subjacente a essa trama, uma sombra do passado de Miranda retorna para acossar o trio. Ela teria fornecido falso testemunho em um tribunal. É possível que o leitor considere que seu crime foi cometido por uma razão justa, mas Adão segue um código moral muito mais rígido e, talvez, assustadoramente, melhor que o nosso. E é justamente nessa dissonância moral que reside a tensão do romance.

As implicações éticas que decorrem da criação de um ser artificial remontam a Frankenstein ou o Prometeu Moderno (1818), de Mary Shelley. Contos como O Homem de Areia (1817), de E.T.A. Hoffman, e Moxon’s Master (1899), de Ambrose Bierce, já tratam de autômatos humanoides, mas a palavra robô — derivada de “robota”, trabalho forçado em sérvio — foi empregada pela primeira vez na peça Rossum’s Universal Robots(1920), de Karel Capek. 

O mais relevante ficcionista nessa seara, autor de dezenas de contos e romances sobre robôs, foi Isaac Asimov (cujas leis da robótica são citadas por McEwan no livro, embora feridas quando Adão quebra o pulso Charlie no momento em que o este o tenta desligar). Ele tratou da mecanização do trabalho em As Cavernas de Aço (1953): “Eles roubam os empregos dos homens. É por isso que sempre são protegidos pelo governo. Eles trabalham em troca de nada e, por causa disso, famílias têm que morar lá nos abrigos e comer purê de levedura cru.” Entretanto, otimista inveterado como era, Asimov vislumbrou seres mecânicos como potencialmente mais capazes para tomar decisões e guiar sabiamente a humanidade do que governantes humanos em contos como Evidência (1946) e O Conflito Evitável (1950), incluídos na coletânea Eu, Robô. Seus romances Os Robôs do Amanhecer (1983) e Fundação e Terra (1986) também apontam para essa direção.

Já Philip K. Dick, autor de Androides Sonham Com Ovelhas Elétricas? (1968), que inspirou Blade Runner (1982), foi pioneiro na ficção sobre robôs como questionamento existencial. Seus perturbadores replicantes se tornaram praticamente um arquétipo literário, com a capacidade de se misturar na sociedade sem distinção para os humanos. Em Dick, qualquer um pode ser um robô. O incipit do conto A Formiga Elétrica (1969) resume o assombro de sua obra: “O que você sentiria, depois de pensar que era homem, se um belo dia acordasse e descobrisse que tinha virado robô?” 

Se em Asimov eles roubam seu emprego e em Dick colocam em xeque sua condição humana, no livro de McEwan a tensão provém da consciência de que a humanidade estaria se deparando com uma versão melhorada de si. Adão compõe haicais, filosofa sobre a vida e a morte, e ainda detém um senso moral muito mais apurado que os falhos Charlie e Miranda.

Máquinas Como Eu recupera ainda diversos motivos enunciados em obras anteriores de McEwan. A ingenuidade de Adão no início do romance, enquanto ele aprende a viver, lembra Leonard Marnham, protagonista de O Inocente. A ideia de que um erro cometido no passado não possa ser consertado e retorne para acossar Miranda no pior momento possível remete à trama de Reparação. O sentimento que Adão passa a nutrir — e reprimir, a pedido de Charlie — por Miranda é uma sombra da obsessão narrada em Amor Sem Fim. A descrição do ambiente político acirrado durante a Guerra das Malvinas como pano de fundo lembra a atmosfera de Sábado

Todas essas e muitas outras características consagradas de McEwan retornam em Máquinas Como Eu, com a adição de uma preocupação mais específica que espreita a cada página: em um mundo no qual delegamos cada vez mais decisões morais às inteligências artificiais, devemos acatar passivamente a nossa dependência cada vez maior em relação às máquinas? O último poema de Adão soa como um vaticínio: “É sobre máquinas como eu e gente como vocês, e nosso futuro juntos… a tristeza que está por vir.”

Leia abaixo os melhores trechos da entrevista que Ian McEwan concedeu ao Aliás:

Ian McEwan
O escritor britânico Ian McEwan, autor de ‘Máquinas Como Eu’ Foto: Lauren Fleishman/The New York Times

A tensão no romance gira em torno da diferença na moralidade de humanos e máquinas. Mas em certo ponto Adão quebra as leis da robótica ao quebrar o pulso de Charlie. Isso indica que a moralidade das máquinas é suscetível a falhas como a nossa?
Há duas questões aí. O primeiro ponto é a diferença moral de Adão para Miranda. Se ela deve ir para a prisão ou não, porque ela mentiu em um tribunal. Creio que qualquer pessoa acredita que a ação de Miranda é justificável, mas Adão tem uma visão moral mais consistente. Então eu estou abrindo a possibilidade de que nós poderíamos acabar criando seres artificiais superiores moralmente a nós. Sobre a questão do pulso quebrado, eu deixo a ambiguidade quanto a ter sido acidental ou não. A única coisa de que temos certeza é que, se você tem uma consciência, e nós pensamos que Adão tem, faria qualquer coisa para defendê-la.

Se seguirmos à risca as leis, Miranda estaria errada. Nosso sistema judiciário tem uma moralidade mais próxima à das máquinas do que à dos humanos?
Percebi que meus leitores ficaram divididos. Alguns deles acreditam que ela deveria ser presa, porque a lei é a lei. E do ponto de vista de Adão, ele explica: “Você disse que pagaria qualquer preço para colocar esse estuprador na cadeia. Bem, o preço são 12 meses na cadeia.” Eu não tenho uma resposta para essa questão, mas é um dilema moral que mostra como a inteligência humana é diferente da inteligência robótica. Especialmente quando temos o aprendizado de máquina, em que elas começam a tirar suas próprias conclusões.

E nós lidaremos com esse problema na vida real em breve, com carros autônomos.
No momento, a inteligência artificial não está em robôs humanoides, mas em laptops, smartphones e computadores. Os veículos autônomos terão de decidir quanta proteção fornecer ao motorista e quanta proteção dar aos pedestres. Esse é um ótimo exemplo de como estamos delegando às máquinas algumas decisões morais muito importantes. Se você sacrifica a vida do motorista para salvar a do pedestre se torna um dilema no qual as máquinas podem ser melhores do que nós. Em meio segundo, um humano não tem tempo de pensar em muitas opções, mas uma máquina pode analisar todo um leque de possibilidades antes de se decidir. Mas eu ainda acho que esse é um ponto de virada muito importante para a raça humana. Nós já tivemos a tragédia do Boeing 737-Max, em que o computador decidiu que o avião estava em estol, quando não estava. Como em 2001: Uma Odisseia no Espaço, o piloto não pôde se impor à máquina. Nós estamos bem no começo dos problemas relacionados a delegar decisões às máquinas, e isso será uma mudança profunda para a civilização.

Seu romance trata disso apenas tangencialmente, mas quão grave será o problema da mecanização do trabalho?
Em última instância, se pudermos mudar nossos conceitos sobre trabalho, será uma fantástica oportunidade para a humanidade. Nós nos acostumamos a nos definir pelo nosso trabalho. Talvez agora possamos aprender a nos definir pela nossa vida. Por essa razão, penso que deveríamos… e diversos economistas estão escrevendo sobre isso… temos de taxar robôs. Se eles tomam empregos, seus donos devem pagar impostos sobre seus lucros. Somente assim nós deixaríamos de nos definir pelo trabalho e começar a enxergar a vida de uma maneira completamente diferente. Para isso, precisaríamos de uma renda universal. E para isso, teríamos de ser muito generosos e redefinir lucros e para que servem esses lucros. Não para acionistas, mas para todos cujas atividades foram assumidas por máquinas. Isso demandaria uma transformação muito grande em nossa atitude. Mas deveríamos nos lembrar que, por muitos séculos, os aristocratas viveram suas vidas inteiras sem trabalhar, com pessoas que fariam todo o trabalho por eles. Se a aristocracia pode viver sem empregos, então qualquer pessoa pode.

Adão escreve haicais, mas não consegue escrever romances. Você teme que a inteligência artificial possa superar os humanos mesmo em áreas como a literatura?
Já existem inteligências artificiais produzindo arte abstrata, escrevendo música no estilo do século 18, mas acredito que escrever um romance requer uma compreensão absoluta do coração humano. A partir do momento em que um robô escrever um romance muito bom, ou mesmo um ruim, acho que devemos admitir que ele é consciente. Antes de escrever um romance você precisa saber o que é estar imerso em um mundo de decisões humanas, amor humano, ódio humano. Embora eu não ache que isso vá ocorrer nos próximos 15 anos ou enquanto eu estiver vivo, acredito que é concebível.

Se um robô parece humano, age como um humano e parece ter sentimentos, então não deveria fazer diferença para nós quanto a como devemos tratá-lo?
Eu concordo. Acho que um dos problemas que teremos é que os robôs serão mais e mais sofisticados, e dirão que são conscientes e que sentem dor e emoções, mas nós não saberemos se devemos acreditar neles ou não. Pode ser que nunca solucionemos essa questão. Mas se eles se comportarem de tal maneira, acho que nós simplesmente devemos aplicar o Teste de Turing, que reza que se você não pode dizer a diferença entre um robô e um humano, deve tratá-lo como um humano. Um dia haverá direitos e responsabilidades para robôs. Mas isso ainda está muito distante. Temos de lembrar quão complexos são nossos cérebros, nossas máquinas ainda estão longe desse nível. Não teríamos nem baterias para esse tipo de robô. Estamos apenas especulando.

Há uma espécie de simbologia religiosa na criação de um ser consciente. Quais serão as consequências para nossos sistemas religiosos quando atingirmos esse patamar?
Eu realmente não sei. Acho que, para algumas pessoas, o sentimento religioso é muito profundo, não o vejo desaparecendo. Não sei se fará alguma diferença para elas. Pessoas têm fé e fé não requer explicações racionais. Na verdade, a fé é uma forma crença não embasada.

Se ‘o presente é o mais frágil dos artefatos improváveis’, isso suscita interpretações ambíguas: temos livre-arbítrio e podemos alterar a realidade ao nosso redor, ou não temos nenhum poder de escolha e o passado determina o presente sem que possamos modificá-lo?
É uma questão muito interessante e complexa. O presente é um construto muito frágil. Uma das razões que nos fazem tentar tão arduamente prever o futuro, mesmo que nós mesmos estejamos produzindo esse futuro, é que a cada instante as possibilidades humanas, tanto individuais quanto coletivas, são muitas. Há vários momentos em nossas vidas em que sabemos quão facilmente as coisas poderiam ter sido diferentes. Vocês poderiam ter um outro presidente, nós poderíamos não estar discutindo o Brexit, a Guerra das Malvinas poderia ter ido para outra direção. E, no nível individual, nós somos filhos de adultos que poderiam tranquilamente nunca ter se conhecido. Sua mãe poderia ter ficado em casa no dia em que conheceu o homem que se tornaria seu pai. Imagine que em qualquer segundo as possibilidades do destino humano se ramificam, se multiplicam diante de nós, como no conto de Borges, O Jardim dos Caminhos que se Bifurcam. Então a minha decisão de situar o livro em uma década alternativa de 1980 foi para não ter de arriscar previsões e apenas me permitir especular sobre o destino humano e social. Eu não acredito no livre-arbítrio, não consigo ver nenhum argumento para embasá-lo. Nós não escolhemos nossos pais, nossa infância, e ainda assim ele parece ser uma ilusão necessária de que somos responsáveis por nossos atos, especialmente no âmbito legal. O livre-arbítrio é uma ficção muito importante com a qual temos de conviver.

Em outras entrevistas, o sr. afirmou que seu livro não é uma ficção científica. Por quê?
Eu não penso exatamente assim. Eu fiz uma piada sobre sapatos anti-gravidade e isso foi noticiado como se eu odiasse o gênero. A ficção científica que eu amo é a literatura que explora os dilemas humanos na Terra em relação às novas tecnologias. Por exemplo, filmes como Blade Runner, Ex Machina ou Westworld, ou livros como Admirável Mundo Novo, de Aldous Huxley, 1984, de George Orwell, ou The Day of the Triffids, de John Wyndham. Estou menos interessado em viagens espaciais ou civilizações remotas, pois acredito que a ficção científica é um excelente caminho para se explorar como lidamos com novas tecnologias e como isso vai impactar nossa sociedade. Fico muito feliz em chamar esse livro de ficção científica, é uma grande tradição.

Anúncios

Deixe um comentário

Preencha os seus dados abaixo ou clique em um ícone para log in:

Logotipo do WordPress.com

Você está comentando utilizando sua conta WordPress.com. Sair /  Alterar )

Foto do Google

Você está comentando utilizando sua conta Google. Sair /  Alterar )

Imagem do Twitter

Você está comentando utilizando sua conta Twitter. Sair /  Alterar )

Foto do Facebook

Você está comentando utilizando sua conta Facebook. Sair /  Alterar )

Conectando a %s

Este site utiliza o Akismet para reduzir spam. Saiba como seus dados em comentários são processados.