​Por que Elon Musk e Mark Zuckerberg Estão Lendo Ficção Científica Utópica?

Dois dos principais nomes da tecnologia leem livros em que a inteligência artificial toma o lugar dos humanos. Será que estão preocupados?

|
10 julho 2015, 9:03pm

O escritor Iain M. Banks. Crédito: Chris Boland/ Flickr

Dois dos maiores nomes da tecnologia, Elon Musk, da Space X, e Mark Zuckerberg, do Facebook, tem lido a ficção científica utópica do finado escritor escocês Iain M. Banks. Coincidência ou não, qual é a desse interesse súbito?

Não é a primeira vez que Musk mostra sua quedinha pela escrita de Banks. Ele demonstrou afeto ao escritor quando pintou os nomes de algumas das espaçonaves conscientes de seus livros nas naves não-tripuladas da Spacex, Just Read the Instructions e Of Course I still Love You (Apenas Leia as Instruções e Claro Que Ainda Te Amo, respectivamente).

O estilo de ficção científica otimista e de tom acessível de Banks pode servir para limpar o paladar daqueles que leram muita coisa apocalíptica nos últimos tempos. Mas tem outro fator: por baixo da superfície positiva das tramas, Banks descreve uma sociedade operada por inteligência artificial que parece demais com a que caminhamos para nos tornar.

Embora tenha escrito mais de 29 romances sobre variados temas, Iain M. Banks é mais conhecido por sua série de ficção científica que narra a história de uma civilização utópica conhecida como Cultura. A Cultura é uma sociedade ultra-avançada composta por diversas espécies de humanoides. Tem todos os elementos de uma utopia futurista: viagens mais rápidas que a luz, espaçonaves conscientes, nanotecnologia, habitats espaciais que formam seus próprios ecossistemas e dão suporte para bilhões de pessoas, além de inteligência artificial extremamente avançada. Musk está lendo um livro desta série chamado Excession enquanto Zuckerberg leu The Player of Games no mês passado.

A Cultura não possui governo centralizado, por assim dizer. Questões do cotidiano e legislativas são decididas por sistemas de inteligência artificial, as Mentes, que são um grande exemplo do que é conhecido no meio como IA "forte": totalmente cientes de si, terrivelmente inteligentes e com personalidade própria. Tomam todas as grandes decisões, cuidam da alocação de recursos para a Cultura e permitem que seus cidadãos de carne e osso se dediquem aos que lhe interessa ou viajem pelo espaço como bem entenderem.

Em Cultura, homens como Musk e Zuckerberg não existem

Nesta visão de futuro, não existem estrelas empreendedoras geniais como Musk. Não existe dinheiro; as Mentes fornecem tudo que cada indivíduo quer, sem custo algum. É o Estado-Babá em seu auge, se a tal Babá fosse uma mistura de Rosie, dos Jetsons, com Skynet.

Crédito: Jeremy Keith/Flickr

Como é de se esperar, nem tudo são flores. A população lida com a inevitável estagnação de quando não há motivação para fazer nada. Muitos dos cidadãos de Cultura implantam órgãos que secretam narcóticos direto em suas correntes sanguíneas.

As possibilidades e problemas de IAs superinteligentes estão no coração dos romances de Banks, então não é de surpreender que Musk e Zuckerberg tenham sido atraídos pelos livros.

No Facebook, Zuckerberg está desenvolvendo IA aplicada — um sistema inteligente com um foco restrito e específico. No caso do Facebook, significa identificar você em fotos ou entender o que você compartilha e o porquê disso.

Musk, por outro lado, vê a inteligência artificial como uma crise existencial. Ele doou milhões para se certificar de que IAs sejam desenvolvidas com segurança e já disse diversas vezes que elas podem ser "talvez mais perigosas que armas nucleares". Em março ele disse que IAs superinteligentes podem pensar que deveríamos "ser capturados e receber doses de dopamina e serotonina para otimizar a felicidade. Seremos como um cão labrador, com sorte".

Essa última parte soa familiar? Pelo visto Musk tem mais que um pouco de medo de que a humanidade se transforme em Cultura. Sendo justo, Musk deixa bem clara sua admiração pelas partes utópicas da civilização descrita por Banks em seus romances.

É fascinante ver o que esses homens veem ao observar o futuro das IAs. Zuckerberg enxerga uma oportunidade, uma chance de melhorar uma ferramenta a fim de melhorar interações humanas e lucros. Musk vê motivos para se preocupar; um possível beneficio que poderia se tornar uma faca de dois gumes caso a IA se volte contra seus criadores.

De fato Excession, o livro que Musk está lendo agora, trata do que acontece quando as Mentes de Cultura encontram evidências da existência de outra superinteligência que vai além de seus talentos. Na confusão decorrente, temos o trecho mais citado:

"Veja só os humanos! Como tal lentidão glacial poderia ser chamada de vida? Uma era poderia se passar, impérios virtuais surgindo e morrendo no tempo em que eles levam para abrir suas bocas e proferir alguma nova futilidade!"

Muitos estudiosos não acreditam que a existência de IAs fortes seja possível, e caso e seja, ainda estamos muito longe disso. As ressalvas de Musk são completamente lógicas ao pensarmos no futuro da humanidade, mas talvez seja algo mais pessoal envolvido aí.

Em Cultura, homens como Musk e Zuckerberg não existem porque a sociedade não precisa deles. As Mentes tomam conta de todas, por bem ou mal, porque decidiram que os humanos são incapazes de construir uma boa sociedade. Caso as IAs fortes venham a surgir, talvez cheguemos à conclusão semelhante. Talvez Musk e Zuck tenham medo de serem substituídos.

Tradução: Thiago "Índio" Silva