Como a Skynet do Pentágono Quer Automatizar a Guerra

Os funcionários do Pentágono temem que as forças militares dos Estados Unidos estejam ficando para trás de competidores como a China, e estão dispostos a fazer quase de tudo para manter o país no topo — incluindo a criação de versões mais brandas de O Exterminador do Futuro.

Graças a revoluções tecnológicas fora de sua alçada, o Departamento de Defesa prevê o início de uma nova era de guerra automatizada dentro dos próximos 15 anos. Até lá, segundo eles, guerras poderão ser conduzidas somente com sistemas robóticos inteligentes equipados com armas de última geração.

Semana passada, o secretário de defesa dos EUA, Chuck Hagel, anunciou a criação de uma "Iniciativa de Inovação Defensiva" — uma iniciativa que envolveu identificar e desenvolver tecnologia de ponta "nos próximos três a cinco anos e para um futuro indeterminado" para manter a "superioridade tecnológica militar" dos Estados Unidos. As áreas que serão agraciadas pelo programa envolvem a robótica, os sistemas autônomos, a miniaturização, o Big Data e a manufatura de ponta, incluindo a impressão 3D.

Mas o ponto a qual a iniciativa de Hagel pode chegar — seja ela movida por desespero, fantasia, ou arrogância — é revelado em um estudo financiado pelo Pentágono, publicado sem alarde pelo Centro de Tecnologia e Segurança Nacional da Universidade da Defesa Nacional (NDU), em Washington DC.

O documento de 72 páginas esclarece as implicações pretensiosas do plano do Pentágono de monopolizar os iminentes "avanços revolucionários" em biotecnologia, robótica, inteligência artificial, tecnologia da informação, nanotecnologia e energia.

A iniciativa de Hagel está sendo supervisionado pelo vice-secretário de defesa, Robert O. Work, principal autor de um relatório lançado em janeiro pelo Centro de Nova Segurança Americana (CNAS), "20YY: Preparando-nos Para a Guerra na Era Robótica".

O relatório de Work é amplamente citado em um novo estudo publicado pelo NDU, uma instituição de ensino superior financiada pelo Pentágono que treina oficiais do exército americano e desenvolve estratégias de segurança nacional e políticas de defesa.

O estudo do NDU anuncia que, apesar da previsão de que os crescentes avanços tecnológicos irão "padronizar o mundo econômica, social, política e militarmente, eles também podem aumentar a desigualdade social e a tensão entre classes", e afirma que o Pentágono deve tomar medidas drásticas para evitar o potencial declínio do poderio militar dos EUA: "Para que o DoD (o Departamento de Defesa, na sigla original) permaneça como a força militar mais proeminente do mundo, ele deve restabelecer seus processos organizacionais e culturais de forma a se tornar mais expansivo, ágil e com uma forte base de conhecimento."

Os autores do estudo do NDU, Dr. James Kadtke e Dr. Linton Wells, são conselheiros experientes do Pentágono, ambos afiliados ao centro de tecnologia do NDU, que conduz pesquisas "de suporte à Secretaria de Defesa, aos Serviços Militares e ao Congresso."

Kadtke já foi um oficial sênior no Escritório Nacional de Nanotecnologia da Casa Branca, enquanto Wells— que serviu sob a tutela de Paul Wolfowitz como chefe de informação do DoD e primeiro-assistente do secretário de defesa — foi, até junho, Chefe da Secretaria de Transformação das Forças do NDU.

Wells também preside um grupo pouco alardeado conhecido como o "Fórum Highlands", que é coordenado pelo ex-membro do Pentágono Richard O'Neill, apontado pelo DoD. O Fórum une especialistas militares e de tecnologia de informação para explorar os desafios da política de defesa americana que vem surgindo do impacto da internet e da globalização.

Ao explicar o funcionamento do Fórum Highlands para a revista Government Executive em 2006, Wells descreveu o Fórum como uma "máquina de ideias" financiada pelo DoD que "coloca ideias nas mentes de pessoas do governo que tem o poder suficiente para colocá-las em prática… O que acontece são pessoas voltando para o Highlands com uma ideia e dizendo, 'Como eu posso colocar isso em prática?'"

O IRMÃO MAIS VELHO DO BIG DATA

Uma área muito enfatizada pelo estudo de Wells e Kadtke é o melhoramento da habilidade da inteligência dos EUA em analisar automaticamente grandes séries de dados sem a necessidade de interferência humana.

Ao apontar que as "informações pessoais" podem ser facilmente coletadas de fontes online e redes sociais, eles clamam por políticas de "Informações Pessoalmente Identificáveis (PII) para determinar a habilidade do Departamento no uso de informações de mídias sociais e e contingências domésticas"— em outras palavras, a capacidade de determinar sob quais condições o pentágono pode usar informações pessoais de cidadãos americanos obtidas com a prospecção de dados do Facebook, Twitter, LinkedIn, Flickr e outros.

O estudo afirma que o DoD pode utilizar a "coleta de dados em larga escala" em prol dos avanços da medicina e da sociedade, por meio da "monitoramento de individuais e populações com sensores, dispositivos remotos, e IoT [ a 'Internet das Coisas']" que, juntas irão "fornecer detecção e análises preventivas". O Pentágono pode aumentar essa capacidade "com parcerias com grandes produtores do setor privado, onde as soluções mais inovadoras estão sendo criadas."

Particularmente, o Pentágono deverá aperfeiçoar sua capacidade de analisar grande grupos de dados rapidamente, ao investir em "técnicas de análise automatizadas, análises de texto, e técnicas de interface de usuários que reduzem o tempo expendido e a mão de obra necessária para a análise de grandes grupos de dados."

Kadtke e Wells querem que o complexo militar dos EUA se beneficie da crescente interconexão de pessoas e aparelhos via a nova 'Internet das Coisas', com o uso de "sistemas incorporados" em "automóveis, fábricas, infraestruturas, dispositivos, casas, animais, e, potencialmente, em seres humanos". Graças ao advento da "robótica na nuvem…. a linha entre a robótica convencional e aparelhos cotidianos inteligentes está ficando cada vez mais fina."

A robótica em nuvem, um termo cunhado pelo novo chefe de robótica do Google, James Kuffner, permite que robôs aumentam suas habilidades ao se conectar pela internet para compartilhar recursos e colaborar com outras máquinas. Até 2030, quase todo aspecto da sociedade global poderia virar, em outras palavras, "instrumentalizada, interligada, e potencialmente disponível para o controle via internet, em uma hierarquia de sistemas ciber-físicos."

Ainda assim, a aplicação militar mais direta de tantas tecnologias, conclui o estudo do Pentágono, será em "Comando-Controle-Comunicação, Computadores e Inteligência-Vigilância-Reconhecimento (C4ISR)"— um campo liderado pelas "organizações mundiais como a Agência de Segurança Nacional (NSA)."

BOTS MATADORES NA NUVEM

Dentro do contexto do Big Data e a robótica em nuvem, Kadtke e Wells afirmam que, conforme os sistemas robóticos automatizados ficam mais inteligentes, a manufatura barata de "exércitos de Bots Matadores que podem iniciar guerras de forma autônoma" será em breve uma realidade. Robôs podem ser inseridos na vida civil para exercer serviços de "vigilância, monitoramento de infraestrutura, telepresença policial, e aplicações à segurança nacional."

O principal desafio para essa institucionalização robótica virá na forma de uma "insatisfação política" em resposta a robôs terem a capacidade de determinar automaticamente quando matar alguém.

Para responder à essas críticas públicas, eles defendem que o Pentágono deve ser "altamente proativo" ao afirmar que "essa iniciativa não será vista como a criação de sistemas bélicos sem nenhuma interferência humana. É provável que o DoD tenha que limitar publicamente sua doutrina operacional no uso de tais sistemas para evitar críticas do público nacional e internacional ao desenvolvimento desses sistemas autônomos."

Apesar desse truque de Relações Públicas, eles recomendam que o DoD deve "se manter à frente de todos" com o desenvolvimento de "doutrinas operacionais para forças compostas significantemente ou até mesmo completamente por elementos automatizados."

A ideia é "aperfeiçoar ou substituir os elementos humanos" ao máximo, especialmente em missões que são "perigosas", "inviáveis" ou "impossíveis" para humanos (como, talvez, todas guerras?). Em apenas cinco anos, afirma o estudo, as pesquisas sobre inteligência artificial do Pentágono irão trazer "avanços significativos".

TEREMOS UMA SKYNET ATÉ OS ANOS 2020?

A dimensão mais perturbadora do estudo do NDU é sua visão de que na próxima década, a pesquisa sobre a inteligência artificial (IA) poderá resultar em uma "forte IA"— ou ao menos uma forma de "fraca IA" que se aproxime da primeira.

A Forte IA seria capaz de simular uma grande variedade de capacidades humanas, incluindo características como a consciência, a sapiência e a auto-percepção. Muito acreditam, observam Kadtke e Wells, que a "forte IA seja criada em algum ponto dos anos de 2020".

Eles afirmam que uma gama de avanços tecnológicos apoiam "esse otimismo", especialmente levando em conta que "processadores irão atingir o poder computacional do cérebro humano em algum ponto dos anos de 2020"— a Intel pretende atingir esse marco em 2018. Outros avanços relevantes no desenvolvimento tecnológico incluem "simulações cerebrais, computadores neuro-sinápticos e sistemas de representação de conhecimento geral como o IBM Watson".

Com o crescimento do custo da manufatura robótica e da computação em nuvem, segundo o estudo do NDU, os avanços da IA poderiam levar à automatização de funções militares avançadas como "solução de conflitos", "desenvolvimento estratégico" ou "planejamento operacional".

"A longo prazo, soldados robôs podem ser desenvolvidos e utilizados, especialmente em países mais ricos", diz o estudo (nenhum plano para adicionar "tecido orgânico" à parte exterior dos robôs é mencionado, ainda bem).

O estudo prevê, portanto, que o papel do Pentágono de supervisão de máquinas autônomas está se tornando cada vez mais central em todas as dimensões da guerra—desde o planejamento operacional à identificação de ameaças através da vigilância e da coleta de dados de redes sociais; da definição de alvos inimigos à sua busca e execução.

Não existe reflexão, no entanto, sobre os riscos óbvios em empreender no uso de inteligência artificial para automatizar esses elementos centrais do planejamento e das operações militares, além da seguinte frase, pouco clara: "Um aspecto negativo dessas tendências, entetanto, está nos riscos causados por vulnerabilidades imprevistas que podem nascer do uso em larga escala de sistemas inteligentes automatizados, do qual não se possui muita informação prática".

Mas se acreditamos nas reservas de Ellon Musk, bilionário e empreendedor no campo de tecnologia, a arrogância do Pentágono é profundamente enganada. Musk, um dos primeiros investidores da companhia de IA DeepMind, hoje pertencente ao Google, avisou que "algo perigoso" irá acontecer em cinco anos por causa do crescimento "quase exponencial" de IA usado na firma — e alguns especialistas em IA concordam.

PESSOAS SINTÉTICAS, GENETICAMENTE MODIFICADAS E COM BRAÇOS PROTÉTICOS COM LASERS

E como isso já não fosse perturbador o bastante, Kadtke e Wells mapearam avanços significativos em uma vasta gama de outras tecnologias relevantes. Eles apontam para o desenvolvimento de Armas de Energia Direcionada (DEW, na sigla em inglês) que projetam radiação eletromagnética na forma de feixes de laser, e que já estão em fase de testes.

Em agosto, o USS Ponce foi ao mar com um laser operacional — uma informação que só foi divulgada nos últimos dias. os DEWs, segundo as previsões dos autores do estudo, "irão se tornar uma tecnologia militar muito inoportuna" graças às suas "características únicas, como o curto tempo de voo, alta precisão, e uma munição praticamente infinita". O Pentágono planeja utilizar os DEWs amplamente a bordo de navios em alguns anos.

O Pentágono também quer acumular tecnologias que poderiam 'atualizar' a constituição física, psicológica e cognitiva dos humanos. O estudo do NDU cataloga uma série de campos relevantes, incluindo "medicina (genética) personalizada, regeneração de orgãos e tecidos através de células tronco, implantes tais como chips de computador e dispositivos de comunicação, próteses robóticas, interfaces diretas entre cérebros e máquinas, e até mesmo a comunicação direta entre dois cérebros."

Outra área que tem passado por avanços é a biologia sintética (também conhecida como SynBio). Recentemente, cientistas criaram células de DNA compostas de aminoácidos artificiais, abrindo uma porta para a criação de novas "formas de vida feitas em laboratório", afirma o estudo do Pentágono, assim como para a adição de "características especializadas e exóticas" à eles.

Kadtke e Wells assinalam a avaliação do Pentágono de uma pesquisa de biologia sintética que sugere "uma grande promessa para o futuro da engenharia de organismos sintéticos" importantes para uma série de "aplicações relevantes para a defesa nacional."

Já é possível substituir diversos órgãos por aparelhos artificiais. Citando a atual pesquisa do exército dos EUA sobre "cognição e neuro-ergonomia", Kadtke e Wells preveem que: "Pulmões artificiais funcionais, implantes de olhos, ouvidos e músculos estarão, provavelmente, disponíveis comercialmente nos próximo cinco à dez anos". Seguindo um raciocínio mais radical, eles chamam atenção para a crescente possibilidade de usar as células tronco para regenerar qualquer parte do corpo humano.

Unir tais avanços medicinais à robótica tem implicações ainda mais extremas. Os autores destacam a possibilidade de implantações bem-sucedidas de memórias digitais de silício e processadores em cérebros humanos, e também de "dispositivos controlados pela mente". A longo prazo, esses itens poderão fazer dispositivos como o Google Glass parecerem fósseis obsoletos, substituídos por "sistemas integrados entre humanos e máquinas que utilizarão interfaces cérebro-máquina e processadores fisiomiméticos análogos e sistemas cibernéticos híbridos que poderão fornecer uma análise de dados contínua e aperfeiçoada."

SOMOS TODOS SUSPEITOS

Se juntarmos todas as "revoluções científicas" catalogadas pelo estudo do NDU — caso sejam usadas de forma militar —, elas darão ao Departamento de Defesa (DoD) "habilidades sem precendentes" de uma natureza, para todos os efeitos, totalitarista.

Conforme me informou Thomas Drake, ex-executivo sênior do NSA e informante que inspirou o Edward Snowden, as atuais pesquisas sobre mineração de dados financiadas pelo Pentágono envolvem o aperfeiçoamento de algoritmos usados pela inteligência dos EUA para identificar não apenas os "suspeitos da Guerra ao Terror", mas também os alvos das listas de ataques de drones da CIA.

Quase metade das pessoas presentes na lista de "terroristas confirmados ou suspeitos" do governo dos EUA não possuem "afiliação conhecida com nenhum grupo terrorista", e mais da metade das vítimas dos ataques de drone da CIA no último ano foram "classificadas" como "extremistas afegãos, paquistaneses e de nacionalidade desconhecida"— entre outros que eram apenas "suspeitos de associação, ou que provavelmente" pertenciam a algum grupo não-identificado. Diversos estudos mostram que um número significante de vítimas de ataques de drones são civis — e um memorando secreto do governo Obama exposto nesse verão sob o Ato de Liberdade de Informação revela que o programa de drones vê a morte de civis como um efeito colateral inevitável.

De fato, falsas crenças sobre o sistema de classificação de ameaças do Pentágono significam que até mesmo "ativistas políticos não-violentos" podem ser aliados a 'extremistas em potencial', que "apoiam a violência política" e, dessa forma, apresentam riscos para os interesses dos EUA.

Estamos longe de saber se a ideia do Pentágono de um futuro de guerras à lá Skynet irá se tornar realidade. Que esse futuro esteja sendo tão almejado em nome da "segurança nacional", ainda mais nessa era de austeridade, certamente levanta questões acerca da força militar mais poderosa do mundo: será que, ao invés de ficar para trás, o país está ficando louco?

Nafeez Ahmed é Ph.D., jornalista investigativo e especialista em segurança nacional. Ele é o autor de A User's Guide to the Cris is of Civilization e de um suspense de ficção científica, Zero Point.

Tradução: Ananda Pieratti​