Exterminadores do futuro: ficção científica ou realidade próxima?

Países buscam acordo sobre o desenvolvimento de robôs assassinos

A matéria está publicada na editoria “Sociedade” da versão impressa de O Globo do dia 6 de abril, mas, à primeira vista, poderia estar no Segundo Caderno, dedicado às artes, à cultura e ao entretenimento. Ocupando quase a página inteira, temos a imagem de um robô humanóide, pintado com camuflagem própria dos exércitos, que aponta duas armas para o leitor, uma em cada mão. No topo, a manchete é: “Contra os exterminadores do futuro”.

Mas, infelizmente, a notícia não é sobre mais um filme, ou série distópica de ficção científica, e o problema talvez seja continuarmos tratando robôs assassinos como uma fantasia em um futuro distante bem longe de nós. É fato que há algum exagero na imagem que remete a humanóides indestrutíveis e mortíferos como os do cinema – que, como registra o próprio Globo, ainda permanecem em um futuro distante – e um certo sensacionalismo em falar de “robôs assassinos” em vez de “armas letais autônomas”. No entanto, este é um caso em que esses excessos talvez sejam necessários para chamar a atenção a um problema que, se não atacarmos agora, em breve estará fora de controle.

E é justamente da busca por uma solução que fala a reportagem de O Globo, motivada por reunião das Nações Unidas que aconteceu em Genebra ao longo da última semana, justamente para negociar o banimento das tais armas letais autônomas, no âmbito da Convenção da ONU sobre Armas Convencionais, que visa proibir ou restringir o uso de certas armas consideradas excessivamente lesivas ou de uso indiscriminado. A reunião acontece no marco dos cinco anos da Campanha para Parar Robôs Assassinos, da Human Rights Watch, e, embora trate de um futuro ainda inexistente – embora não tão distante –, acontece em um clima de alerta sobre a necessidade de criar regras para esse futuro antes que seja tarde demais.

No Brasil, que eu tenha localizado, além de O Globo, apenas o site da Isto É falou do assunto. Em ambos os casos, sem abordar a participação do Brasil na reunião e a posição brasileira, o que me parece uma falha importante. Em textos publicados na mídia internacional, verifiquei que, felizmente, nosso país faz parte (ainda) do grupo de 22 nações que apoiam o banimento completo dessas armas. No entanto, como era de se esperar, os países mais avançados em termos de seu desenvolvimento são também aqueles resistentes a assumir qualquer compromisso: Estados Unidos, China, Rússia e Israel.

O debate me parece um pouco estranho quando afirma, por exemplo, que não podemos passar a decisão de quem vive ou morre para uma máquina, incapaz de apreciar o valor da vida humana. Estranho porque esta decisão não me parece caber a qualquer ser humano, também, e prefiro pensar em termos de promoção da paz, e não de uma guerra mais ou menos justa. Mas enfiar a cabeça na terra qual avestruz não resolverá o problema, e é urgente que levemos em consideração outros aspectos, como a impossibilidade de responsabilização de uma máquina independente do controle humano e a diminuição do custo da guerra, o que tornaria bem mais fácil a decisão de começar uma.

O papel da Ciência em relação a esses robôs assassinos

A associação entre Ciência e o setor bélico não é de hoje. Muito pelo contrário: Ciência e guerra sempre caminharam juntas, com uma frutificando a outra. A novidade, neste caso, é a inteligência artificial e os rumos do seu desenvolvimento. Este, na guerra e fora dela – como, por exemplo, no caso da perpetuação de preconceitos, que já abordamos aqui, ou do combate a eles, como sugere o texto da Science –, pode se dar para o mal ou para o bem, dependendo do grau do compromisso com a Ciência como “instrumento coletivo de vida e não de morte”, como formula o cientista político Clóvis Brigagão. E, mesmo que muito pareça fugir do controle, de uma coisa nós ainda podemos ter certeza: esta é uma decisão que continua nas nossas mãos, humanas.

Boas leituras, a até a semana que vem.

Mídia e Ciência também disponível em vídeo