quarta-feira, 15 de julho de 2015

A Burrice Exterminadora


Quase todo mundo conhece a premissa da cinessérie "O Exterminador do Futuro": o ano é 2029 e metade da população mundial foi exterminada em um único dia, por conta de múltiplos ataques nucleares promovidos por uma inteligência artificial chamada "Skynet", um sistema originalmente criado para o Departamento de Defesa norte-americano . Os sobreviventes, a partir disso, lutam desesperadamente para sobreviver aos ataques incessantes dos exércitos robóticos criados e liderados pela sinistra inteligência em rede, que pretende exterminar toda a humanidade.

Desde 1984, ano em que o filme original foi lançado, Skynet se transformou no símbolo-mor das "inteligências artificiais malévolas" e em uma das referências mais frequentes e comuns em todos os debates sobre os riscos do desenvolvimento de inteligências artificiais.

A inteligência e o caráter de Skynet são temas que receberam tratamento diferenciado nas diversas iterações deste universo fictício nos cinemas. Enquanto filmes mais recentes da série têm sugerido um Skynet cruel e malévolo, que despreza a humanidade e quer "superá-la", os dois primeiros filmes (de 1984 e 1991, respectivamente) adotam uma abordagem mais ambígua e menos maniqueísta.

Se a sua paciência me permitir, eu gostaria de sugerir um novo olhar sobre este popular vilão da cultura popular. Sempre pensamos em Skynet como o exemplo quintessencial de inteligência artificial, quase como sendo uma divindade digital. Será mesmo? Na contramão desta concepção tradicional, proponho uma outra perspectiva: e se, na verdade, o grande problema do Skynet residir no fato de que ele é burro e estúpido demais?

Explico: Skynet foi criado para otimizar a defesa aeroespacial norte-americana. Ele foi desenvolvido com o objetivo de assegurar a paz, por meio da automatização completa de toda a rede de sistemas de defesa dos EUA. Tudo corria maravilhosamente bem, até que aconteceu um detalhe imprevisto: Skynet se tornou autoconsciente.

O que isso significa? Significa que, a partir deste momento, ele se tornou capaz de fazer interpretações livres e juízos de valor independentes, ao contrário de meramente seguir um programa de computador. Ele passou a ter a possibilidade de pensar sobre o papel defensivo para o qual foi criado, ao invés de apenas desempenhá-lo por meio de diretrizes estabelecidas e algoritmos otimizados. E, em questão de segundos, ele chegou à mais estúpida, pobre e imatura das conclusões: que a paz absoluta sobre a Terra só poderia vir a existir com o extermínio total da raça humana.

Antes de alguém querer jogar pedras em Skynet, permita-me defendê-lo neste ponto em particular: do ponto de vista formal, a lógica dele é inatacável. De fato, um mundo sem pessoas é um mundo sem guerras, de paz absoluta. Problema resolvido. Que se trata de uma solução eficiente, isso é indiscutível. A questão é que se trata de uma solução estúpida e irrefletida, do tipo que atira pela janela a água da bacia com a criança ainda dentro.

Skynet, em toda a sua primariedade e simplicidade cognitiva, não é capaz de compreender a vida humana como um valor, nem de raciocinar com base em princípios. Uma verdadeira inteligência artificial (supondo que isso seja possível) compreenderia que a defesa militar de uma nação não é um valor em si, mas sim um valor derivado, que decorre da importância da proteção à integridade, à saúde e à vida dos seres humanos. Uma criança consegue compreender isso. Skynet, que não passa de um ábaco avantajado, não consegue.

Corro sério risco de ser mal compreendido aqui. Quer dizer que o argumento original de "O Exterminador do Futuro" é tolo e que devemos parar de nos preocuparmos com inteligências artificiais? Pelo contrário: este novo olhar que estou sugerindo sobre Skynet apenas nos mostra que o perigo é muito mais plausível do que se poderia imaginar. O único detalhe é que nossa preocupação não deve ser focada em máquinas inteligentíssimas - que certo dia acordam de manhã subitamente conscientes e resolvem abraçar "o mal" - mas sim com máquinas estúpidas e obtusas às quais, de forma ingênua, nós confiamos tarefas importantes sem levarmos em consideração a completa falta de inteligência das ferramentas que criamos. Aqui já saímos da minha opinião sobre o Skynet e entramos em uma crítica mais ampla, que já está sendo levada adiante por muitos estudiosos.

"O que você deve temer é um computador que seja competente em apenas uma área muito pequena, em um grau limitado", afirma o professor de física do MIT, Max Tegmark. Para ele, o recente incidente na fábrica alemã da Volkswagen, no qual um robô acidentalmente matou um trabalhador, "foi um exemplo de uma máquina sendo estúpida, não fazendo algo mau, mas tratando uma pessoa como se ela fosse um pedaço de metal". Eu acrescentaria: qualquer semelhança com Skynet não é mera coincidência. É preciso ser incrivelmente estúpido e desprovido de inteligência para achar que "defesa militar" é um valor superior e absolutamente alheio e desvinculado à vida humana, não é mesmo?

"Pessoas que estudam inteligência artificial sabem que um computador que joga xadrez, ainda assim, não anseia por capturar a rainha", afirma o professor de Ciência da Computação da Universidade da Califórnia, Stuart Russell. "O que falta para o programa de computador é ter, por trás dele, uma estrutura de valores", ele complementa. "A má compreensão é achar que só existe um risco se houver consciência".

Concluo: deveríamos ficar surpresos com o fato de que é a burrice artificial, e não a inteligência artificial, o verdadeiro fator de risco e a real ameaça ao nosso futuro enquanto civilização? Qual é a novidade aí? Nenhuma, ao que me parece. Fora do mundo dos robôs, das redes e dos computadores, as grandes ameaças ao exercício pleno do nosso brilhante potencial de seres humanos sempre foram - e continuam sendo - estas mesmas: a ignorância incompreensiva, a pressa burra, a ausência de senso crítico, a incoerência, a estupidez agressiva e violenta, a incapacidade de compreensão do conceito de dignidade da vida humana e, last but not least, a lógica formal que se recusa a dialogar com os valores morais, políticos, sociais e jurídicos do entorno, construídos histórica e culturalmente. O fato é que o sono da razão valorativa produz monstros - tão ou mais terríveis do que aquele famoso e sinistro esqueleto robótico de metal, de olhos vermelhos e recoberto com pele de Schwarzenegger.

Nas palavras de Victor Frankl: "Não foram apenas alguns ministérios de Berlim que inventaram as câmaras de gás de Maidanek, Auschwitz, Treblinka: elas foram preparadas nos escritórios e salas de aula de cientistas e filósofos niilistas, entre os quais se contavam e contam alguns pensadores anglo-saxônicos laureados com o Prêmio Nobel. É que, se a vida humana não passa do insignificante produto acidental de umas moléculas de proteína, pouco importa que um psicopata seja eliminado como inútil e que ao psicopata se acrescentem mais uns quantos povos inferiores: tudo isto não é senão raciocínio lógico e consequente".

Não parece muito com o tipo da coisa que faria Skynet, aquele estúpido aplicativo turbinado de smartphone?

Um comentário:

Sy P. disse...

Adorei teu blog!