Apocalypse Now and Then by Arundhati Roy

 

Apocalipse, Agora e Outrora

Parte I

Os presságios caem sobre nós como uma chuva torrencial. Pensa ou Afunda-te. Obedece ou Morre. Mantém-te Actualizado ou Fica para Trás. E assim, sob estas ameaças nada subtis, eis que chegou a Era da IA – Idiotice Autêntica, Idiotice Autêntica Superlativa, Idiotice Recursiva em Bola de Neve. Raios, já utilizei dois travessões neste parágrafo inicial. Isso, como se costuma dizer, é um indício revelador. Portanto, talvez nem sequer tenha sido eu a escrever este ensaio. Seria preciso recorrer a uma aplicação de IA para verificar se o texto foi realmente produzido por IA e se eu sou verdadeiramente eu, se não sou eu, ou se sou apenas parcialmente eu. Já não podemos confiar nos nossos instintos. Temos de recorrer à Aplicação. Agora que a IA se apropriou do travessão longo, que pensarão as gerações futuras de Emily Dickinson e da sua paixão por esse sinal de pontuação? Terá ela também sido introduzida na máquina? Irão amá-la menos? Estaremos a ser gradualmente expulsos da linguagem? E isso ainda importa?

Por razões que têm mais que ver com o ego de uma escritora do que com a fé, sempre me fascinou o primeiro versículo do Evangelho segundo São João: “No princípio era o Verbo, e o Verbo estava com Deus, e o Verbo era Deus.” Acredito que isto seja verdade. Acredito que perturbar e corromper a relação fundamental entre os seres humanos e a linguagem acabará por destruir qualquer aparência de coesão social.

A IA irrompeu no mundo da literatura, deixando escritores, editores, agentes literários, leitores, críticos, professores e estudantes com a sensação de que o chão lhes desaparece debaixo dos pés. Os professores vêem-se agora obrigados a examinar os trabalhos dos alunos com desconfiança. Os editores têm de avaliar os novos escritores como detectives que inspeccionam uma potencial cena de crime. É difícil descrever o que isto faz à leitura e à aprendizagem. A alegria e o desafio do envolvimento intelectual foram substituídos por algo fechado, mordaz e mecânico. Um Shangri-La de taxidermistas, onde tudo o que outrora esteve vivo foi esfolado e empalhado, e nos contempla sem pestanejar, com um brilho significativo nos seus olhos luminosos e falsos. É como olhar para alguém e interrogarmo-nos se será realmente quem julgamos que é. Ou olhar para o espelho, ver o nosso próprio reflexo e saber que, afinal, não somos nós.

Com o tempo, poderemos perder também essa consciência. E então deixaremos de saber quem somos, ou sequer se somos.

E quando isto acontecer a uma sociedade inteira, a uma espécie inteira, quando já não pudermos confiar nos instintos adquiridos ao longo de séculos e transmitidos de geração em geração, quando já não pudermos confiar nos nossos corações, nos nossos olhos ou nos nossos ouvidos, quando deixarmos de conseguir distinguir a verdade da mentira ou o virtual do real, quando o tempo colapsar e o passado, o presente e o futuro se confundirem, quando um milhão de línguas e culturas forem trituradas até se transformarem numa pasta informe, quando um antigo pacto social – com todas as suas limitações e imperfeições – for destruído ao ponto de se tornar irreconhecível, estaremos a preparar o terreno para uma psicose colectiva?

Esta linha de pensamento poderá expor-me à acusação de ter sucumbido ao inevitável pânico moral que surge quando nos confrontamos com algo novo e incompreensível – o mesmo pânico que antecedeu a Revolução Industrial ou o aparecimento do computador. A questão é: será apenas isso? Estaremos simplesmente a atravessar um momento desconfortável de transição na evolução do “progresso” humano? Ou estaremos, de facto, perante uma ruptura catastrófica?

Talvez devêssemos escutar aqueles que estão a construir esta gloriosa nova tecnologia. No mês passado, um jovem funcionário da Anthropic, Jacob Coxon, demitiu-se, afirmando que a sua consciência não lhe permitia continuar a trabalhar num projecto que poderia potencialmente aniquilar a espécie humana. O retrato que traçou do seu local de trabalho assemelhava-se, grosso modo, ao Projecto Manhattan sob o efeito de esteróides. Mas, como sabemos, desta vez os cientistas são motivados, em grande medida, pelo lucro e pela corrida para “chegar primeiro”. O que se seguiu à demissão de Coxon foi desconcertante. Os presidentes executivos das maiores empresas de IA atropelaram-se uns aos outros na pressa de discutir, discordar ou concordar com o denunciante que os havia exposto. Os nossos ecrãs encheram-se de vídeos desses oligarcas multimilionários a informar-nos, em tons graves e sepulcrais, de que existia uma probabilidade considerável de o Deus-Máquina que estavam a consagrar poder provocar o fim da civilização humana.

Depois de terem estabelecido a sua suserania sobre a nossa espécie, tranquilizaram-nos, garantindo que estavam a fazer tudo o que podiam para reduzir o risco. Apelaram à regulamentação governamental. O seu pedido de ajuda sugeria uma espécie de patologia. Havia nele qualquer coisa de ligeiramente perversa – uma atmosfera de Ata-me! Prende-me!. Será isso, ou tratar-se-á simplesmente da natureza intrínseca do capitalismo? A impotência perante uma ganância sem limites?

Os oligarcas parecem realmente acreditar na sua narrativa da extinção – pelo menos o suficiente para terem construído abrigos fortificados nos confins da Terra, abastecidos de água, alimentos e munições. Mas não é a extinção que estão a vender ao resto de nós. (Donald Trump e os libertários tecnológicos classificam-na abertamente como uma fraude.) O progresso, a glória e o bem da humanidade constituem a essência do seu discurso comercial. Um deles, Peter Thiel, da Palantir, chegou ao ponto de chamar “Anticristo” aos críticos e àqueles que exigem regulamentação, acusando-os de fazerem o jogo do diabo – atribuindo assim, implicitamente, uma natureza divina à sua empresa e às suas ambições. (Sim, a mesma pessoa que, quando lhe perguntaram se acreditava que a espécie humana deveria sobreviver, respondeu, numa ocasião que se tornou célebre, “Hummm…” e depois começou a gaguejar e a murmurar.)

O alvoroço acabou por se organizar segundo linhas de fractura familiares aos especialistas do sector tecnológico – catastrofistas, aceleracionistas e cépticos. Mas quando outras vozes denunciam os danos reais, calamitosos e já em curso provocados pela indústria da IA, são deliberadamente ignoradas e silenciadas.

Curiosamente, os oligarcas parecem sentir-se muito mais à vontade com Jacob Coxon do que com alguns outros denunciantes. Não se mobilizaram em defesa de Meredith Whittaker, actualmente presidente da Signal Foundation, que se demitiu da Google em 2019, depois de ter denunciado o contrato da empresa para desenvolver tecnologia de visão artificial destinada aos drones militares norte-americanos. Sete anos depois, essa fusão entre a indústria da IA e a indústria do armamento está à vista de todos. (Veja-se o ataque norte-americano de duplo impacto contra uma escola de raparigas em Minab, no sul do Irão, em Fevereiro, no qual morreram 156 pessoas, incluindo 120 crianças em idade escolar. Não houve pedidos de desculpa, porque ninguém foi responsável. Os assassínios planeados por máquinas vêm isentos de culpa. O mesmo se aplica a Lavender, Gospel e Where’s Daddy?, os sistemas de IA utilizados na campanha israelita de assassínios de militantes do Hamas em Gaza, na qual, segundo relatórios de organizações de direitos humanos, a unidade básica de identificação de alvos dos sistemas de localização e seguimento era a residência familiar.)

Também não se verificou qualquer manifestação de apoio dos oligarcas quando Timnit Gebru, uma das raríssimas mulheres negras a ocupar um cargo técnico superior em Silicon Valley, foi despedida da Google, em 2020, por se recusar a retirar um artigo científico de que era co-autora. O artigo expunha os custos ambientais do treino dos grandes modelos de linguagem (LLM) – incluindo os da Google – e demonstrava como estes amplificavam e reproduziam a supremacia branca e a misoginia presentes nos conjuntos de dados que tinham absorvido indiscriminadamente. Gebru advertiu que estas patologias apenas se agravariam à medida que os modelos aumentassem de dimensão e se tornassem mais difíceis de auditar. As suas conclusões foram corroboradas por outra investigadora, Abeba Birhane, co-autora de um artigo intitulado “On Hate Scaling Laws for Data-Swamps”.

Porque razão Whittaker e Gebru, com as suas acusações muito concretas, preocupariam mais os oligarcas do que os profetas da extinção total, como Geoffrey Hinton, o cientista da IA que se tornou crítico da tecnologia, ou Jacob Coxon? Talvez porque, tal como um grandioso espectáculo de fogo-de-artifício, os avisos de Hinton e Coxon acrescentam emoção e dramatismo ao ambiente. Acabam por reforçar a demonstração de poder dos oligarcas, o que lhes será extremamente vantajoso quando as suas empresas entrarem em bolsa, como se prevê que aconteça em breve. As suas avaliações bolsistas dependerão do grau de sofisticação – e, no caso dos sistemas de armamento com IA, do grau de letalidade – dos respectivos modelos.

Quem são estes multimilionários que afirmam deter o poder de vida e de morte sobre a humanidade? Dão a impressão de já se terem desvinculado da espécie humana e deste planeta a que chamamos casa. Serão sátiros? Meio humanos, meio máquinas? Chamemos-lhes Ciclopes – no plural. Aqueles pastores gigantes, de um só olho, habitantes de cavernas, da mitologia grega e romana. (No século XXI, as suas cavernas são opulentas e as suas ovelhas são seres humanos.)

Imaginemo-los como uma entidade única. Uma mutação. Ciclopes tem uma única cabeça e um único olho pálido, imóvel, implantado na testa, muito à direita do centro, que dirige o seu olhar bilioso aos seres humanos comuns e neles vê apenas aquilo que os mineiros vêem numa floresta rica em minerais, ou aquilo que os construtores de barragens vêem nos rios caudalosos. Um recurso a extrair, acumular e colocar no mercado. Que se lixe a floresta. Que se lixe o rio. Que se lixe o ser humano.

Mas, ao contrário do ciclope silencioso e desajeitado que vimos recentemente nos ecrãs de cinema, Ciclopes ramifica-se, a partir do pescoço, em vários corpos que discutem entre si e dão a impressão de não se entenderem. Contudo, quando se trata do Fim dos Tempos – ou, mais precisamente, do Fascismo do Fim dos Tempos, para utilizar o título do magnífico novo livro de Naomi Klein e Astra Taylor – entendem-se perfeitamente.

A orgia de extinção de Ciclopes pareceu, a muitos observadores da indústria, uma encenação destinada a convencer uma opinião pública cada vez mais indignada e inquieta de que as empresas de IA são absolutamente centrais, importantes, insubstituíveis e impossíveis de fazer recuar na economia dos Estados Unidos, bem como na segurança e no futuro da sua população.

Pedir para serem regulamentadas é uma tentativa de enxertar a indústria no Estado, eliminando até a mais pequena fresta de luz entre o governo e essas empresas. A esperança dos oligarcas é que este abraço regulamentar lhes conceda o cheque em branco de que tanto necessitam. Porque a quantidade de dinheiro, terra, água e energia de que precisam só pode ser disponibilizada pelo governo. Dito sem rodeios, aquilo que realmente pretendem é obter autorização governamental para se auto-regulamentarem. Legitimidade sem perda de controlo.

Este tipo de manobra delicada tem de ser executado como uma peça de teatro kabuki. Precisa de um vilão, de um papão, que assuste uma opinião pública cada vez mais inquieta e quaisquer futuros governos que possam não ser tão maleáveis como o regime de Trump.

Entra em cena, pela esquerda, a China.

Para proteger os Estados Unidos da ameaça de uma China em ascensão, Ciclopes oferece ao governo norte-americano uma gama de sistemas de armamento autónomos e letais com que outros países nem sequer podem sonhar, bem como a fantasia de vírus produzidos em laboratório e de armas biológicas até agora desconhecidas da ciência. Para conter e disciplinar populações inquietas no plano interno, oferece aos Estados Unidos e a outros governos aliados sistemas de vigilância e reconhecimento facial que prometem fazer do programa de espionagem Pegasus, de Israel, um simples brinquedo. Em contrapartida, exige fluxos de capital sem entraves e a promessa de toda a terra, água e energia de que necessite para alimentar os seus gigantescos centros de dados e supercomputadores.

Traduzido em discurso directo, seria mais ou menos isto: apresentar-nos-emos como a vanguarda do esclarecimento humano e como gestores e distribuidores do conhecimento da humanidade sans frontières. Mas, na realidade, assumiremos a forma do mapa do nosso país. Fundir-nos-emos com a nossa nação, com a sua economia, com a sua rede de informações e com o seu aparelho de segurança, até que deixem de conseguir distinguir-nos de vós próprios. Excepto pelos nossos saldos bancários. Em troca, poderão fingir que nos regulamentam até cumprirmos a nossa missão de colonizar a Lua e o espaço exterior. Sem fronteiras, sem receios. Depois, deitaremos abaixo a escada que tão amavelmente nos emprestaram. Nem sequer precisaremos de vos substituir. Simplesmente, deixarão de existir. Seremos nós a governar o vosso povo, as vossas cidades, as vossas comunicações, os vossos sistemas financeiros, os vossos tribunais, o vosso exército e a vossa polícia. Se não formos nós, será a China a governar-vos.

Estes apelos das grandes empresas norte-americanas de IA à regulamentação governamental servem também para eliminar a concorrência dos operadores mais pequenos, de modo que, quando forem assinados tratados internacionais sobre a IA (como inevitavelmente terão de ser), apenas elas – o punhado de empresas “regulamentadas” – estarão em condições de participar.

A fusão entre empresas e países está já bastante avançada. A ciência da IA pode ser nova. Mas a maneira como nos está a ser imposta é tão antiga como o próprio colonialismo. Na Índia, temos uma história de colonização por uma empresa. E sim, foram as nossas classes dirigentes que a convidaram a entrar, tal como os governantes norte-americanos estão agora a fazer. A Companhia Britânica das Índias Orientais acabou por ser assumida pela Coroa britânica. Agora, evidentemente, o processo está a acontecer em sentido inverso. Grande parte das infra-estruturas da Índia pertence a dois conglomerados empresariais, o Grupo Adani e o Grupo Reliance, ambos preparados para mergulhar no oceano da IA.

Ciclopes prepara-se para tomar conta do Estado norte-americano. Eis Alex Karp, presidente executivo da Palantir: “Penso que o risco central para a Palantir, para a América e para o mundo é uma maneira retrógrada de pensar que está a corromper e a corroer as nossas instituições.” Estava irritado com os analistas que sugeriam que a Palantir estava sobreavaliada. (Quer dizer, como se pode ter a presunção de “avaliar” um Deus?) Prosseguiu com uma daquelas manifestações do seu característico humor descontraído de homem rico: “Adoro a ideia de arranjar um drone e fazer chover uma fina pulverização de urina misturada com fentanil sobre os analistas que tentaram prejudicar-nos.”

E eis, como é bem conhecido, Sam Altman, actualmente da OpenAI, a reconhecer que a IA pode estar a conduzir a humanidade por um atalho para o inferno: “… mas, entretanto, serão criadas grandes empresas com sistemas avançados de aprendizagem automática”. Ou que dizer desta afirmação de Marc Andreessen – o ultra-aceleracionista, ultra-alinhado com Trump e que parece possuir o mesmo ultra-QI? “A tecnologia deve ser um ataque violento contra as forças do desconhecido, para as obrigar a curvar-se perante o homem… Não somos vítimas; somos conquistadores.”

 

Parte II

Há várias versões do Apocalipse, e das misérias que o acompanham, com as quais as pessoas se vêem obrigadas a confrontar-se. Existe a aterradora narrativa da extinção. Existe a versão em que somos subjugados por uma espécie mais inteligente do que a nossa. (Para compreender as consequências disso, basta pensar no que fizemos às outras espécies com quem partilhamos o planeta; por comparação, a extinção chega a parecer uma perspectiva francamente atraente.)

E existe ainda a apreensão daqueles que pertencem ao mundo dos seres humanos não tecnológicos – os activistas da luta contra as alterações climáticas, desesperados com a pegada de carbono da indústria da IA; os estudantes e trabalhadores que antevêem o desemprego em massa e um futuro sem perspectivas; os artistas, músicos e escritores, como eu, que pressentem o turbilhão centrífugo que nos suga o coração ainda palpitante do corpo e reúne os fios de aço do controlo social num único punho mecânico e cerrado.

Como devemos reagir? Exigindo regulamentação? Como disciplinar uma indústria que faz com que Apocalypse Now, de Francis Ford Coppola – incluindo os seus estereótipos racistas – pareça um documentário de actualidade?

Ciclopes é o coronel Kurtz, um antigo fuzileiro naval envelhecido, enlouquecido pelas crueldades da guerra, que governa o seu império tresloucado, ensanguentado e mergulhado nas drogas, bem como os seus súbditos indígenas, no Coração das Trevas (transplantado da África de Conrad para o Vietname de Coppola). A ordem do alto comando do Exército norte-americano ao jovem oficial enviado para pôr termo à insurreição do seu camarada fuzileiro é inequívoca: “Eliminar sem qualquer contemplação.”

Qual deverá ser a nossa palavra de ordem? Regulamentar sem qualquer contemplação? Talvez. Embora, na verdade, não saiba o que isso significa, nem como se concretizaria.

A sensação é um pouco semelhante à daquele momento que antecedeu o tsunami de 2004. Lembram-se de como, na Tailândia e na Indonésia, o oceano recuou da costa? As pessoas correram para contemplar os quilómetros de praia imaculada que subitamente tinham surgido, sem perceberem que, muito ao largo, se estava a formar uma muralha de água que acabaria por desabar sobre elas. Estamos agora nesse preciso momento. Uma gigantesca muralha de estupidez prepara-se para nos inundar.

O rasto de migalhas deliciosas espalhadas pela areia reluzente atrai-nos cada vez mais para dentro do oceano. Revela tesouros mágicos, conchas incrustadas de jóias e castelos secretos que prometem uma lua-de-mel eterna, ou uma lua-de-mel com dinheiro, se for isso que preferirem. Apanhem essas conchas e maravilhem-se com aquilo que podem fazer por vós.

O nome pouco atraente que lhes dão é “aplicações para consumidores”. Podem ser a vossa mãe, o vosso amante, o vosso terapeuta, o vosso médico. Podem escrever romances por vós num minuto, no estilo que escolherem, e traduzi-los para qualquer língua que desejarem. Podem montar os vossos filmes, compor a vossa música, realizar as vossas investigações e redigir os vossos documentos jurídicos. Aquilo que conseguem fazer no domínio da medicina é nada menos do que um milagre. (Isso não impedirá que os pobres continuem a morrer de cólera, malária e tuberculose, ou simplesmente de fome e de pobreza.) Prometem também proporcionar-vos justiça, educação e democracia instantâneas através do telemóvel. Se preferirem seguir noutra direcção, podem aperfeiçoar a vossa saudação nazi e equipar-vos com uma motosserra mental. Como não gostar? Como resistir a tudo isto? E por que razão haveríamos de resistir?

Apesar de tudo o que se diz sobre a IA e o autoritarismo, não é verdade que alguns dos nossos melhores e mais queridos youtubers antifascistas e activistas incansáveis (certamente na Índia), que somam dezenas de milhões de subscritores, são defensores entusiásticos da IA? Ou que a revolta da Geração Z, conhecida como a Revolta das Baratas, contra o governo de Modi, que caiu sobre nós como chuva em terra ressequida, chegou acompanhada dos mais deliciosos e irreverentes vídeos produzidos com IA?

É verdade. Mas, quando a avaliação das ameaças identifica um perigo real, essa janela pode ser fechada de um momento para o outro. Enquanto escrevo estas linhas, durante aquilo a que se chama a segunda temporada dos protestos das Baratas, em Deli, a Internet foi desligada no meu bairro. Durante outros protestos, em estados como Caxemira e Manipur, o governo indiano ordenou cortes de acesso à Internet que se prolongaram por meses.

Ciclopes ergue o Deus-Máquina, ainda na infância, nos seus braços exangues, e convida-nos a ajoelhar perante ele. Confiem Nele e entreguem-Lhe tudo o que possuem e, em troca, Ele oferecer-vos-á o seu deslumbrante espectáculo de maravilhas.

A colonização chega sempre trazendo presentes reluzentes. Mas a IA representa uma forma de colonização que poucos de nós conseguem sequer imaginar. É o destino final do capitalismo.

Ciclopes nunca se inibe de dizer em voz alta aquilo que normalmente se procura manter em silêncio.

Eis, mais uma vez, Peter Thiel, presidente do conselho de administração da Palantir: “A visão inicial que presidiu à fundação da empresa era a de utilizarmos a tecnologia para transformar o mundo inteiro, para subverter o sistema monetário mundial… Nunca conseguiríamos ganhar umas eleições… porque somos uma minoria tão pequena. Mas talvez fosse possível transformar efectivamente o mundo de forma unilateral, sem ter de estar constantemente a convencer as pessoas, a pedir-lhes e a implorar-lhes, pessoas que nunca irão concordar connosco.”

E eis Shlomo Kramer, presidente executivo da empresa tecnológica israelita Cato Networks: “Chegou a altura de limitar a Primeira Emenda para a proteger… Precisamos de controlar as plataformas, todas as plataformas sociais. Precisamos de estabelecer uma classificação hierárquica da autenticidade de cada pessoa que se exprime em linha e de assumir o controlo sobre aquilo que dizem, com base nessa classificação.”

Este sentimento de direito adquirido, esta riqueza, este poder, esta presunção, não lhes foram concedidos por Deus. Foram-nos arrebatados.

 

Parte III

Para treinar o seu Deus-Máquina, Ciclopes precisa de explorar até à exaustão e armazenar tudo aquilo que a civilização humana alguma vez realizou. Pretende transferir em massa as conquistas acumuladas, os frutos do trabalho conjunto de milhões de seres humanos ao longo de milhares de anos, incluindo a literatura, a arte, a música, a matemática, o xadrez, a investigação académica – tudo – para o património das empresas. Irá armazenar esse conhecimento, encontrar formas de o controlar, de o expurgar, de o politizar e de decidir quem poderá ter acesso a ele e quem ficará excluído. E a que preço? Chamemos-lhe a privatização e a empresarialização da história do esforço humano, da própria civilização. Tudo o que precisam de fazer é permitir que a vossa alma seja digitalizada e transformada em dados. Aquilo que restar de vós será uma lama humana, uma pasta residual. Efluente industrial.

Eis novamente Sam Altman: “Antecipamos um futuro em que a inteligência será um serviço público, como a electricidade ou a água, e em que as pessoas nos pagarão pelo seu consumo, medido por contador.”

Mas será que aquilo que pretendem vender lhes pertence realmente?

Sou uma entre centenas de milhares de autores cujos livros foram utilizados pela Anthropic, sem autorização, para treinar o seu grande modelo de linguagem. Na sequência de uma acção judicial colectiva, recebi uma notificação oferecendo-me alguns milhares de dólares por título, a título de indemnização. São livros que me exigiram uma vida inteira de experiências e vários anos de escrita.

A notificação informa que a empresa descarregou os livros de dois sítios da Internet que alojam ficheiros PDF pirateados, mas acrescenta que “a Anthropic nega ter cometido qualquer irregularidade”. Atribui-me um número de reclamação e um código PIN. É como se os órgãos do meu corpo tivessem sido extraídos sem o meu conhecimento.

Agora que a máquina foi treinada com a minha obra, receio que, muito em breve, quando escrever – como eu própria – numa linguagem que trabalhei durante décadas para tornar singularmente minha, me digam que aquilo não se parece com a minha escrita. Que, na realidade, foi produzido por IA. Que farei durante o resto da minha vida? Terei de evitar a minha própria maneira de escrever? Encontrar uma nova linguagem? Como deveremos chamar a isto? Mineração do coração? Mineração do cérebro? Mineração da vida? 

No seu livro incisivo e cortante como uma adaga, Empire of AI (Império da IA), Karen Hao descreve a pilhagem generalizada de terras e recursos actualmente em curso, bem como o recrutamento coercivo de trabalhadores dos países pobres, obrigados a trabalhar por salários de miséria como “recolectores de dados”, para manter vivos os sonhos de Ciclopes. Como é pouco provável que exista água ou electricidade suficiente para satisfazer o gigantesco apetite energético das suas empresas e dos seus supercomputadores de 100 mil milhões de dólares, Ciclopes exerce uma pressão agressiva a favor da construção de centrais nucleares privadas e do desmantelamento dos protocolos de segurança. Como alternativa, estão a ser investidos milhares de milhões de dólares no desenvolvimento de fontes duradouras de energia de fusão nuclear, de modo a permitir que os centros de dados sejam transferidos para o espaço exterior ou para a Lua. 

Entretanto, na nossa querida e maltratada velha Terra, o governo da Índia apressou-se a acolher a instalação de mais centros de dados devoradores de energia. Só em Visakhapatnam estão previstos seis, incluindo um complexo da Google no valor de 15 mil milhões de dólares. Estão a receber autorizações praticamente sem qualquer fiscalização ambiental, como se fossem apenas edifícios, armazéns. Trata-se de uma velha tradição entre a Índia e os Estados Unidos – dêem-nos o vosso lixo, as vossas indústrias tóxicas, o vosso cálice envenenado. Nós havemos de estimá-lo. E, tal como acontece nos Estados Unidos, os activistas indianos estão a pôr os próprios corpos em risco para impedir o envenenamento da água e do ar de dezenas de milhares de pessoas que vivem nas proximidades dos “armazéns” projectados.

Nos Estados Unidos, os activistas que se opõem aos centros de dados estão a ser colocados em confronto com os trabalhadores da construção civil que conseguiram emprego na edificação dessas enormes instalações. Esses activistas, que lutam em defesa das comunidades locais, são classificados como traidores financiados por potências estrangeiras, terroristas ou extremistas de esquerda que roubam empregos a norte-americanos honestos e trabalhadores, empregados por empresas patrióticas dos Estados Unidos. Colocar as pessoas umas contra as outras desta maneira é um estratagema tão antigo que tresanda como um cadáver ao sol do meio-dia. Foi ao observar este mecanismo em funcionamento no Kerala, o estado do sul da Índia de onde sou natural, que aprendi que nem sempre é útil interpretar tudo exclusivamente através do prisma polarizador da “esquerda” e da “direita”. 

Eis uma pequena história, distante no espaço e no tempo, mas que continua a oferecer lições para o presente.

Uma das primeiras medidas do primeiro governo comunista democraticamente eleito do Kerala, no final da década de 1950, foi convidar uma grande empresa a instalar uma fábrica de rayon no norte do estado, a montante da cidade de Calecute, nas margens do rio Chaliyar. O industrial prometeu que a fábrica criaria 3000 postos de trabalho e pediu, em contrapartida, subsídios governamentais para as matérias-primas, a electricidade e a água. Foi-lhe concedido bambu das florestas próximas ao preço de uma rupia por tonelada, enquanto os trabalhadores do bambu, na sua maioria indígenas, tinham de pagar uma rupia por uma única cana.

Quando a fábrica começou a produzir, consumia num só dia mais água do que toda a cidade de Calecute, despejando depois os seus efluentes venenosos directamente no rio. A jusante, a água da cidade ficou poluída. Os peixes morreram. Milhares de pescadores perderam os seus meios de subsistência. Quando todo o bambu disponível se esgotou, começaram a utilizar eucaliptos. Extensas áreas de floresta antiga e densa foram abatidas para dar lugar a plantações de eucaliptos em monocultura. Milhares de habitantes das florestas e de trabalhadores do bambu e da cestaria perderam os seus meios de subsistência. Mas os 3000 operários da fábrica sindicalizaram-se e prosperaram. 

Até que, com o passar do tempo, os fumos venenosos da fábrica começaram a provocar surtos de cancro e de doenças respiratórias entre os trabalhadores. Estes entraram em greve, exigindo indemnizações. O industrial construiu um hospital oncológico (privado). Os combativos operários da fábrica organizaram ocupações e paralisações, exigindo aumentos salariais e outros benefícios. Conseguiram pequenas vitórias progressivas e regressaram ao trabalho. 

Alguns anos mais tarde, também a plantação de eucaliptos desapareceu. A fábrica encerrou. Os trabalhadores que tinham bons empregos sindicalizados fizeram uma greve de fome, exigindo a sua reabertura. Nunca voltou a abrir.

Este é também um dilema – quase um desafio existencial – para a força de trabalho dos “recolectores de dados” em todo o mundo. 

A Índia, com a sua imensa população, constitui um verdadeiro banquete de dados para o apetite insaciável de Ciclopes. Os mais pobres entre os pobres, que vivem em aldeias afastadas e pequenas localidades, estão a ser recrutados para fornecer toda a espécie imaginável de informações susceptíveis de exploração. Os trabalhadores dos estaleiros de construção e das linhas de produção fabril são obrigados a trabalhar com câmaras fixadas à cabeça, para que a IA possa apropriar-se dos seus movimentos e utilizá-los no treino dos robôs que em breve os substituirão. Os trabalhadores sabem que estão a cavar as suas próprias sepulturas, mas não podem recusar, porque há multidões à espera de ocupar os seus lugares. Quando os seus empregos desaparecerem, que fará o mundo dos milhões de “pessoas excedentárias”, a classificação fascista atribuída àqueles que consomem os recursos limitados da Terra sem contribuírem para a sociedade? Há muito que os fascistas possuem as suas próprias ideias genocidas a esse respeito.

Ciclopes – ou o Nerd Reich, como lhe chama Gil Durán no seu livro com esse título – tem, por vezes, flertado com outro caminho. Brinca, de forma intermitente, com a ideia de um Rendimento Básico Universal (RBU). Com o dinheiro dos outros. Não com o seu. Que ideia tão interessante e anticapitalista, não é verdade? Talvez devesse experimentar sustentar-se durante alguns anos com uma prestação mensal de RBU. Talvez esse devesse ser o primeiro passo do programa “Regulamentar sem Qualquer Contemplação”.

Deixemos isto registado: todas as pessoas do mundo poderiam receber um Rendimento Básico Universal hoje, neste preciso momento, se a riqueza fosse distribuída de forma mais equitativa. Não é necessário destruir o planeta para o conseguir. E, já agora, quem irá distribuir o RBU? Quem decidirá quem tem direito a recebê-lo e quem não tem? Estou apenas a perguntar. Talvez, desenvolvendo o tema do camarada Shlomo Kramer, as pessoas possam ser hierarquicamente classificadas de acordo com a sua raça, casta, religião, género, opiniões políticas e índices de obediência?

Ou talvez o governo indiano possa dar uma ajuda. Na recente Revisão Especial Intensiva dos cadernos eleitorais do país, foram eliminados 130 milhões de pessoas. Quase um décimo da população. Uma bela fatia. Uma forma civilizada de selecção e eliminação. Essas pessoas não teriam direito ao RBU, nem sequer a quaisquer outros direitos. Em estados como Assam, algumas delas são empregadas como trabalhadores da construção civil na edificação dos enormes centros de detenção destinados a albergar pessoas como elas próprias. Um governo elege o seu povo. Ciclopes controla o governo. Perfeito.

Depois existe a versão social-democrática bem-intencionada. Bernie Sanders pretende que o público – pelo menos o público norte-americano – detenha directamente a propriedade das empresas de IA. Propõe um imposto extraordinário de 50% sobre as acções das maiores empresas de IA, destinado à criação de um fundo soberano sujeito a fiscalização independente. Esse fundo teria, aparentemente, um valor próximo dos sete biliões de dólares, dos quais seriam distribuídas anualmente centenas de milhares de milhões directamente aos cidadãos norte-americanos, bem como a programas de saúde, habitação e educação. (Mais uma vez, os biliões já existem. O que não existe é vontade política. O que mudaria?) Mas, mesmo nesta alternativa socialista democrática, os dados continuariam a ser extraídos do Sul – Índia, África, América do Sul – enquanto os lucros permaneceriam no Norte.

É evidente que as empresas devem pagar pelos dados. Mas será que já chegámos a este ponto? A nossa única opção é agora receber acções do Apocalipse?

Enquanto se debate tanto aquilo que a IA pode ou não pode fazer pelos seres humanos, fala-se demasiado pouco daquilo que está a fazer aos seres humanos. Alguns estudos têm alertado para uma relação entre a IA e o declínio cognitivo das pessoas. A inteligência humana parece destinada a diminuir na proporção inversa do crescimento da inteligência artificial. Talvez os nossos cérebros, por falta de utilização, acabem por atrofiar, as nossas cabeças encolham e os nossos dedos se transformem em tentáculos ondulantes, destinados a escrever instruções para as máquinas.

Aqueles de nós que já viveram as suas vidas num mundo diferente sabem o que estamos a perder. Mas que acontecerá à geração que está prestes a atingir a idade adulta? Terá a sua própria linguagem, os seus próprios pensamentos, a sua própria dor? Terá o direito de se esforçar? De cair? De fracassar? De ser imperfeita? Experimentará a dor impossível e o prazer extático de resolver uma equação matemática ou de criar a sua própria arte, literatura ou música – por mais imperfeitas que sejam?

O triunfo da IA será um crime contra a condição humana. Conservará os nossos cérebros em frascos de formol. Destruirá o mundo tal como o conhecemos. Os homens que a promovem e dela retiram lucros têm consciência disso e já tomaram providências para escapar para outro domínio.

Os oligarcas anunciam as linhas de batalha em voz alta e com orgulho: somos nós contra eles. Sugerem, sem hesitar, que, para Ciclopes prosperar, talvez a humanidade tenha de morrer. A jovem geração que se ergue para o combater compreende-o. Sei que, anteriormente, neste ensaio, sugeri que deveríamos “regulamentar sem qualquer contemplação”. Mas aquilo que realmente quero dizer acerca dessas empresas de IA é o seguinte: eliminá-las sem qualquer contemplação.

Parte deste ensaio será apresentada sob a forma de conferência na Assembleia Popular sobre a Inteligência Artificial (The People’s AI Assembly), em 19 de Outubro, na cidade de Nova Iorque.

-

 

Texto original daqui:

https://www.equator.org/articles/arundhati-roy-artificial-intelligence?fbclid=IwY2xjawU_3j9leHRuA2FlbQIxMQBwZG9mBXNydGMGYXBwX2lkDDM1MDY4NTUzMTcyOAABHgiPCaf9NsfvPj32v8RzAxXbSyALrj6KHOHQAHEBEQ04bsz76KTgi_K6fEUL_aem_GVoryLtRZSg_i5wrUKWVSw&sfnsn=mo