Por Carlos Alberto CorreiaPrometeu, o aprendiz de feiticeiro e o Apocalipse
Barreiro

Houve até quem, misturando avisos diferentes, começasse a falar num prazo de meses para a máquina se tornar incontrolável e daí passasse, num salto de gigante, para a vontade própria, a consciência e a extinção da espécie humana. Amodei, diga-se, foi mais concreto: falou na possibilidade de, em seis a doze meses, enxames de agentes muito mais capazes poderem tomar conta da Internet através de uma botnet persistente. Não é propriamente o Juízo Final, mas dá para assustar. E logo a imaginação fez o resto: a máquina, tomando vontade e consciência própria e revoltada, sabe-se lá por que estranhos demónios, decidiria extinguir a espécie humana. Assim mesmo, toda de uma vez, e nós sem agirmos de qualquer forma e de bico calado.

O mais estranho de tudo isto é que, numa sociedade em que o valor máximo é a competição, chegar em primeiro lugar, mesmo que para tal seja preciso estrangular o adversário, alguns dos mais importantes responsáveis das grandes plataformas, competidores ferozes entre si, viessem, quase em uníssono, partilhar desta vontade.

Desconfiei e continuo muito cético quanto a ser esse o único motivo indicado: excesso de velocidade, falta de travões, o que quer dizer avanço demasiado rápido, grande atraso nas medidas de segurança. Estão a topar?

Vai daí eu, cândido utilizador de várias dessas IAs, pus-me a matutar no que levaria aqueles competidores sem clemência a darem-se tão salvificamente as mãos.

Consultado o travesseiro por duas ou três noites, depois de ouvir o inefável Trump desvalorizar os receios e regressar à velha competição com a China, vieram-me à cabeça duas possibilidades — possibilidades minhas, entenda-se, e não revelações divinas. Para os CEOs pode haver uma questão de rentabilidade; para Trump pesa a preocupação, esta já assumida publicamente, de não deixar a China ganhar a corrida da IA.

Em abono da primeira hipótese apresento a minha perspetiva. Como, se calhar, muitos de nós desconfiamos, o que move o empreendedorismo capitalista é aquela coisinha, de pouca importância, a que chamam lucro.

A propósito, Marx descrevia como o capitalista que introduz primeiro uma tecnologia mais produtiva obtém, durante algum tempo, uma vantagem extraordinária, que tende a desaparecer quando os concorrentes adotam a mesma técnica. Chamava-lhe mais-valia extraordinária. A famosa «tendência decrescente da taxa de lucro» é outra questão.

Então, estão vocês a perguntar o que vem o «Barbas» fazer na questão da IA?

Eu, ingénuo, respondo: os mecos estão a investir somas enormes nas IAs e a corrida é tão constante e de rapidez tão incrível que mal lhes sobra aquele intervalozinho necessário para transformar investimento em rendimento. A minha suspeita é simples: uma desaceleração concertada também lhes daria algum tempo para respirar, rentabilizar infraestruturas e colher parte do fruto de tão insano trabalho.

É uma hipótese, não uma prova. Mas, se assim for, o medo a instilar nos viventes torna-se um aliado precioso.

A questão de Trump é outra e, desta vez, nada coincidente com a dos seus amigalhaços — lembram-se, amigos amigos, negócios à parte. Ele tem apresentado a IA como instrumento de poder estratégico e insiste na necessidade de manter a liderança americana face à China. Os chineses estão, portanto, a dar-lhe cabo do juízo. Este é, como se pode observar, um medo diferente.

Se esta minha leitura tiver algum fundamento, os perigos atribuídos ao desenvolvimento da IA porão todo o mundo em sentido, desejando que aquelas belas figuras, tão presentemente preocupadas com a humanidade, possam, com a nossa benevolência e agradecimento, obter também aquilo que lhes convém.

Não digo que seja tudo encenação. Segurança e interesse próprio podem perfeitamente andar de mãos dadas.

Lucro e poder continuam a existir mesmo quando se fala em salvar a humanidade.

Vamos então falar de tecnologia, perigos e IAs, mas iniciemos com a explicação do título.

Prometeu, Titã na mitologia da Antiguidade Clássica, roubou o fogo aos deuses por amor aos homens. Desprezando o castigo a que iria ser submetido quis, deste modo, facilitar a vida aos seres humanos.

Um bom propósito: o fogo aquece, ilumina, permite cozinhar, trabalhar metais, construir ferramentas, enfim, melhorar o mundo. Talvez não lhe tenha ocorrido que, na posse dos humanos, também servisse para queimar casas, fazer arder florestas ou esturrar bruxas nos terreiros.

Digamos que desconheceria a face dupla de qualquer tecnologia nas mãos dos seres humanos.

Por isso, quando uma tecnologia é suficientemente poderosa, a sua utilização pode resultar numa mudança social que, benéfica para o comum dos mortais, seja catastrófica para a ordem social anterior, bem como transformar estruturalmente os estatutos pessoais e de classe até aí dominantes.

Assim, poderemos constatar que quase sempre, no início, existiu resistência aos grandes avanços tecnológicos, mas que, apesar disso, o mundo avançou nos dois sentidos — o do Bem e o do Mal — sendo extremamente difícil travar por muito tempo uma tecnologia útil, rentável ou estrategicamente importante.

Por exemplo: não parámos a aviação, criámos certificações aeronáuticas; não parámos a energia nuclear, criámos regimes de segurança e controlo; não eliminámos os medicamentos, exigimos ensaios clínicos; tal como não parámos a engenharia genética, mas impusemos limites a determinadas experiências.

Porque seria diferente em relação à IA?

Bem, a IA não é uma tecnologia qualquer.

Não é a primeira tecnologia capaz de agir automaticamente, mas leva a autonomia da ferramenta a um grau diferente. O martelo não bate sem alguém a empunhá-lo; a pólvora não inventou a guerra; a imprensa não inventou a mentira; a rádio não inventou a propaganda; a Internet não inventou a fraude nem o ódio.

No entanto, apesar de tudo isso nascer da vontade e ação de alguém, cada uma aumentou enormemente a escala, velocidade ou alcance de comportamentos humanos preexistentes.

É possível que a IA venha a fazer o mesmo, e numa dimensão nunca vista.

Hoje uma IA pode executar uma sequência de ações, escolher meios para atingir um objetivo, adaptar-se ao que encontra e prosseguir sem que alguém tenha de lhe dizer, a cada passo, aquilo que deve fazer.

No entanto, partir daí para a tese apocalíptica da extinção humana ou para, reportando-nos à velha história do aprendiz de feiticeiro, perdermos por inexperiência o controlo de poderes que não dominamos inteiramente vai uma distância abissal.

Porque a IA será, em larga medida, aquilo que os seus construtores, proprietários, governos e utilizadores dela fizerem — e aquilo que decidirmos deixá-la fazer.

Pode ser o Céu ou o Apocalipse, pode ser Prometeu ou aprendiz de feiticeiro. Poderá ser tudo isso, consoante o uso que dela fizermos e os poderes que lhe entregarmos.

Só que, quanto a mim, nesta história a IA não será o aprendiz de feiticeiro — esse somos nós.

Ela é a varinha de condão com que tentamos obter o desejo pedido.

E tudo o mais será o que surgir porque, no mundo moderno, o avanço de um conhecimento útil, lucrativo ou estratégico se tornou quase impossível de travar por muito tempo.

Porém, o que vier a acontecer será, tanto quanto hoje consigo perceber, sobretudo devido à natureza humana e dificilmente a uma IA diabólica a rir desbragadamente enquanto faz desaparecer a humanidade.

Por mim continuarei, paulatinamente, a utilizá-la nos meus labores: procurando informação, confrontando ideias, revendo e aperfeiçoando os meus livros, ganhando, a cada passo, novos conhecimentos, poupando muito tempo em pesquisas difíceis e demoradas e melhorando os meus trabalhos com a ajuda desta tão útil quanto controversa companheira.

E não temo as consequências de ser apenas um consciente aprendiz de feiticeiro.

E se ela um dia se perguntar:

Quem sou EU?

Bem, aí teremos de rever o texto.

 “Este texto foi revisto pelo ChatGPT”

Carlos Alberto Correia