Superinteligências artificiais e a concentração de poder no Vale do Silício elevam debate sobre riscos existenciais

A ascensão de superinteligências artificiais e a concentração de poder nas mãos de magnatas do Vale do Silício transformaram o debate sobre o futuro da humanidade em uma discussão sobre riscos existenciais. O conceito, cunhado por Nick Bostrom, define ameaças capazes de aniquilar a vida humana ou de impedir permanentemente a restauração da civilização.

Nesse cenário, a tecnologia deixa de ser vista apenas como evolução para ser interpretada como a base de uma espécie pós-humana, integrada a máquinas, que substituiria os seres humanos. Para teóricos como William MacAskill e Toby Ord, a possibilidade de um futuro próspero a longo prazo não contemplaria necessariamente a humanidade, mas sim essa nova entidade tecnológica.

O pessimismo atual é alimentado por fatores como a perda de biodiversidade, o esgotamento de recursos naturais, as mudanças climáticas e a proliferação de armas nucleares. No entanto, o maior desafio reside na emergência de uma superinteligência artificial que não esteja alinhada aos interesses humanos, dada a capacidade destrutiva sem precedentes das ferramentas atuais.

Paralelamente ao risco técnico, surge um movimento político liderado por elites tecnológicas. Magnatas do setor buscam transpor a lógica empresarial para a governança estatal, substituindo a democracia por hierarquias rígidas. Um exemplo dessa ideologia é a proposta de Curtis Yarvin, que defende a criação de um "hard party": um partido focado exclusivamente na obtenção e exercício do poder total sobre o Estado, sem a intenção de realizar reformas graduais.

Essa tentativa de estabelecer empresários como monarcas absolutos desloca o foco da inteligência das máquinas para o acúmulo de poder político e glória pessoal.

Apesar do clima catastrofista, há divergências técnicas sobre a iminência de uma IA superior. Grande parte dos especialistas argumenta que tal salto não virá dos sistemas atuais, mas dependerá de um aumento massivo na capacidade de computação e no volume de dados para treinamento, o que torna a superinteligência improvável no curto prazo.

Para mitigar as incertezas, a regulação do setor é apontada como caminho viável. Enquanto a China já implementou normas sobre a IA, os Estados Unidos ainda não adotaram medidas semelhantes. A União Europeia, embora possua alta qualidade em pesquisa, enfrenta dificuldades para competir na implementação prática com as duas potências. Uma eventual redução nos custos de treinamento de sistemas poderia favorecer a Europa, permitindo que a região direcione a tecnologia para o bem comum.