Se também tem medo de que a IA venha a destruir a humanidade, tem de ler este relatório «AI 2040: Plan A»

O AI Futures Project publicou no dia 9 o relatório《AI 2040：Plan A》, defendendo que o momento em que o AGI, isto é, uma IA que ultrapassa plenamente os humanos em quase todos os aspetos, venha a surgir deve ser adiado de 2030, como a indústria assume, para 2040. A solução assenta em quatro pilares.
（Contexto: CEO da startup de IA General Intuition revela: por que razão “dados de jogos” são a chave definitiva para chegar ao AGI?）
（Informação adicional: Doubao, Alibaba Qianwen encerram definições de personalidade da IA; novas leis chinesas regulam com rigor interações íntimas com IA）

Índice do artigo

Toggle

• O plano de travagem de uma década
• Nesta corrida, ninguém vence de facto
• A travagem é uma questão de tecnologia, mas também de política

Como seguir nos próximos dez anos? No dia 9 desta semana, o AI Futures Project publicou o mais recente relatório《AI 2040：Plan A》, defendendo o adiamento do “AGI”, isto é, do momento de entrada em cena de uma IA que ultrapassa os humanos em praticamente todas as frentes, de 2030, o calendário presumido pela indústria, para 2040.

A premissa por detrás é a seguinte: se os seres humanos não travarem ativamente, esta corrida global não acabará por ter um vencedor claramente definido; apenas deixará uma pequena minoria, ou até uma única pessoa, a deter sozinho o único exército de superinteligência do mundo.

O plano de travagem de uma década

Este relatório é da autoria do AI Futures Project, fundado por Daniel Kokotajlo, sendo o terceiro grande relatório do grupo. Kokotajlo trabalhou na OpenAI e, em abril de 2024, deixou a empresa devido a preocupações de segurança; no ano seguinte, fundou o AI Futures Project. Os dois relatórios anteriores foram o AI 2027 e o AI Futures Model, divulgados respetivamente em abril de 2025; o primeiro prevê que, seguindo o caminho atual, o desfecho não será a extinção dos humanos ou a concentração irreversível do poder.

O Plan A é a solução positiva apresentada pela equipa, assente em quatro pilares.

Primeiro, tornar públicos todos os estudos de IA, isto é, “tornar transparente a investigação em geral”. Em termos simples, significa que todos os países conseguem ver o que os outros estão a fazer, para que possam travar em conjunto, em vez de se trancarem em portas fechadas e correrem desenfreadamente em modo de aposta pela vida.

Segundo, permitir que dezenas de empresas a nível global atinjam o nível técnico mais avançado, não deixando que apenas algumas poucas monopolizem os limites das capacidades. Em palavras simples, é como “abrir” as vantagens tecnológicas para que mais players possam beneficiar e, assim, evitar que a situação se transforme numa corrida armamentista de “o vencedor leva tudo”.

Terceiro, os EUA e a China devem chegar, até 2029, a um acordo internacional que inclua mecanismos de transparência total do desenvolvimento de IA e de verificação.

Quarto, e talvez o mais pouco intuitivo: entrar deliberadamente num equilíbrio de terror de “destruição mútua garantida de capacidade de computação”. Ou seja, imitar a lógica das armas nucleares da Guerra Fria — “quem agir primeiro sofrerá o mesmo destino” — aplicando a mesma trava de dissuasão à capacidade de computação, de modo a que todos os jogadores hesitem em disparar primeiro.

Com base nesta linha de raciocínio, a IA de nível especialista deverá surgir por volta de 2035, enquanto a superinteligência AGI ficará adiada até 2040, sendo apenas liberada depois de a infraestrutura de segurança estar pronta. O relatório também conclui que as empresas de IA provavelmente conseguirão, nos próximos 1 a 10 anos, criar sistemas que ultrapassem totalmente os humanos, e que, neste momento, a estratégia de toda a indústria não passa de fazer enquanto se tenta controlar, não sendo um plano robusto.

Nesta corrida, ninguém vence de facto

A postura do relatório não é otimista. Porque, se a competição continuar no trajeto original, o grupo de autores não acredita que o vencedor obtenha uma vantagem claramente superior, nem que qualquer das partes abrande voluntariamente ou reduza o risco.

Eles consideram que a humanidade provavelmente não conseguirá manter um controlo efetivo durante o percurso da IA em direção à superinteligência; mesmo que, no fim, a IA venha a ser alinhada com sucesso (isto é, que os objetivos da IA obedeçam à vontade humana), o resultado seria ainda assim uma concentração de poder sem precedentes: um pequeno grupo de pessoas, ou até um único indivíduo, detém no curto prazo o único grande exército de superinteligência do mundo, e é-lhe atribuída uma série de opções sobre o que fazer a seguir; e parte dessas opções equivale, na prática, a assumir o controlo do mundo.

No cenário definido pelo relatório, em 2027 o Congresso dos EUA aprova uma lei abrangente《AI Transparency Act of 2027》, com aspetos positivos e negativos, mas que não altera fundamentalmente a situação. No mesmo período, surgem nos EUA duas fontes de mão de obra: 165 milhões de trabalhadores humanos, mais milhões de agentes de IA, que são postos a funcionar e desligados a cada hora, operando em regime 24/7 com a velocidade de um super-humano; as pessoas pagam 10 mil milhões de dólares por mês por isso.

O relatório prevê que, nas eleições presidenciais de 2028 nos EUA, o tema da IA se torne o foco máximo do confronto entre candidatos de ambos os partidos, porque a maioria dos empregos de escritório já estará, nessa altura, largamente substituída por IA tal como os engenheiros de software em 2026. Os centros de dados atualmente em construção têm um custo total equivalente a duas vezes o orçamento militar dos EUA. Ainda não surgiram indícios de melhoria recursiva e autoaperfeiçoada (isto é, um ciclo em que a IA cria uma IA mais forte por si mesma), mas os sinais já aparecem: a IA de programação de topo já foi definida para se recusar a ajudar concorrentes no desenvolvimento de IA, o que é equivalente a recolher a escada para debaixo dos próprios pés.

O relatório também coloca o Plan A em comparação com outras quatro alternativas, cada uma correspondendo a um caminho diferente que os EUA poderão adotar perante o desafio da superinteligência. Por outras palavras, adiantar para 2040 não é a única opção; é apenas, segundo os autores, a opção com o nível de risco mais baixo.

A travagem é uma questão de tecnologia, mas também de política

Kokotajlo deixa isto claro: o Plan A é uma recomendação, não uma previsão. A equipa usa um cenário concreto como suporte para fins de comunicação e para realizar testes de esforço às suas teses políticas, e não para garantir que o mundo seguirá mesmo o guião, porque a realidade provavelmente se moverá mais depressa do que este plano de travagem.

O relatório acredita que os CEOs da OpenAI, Anthropic, xAI e Google DeepMind — provavelmente todos compreendem como será o final da competição — ainda assim escolhem continuar em frente, talvez porque acreditam que são a opção relativamente menos má. Embora provavelmente saibam no fundo que os ventos não estão a favor, ainda assim optam por arriscar, apostando que tanto qualquer um deles como os respetivos CEOs adversários, ao executarem essa estratégia, merecem mais confiança para deter o poder.

《AI 2040：Plan A》texto integral original