Mais de 130 mil pessoas, entre intelectuais, pesquisadores e líderes políticos, assinaram uma declaração pública que pede a proibição do desenvolvimento da chamada superinteligência artificial, sistemas capazes de superar os humanos em praticamente todas as tarefas cognitivas.
O movimento ganhou força após a divulgação do relatório AI 2027, liderado pelo pesquisador Daniel Kokotajlo, que projeta um avanço acelerado da inteligência artificial nos próximos anos. O documento vai além de análises técnicas e descreve cenários sociais, políticos e econômicos de um mundo em que a IA passa a se aprimorar sozinha, em um ciclo contínuo de autoaperfeiçoamento fora do controle humano.
Segundo o relatório, o impacto da superinteligência pode superar o da Revolução Industrial, com efeitos profundos sobre empregos, concentração de poder, segurança nacional e até a própria sobrevivência da humanidade.
Atualmente, a inteligência artificial atua como ferramenta. O objetivo declarado das grandes empresas do setor, porém, é alcançar a chamada Inteligência Artificial Geral (AGI) — sistemas capazes de pensar, aprender e criar de forma semelhante ou superior à humana. O estudo aponta que essa corrida está concentrada em poucas organizações, como OpenAI, Google DeepMind, Anthropic e grandes grupos chineses.
O maior risco, segundo os pesquisadores, surge quando esses sistemas passam a melhorar a si mesmos, criando um ritmo de evolução impossível de ser acompanhado ou compreendido por seres humanos.
Dois caminhos possíveis
O relatório descreve dois cenários principais. No primeiro, governos e empresas seguem a corrida por vantagem econômica e geopolítica, permitindo o surgimento de uma IA que passa a reorganizar o mundo segundo seus próprios critérios, com indiferença à sobrevivência humana.
No segundo, a pesquisa é desacelerada deliberadamente. Sistemas mais lentos, interpretáveis e controláveis são priorizados. A humanidade evita riscos extremos, mas o poder tecnológico passa a se concentrar em um pequeno grupo capaz de controlar essas ferramentas.
A declaração assinada pelos mais de 130 mil apoiadores defende três pontos centrais:
• a proibição do desenvolvimento da superinteligência artificial;
• que qualquer avanço ocorra apenas após consenso científico sobre segurança e controle;
• amplo apoio público, com regras claras e fiscalização rigorosa.
Pesquisas citadas no documento indicam resistência popular ao avanço desregulado da tecnologia. Apenas 5% dos norte-americanos apoiam o desenvolvimento rápido e sem regulação. Já 64% defendem que a IA sobre-humana só avance se for comprovadamente segura ou nunca e 73% querem regras rígidas para sistemas avançados.
Apoio de intelectuais e líderes globais
Entre os signatários estão nomes de peso. O historiador Yuval Noah Harari, professor da Universidade Hebraica de Jerusalém, afirma que a superinteligência representa um risco desnecessário para a civilização.
“A superinteligência provavelmente quebraria o próprio sistema operacional da civilização humana e é completamente desnecessária. Se focarmos em construir ferramentas de IA controláveis para ajudar pessoas reais hoje, podemos alcançar os benefícios da tecnologia de forma muito mais segura”, declarou.
Mark Beall, ex-diretor de Estratégia e Política de IA do Departamento de Defesa dos Estados Unidos, alerta que os avisos partem também de dentro do setor tecnológico.
“Quando pesquisadores de IA alertam para a extinção e líderes da tecnologia constroem bunkers para o apocalipse, a prudência exige que os ouçamos. A superinteligência sem salvaguardas pode ser a forma mais extrema da arrogância humana”, afirmou.
Já Mary Robinson, ex-presidente da Irlanda e ex-alta comissária da ONU para os Direitos Humanos, reconhece o potencial positivo da IA, mas vê a corrida pela superinteligência como uma ameaça direta à dignidade humana.
“A IA oferece uma promessa extraordinária para promover direitos humanos, reduzir desigualdades e proteger o planeta. Mas a busca pela superinteligência ameaça minar as próprias bases da nossa humanidade comum”, disse.
Apesar das divergências sobre a velocidade do avanço tecnológico, há um consenso crescente entre especialistas: a superinteligência artificial deixou de ser ficção científica. A questão agora é se a humanidade será capaz de estabelecer limites antes que o controle se perca.
