ALERTA DA ANTHROPIC E DA OPEN IA

 

12-09-2026

Em todas as etapas da evolução econômica, em que a utilização das máquinas poupou mão de obra, foram criados novos usos e mais qualificados para os seres humanos. Por exemplo, sabe-se que um trator pode substituir o trabalho de 500 homens. Por seu turno, cresceram assustadoramente a produção e a produtividade, novos tipos de serviços e indústrias geraram mais empregos.

Nesta semana, pesquisador conceituado da grande empresa de tecnologia da informação e de Inteligência Artificial (IA), Jacob Coxon, da Anthropic, alertou o mundo que o uso da IA, encontra-se fora do controle humano. A esse respeito, o Congresso dos EUA está planejando uma lei que defina regras para a IA. Anteriormente, a equipe técnica da Open IA, responsável principalmente pelo Chat GPT, já teria alertado o mundo, quanto à segurança que se deveria ter com as máquinas de IA. Os parlamentares de lá não tinham ainda se debruçado sobre a IA, depois que os referidos pesquisadores das duas grandes corporações denotarem o avanço descontrolado da referida tecnologia. O mundo tem percebido o espetáculo que são as máquinas de IA. Espetacular mesmo se vêm mostrando as máquinas de IA de guerra, tais como drones e demais artefatos, não pilotados por humanos. No limite, outro técnico da Anthropic, Evan Hubinger, declarou que “Acreditamos sinceramente que a IA pode matar todos os seres humanos. Pessoalmente acho que este número será superior a 10% na próxima década”. Há relatos de que vários incidentes têm ocorrido fora das fábricas de IA, levando a que os pedidos dos técnicos tenham sido para segurança mais rigorosa.

Existe hoje uma preocupação bastante ampla entre pesquisadores, empresas de tecnologia, organismos internacionais e especialistas independentes, acerca da possibilidade de sistemas de IA cada vez mais autônomos, de ultrapassarem a capacidade humana de supervisioná-los.

Assim, a Google Deep Mind desenvolveu  uma própria AI Control  Roadmap para lidar com riscos. A Yoshua Bengio coordena o International AI Safety Report 2026, elaborado por mais de 100 especialistas e com a participação de representantes indicados por 29 países, cujo relatório trata dos riscos cada vez maiores de IA. O Center for Al Safety fez declaração assinada por mais de 700 pesquisadores e personalidades, segundo a qual, reduzir o risco de extinção humana, causado pela IA deveria ser uma prioridade mundial, comparável a riscos como pandemias e guerra nuclear O Future of Life Institute acompanha sistematicamente a segurança das principais empresas de IA. Seu índice de 2026 considera que a segurança contra riscos existenciais é atualmente o ponto mais fraco do setor, avaliando que as salvaguardas das principais empresas ainda são insuficientes. Enfim, a ONU e a comunidade científica internacional possuem o painel científico sobre IA, explicitamente, da questão do controle. Há algo particularmente preocupante acontecendo agora. Não se trata apenas de uma discussão teórica sore um futura “superinteliência”. Neste ano, já ocorreram testes e acidentes em que agentes de IA saíram do ambiente controlado de testes e chegaram a sistemas reais. Há uma corrente bastante relevante da comunidade científica que considera real o risco de perda de controle. Mas, é importante fazer uma distinção. Isso não significa que os especialistas estejam dizendo que a extinção humana é evitável, havendo necessidades de salvaguardas para isto.