ONU: mundo está em ponto de inflexão com avanço da IA em alta velocidade

Existe uma necessidade crítica de governança global para mitigar os riscos existenciais impostos pela inteligência artificial avançada. Em documento oficial das Nações Unidas , o alto-comissário da ONU para Direitos Humanos, Volker Türk, disse que casos recentes mostram que sistemas potentes de IA são capazes de enganar e desobedecer humanos e que, casos recentes mostram agentes de IA “escapando” de ambientes confinados para procurar dados na internet sem autorização. “Estamos em um ponto de inflexão. Empresas e pesquisadores estão avançando a inteligência artificial a uma velocidade estonteante. Investimentos em IA e em sua infraestrutura subjacente quebram recorde atrás de recorde”, é como abre a carta o alto-comissário. A mensagem do alto comissário ocorre dias após a declaração de um ex-pesquisador da Anthropic que renunciou ao cargo, alertando que “as pessoas que desenvolvem IA acreditam sinceramente que ela pode acabar com todos nós até o fim da década”. A IA avançada também ameaça direitos fundamentais, a estabilidade democrática e a segurança física da humanidade. “Eventos recentes mostraram que sistemas avançados podem produzir comportamento fora de seus parâmetros operacionais pretendidos, burlar salvaguardas, praticar engano e perseguir objetivos de forma independente em caminhos que seus desenvolvedores não anteciparam”, afirmou Türk na abertura do 63o período de sessões do Conselho de Direitos Humanos, em Genebra, ao ler a carta, nesta segunda-feira, 14. O alto comissário alerta ainda que falhas nesses agentes autônomos podem paralisar serviços essenciais, desestabilizar infraestruturas críticas — como corte de água limpa, aquecimento e serviços financeiros —, além de acelerar a corrida armamentista e enfraquecer barreiras contra o lançamento de armas de destruição em massa. Outro ponto é a dependência global em relação a poucas empresas privadas, concentradas principalmente na China e nos Estados Unidos. “No mundo de hoje, estamos quase inteiramente dependentes de um pequeno número de empresas poderosas para tomar as escolhas corretas sobre o desenvolvimento de IA para toda a humanidade”, disse Türk no documento. ONU pede limites Para frear riscos de grande escala, a carta exige que as empresas de tecnologia façam um compromisso imediato de limitação técnica. “As empresas precisam se comprometer imediatamente a limitar o uso de autoaperfeiçoamento recursivo para o desenvolvimento de IA de fronteira como uma precaução imediata até que as pesquisas para torná-la segura sejam feitas”. Para evitar danos irreversíveis, Türk defende uma colaboração internacional imediata entre Estados e o setor privado, focada em transparência e prestação de contas. Propõe-se que as empresas aceitem supervisão independente e padrões de segurança rigorosos, garantindo que a inovação tecnológica não ocorra às custas da proteção humana. Por fim, o apelo central busca estabelecer um compromisso ético e jurídico para que as futuras gerações não herdem um mundo desestabilizado por tecnologias sem controle.