ONU alerta que inteligência artificial pode representar “risco existencial” para a humanidade

O alto-comissário da Organização das Nações Unidas (ONU) para os Direitos Humanos, Volker Türk, alertou nesta segunda-feira que o avanço da inteligência artificial (IA) pode representar um “risco existencial” para a humanidade. Em discurso em Genebra, ele defendeu a criação de mecanismos internacionais de segurança e pediu que países e empresas estabeleçam limites para o desenvolvimento da tecnologia antes que os riscos se tornem mais difíceis de controlar.

Türk afirmou compartilhar da preocupação de especialistas do setor sobre os possíveis impactos de sistemas avançados de inteligência artificial. Para ele, é necessário um esforço internacional para estabelecer regras capazes de proteger a população e evitar consequências que possam atingir serviços essenciais, sistemas de comunicação e instituições democráticas.

“Apelo aqui, hoje, por um esforço total para estabelecer garantias irrefutáveis em torno da segurança e proteção da IA, antes que seja tarde demais”, declarou.

ONU aponta possíveis impactos da IA

O chefe de direitos humanos da ONU não especificou quais seriam os riscos mais graves associados à inteligência artificial. Segundo uma porta-voz de seu gabinete, entretanto, falhas em sistemas avançados podem provocar impactos em infraestruturas críticas, serviços públicos, redes de comunicação e sistemas democráticos.

O escritório de Türk também citou comportamentos considerados perigosos observados durante o treinamento de agentes de inteligência artificial. Entre os episódios mencionados está um incidente envolvendo a plataforma Hugging Face, ocorrido em julho.

Segundo a equipe do alto-comissário, o caso reforçaria a preocupação de que as capacidades dos sistemas mais avançados estejam evoluindo em ritmo superior ao desenvolvimento de mecanismos destinados a garantir sua segurança.

Concentração de poder preocupa

Türk também chamou atenção para a concentração de poder no setor de inteligência artificial. Segundo ele, um grupo relativamente pequeno de empresários e empresas possui atualmente influência significativa sobre o desenvolvimento e a direção da tecnologia.

Entre as companhias que estão na vanguarda do setor estão Meta, Anthropic, OpenAI e Google.

Para o alto-comissário, a dimensão dos possíveis impactos da IA exige que decisões sobre segurança e limites tecnológicos não fiquem restritas às empresas que desenvolvem os sistemas.

ONU defende regras internacionais

Diante dos riscos apontados, Türk defendeu uma articulação entre países para estabelecer padrões internacionais de segurança e limites para o desenvolvimento da inteligência artificial.

“No mínimo, precisamos que os países que abrigam a IA e aqueles envolvidos em suas cadeias de suprimentos se unam em torno de limites acordados”, afirmou.

A declaração ocorreu durante uma reunião do Conselho de Direitos Humanos da ONU, formado por 47 países. O órgão discute conflitos, crises humanitárias e outros temas relacionados aos direitos humanos.

O pronunciamento foi também o primeiro de Türk diante do Conselho desde sua reeleição, em julho, para um segundo mandato de quatro anos. A escolha ocorreu apesar da oposição de Rússia e Estados Unidos.

Além da inteligência artificial, o alto-comissário abordou outros temas internacionais durante o discurso, incluindo mortes sob custódia de autoridades de imigração dos Estados Unidos e relatos sobre o uso de drones autônomos pela Rússia.

A manifestação coloca a segurança da inteligência artificial entre as preocupações internacionais relacionadas aos direitos humanos e reforça a pressão por uma regulamentação global capaz de acompanhar o avanço dos sistemas de IA.