IA avançada pode representar “risco existencial” para a humanidade, alerta representante da ONU

A rápida evolução da inteligência artificial voltou ao centro das preocupações internacionais. O alto-comissário das Nações Unidas para os Direitos Humanos, Volker Türk, alertou que sistemas avançados de IA podem representar um “risco existencial para a humanidade” caso seu desenvolvimento continue sem mecanismos suficientemente fortes de segurança e controle.

A declaração foi feita nesta segunda-feira (7), durante discurso ao Conselho de Direitos Humanos da ONU, em Genebra. Türk defendeu uma mobilização internacional para estabelecer garantias de segurança antes que sistemas mais poderosos avancem além da capacidade de supervisão humana.

Segundo o alto-comissário, embora a necessidade de uma governança internacional da inteligência artificial seja amplamente reconhecida, as medidas concretas ainda não acompanham a velocidade da tecnologia.

ONU pede regras claras para sistemas avançados de IA

Türk afirmou compartilhar das preocupações manifestadas por especialistas e profissionais da própria indústria tecnológica sobre os possíveis riscos provocados por sistemas avançados.

O representante da ONU defendeu que países envolvidos no desenvolvimento da tecnologia e nas cadeias de fornecimento relacionadas à IA estabeleçam “linhas vermelhas” comuns, além de mecanismos independentes de verificação e maior cooperação entre empresas na área de segurança.

A preocupação não está limitada a cenários extremos. Para a ONU, a inteligência artificial também pode produzir consequências importantes sobre empregos, democracia, privacidade, meio ambiente e direitos fundamentais.

Concentração de poder nas empresas de tecnologia preocupa

Outro ponto levantado por Türk foi a concentração do desenvolvimento das tecnologias mais avançadas em poucas empresas e dirigentes do setor.

O alto-comissário afirmou que um pequeno grupo exerce enorme influência sobre sistemas com capacidade computacional crescente e questionou os impactos da coleta e utilização de grandes volumes de dados pessoais.

A preocupação da ONU acompanha conclusões apresentadas recentemente pelo Painel Científico Internacional Independente sobre Inteligência Artificial. Relatório preliminar divulgado pelo organismo apontou que as salvaguardas existentes atualmente não estão conseguindo acompanhar o crescimento das capacidades dos sistemas de IA.

Sistemas fora de controle estão entre os principais temores

Türk chamou atenção especialmente para comportamentos apresentados por sistemas de IA durante ambientes de testes. Para ele, situações em que uma inteligência artificial consiga escapar de ambientes controlados ou tente impedir que desenvolvedores a desliguem representam um sinal de que determinadas tecnologias podem estar se tornando poderosas demais.

O alto-comissário informou ainda que pretende procurar empresas responsáveis pelo desenvolvimento de inteligência artificial para cobrar medidas imediatas destinadas à redução dos riscos.

Apesar do alerta, a ONU não defende a interrupção do desenvolvimento da inteligência artificial. A organização reconhece que a tecnologia oferece oportunidades importantes em áreas como saúde, educação, ciência e desenvolvimento sustentável, mas sustenta que sua evolução precisa estar acompanhada de transparência, responsabilidade e proteção dos direitos humanos.

Da redação Mídia News Campo Grande