O secretário-geral da Organização das Nações Unidas - ONU, António Guterres, alertou nesta segunda-feira (6) que a inteligência artificial está se desenvolvendo mais rápido do que qualquer pessoa consegue acompanhar, pedindo regras harmonizadas globalmente para reduzir os riscos potenciais — especialmente para as crianças.

“Uma tecnologia capaz de remodelar economias, transformar o mundo do trabalho, influenciar eleições e alterar o equilíbrio da segurança está sendo implantada mais rapidamente do que qualquer pessoa, inclusive aqueles que a desenvolvem, consegue acompanhar', disse Guterres aos delegados no primeiro diálogo global de nível governamental sobre IA, realizado em Genebra.

“A inovação precisa de limites de segurança… Para que a IA seja poderosa, ela deve ser regulamentada', disse Guterres.

O Diálogo Global da ONU sobre Governança da IA, evento inaugural com duração de dois dias, não tem como objetivo elaborar um tratado, mas discutir como estabelecer regras para mitigar os danos potenciais da IA e aproveitar suas oportunidades.

Os delegados analisarão um relatório elaborado por um painel científico independente apoiado pela ONU, composto por 40 especialistas, que apresentarão as conclusões da primeira avaliação científica global e independente sobre IA.

Um relatório mais abrangente está previsto para o próximo ano, juntamente com uma segunda reunião global em Nova York.

Regras globais

Guterres enfatizou que regras globalmente harmonizadas sobre IA devem priorizar a segurança das crianças, após exemplos de menores sendo levados a praticar automutilação e sendo enganados por máquinas que se passam por amigos.

“Não permitimos que um medicamento chegue às mãos de uma criança até que seja comprovado que é seguro. Testamos todos os brinquedos. No entanto, a IA já chegou às nossas crianças – ao seu aprendizado, às suas amizades, às suas questões mais íntimas – antes que alguém tenha perguntado o que ela lhes causaria', disse.

Ele pediu um Compromisso de Segurança Infantil em IA, no qual as empresas que desenvolvem sistemas teriam de comprovar que eles são seguros antes de torná-los acessíveis às crianças.

Os sistemas também não deveriam ter permissão para gerar imagens de conteúdo sexual envolvendo crianças e, quando uma criança mostrar sinais de angústia, o sistema deveria interromper sua operação e encaminhá-la a um ser humano para obter ajuda.

Embora a IA ofereça oportunidades significativas, como na área da saúde, Guterres disse que as instituições mundiais não estão preparadas para máquinas que tomam decisões, e que a velocidade vertiginosa do desenvolvimento da IA significa que as máquinas estão cada vez mais fazendo escolhas com pouca supervisão humana ou governamental.

“A internet levou 15 anos para atingir 1 bilhão de pessoas. A IA chegou lá em dois', disse Guterres aos delegados.

Ele também alertou sobre a concentração dos sistemas de IA mais avançados em um punhado de empresas e países, o que significa que os países em desenvolvimento têm pouca influência no progresso da IA e correm o risco de ficar para trás.

O relatório independente elaborado por especialistas científicos constatou que o desenvolvimento da IA está ainda mais concentrado, com os EUA respondendo por 75% do poder de computação entre os 500 maiores supercomputadores de IA do mundo, e a China, por 15%.

Embora, globalmente, mais de 1 bilhão de pessoas já utilizem IA conversacional semanalmente, a adoção nos países em desenvolvimento está atrasada, acrescentou o relatório.

Desigualdade em IA

Guterres afirmou que, se bem utilizada, a IA poderia reduzir décadas de desenvolvimento a poucos anos, tornando-se potencialmente “o grande equalizador do século XXI'.

O chefe do Conselho Presidencial da Líbia, Mohamed al-Menfi, pediu que a lacuna da IA seja eliminada na África, que representa 10% da população mundial, mas tem menos de 2% dos centros de dados globais.

“A IA não pode ser um recurso legítimo se os países africanos não puderem fazer uso dela', disse ele, pedindo maior participação dos Estados africanos na elaboração das regras para a IA.

O presidente da Geórgia, Mikheil Kavelashvili, disse aos delegados que os líderes mundiais também têm a responsabilidade compartilhada de criar leis internacionais robustas para impedir que o poder da IA se torne um “instrumento de controle totalitário e de uma nova tirania digital'. 

*É proibida a reprodução deste conteúdo.

Matéria atualizada às 10h38min. para acréscimo de informações.