Primeiro Diálogo Global sobre Governança da Inteligência Artificial (IA)

Excelências, ilustres delegados, queridos amigos,

A inteligência artificial está avançando a uma velocidade enorme.

Uma tecnologia capaz de remodelar economias, transformar o mundo do trabalho, influenciar eleições e alterar o equilíbrio da segurança está sendo implantada mais rapidamente do que qualquer pessoa — inclusive aqueles que a desenvolvem — consegue acompanhar.

Uma experiência está sendo realizada em nossas próprias sociedades — sem um plano e sem consentimento.

Isso não é sustentável. E não é aceitável.

A IA já está transformando nosso mundo.

A questão é se vamos moldar essa transformação juntos – ou deixar que ela nos molde.

E hoje, essa questão tem uma resposta – bem aqui, neste Diálogo Global sobre Governança da IA.

Pela primeira vez, todos os países têm voz ativa nessa discussão.

E contamos com uma base de evidências compartilhada.

Esta manhã, os copresidentes do Painel Científico Internacional Independente sobre Inteligência Artificial apresentarão seu primeiro relatório.

Quarenta especialistas renomados, de todas as regiões e de diversas disciplinas;

Atuando a título pessoal – independentes de qualquer governo, empresa ou instituição.A ciência traz três alertas: 

O primeiro diz respeito à velocidade.

A internet levou quinze anos para atingir um bilhão de pessoas.

A IA chegou lá em dois.

E esses sistemas não são mais ferramentas à espera de instruções – eles estão escrevendo código, agindo online e tomando decisões com cada vez menos supervisão humana.

Nossas instituições foram criadas para governar máquinas que seguem comandos.

Elas não estão preparadas para máquinas que tomam decisões.

E alguns limites, uma vez ultrapassados, não podem ser revertidos.

O segundo alerta diz respeito ao poder.

O poder de computação, os dados e o talento por trás dos sistemas mais avançados estão concentrados em um punhado de empresas e em um punhado de países.

A maioria das nações — incluindo muitos países em desenvolvimento — não tiveram voz nas decisões que moldarão seus futuros.

Quanto mais esperarmos, mais difícil será reverter essa concentração.

Quando os desequilíbrios de poder estão incorporados à tecnologia, a desigualdade passa a fazer parte do código.

O terceiro alerta diz respeito à verdade.

Uma mentira gerada por máquinas agora pode persuadir com a mesma eficácia que a verdade – e evidências autênticas podem ser descartadas como falsas.

Corroendo ainda mais a integridade do nosso ecossistema de informação e mina a confiança.

Uma sociedade que não consegue chegar a um consenso sobre o que é real não consegue proteger a si mesma.

De outras formas, cada vez mais pessoas se sentem tentadas a confiar na máquina – e a torcer pelo melhor.

Existe um nome para isso: vibe-coding (uma metodologia de programação usando prompts de IA).

Deixe a IA decidir. Não analise demais. Parece funcionar? Está bom o suficiente.

E vibe-coding pode fazer maravilhas — mas não podemos codificar a verdade por meio de prompts.

Não podemos codificar o futuro da humanidade por meio de prompts.

Então, queridos amigos,

Os alertas são reais.

Mas o potencial também é.

Porque a mesma tecnologia, desenvolvida com um propósito, já está mudando vidas para melhor:

• Uma mãe em uma clínica em área rural tem seu exame analisado em minutos – e seu câncer detectado a tempo.

• Uma criança continua aprendendo além da sala de aula – com um tutor que nunca se cansa.

• Um pequeno agricultor planta com as mesmas previsões que o maior agronegócio – e traz as colheitas para casa.

• Tudo isso está acontecendo hoje – muitas vezes em lugares que raramente chegam às manchetes.

E isso aponta para algo profundo:

Ao longo de toda a história da humanidade, o conhecimento especializado esteve restrito a pouquíssimas pessoas, em poucos lugares e a um custo muito alto.

A penicilina levou décadas para chegar às aldeias que mais precisavam dela.

A eletricidade levou um século – e ainda está chegando.

A inteligência artificial não precisa esperar.

Se bem utilizada e amplamente compartilhada, a IA poderia comprimir décadas de desenvolvimento em anos.

Ela poderia se tornar o grande equalizador do século 21.

Mas nenhum futuro se constrói sozinho.

Portanto, a escolha que temos diante de nós não é entre a fé na IA ou o medo dela.

É entre governar de forma planejada – ou deixar as coisas seguirem seu curso por omissão.

Excelências,

Em meu primeiro discurso na abertura da Assembleia Geral em 2017, afirmei o seguinte, e cito:

“A inteligência artificial é uma força transformadora capaz de impulsionar o desenvolvimento e transformar vidas de maneira espetacular. Mas também pode ter um impacto dramático nos mercados de trabalho e, de fato, na segurança global e na própria estrutura das sociedades.”

Naquela época, apenas dois outros líderes mencionaram as palavras “inteligência artificial”.

Mas hoje, ela está no centro do nosso futuro comum.

Isso não aconteceu por acaso.

Durante anos, o Sistema da ONU – da UIT à UNESCO e além – tem trabalhado arduamente.

Em 2023, meu Painel  Consultivo de Alto Nível sobre Inteligência Artificial apelou para que o mundo a regulamentasse – em conjunto.

Em 2024, o Pacto para o Futuro e o Pacto Digital Global nos deram esse mandato.

Esta manhã, o Painel Científico nos apresenta as evidências.

Agora, o Diálogo Global deve indicar o caminho para o mundo.

E ele será complementado ainda esta semana, aqui em Genebra, pela Cúpula IA para o Bem e suas iniciativas.

Tudo isso faz parte de um esforço integrado da ONU para garantir que a IA sirva às pessoas em todos os lugares.

Permitam-me, portanto, citar quatro prioridades para o caminho que temos pela frente.

Primeiro, a segurança.

Quando os países se alinham sobre como testar sistemas, avaliar riscos e atribuir responsabilidades, a segurança acompanha a tecnologia.

Quando isso não acontece, uma colcha de retalhos de regras incompatíveis aumenta os custos, divide o mundo – e não protege ninguém.

Precisamos de parâmetros comuns para sistemas de ponta.

Métodos comuns para avaliar e verificar riscos.

E uma resolução comum de que os sistemas com alcance global devem atender a critérios dignos de confiança global.

Em nenhum aspecto a segurança é mais importante do que para aqueles menos capazes de se proteger – nossas crianças.

Não permitimos que um medicamento chegue a uma criança até que seja comprovado que é seguro. 

Nós testamos todos os brinquedos.

No entanto, a IA chegou às nossas crianças – à sua aprendizagem, às suas amizades, às suas questões mais pessoais – antes que alguém perguntasse o que ela lhes causaria.

E já estamos vendo o custo disso:

• Crianças enganadas por máquinas que se passam por amigos.

• Crianças levadas à automutilação.

• Crianças expostas a imagens de abuso geradas com o toque de um botão.

Nenhuma criança deve servir de cobaia para uma IA não regulamentada.

Com base no trabalho das Nações Unidas, dos Estados-membros e de outros atores, apelo hoje por um Compromisso para a Segurança das Crianças em Aplicativos de IA – com três regras simples para qualquer sistema ao qual uma criança tenha acesso:

1. Comprovar que é seguro – nenhuma empresa deve implementar um sistema de IA acessível a crianças sem testes de segurança específicos para crianças com supervisão independente.

2. Tolerância zero ao abuso sexual – nenhuma empresa deve permitir que sua IA gere imagens de conteúdo sexual envolvendo crianças – e todas as empresas devem detectá-las, denunciá-las e removê-las.

3. E nunca deixar uma criança em situação de crise sozinha – quando uma criança mostra sinais de angústia, o sistema deve parar e conectá-la a um apoio humano real.

Quando uma criança é prejudicada, a resposta nunca deve ser “foi o algoritmo que fez isso”.

Em segundo lugar, os limites não negociáveis.

Os direitos humanos não são negociáveis.

A IA nunca deve privar ninguém de sua dignidade nem perpetuar a discriminação.

E em todas as decisões de alto risco — na justiça, na saúde, no policiamento — as máquinas podem fornecer informações, mas são os seres humanos que devem decidir — e agir em resposta.

Em terceiro lugar, a capacidade.

No ano passado, o investimento privado em infraestrutura de IA chegou a quase meio trilhão de dólares.

O investimento público em capacidade de IA para os países em desenvolvimento é, em comparação, insignificante.

Não podemos permitir que a exclusão digital se transforme em uma exclusão em IA; e que a exclusão em IA se torne uma lacuna de desenvolvimento, uma lacuna de segurança e uma lacuna de soberania.

Mais de 20 Estados-membros já responderam ao meu convite e indicaram centros para uma Rede Global de Intercâmbio e Cooperação para o Fortalecimento de Capacidades em IA, apoiada pela ONU.

A Rede se baseará em iniciativas existentes, compartilhando conhecimento, promovendo a cooperação e ampliando o acesso à capacitação – especialmente para os países em desenvolvimento.

E, em breve, apresentarei à Assembleia Geral minhas recomendações para um Fundo Global para a IA – com o objetivo de desenvolver competências, dados e capacidade computacional acessível em todos os lugares.

Minha mensagem a todos os Estados-membros é clara: 

Apoiem a Rede. Apoiem o Fundo.  Aproveitem as capacidades do sistema da ONU – com recursos, parcerias e conhecimento especializado.

E, em quarto lugar, a transparência.

A IA pode parecer intangível – mas seu impacto não é.

Os centros de dados já consomem mais eletricidade do que a maioria dos países.

Até 2030, eles poderão consumir mais eletricidade do que todos os países, com exceção de cinco – e água suficiente para atender às necessidades de todos os 1,3 bilhão de pessoas da África Subsaariana durante um ano inteiro.

E, com muita frequência, as comunidades que abrigam essa infraestrutura são obrigadas a arcar com esse fardo – sem as informações de que precisam nem os benefícios a que têm direito.

É por isso que, há duas semanas, lancei a Iniciativa de Transparência Ambiental em IA – convocando todas as grandes empresas de IA a medir e divulgar publicamente a pegada completa de seus sistemas: carbono, água e terra – e a se comprometerem a abastecer todos os centros de dados com energia renovável até 2030.

Algumas empresas já deram os primeiros passos. Convido todas a irem muito além.

Excelências,

O Diálogo Global trata da IA no âmbito civil.

Mas a IA não respeita essa fronteira.

Os mesmos modelos e chips chegam hoje a campos de batalha.

Minha principal preocupação diz respeito aos “sistemas de armas autônomas letais”.

Vamos chamá-los pelo que realmente são:

Robôs assassinos.

Máquinas que selecionam e atacam seus alvos, tirando vidas – sem controle nem julgamento humano.

Isso é moralmente repugnante.

É politicamente inaceitável.

E deve ser proibido pelo direito internacional.

Os Estados já estão na mesa de discussões.

Mas não vamos esperar que ocorra uma atrocidade para agir.

Algumas decisões devem permanecer para sempre nas mãos dos seres humanos – principalmente a de tirar uma vida humana.

Excelências,

Alguns podem alegar que a governança é inimiga da inovação.

Mas a inovação precisa de limites.

As tecnologias nas quais mais confiamos – na aviação, na medicina, na energia nuclear e em outras áreas – conquistaram essa confiança porque agimos para responsabilizar seus criadores.

• Para que a IA seja poderosa, ela deve ser regulamentada.
• Para que a IA seja confiável, aqueles que a criam devem prestar contas.
• Para que a IA seja global, ela deve ser justa.
• E para que a IA sirva ao futuro, ela não deve consumir o futuro.

Isso exigirá que os governos ajam com urgência.

Que as empresas aceitem uma responsabilidade à altura de seu poder.

Que os cientistas continuem trazendo evidências à tona.

E que este Diálogo se torne o espaço onde a participação global leve à ação global.

Excelências,

Talvez sejamos a última geração capaz de definir os termos sob os quais a humanidade e as máquinas coexistirão.

A porta ainda está aberta.

Mas não permanecerá aberta por muito tempo.

Hoje, porém, em Genebra, 193 nações estão atravessando-a – juntas.

Agradeço aos copresidentes do Diálogo por seu compromisso, liderança e esforços incansáveis ao longo do último ano.

Agradeço também à UIT e à UNESCO por coordenarem conjuntamente o secretariado que apoia este Diálogo – trabalhando em estreita colaboração com o Escritório das Nações Unidas para Tecnologias Digitais e Emergentes e com parceiros de todo o sistema das Nações Unidas.

Que esta reunião seja lembrada como o momento em que a governança começou a acompanhar o ritmo da tecnologia.

E quando este Diálogo se reunir novamente em Nova Iorque no próximo ano, que possamos afirmar que o trabalho iniciado aqui está tornando a IA mais segura, mais justa, mais acessível e mais ética.

Essa é a essência da nossa tarefa:

Ajudar a construir um futuro da IA pela humanidade, com a humanidade e para toda a humanidade.

Obrigado.

Para saber mais, acompanhe a cobertura da ONU News em português.