Chefe de Direitos Humanos da ONU pede moratória para inteligência artificial

A alta comissária das Nações Unidas para os Direitos Humanos pediu uma moratória na venda e no uso da Inteligência Artificial (IA). Para Michelle Bachelet, esses sistemas “causam um sério risco aos direitos humanos” e, por isso, ela defende uma pausa até que políticas de proteção entrem em vigor.  

Bachelet divulgou um comunicado nesta quarta-feira (15), em Genebra, pedindo também a proibição de aplicativos de IA que não são usados de acordo com a legislação internacional de direitos humanos.

Efeito catastrófico - Para a alta-comissária, “a inteligência artificial pode ajudar as sociedades a enfrentarem os maiores desafios dos nossos tempos”, mas podem também ter um “impacto negativo e até catastrófico se for utilizada sem levar em consideração como afetam os direitos das pessoas”.  

Michelle Bachelet defende que quanto maior for o risco para os direitos humanos, mais rígidas devem ser as leis sobre o uso da inteligência artificial. Mas até que estes riscos sejam avaliados, os países devem aplicar a moratória.  

Nesta quarta-feira, o Escritório do Alto Comissariado de Direitos Humanos da ONU (ACNUDH) publicou um relatório analisando como a inteligência artificial afeta o direito das pessoas à privacidade e também à liberdade de movimento, à liberdade de expressão e ao direito de se reunirem para manifestações pacíficas.  

Reconhecimento facial - De acordo com o relatório, os Estados e as empresas muitas vezes correm para incorporar tecnologia de IA, deixando de realizar a devida diligência. Como no caso das tecnologias biométricas, incluindo reconhecimento facial, estão sendo cada vez mais utilizadas pelos países, organizações internacionais e empresas de tecnologia. Por isso, é necessário, com urgência, implementar regras baseadas em direitos humanos.  

O documento defende ainda moratória no uso das tecnologias biométricas em espaços públicos, especialmente no monitoramento de pessoas nas ruas. Essa medida seria aplicada pelo menos até que as autoridades provem que os sistemas cumprem com altos padrões de privacidade e de proteção.  

Segundo a alta-comissária, a inteligência artificial está em quase todas as esferas da vida física e mental e até presente nos nossos estados emocionais. O sistema é utilizado para determinar quem pode ter acesso a serviços públicos, quem tem mais chances de ser recrutado para um emprego e também afeta o tipo de informação que as pessoas veem e partilham online.  

“O poder da IA para servir as pessoas é inegável, mas também o é a capacidade da IA de alimentar violações dos direitos humanos em uma escala enorme, praticamente sem visibilidade. É preciso agir agora para colocar uma proteção dos direitos humanos sobre o uso de IA, para o bem de todos nós ”, enfatizou Bachelet.

Bachelet observa que devido ao crescimento rápido dos sistemas de inteligência artificial, definir como esses dados são coletados, guardados e partilhados é uma das questões de direitos humanos mais urgentes da atualidade. 

Dados discriminatórios - O relatório detalha como os sistemas de IA dependem de grandes conjuntos de dados, com informações sobre indivíduos coletadas, compartilhadas, mescladas e analisadas de maneiras múltiplas e muitas vezes opacas.

Os dados usados ​​para informar e orientar os sistemas podem ser defeituosos, discriminatórios, desatualizados ou irrelevantes, argumenta o documento, acrescentando que o armazenamento de dados a longo prazo também apresenta riscos específicos, já que os dados podem no futuro ser explorados de maneiras ainda desconhecidas .

“Dado o rápido e contínuo crescimento da IA, preencher a imensa lacuna de responsabilidade em como os dados são coletados, armazenados, compartilhados e usados ​​é uma das questões de direitos humanos mais urgentes que enfrentamos”, disse Bachelet.

O relatório também afirmou que questões sérias devem ser levantadas sobre as inferências, previsões e monitoramento por ferramentas de IA, incluindo a busca de insights sobre os padrões de comportamento humano. Com isso, os conjuntos de dados tendenciosos nos quais os sistemas de IA se baseiam podem levar a decisões discriminatórias, o que representa riscos agudos para grupos já marginalizados.

Maior transparência necessária - O documento também destaca a necessidade de uma transparência muito maior por parte das empresas e dos Estados em como estão desenvolvendo e usando os novas tecnologias.

“A complexidade do ambiente de dados, algoritmos e modelos subjacentes ao desenvolvimento e operação de sistemas de IA, bem como o sigilo intencional de governos e atores privados, são fatores que minam as maneiras que o público têm de entender os efeitos dos sistemas de IA nos direitos humanos e na sociedade ”, diz o relatório.

Revelações de spyware Pegasus - Um dia antes da publicação do relatório, a chefe dos direitos da ONU expressou preocupação com o "nível sem precedentes de vigilância em todo o mundo por atores estatais e privados", que ela insistiu ser "incompatível" com os direitos humanos.

Bachelet falou em uma audiência do Conselho da Europa sobre as implicações decorrentes da controvérsia de julho sobre o spyware Pegasus, que, segundo ela, "não foram nenhuma surpresa para muitas pessoas". 

O spyware, comercializado pelo grupo israelense NSO, teve seu uso  generalizado revelado, em uma espionagem que afetou milhares de pessoas, incluindo chefes de Estado, em 45 países em quatro continentes.