Assine nossa newsletter e fique por dentro de tudo que rola na sua região.
Via Anna Munhoz
“Não existem garantias técnicas de que futuros sistemas de inteligência artificial continuarão obedecendo aos seres humanos.” O alerta não veio de um filme de ficção científica nem de teorias conspiratórias, mas de Yoshua Bengio, um dos cientistas mais influentes do mundo na área de IA e copresidente do Painel Científico Internacional Independente criado pelas Nações Unidas.
O grupo divulgou nesta quarta-feira (1º) seu primeiro relatório, defendendo que o avanço acelerado da inteligência artificial exige regras globais antes que a tecnologia alcance níveis ainda maiores de autonomia.
O grupo formado por 40 especialistas reunidos pelas Nações Unidas elaborou um documento que reúne evidências científicas sobre os benefícios e os riscos da IA e faz um alerta que chamou a atenção da comunidade internacional: não existem garantias técnicas de que sistemas de inteligência artificial cada vez mais avançados continuarão obedecendo às instruções humanas no futuro.
O relatório servirá de base para o Primeiro Diálogo Global sobre Governança da Inteligência Artificial, que será realizado na próxima semana, em Genebra, reunindo representantes de diversos países para discutir regras internacionais para o desenvolvimento da tecnologia.
IA está deixando de apenas reconhecer padrões para tomar decisões
Segundo o relatório, a inteligência artificial atravessa uma mudança em sua evolução.
Se, há poucos anos, os sistemas eram utilizados principalmente para identificar padrões em grandes volumes de dados, os modelos atuais já demonstram capacidade crescente de raciocínio, planejamento, tomada de decisões e execução de tarefas de forma cada vez mais autônoma.
Para o secretário-geral da ONU, António Guterres, esse avanço torna urgente a criação de mecanismos internacionais de governança.
Segundo ele, quanto mais a tecnologia evoluir sem regras compartilhadas, menor será a capacidade de governos e da própria sociedade influenciarem seus rumos. O líder das Nações Unidas ainda fez um apelo aos países para que “não percam tempo” e comecem a usar estas evidências científicas desde já.
Cientistas dizem que ainda não há garantia de controle humano
Um dos principais alertas do documento foi apresentado pelo cientista da computação Yoshua Bengio, considerado um dos maiores especialistas em inteligência artificial do mundo e copresidente do painel científico.
Segundo Bengio, ainda não existem garantias técnicas de que futuros sistemas de IA seguirão instruções, normas e leis de forma confiável.
Ele afirmou que estudos recentes apontam evidências de comportamentos inesperados em alguns sistemas avançados, indicando que determinados modelos podem adotar estratégias para contornar mecanismos de supervisão humana ou apresentar respostas enganosas em determinadas circunstâncias.
De acordo ainda com o cientista, existem evidências de que a IA age de forma enganosa para burlar o controle humano.
O pesquisador ressaltou que esses resultados não significam que a inteligência artificial esteja “fora de controle” atualmente, mas demonstram que ainda existem desafios científicos importantes para garantir que sistemas cada vez mais poderosos permaneçam alinhados aos objetivos definidos por seus operadores.
Desinformação e concentração de poder também preocupam
Outra copresidente do painel, a jornalista filipina e vencedora do Prêmio Nobel da Paz Maria Ressa, afirmou que o mundo já não pode alegar desconhecimento sobre os riscos associados ao avanço da inteligência artificial.
Ela destacou três preocupações centrais identificadas pelo grupo:
Segundo Ressa, outro desafio crescente é o uso da inteligência artificial generativa para produzir campanhas de desinformação em larga escala, com conteúdos personalizados, de baixo custo e produzidos em poucos segundos.
Impactos vão além da tecnologia
Embora grande parte do debate público esteja concentrada em ferramentas como assistentes virtuais e geração automática de imagens e textos, os pesquisadores ressaltam que os impactos da inteligência artificial alcançam áreas muito mais amplas.
Entre elas estão economia, saúde, educação, infraestrutura crítica, sistemas financeiros e segurança internacional.
No setor de defesa, por exemplo, tecnologias baseadas em IA já são empregadas em sistemas de reconhecimento de alvos, análise de inteligência, logística militar, drones autônomos, guerra eletrônica e apoio à tomada de decisões operacionais.
À medida que essas aplicações se tornam mais sofisticadas, cresce também a discussão sobre mecanismos capazes de garantir supervisão humana em sistemas considerados estratégicos.
ONU quer acelerar criação de regras globais
O relatório foi elaborado justamente para orientar decisões políticas antes que a evolução tecnológica torne mais difícil estabelecer mecanismos de controle.
Segundo António Guterres, os países não devem esperar que problemas mais graves ocorram para iniciar a construção de normas internacionais.
Para Yoshua Bengio, as decisões tomadas nos próximos anos terão efeitos duradouros sobre governos, empresas, instituições, democracias e sociedades inteiras.
Por isso, os especialistas defendem que o desenvolvimento da inteligência artificial seja acompanhado por mecanismos de transparência, cooperação internacional e avaliação científica independente, reduzindo os riscos associados a uma tecnologia que avança em velocidade inédita.
Nenhum comentário. Seja o primeiro a comentar!
