O anúncio do governo dos Estados Unidos (EUA) e de big techs da Inteligência Artificial (IA) de criar uma autorregulação voluntária com controles de segurança para o desenvolvimento da tecnologia representa uma “carta branca” para a indústria do setor com riscos para a saúde pública e para a democracia dos países.
Essa é a avaliação do sociólogo Sérgio Amadeu, professor da Universidade Federal do ABC e autor de obras sobre tecnologias digitais:
“O que o Trump fez foi entregar completamente e de modo irresponsável o controle democrático do desenvolvimento da IA para a própria corporação que a desenvolve. Isso é um risco gigantesco”, avaliou.
Dentre as medidas anunciadas no acordo firmado na terça-feira (29), na Casa Branca, com a OpenAI, Meta, Anthropic, Google, Nvidia e X (antigo Twitter), está a implementação de “controles internos” para monitorar os modelos de IA para “garantir que seus modelos não invadam ou acessem sistemas técnicos de maneiras não intencionais”.
“Isso já é feito. Todo o processo de treinamento de IA requer um controle robusto. O monitoramento interno já é feito. Tudo isso não agrega nada de importante para regulamentar e controlar usos e desenvolvimentos indevidos do aprendizado de máquina e do aprendizado profundo”, completou Amadeu.
Sobre a previsão de auditoria externa independente das empresas de IA, o professor da UFABC contesta que essa auditoria será paga pela própria empresa.
“Até que ponto esse auditor externo pago pela própria empresa vai fazer críticas e sugestões que vão criar descontentamento do conselho de acionistas das empresas?”, questionou Sérgio.
Benefícios frágeis
O especialista em governança de IA Ettore Arpini, fundador da organização Plures, que apoia a formação de profissionais para atuação em IA, destacou à Agência Brasil que o acordo voluntário das IAs pode criar benefícios reais.
Porém, alerta que o compromisso pode ser abandonado quando as proteções se tornarem comercialmente prejudiciais.
Arpini cita o exemplo da Moratória da Soja na Amazônia, que foi um acordo voluntário que envolveu empresas do setor para não plantar soja na Amazônia e evitar o desmatamento do bioma.
“Isso deu certo por 20 anos, de forma voluntária, até que mudou o ambiente político e econômico e as empresas que faziam parte saíram do acordo e a moratória morreu. O que acontece se uma empresa reprovar numa auditoria ou abandonar o pacto?”, questionou.
Saúde Pública
Sociólogo e professor da UFABC Sérgio Amadeu da Silveira – TV PUC/Reprodução
O sociólogo Sérgio Amadeu destaca que a IA traz riscos ambientais, devido ao alto consumo de energia e água, de violação de privacidade, devido a capacidade de vigilância em massa de populações, assim como riscos à democracia e à saúde pública.
Ele explica que várias pesquisas realizadas na indústria farmacêutica, em parceria com big techs por meio de modelos de IA, podem envolver riscos para a saúde da população e, por isso, precisa de regulação do Estado.
“Sabemos que quando o uso de IA fica sob controle apenas de investidores, isso traz um risco gigantesco para experimentos e ações que coloquem em risco a saúde pública”, comentou.
Entre os riscos, o especialista cita a possibilidade do uso de IA levar as pessoas a tomar medicamentos por conta própria ou mesmo fazer diagnósticos com uso da máquina.
“Quando nós estamos tratando de fenômenos ligados à chamada saúde pública e que incluam a parceria de grandes big techs com indústrias químicas e de fármacos, é um risco muito grande e, portanto, precisa de uma regulamentação estatal democrática”, concluiu.
Temor social
O governo Trump tem rejeitado impor limites ao desenvolvimento da IA, mesmo diante de pedidos da própria indústria e pressão social interna.
Pesquisa de opinião realizada pela Ipsos e Reuters revelou que 73% da população dos EUA acreditam que as empresas de IA não tomam medidas suficientes para impedir os danos da tecnologia para a sociedade e 39% acreditam que a IA está tendo um impacto negativo na sociedade.
Um dos riscos apontados é que os sistemas banalizem ataques cibernético por meio da invasão de sistemas de outras empresas e instituições. Outros riscos associados à IA são os impactos sobre o mercado de trabalho ou uso “maliciosos” da tecnologia por criminosos para aplicar golpes cibernéticos.
Democracia
A IA ainda pode ser usada para influenciar a opinião pública por meio da manipulação da informação que circula nas redes sociais, segundo descreve o relatório Internacional IA Safety Report 2026, elaborado por 100 especialistas de mais de 30 países.
“Diversos estudos laboratoriais demonstraram que a interação com sistemas de IA pode levar a mudanças mensuráveis nas crenças das pessoas”, aponta o relatório.
Outro risco apontado é em relação ao desenvolvimento de armas químicas e biológicas.
“Sistemas de IA de uso geral podem fornecer informações sobre o desenvolvimento de armas biológicas e químicas, incluindo detalhes sobre patógenos e instruções de laboratório de nível especializado”, diz o relatório internacional.
Matéria ampliada às 13h13
Fonte original: Ver noticia completa
