O governo dos Estados Unidos (EUA) e grandes empresas de Inteligência Artificial (IA) anunciaram uma autorregulação voluntária para o desenvolvimento da tecnologia, porém, de acordo com o sociólogo Sérgio Amadeu, professor da Universidade Federal do ABC, essa medida representa uma “carta branca” para a indústria, trazendo riscos para a saúde pública e para a democracia.
Análise crítica da autorregulação
Segundo Amadeu, a entrega do controle democrático do desenvolvimento da IA para as próprias empresas do setor representa um risco gigantesco. Ele questiona a eficácia das medidas anunciadas, como os “controles internos” e a auditoria externa paga pelas próprias empresas, destacando a falta de independência desses processos.
O professor alerta para os riscos ambientais, de violação de privacidade, e os impactos sobre a democracia e a saúde pública que a IA pode trazer. Ele ressalta a importância de uma regulamentação estatal democrática para controlar o uso da tecnologia em áreas sensíveis como a saúde e a segurança da população.
Riscos para a sociedade
Pesquisas na indústria farmacêutica envolvendo bigtechs e IA levantam preocupações sobre a segurança dos experimentos e a possibilidade de riscos para a saúde pública. Amadeu destaca a necessidade de regulação para evitar práticas que coloquem em risco a população, como automedicação e diagnósticos incorretos.
Impactos negativos da IA
O governo Trump tem sido criticado por não impor limites ao desenvolvimento da IA, apesar dos pedidos da indústria e da pressão social. Estudos indicam que a população dos EUA está preocupada com os danos causados pela IA, incluindo ataques cibernéticos, impactos no mercado de trabalho e manipulação da informação para influenciar a opinião pública.
Riscos para a democracia
Especialistas alertam para o uso da IA na manipulação da informação e no desenvolvimento de armas químicas e biológicas. A falta de regulamentação eficiente pode permitir que a tecnologia seja explorada de forma maliciosa, prejudicando a democracia e a segurança global.