Alerta no uso da IA atinge níveis alarmantes

Quase 30% dos danos associados ao uso de inteligência artificial atingem diretamente o bem-estar psicológico. O dado é da Data Privacy Brasil. Dos 71 casos documentados, 29,6% envolvem prejuízos psicológicos e sociais, como vigilância excessiva e exposição a conteúdos nocivos.

Entre os registros estão falhas em reconhecimento facial que levaram à detenção indevida de pessoas, além de relatos de adolescentes que mantiveram vínculos afetivos com chatbots ou foram estimulados a comportamentos autodestrutivos em aplicativos. O levantamento também aponta que 23,9% dos casos envolvem violações a direitos fundamentais, como decisões judiciais com fundamentação incorreta produzida com auxílio do ChatGPT e atribuída ao Superior Tribunal de Justiça.

O debate ocorre enquanto o Projeto de Lei 2.338 tramita na Câmara, visa estabelecer o marco regulatório para o desenvolvimento e uso de inteligência artificial no Brasil. Recentemente, o Tribunal de Justiça de Minas Gerais admitiu que uma decisão que absolveu um homem de 35 anos acusado de estupro de uma menina de 12 continha trecho com comando de inteligência artificial, expondo a urgência na regulação e consequências imediatas a situações como esta, que envolvem diretamente a dignidade de indivíduos e exige transparência e responsabilidade no uso dessas ferramentas.