O que a proposta faz
O projeto garante a pessoas em situação de vulnerabilidade o direito de pedir revisão humana quando um sistema automatizado ou de inteligência artificial (programa que analisa dados e pode produzir ou sugerir decisões) influenciar decisões da Administração Pública Federal que afetem seus direitos, benefícios ou serviços. A revisão deve ser feita por um agente público, que analisa o caso concreto e não pode apenas confirmar o resultado do sistema. A pessoa também tem direito a uma explicação em linguagem simples e a canais de atendimento acessíveis. Segundo o autor, o uso dessas ferramentas sem controle pode gerar decisões difíceis de entender, erros em larga escala e dificuldade para contestar. A proposta diz que o uso de tecnologia pelo Estado continua permitido, desde que tenha essas garantias.
O que muda na prática
- Pessoas vulneráveis podem pedir revisão humana quando uma decisão automatizada negar, suspender, cancelar ou reduzir benefício, serviço, vaga ou cadastro, ou impuser sanção ou bloqueio.
- Quando houver uso de sistema automatizado, o órgão público deverá informar isso e explicar, em linguagem simples, a finalidade e os principais critérios usados, quando possível.
- Antes de valer uma decisão automatizada que negue ou reduza benefício ou serviço essencial, como saúde, educação ou assistência social, deve ser garantida a possibilidade de revisão humana, salvo em casos como fraude ou risco à segurança.