O que a proposta faz
O projeto cria a Auditoria Obrigatória de Transparência Algorítmica (AATA), uma regra para sistemas automatizados usados pelo governo federal quando eles ajudam ou decidem sobre direitos, benefícios ou acesso a políticas públicas. Sistemas automatizados são programas de computador, algoritmos, modelos estatísticos ou sistemas de inteligência artificial usados para apoiar ou tomar decisões administrativas. Hoje, não há uma regra geral que obrigue esses sistemas a passar por auditoria independente e a serem divulgados ao público. Pela proposta, eles teriam que ser auditados antes de entrar em funcionamento e, depois, a cada doze meses, além de divulgar informações sobre seu funcionamento. Segundo o autor, a medida busca tornar essas decisões compreensíveis, auditáveis e sujeitas a controle, em linha com os princípios de publicidade e legalidade da Constituição.
O que muda na prática
- Sistemas automatizados usados pelo governo federal em decisões sobre benefícios e direitos passam por auditoria técnica independente antes de entrar em operação.
- Esses sistemas precisam ser auditados de novo pelo menos a cada doze meses.
- Os órgãos públicos devem publicar em site de acesso público a finalidade do sistema, os critérios gerais de classificação e relatórios anuais de auditoria.