O que a proposta faz
O projeto cria regras gerais para o uso de sistemas automatizados de decisão, que são programas de computador que ajudam a recomendar, classificar, selecionar ou decidir coisas a partir de dados, inclusive com inteligência artificial. As regras valem para pessoas, empresas e órgãos públicos. Ele exige transparência, permite que as pessoas peçam revisão humana e contestem decisões, e proíbe discriminação ilícita. Sistemas de alto impacto, como os usados em crédito, trabalho, educação, saúde, segurança pública, justiça, benefícios públicos e serviços essenciais, terão obrigações extras, como avaliação de riscos antes de serem usados. O texto também altera a Lei Geral de Proteção de Dados (LGPD) para reforçar essas regras. Segundo o autor, a proposta busca um modelo equilibrado, que proteja direitos sem travar a inovação tecnológica, porque hoje não há uma lei específica e completa sobre o tema.
O que muda na prática
- Empresas, órgãos públicos e pessoas que usam sistemas automatizados passam a ter deveres de transparência e de prevenção à discriminação ilícita.
- Quem sofre uma decisão automatizada importante pode pedir informações claras, revisão humana, contestação e correção de dados.
- Sistemas de alto impacto precisam de avaliação de riscos antes de entrar em uso e devem ter supervisão humana e registro técnico.
- Fica proibido usar esses sistemas para discriminar por raça, religião, sexo, idade, deficiência ou outros critérios vedados, ou com dados obtidos ilegalmente.