O que a proposta faz
O projeto cria uma política nacional para dar transparência ao uso de sistemas automatizados (programas que usam algoritmos, ou seja, conjuntos de regras, para recomendar, classificar ou decidir algo) e proteger a pessoa idosa em serviços essenciais. A lei se aplica principalmente a bancos, planos de saúde, previdência, assistência social, serviços públicos digitais, telecomunicações, energia, água e programas sociais, que deverão avisar quando usarem esses sistemas em decisões relevantes para o usuário. A pessoa idosa poderá pedir revisão por uma pessoa capacitada em situações como negativa de acesso, suspensão de benefício, bloqueio de conta, contestação de cobrança e suspeita de fraude. Não há obrigação de divulgar códigos-fonte nem modelos proprietários, para proteger segredos industriais (informações estratégicas das empresas). Segundo o autor, milhões de brasileiros são afetados por decisões de algoritmos sem saber quando isso acontece nem como contestar erros, e a proposta busca dar essa transparência sem limitar a inovação.
O que muda na prática
- Prestadores de serviços essenciais deverão informar, de forma clara, quando usarem sistemas automatizados capazes de influenciar decisões relevantes para o usuário.
- As informações devem dizer a finalidade do sistema, o tipo de decisão produzida, se cabe pedir revisão humana e quais canais existem para tirar dúvidas.