Ética em IA, explicabilidade, governança, LGPD e Estratégia Brasileira de IA

Do zero

Um sistema de IA que ajuda a decidir sobre pessoas e dinheiro público precisa passar no mesmo teste que um servidor público: decidir com justiça, saber explicar a decisão, proteger os dados de quem é atingido e ter alguém que responda por ela. Esse é o núcleo da IA responsável.

Quatro ideias resolvem quase tudo:

• Justiça (sem viés): o modelo aprende com o passado. Se o passado foi desequilibrado, ele repete e amplia o desequilíbrio. Um modelo treinado com fiscalizações que sempre se concentraram nos mesmos municípios vai continuar apontando esses municípios.
• Explicabilidade: conseguir dizer, em linguagem compreensível, por que o sistema chegou àquela resposta. “O processo teve nota de risco alta porque a empresa foi aberta um mês antes da licitação e o preço ficou 80% acima da mediana.”
• Proteção de dados: usar só os dados necessários, com base legal, e cuidar para que não vazem. No Brasil, a régua é a LGPD (Lei nº 13.709/2018).
• Governança: saber quais sistemas de IA o órgão usa, qual o risco de cada um, quem responde por eles e como são acompanhados.

Frase para guardar: IA responsável é justa, explicável, segura, respeita os dados pessoais e tem um responsável humano; governança é o órgão saber o que usa, com que risco e sob que regras.

Em 1 minuto

• Princípios de IA responsável (como os da OCDE): bem-estar e crescimento inclusivo; direitos humanos, justiça e privacidade; transparência e explicabilidade; robustez e segurança; responsabilização (accountability) [CONFERIR: os princípios da OCDE não estão em fontes/].
• Viés: vem dos dados (histórico desequilibrado, grupos sub-representados), do desenho do modelo ou do uso. Mede-se comparando o desempenho entre grupos; mitiga-se com dados mais representativos, testes por grupo e revisão humana.
• Explicabilidade: modelos interpretáveis por natureza (árvore de decisão, regressão) × modelos caixa-preta (redes profundas), explicados por técnicas como SHAP e LIME, que mostram quanto cada variável pesou numa previsão específica (explicação local). A explicação global mostra o que pesa no modelo todo, como a importância das variáveis; o SHAP também a oferece, somando as contribuições de muitos casos, e o LIME é essencialmente local.
• Supervisão humana: decisões com efeito relevante sobre pessoas têm revisão humana, e alguém responde por elas.
• Governança de IA: inventário dos sistemas, classificação por risco (quanto maior o risco, mais controles), avaliação de impacto antes do uso, documentação (dados, finalidade, limites), monitoramento contínuo e auditoria. Referências: NIST AI RMF (funções governar, mapear, medir e gerenciar) e ISO/IEC 42001 (sistema de gestão de IA) [CONFERIR].
• LGPD aplicada à IA: base legal para tratar os dados, finalidade e necessidade (minimização), cuidado redobrado com dados sensíveis, anonimização quando possível, relatório de impacto à proteção de dados pessoais, que a ANPD pode exigir do controlador (art. 38) e que convém elaborar quando o tratamento é de alto risco, e o direito do titular de pedir a revisão de decisões tomadas unicamente por tratamento automatizado (art. 20) [CONFERIR: o texto da LGPD ainda não está em fontes/].
• Estratégia Brasileira de Inteligência Artificial (EBIA): política do governo federal, de 2021, organizada em eixos transversais (legislação, regulação e uso ético; governança de IA; aspectos internacionais) e verticais (como educação, força de trabalho, pesquisa e inovação, aplicação nos setores produtivos, aplicação no poder público e segurança pública) [CONFERIR: o texto da EBIA ainda não está em fontes/].
• No TCE-GO, a Resolução Administrativa nº 24/2024 dispõe sobre o uso de ferramentas de IA, e o edital a inclui no conteúdo (fontes/edital-02-2026-retificacao.txt).

Exemplo concreto: a nota de risco das licitações

A unidade técnica usa um modelo que dá uma nota de risco a cada licitação municipal, para priorizar a auditoria. Antes de colocá-lo em uso, a equipe passa por cinco perguntas:

1. Que dados entram, e com que base? Dados públicos das licitações e o quadro societário das empresas. CPFs de sócios são dados pessoais: entram só os necessários, com acesso restrito e registro de quem consultou.
2. Há viés? O histórico de auditorias se concentrava em poucos municípios. A equipe confere a distribuição das notas por região e por porte de município e retira variáveis que só repetem onde já se fiscalizou antes.
3. Dá para explicar? Para cada licitação, o painel mostra os três fatores que mais pesaram na nota (calculados com SHAP): “empresa aberta há 40 dias; preço 80% acima da mediana; mesmo endereço de outro licitante”.
4. Quem decide? A nota só prioriza. A irregularidade é apontada pelo auditor, que analisa o caso e responde pela conclusão.
5. Como se acompanha? O sistema entra no inventário de IA do Tribunal, com risco classificado, responsável nomeado e revisão periódica: quantos alertas se confirmaram, se as notas continuam equilibradas e se os dados mudaram.

Comparação: princípios, explicações e instrumentos

Como a FCC cobra

• Modelos interpretáveis × caixa-preta; SHAP e LIME.
• Governança de IA: inventário, risco, avaliação de impacto, monitoramento.
• Supervisão humana e responsabilização.
• Eixos da Estratégia Brasileira de Inteligência Artificial.

Pegadinhas

Explique com suas palavras

Explique a um gestor por que um modelo treinado com o histórico de auditorias pode ser injusto, e o que o Tribunal deve fazer para usar a nota de risco com responsabilidade.

1. Escreva sem olhar a lição, com frases curtas e um exemplo seu.
2. Onde travar ou precisar de jargão, há uma lacuna: releia só essa parte.
3. Compare com a explicação-modelo e reescreva o que faltou.

Sua explicação

Fica salva neste navegador.

Comparar com uma explicação-modelo

O modelo aprende com o que já aconteceu. Se, por anos, as auditorias se concentraram em alguns municípios, os dados dizem que é ali que os problemas aparecem, mas só porque era ali que se procurava. O modelo aprende isso e continua mandando a fiscalização para os mesmos lugares, enquanto problemas em outros municípios ficam invisíveis.

Para usar a nota com responsabilidade, o Tribunal confere se ela está equilibrada entre regiões e portes de município, mostra em cada caso os fatores que pesaram, usa só os dados pessoais necessários, deixa a conclusão sempre com o auditor e acompanha o sistema ao longo do tempo, com um responsável nomeado.

Teste-se

Mais duas questões deste tópico estão em Questões.

Flashcards gerados

Ligação com o estudo de caso

Num caso sobre adotar IA no Tribunal, inclua sempre a camada de governança: registro do sistema no inventário, classificação de risco, avaliação de impacto (com o relatório de impacto da LGPD quando houver dados pessoais em risco alto), explicação das decisões, revisão humana, monitoramento de viés e de desempenho, e aderência à Resolução Administrativa nº 24/2024 do TCE-GO. Isso mostra à banca que a solução técnica vem com controle.

Fontes da lição

• Edital nº 01/2026, Anexo II, Inteligência Artificial, Ciência de Dados e Automação (fontes/edital-01-2026.txt).
• Edital nº 02/2026 (retificação), que inclui a Resolução Administrativa nº 24/2024 sobre o uso de IA no TCE-GO (fontes/edital-02-2026-retificacao.txt) [CONFERIR: o texto da resolução ainda não está em fontes/].
• Lei nº 13.709/2018 (LGPD), especialmente arts. 6º, 20 e 38 [CONFERIR: o texto da lei ainda não está em fontes/].
• Estratégia Brasileira de Inteligência Artificial (EBIA), Ministério da Ciência, Tecnologia e Inovação, 2021 [CONFERIR: o texto ainda não está em fontes/].
• OCDE, Princípios de IA e NIST, AI Risk Management Framework 1.0 [CONFERIR].
• Scott Lundberg e Su-In Lee, “A Unified Approach to Interpreting Model Predictions” (2017), origem do SHAP.