Glossário de Governança de IA
Definições em linguagem simples dos termos que importam em governança de IA, regulamentação e gestão de riscos.
Responsabilidade (IA)
O princípio de que indivíduos ou órgãos específicos assumem responsabilidade pelas decisões e resultados do sistema de IA - incluindo a obrigação de explicar decisões, aceitar consequências por danos e implementar ações corretivas.
Discriminação Algorítmica
Quando um sistema de IA produz saídas que desfavorecem injustamente indivíduos com base em características protegidas como raça, gênero, idade ou deficiência, seja por design, dados de treinamento ou contexto de implantação.
Trilha de Auditoria
Um registro cronológico da atividade do sistema de IA, entradas, saídas, decisões e modificações, mantido para permitir revisão posterior, verificação de conformidade e responsabilidade.
Viés (IA)
Erros sistemáticos nas saídas de IA que resultam em tratamento injusto de certos grupos. As fontes incluem dados de treinamento tendenciosos, design de modelo falho e objetivos de otimização desalinhados.
Avaliação de Conformidade
No âmbito da Lei de IA da UE, o processo pelo qual sistemas de IA de alto risco são avaliados em relação a requisitos obrigatórios antes da colocação no mercado. Pode ser realizada pelo desenvolvedor (autoavaliação) ou por um organismo notificado (avaliação de terceiros).
Proveniência de Dados
O histórico documentado de um conjunto de dados, sua origem, método de coleta, etapas de processamento e cadeia de custódia. Crítico para a governança de IA, pois a qualidade dos dados afeta diretamente a confiabilidade e a justiça do modelo.
Lei de IA da UE
Regulamento (UE) 2024/1689, o primeiro quadro jurídico vinculativo e abrangente do mundo para IA. Estabelece um sistema de classificação baseado em risco com usos proibidos, obrigações de alto risco e requisitos gerais. Totalmente em vigor a partir de agosto de 2026.
Explicabilidade
O grau em que as saídas de um sistema de IA podem ser entendidas e interpretadas por humanos. Varia de total transparência (sistemas baseados em regras) a métodos de explicação post-hoc para modelos de caixa preta.
Alucinação
Quando um sistema de IA generativa produz saídas factualmente incorretas, fabricadas ou internamente inconsistentes, mas apresentadas com aparente confiança. Um risco chave em aplicações empresariais intensivas em conhecimento.
IA de Alto Risco
No âmbito da Lei de IA da UE, sistemas de IA em setores específicos (saúde, educação, emprego, infraestrutura crítica, aplicação da lei, etc.) que representam risco significativo para direitos ou segurança. Sujeitos a requisitos obrigatórios incluindo documentação, supervisão humana e avaliação de conformidade.
Supervisão Humana
A capacidade de humanos qualificados monitorarem, intervirem e, se necessário, interromperem a operação do sistema de IA. Necessário para IA de alto risco no âmbito da Lei de IA da UE e cada vez mais esperado como padrão mínimo de governança.
ISO 42001
ISO/IEC 42001:2023 - o padrão internacional para sistemas de gerenciamento de IA. Fornece um framework para as organizações estabelecerem, implementarem, manterem e melhorarem continuamente a governança responsável de IA.
Desvio de Modelo
A degradação do desempenho do modelo de IA ao longo do tempo, à medida que as distribuições de dados do mundo real se afastam das condições de treinamento. Requer monitoramento contínuo e retreinamento periódico para manter saídas confiáveis.
NIST AI RMF
O Framework de Gerenciamento de Risco de IA do Instituto Nacional de Padrões e Tecnologia (2023). Um framework voluntário dos EUA para identificar, avaliar e gerenciar riscos de IA em quatro funções: Govern, Map, Measure, Manage.
IA Sombra
O uso de ferramentas de IA por funcionários sem conhecimento, aprovação ou supervisão organizacional. Cria riscos de segurança de dados, propriedade intelectual e conformidade, particularmente com ferramentas de IA para consumidores.
Dados de Treinamento
O conjunto de dados usado para treinar um modelo de IA. Sua qualidade, representatividade e proveniência determinam diretamente o comportamento, desempenho e propriedades de justiça do modelo.