O que você vai encontrar
Uma política de IA ganha utilidade quando define quem pode aprovar um uso, quais evidências são necessárias e o que fazer quando o sistema falha. O nível de controle deve acompanhar as consequências para as pessoas e para a organização.
1. Defina a decisão que será influenciada
Descreva a tarefa e quem será afetado. Uma ferramenta para rascunhar comunicação interna tem riscos diferentes de um sistema que influencia contratação, crédito ou atendimento essencial. Identifique dados, usuários, fornecedor, integrações e usos proibidos.
Documente também a alternativa sem IA. Se o benefício não puder ser avaliado ou o erro não puder ser tratado, a decisão pode ser reduzir o escopo ou adiar a adoção.
2. Atribua responsabilidade e autoridade
O NIST AI RMF organiza a gestão de riscos nas funções Govern, Map, Measure e Manage. Trata-se de uma referência voluntária; ela não equivale a certificação ou comprovação automática de conformidade.
Na prática, nomeie quem responde pelo uso de negócio, pela avaliação técnica e pelo tratamento de impactos. Defina quem pode interromper o sistema e como uma mudança de modelo ou fornecedor volta à avaliação.
3. Avalie resultados e efeitos desiguais
Monte exemplos que representem as situações de uso, inclusive casos menos frequentes. Analise erros por contexto relevante, evitando que uma média esconda falhas concentradas. A coleta de dados para avaliação também precisa de justificativa e proteção.
- Registre limitações e condições em que o resultado não deve ser usado.
- Confira se a explicação permite verificar a conclusão.
- Teste a revisão humana com tempo e informação suficientes.
- Defina critérios de aprovação antes de olhar os resultados.
4. Crie um caminho de contestação
Quando uma pessoa é afetada, ela precisa entender como solicitar esclarecimento ou revisão pelo canal apropriado. Evite atribuir responsabilidade a uma fórmula vaga como “o algoritmo decidiu”. A equipe responsável deve conseguir investigar entradas, versão e resultado, respeitando a privacidade.
Uma revisão humana apenas formal não corrige o problema. O revisor precisa ter competência, evidências e autoridade para alterar ou suspender a decisão.
5. Acompanhe depois da aprovação
Mantenha um registro de incidentes, reclamações e mudanças de desempenho. Combine frequência de revisão e gatilhos extraordinários, como mudança no público atendido. Registre a decisão de continuar, restringir ou retirar o sistema.
O checklist de IA apoia essa conversa. Consulte a Cortex para conhecer a proposta do produto; a governança de cada uso continua exigindo decisões da organização.