How technical choices can lead to safety failures, and what to do differently The post AI Harms and Their Technical Causes appeared first on Towards Data Science.
How technical choices can lead to safety failures, and what to do differently The post AI Harms and Their Technical Causes appeared first on Towards Data Science.
In context
- Topic: Datos y Analítica — Gobierno del dato, calidad, analítica y productos de datos.
- Source: Towards Data Science
- Published: 19/10/2026
Continue reading at the original source →
Excerpt published automatically by the site radar. The full text belongs to its publisher and is linked above.
Por que importa
Um painel bonito pode esconder um dado ruim por meses. Por isso desconfio das notícias que falam de visualização e não de governança: o caro não é mostrar o número, é garantir que o número queira dizer a mesma coisa na terça e na quinta.
Quando avalio uma iniciativa de dados, a primeira pergunta é qual decisão concreta se toma com isto e quem a toma. Se a resposta é que serve para ter visibilidade, já sei que em um ano o painel estará abandonado. Visibilidade não é objetivo, é efeito.
O que costuma dar errado
Onde costuma quebrar é na captura. Investe-se muito no processamento e nada no ponto em que a pessoa preenche o formulário, com pressa, sem validações e sem saber para que serve. Nenhum modelo conserta um dado que nasceu errado; só o propaga com mais autoridade.
O que observar
- De onde vem o dado e o que acontece quando o sistema de origem muda ou falha.
- Quando o número chega em relação a quando a decisão é tomada, que é o que define sua utilidade.
- Quem responde pela qualidade do indicador quando alguém o questiona num comitê.
Como leio esta publicação
Eu usaria para revisar o ciclo completo, desde onde o dado é capturado até onde alguém age. Quase sempre o problema não está na analítica, e sim no começo: alguém preenchendo um campo à mão, sem validação, com pressa e sem saber para que serve depois.
A notícia original está publicada em outro idioma; o trecho é citado como o veículo o entrega e o comentário é escrito em português.
Comentários
Ainda não há comentários. O primeiro pode ser o seu.
Está vivendo isso na sua equipe?
Abra o chat e me conte como estão lidando com isso. Tenho interesse em comparar notas.
