A Deloitte confirmou o reembolso parcial de um contrato firmado com o governo da Austrália, após a divulgação de um relatório técnico que continha inconsistências graves. Segundo autoridades australianas, o documento foi elaborado com o apoio de ferramentas de inteligência artificial generativa, sem declaração formal de uso.
O relatório, que tinha como objetivo revisar o sistema de penalidades automatizadas de um programa social, apresentou referências inexistentes, citações jurídicas inventadas e erros de grafia em nomes de autoridades. A falha foi revelada por um pesquisador da Universidade de Sydney, que identificou indícios do uso não supervisionado de IA na produção do material.
O caso levantou preocupações sobre a confiabilidade das análises automatizadas e reacendeu o debate sobre governança de dados e responsabilidade ética na adoção de novas tecnologias por órgãos públicos e empresas privadas.
De acordo com especialistas, o episódio reforça a necessidade de uma governança robusta de dados, com foco em integridade, rastreabilidade e segurança das informações processadas por sistemas de IA. Eles destacam que, sem esses mecanismos, a automação pode ampliar erros e comprometer a credibilidade das instituições envolvidas.
Para o CEO da Bravo, Marcos Gimenez, “sem governança, a inteligência artificial deixa de ser uma aliada estratégica e passa a ser um risco operacional. Transparência, validação humana e gestão ética dos dados não são apenas boas práticas, são requisitos importantes para preservar a confiança e a integridade dos processos”.
Segundo Gimenez, a aplicação responsável de IA requer investimento contínuo em capacitação, políticas de uso ético e participação de equipes multidisciplinares. “Profissionais capacitados são a chave para uma IA ética e eficaz”, afirmou.
O executivo acrescenta que uma governança sólida deve incluir protocolos de revisão humana, uso de fontes rastreáveis e diretrizes contratuais que assegurem controle sobre o emprego de tecnologias emergentes. “Uma estrutura tecnológica sólida permite rastreabilidade, controle e inteligência preditiva, o que fortalece a tomada de decisão e mitiga riscos operacionais e reputacionais. Em um contexto de maior atenção pública e crescente demanda por transparência, na Bravo, buscamos apoiar os clientes na construção de uma governança moderna e resiliente”, concluiu.