Deloitte reembolsará parcialmente el pago de un informe del gobierno australiano que contenía múltiples errores después de admitir que fue producido en parte por inteligencia artificial. La firma de contabilidad y consultoría Big Four pagará la última cuota de su contrato con el gobierno después de admitir que algunas notas a pie de página y referencias que contenía eran incorrectas, dijo el lunes el Departamento de Empleo y Relaciones Laborales de Australia.
El departamento había encargado una «revisión de garantía independiente» de 439.000 dólares australianos (290.000 dólares) a Deloitte en diciembre del año pasado para ayudar a evaluar los problemas con un sistema de bienestar para penalizar automáticamente a los solicitantes de empleo. La revisión de Deloitte se publicó por primera vez a principios de este año, pero el viernes se subió una versión corregida al sitio web del departamento. A fines de agosto, el Australian Financial Review informó que el documento contenía múltiples errores, incluidas referencias y citas a informes inexistentes de académicos de las universidades de Sydney y Lund en Suecia.
La sustancia de la revisión y sus recomendaciones no habían cambiado, agregó el gobierno australiano. El contrato se hará público una vez que se complete la transacción, dijo. El vergonzoso episodio subraya los peligros que plantea el uso de la tecnología de IA para las consultorías, en particular el peligro de las «alucinaciones».
Las cuatro grandes firmas de consultoría, así como las casas de estrategia como McKinsey, han invertido miles de millones de libras en investigación y desarrollo de IA en un intento por mantener a raya a los ágiles competidores más pequeños. Esperan utilizar la tecnología para acelerar la velocidad a la que pueden brindar asesoramiento y auditorías a los clientes. El regulador contable del Reino Unido advirtió en junio que las cuatro grandes empresas no estaban haciendo un seguimiento de cómo las herramientas automatizadas y la IA afectaban la calidad de sus auditorías, incluso cuando las empresas aumentan su uso de la tecnología para realizar evaluaciones de riesgos y obtener pruebas.
En la versión actualizada del informe, Deloitte agregó referencias al uso de IA generativa en su apéndice. Afirma que una parte del informe «incluía el uso de una cadena de herramientas basada en un modelo de lenguaje grande de inteligencia artificial (IA) generativa (Azure OpenAI GPT – 4o)» con licencia del departamento gubernamental.
Si bien Deloitte no declaró que la IA causó los errores en su informe original, admitió que la versión actualizada corrigió los errores con citas, referencias y un resumen de los procedimientos legales. «Las actualizaciones realizadas de ninguna manera impactan o afectan el contenido sustantivo, los hallazgos y las recomendaciones del informe», declaró Deloitte en la versión enmendada. Deloitte Australia dijo: «El asunto se ha resuelto directamente con el cliente».
