Deloitte restituirà parte del compenso al governo australiano dopo che un report commissionato dal Department of Employment and Workplace Relations è risultato contenere errori generati da un modello di intelligenza artificiale.

Il documento, costato 440mila dollari australiani, analizzava i sistemi informatici del welfare e in particolare il Targeted Compliance Framework, l’algoritmo che gestisce le sanzioni per chi non rispetta gli obblighi di partecipazione ai programmi di lavoro.

Il rapporto pubblicato a luglio conteneva citazioni inesistenti e riferimenti giuridici inventati, scoperti da ricercatori accademici e giornalisti.

Deloitte ha poi ammesso di aver usato un modello generativo, Azure OpenAI Gpt-4o, in alcune fasi della redazione, e ha corretto decine di passaggi affermando che le modifiche non alterano le conclusioni principali.

Tuttavia il governo di Anthony Albanese ha chiesto la restituzione dell’ultima tranche del pagamento, ottenendo che la società rimborsi parte della cifra come gesto di responsabilità.

Il caso australiano evidenzia una questione ormai globale: fino a che punto è accettabile delegare la produzione di contenuti tecnici e istituzionali a un sistema statistico capace di scrivere ma non di comprendere.

Le allucinazioni dei modelli non sono un incidente ma una conseguenza della loro architettura probabilistica.

Quando il costo dell’errore è reputazionale o legale, la supervisione umana non è opzionale ma parte del processo di garanzia.

[Fonte: Il Sole 24 Ore 09.10.2025]

P.S.: nel nostro studio, prima di utilizzare documenti generati con l'AI, li leggiamo, individuiamo eventuali incongruenze ed anomalie e le evidenziamo prima di sottoporre i documenti stessi ai clienti e prima di pubblicarli nel nostro sito. Aggiungiamo che l'AI è un ottimo ausilio nell'ambito professionale (e aziendale), ma è essenziale la supervisione dei professionisti.