Serie IVA – Blog 2: Gestire gli agenti IA nel procurement: la fiducia su scala aziendale

Gli agenti IA per gli acquisti non si limitano a fornire insight e ad aspettare che qualcuno agisca. Dovrebbero raccomandare fornitori, approvare workflow, segnalare rischi, creare ordini di acquisto, convalidare fatture a fronte di termini contrattuali introvabili e innescare azioni a valle lungo l’intero processo source-to-pay. 

Serve qualcosa che automatizzi, colleghi i puntini, funga da maestro tattico e, soprattutto, agisca.  Quando un agente può agire, e non solo informare, il dibattito sulla governance cambia completamente.

La governance dell’IA negli acquisti è il sistema di controlli che definisce a cosa possono accedere gli agenti IA e cosa possono fare. Stabilisce inoltre quando è necessaria l’approvazione delle azioni da parte di personale umano, e come debba essere monitorata e sottoposta a revisione ogni decisione. 

Sbagliare in questa fase significa avere agenti autonomi che operano senza alcun meccanismo di sicurezza. Operare nel modo giusto, invece, si concretizza in un ufficio acquisti con un forte vantaggio competitivo.

Questo articolo è il secondo di una serie in tre parti sull’IA agentica negli acquisti. Qui parleremo di cosa la governance richiede su scala aziendale, perché l’accountability umana deve essere strutturale e cosa distingue le implementazioni IA scalabili da quelle che si arenano.

L’autonomia senza governance è solo rischio

C’è una differenza significativa tra uno strumento di analisi degli acquisti che rileva un’anomalia di spesa e un agente IA che identifica l’anomalia, trova i contratti interessati, segnala i fornitori coinvolti e avvia un workflow per correggere il problema. Il primo ha una funzione di reporting, il secondo agisce per conto dell’organizzazione.

Quando gli agenti IA negli acquisti approvano un ordine di acquisto, raccomandano un fornitore per un evento di sourcing strategico o negoziano il pricing in base a parametri predefiniti, la posta in gioco è operativa e finanziaria. Vale la pena notare che i contratti d’impresa per l’IA agentica iniziano ad assomigliare molto ad accordi di outsourcing. Ha senso: si sta delegando l’azione, non l’analisi.

La maggior parte dei responsabili degli acquisti ormai non si chiede più se utilizzare agenti IA. La domanda più seria è come fidarsi degli agenti IA entro i limiti d’impresa, come concedere loro lo spazio sufficiente perché siano utili pur conservando un controllo sufficiente da garantire l’accountability. 

Il problema della governance è questo, e la maggior parte delle organizzazioni non ha ancora una risposta adeguata.

Che cosa significa “governance” per gli agenti IA

Il termine “governance” viene usato in modo approssimativo nel settore delle tecnologie per l’e-procurement. In questo contesto ha un significato specifico: è un modello operativo integrato nel modo in cui gli agenti funzionano. Non è un documento di politica aziendale. Non è una casella da spuntare per la conformità. È un valore applicato di continuo e automaticamente a livello di piattaforma.

La corretta realizzazione della governance poggia su quattro pilastri:

Controllo degli accessi 

Riguarda ciò che ogni agente può visualizzare. Un agente che opera per conto di un responsabile di categoria dovrebbe poter visualizzare quello che tale responsabile è autorizzato a vedere, cioè le sue categorie, i suoi fornitori, i suoi contratti. I controlli di accesso basati sui ruoli per gli agenti IA dovrebbero rispecchiare le strutture di autorizzazione già in vigore per gli utenti umani. Se l’intelligenza artificiale applicata al procurement non adotta questo principio a livello di piattaforma, ogni agente diventa una potenziale esposizione al rischio dei dati.

Limiti decisionali 

Riguardano ciò che l’agente può fare autonomamente. Può approvare un ordine di acquisto al di sotto di una certa soglia? Può raccomandare un fornitore ma non selezionarlo? Può eseguire una verifica a tre vie su una fattura ma segnalare le eccezioni? Questi devono essere vincoli applicabili, non semplici linee guida. Senza limiti chiari, l’autonomia è solo un’esecuzione incontrollata.

Verificabilità 

Riguarda la tracciabilità delle azioni e del ragionamento. Ogni azione dell’agente, ogni dato consultato, ogni strumento utilizzato, ogni decisione presa dovrebbero essere registrati. Non solo il risultato finale, anche la sequenza di ragionamento. Quando un direttore finanziario o un revisore chiede perché l’agente abbia raccomandato un determinato fornitore, la risposta deve essere tracciabile. Non “il modello ha determinato…”, ma una catena concreta di dati, logica e autorizzazioni.

Analisi continua 

Riguarda cosa succede dopo l’implementazione. Un agente che funziona bene il primo giorno può peggiorare man mano che i dati cambiano, le policy evolvono o casi limite si accumulano. La governance non è un ostacolo da superare una volta per tutte. È un monitoraggio continuo dell’accuratezza, delle derive e delle prestazioni.

L’accountability umana è l’architettura, non un’impostazione

Qui la questione si fa concreta.

Alcuni vendor trattano la governance come una configurazione. Propongono cursori per indicare i livelli di autonomia, interruttori per le approvazioni con intervento umano e dashboard per il monitoraggio. 

Sulle prime sembra che abbia senso, in realtà fa ricadere sull’utente tutto l’onere di individuare le impostazioni corrette, mantenerle al passo con l’evoluzione dei processi e rispondere delle conseguenze quando qualcosa va storto. 

Se la governance fallisce, la domanda diventa “perché l’hai configurato in quel modo?” anziché “perché la piattaforma lo ha permesso?”

Esiste un modello migliore, cioè rendere strutturale l’accountability umana. Per impostazione predefinita, ogni azione di un agente è attribuibile a una persona specifica. Quando un agente opera in una chat eredita le autorizzazioni dell’utente che lo ha attivato e non può superarle. 

Quando opera in modo autonomo in un workflow o in background, ha comunque un utente di riferimento, di cui rispetta i livelli di autorizzazione e a cui si rivolge per le decisioni che richiedono l’intervento umano. Non esiste una modalità in cui l’agente operi senza una persona responsabile del risultato.

In pratica, il processo si articola su tre livelli di autonomia:

1. Assistenza: l’agente svolge il lavoro di ricerca, analisi e formulazione di raccomandazioni. L’operatore umano esamina i risultati e decide. Un agente potrebbe individuare i primi tre fornitori per un evento di sourcing, fornendo una motivazione completa del punteggio assegnato. La decisione spetta al category manager.
2. Esecuzione: l’agente agisce nel rispetto delle regole e dei parametri già approvati da un operatore umano. Il team della contabilità fornitori imposta le tolleranze di corrispondenza a tre vie e le soglie di eccezione. L’agente elabora tutto quanto rientra in tali tolleranze. Le eccezioni vengono inoltrate a una persona. I parametri sono frutto di decisioni umane. Il contributo dell’agente è la velocità di elaborazione.
3. Orchestrazione: l’agente coordina workflow in più fasi con punti di controllo umani nelle fasi critiche. Un evento di rischio relativo a un fornitore induce l’agente a individuare i contratti interessati, identificare fornitori alternativi e redigere un piano di mitigazione. Il responsabile degli acquisti esamina e approva ogni fase prima che l’agente passi a quella successiva.

A ogni livello, c’è qualcuno di accountable. Autonomia governata non significa escludere le persone dal procurement ma dare loro più potere mantenendole al comando. È proprio questo che distingue l’intelligenza artificiale negli acquisti (che è davvero scalabile), dall’IA agentica che si arena perché la leadership non si fida.

Perché gli agenti black-box non sopravviveranno nel procurement aziendale

Le decisioni relative agli acquisti incidono su spesa, margini, rapporti con i fornitori, obblighi contrattuali, impegni ESG e conformità normativa. 

Quando un agente IA prende o influenza una decisione in una di queste aree, l’organizzazione deve comprenderne il motivo. Dire “Ha deciso l’IA” non reggerà in una revisione trimestrale, in un audit di conformità o in una controversia con un fornitore.

Quello che regge è uno standard di trasparenza chiaro.

Risultati spiegabili. Raccomandazioni, segnalazioni di rischio e punteggi dei fornitori dovrebbero essere accompagnati dai dati, dal contesto e dal ragionamento che li hanno generati, non da un generico punteggio di affidabilità. La spiegazione dovrebbe utilizzare i termini del procurement, con ripartizione dei costi totali, segnali di rischio, cronologia delle prestazioni, stato di conformità contrattuale.

Catene decisionali tracciabili. Ogni fase del ragionamento dell’agente dovrebbe essere registrata: a quali dati si è avuto accesso, quali strumenti sono stati utilizzati, quale contesto è stato applicato, quali autorizzazioni hanno regolato l’azione. Serve tutta la catena, non un riassunto a posteriori.

Registri delle azioni contestualizzate. Non basta sapere cosa ha fatto l’agente, ma anche quando, per conto di chi, con quali autorizzazioni e in base a quale stato dei dati. Questo è il procedimento di controllo di cui l’ufficio legale e conformità hanno davvero bisogno.

Capacità di riproduzione. Se una decisione viene messa in discussione, l’organizzazione dovrebbe poter riprodurre il ragionamento dell’agente con gli stessi input e verificare se l’output è riproducibile. Se non è riproducibile, non è verificabile, e se non è verificabile, non supererà un esame approfondito.

Percorsi di escalation definiti. Quando un agente incontra ambiguità, dati contrastanti o una decisione che esula dai propri limiti, dovrebbe escalare la questione a personale umano. Non deve tirare a indovinare, né deve optare per la risposta più probabile. Deve escalare, fornendo il contesto, alla persona giusta.

Creare e far evolvere agenti di cui ci si può fidare

La governance non si esaurisce con l’implementazione. Un agente IA non è un software che si configura una volta per tutte e poi si mette in funzione. È una funzionalità che richiede una gestione continua, ma la maggior parte delle organizzazioni sottovaluta questo aspetto.

Il ciclo di vita è semplice:

1. Creazione o configurazione : si parte da funzionalità predefinite oppure si configurano gli agenti per workflow specifici. Gli uffici acquisti dovrebbero poter definire cosa fanno gli agenti. Il reparto IT dovrebbe mantenere il controllo centralizzato su autorizzazioni, accesso ai dati e selezione dei modelli di linguaggio (LLM). Entrambe le parti devono essere coinvolte e nessuna delle due dovrebbe costituire un collo di bottiglia.
2. Testare in base ai KPI di accuratezza: prima di entrare in contatto con i dati di produzione, un agente deve essere testato. Qual è il tasso di accuratezza nella riconciliazione delle fatture? In che misura la raccomandazione sui fornitori è in linea con la strategia di categoria in atto? Testare prima della produzione non è una best practice, è il minimo indispensabile.
3. Implementare con misure di sicurezza: l’implementazione iniziale dovrebbe essere prudente, e partire con approvazione umana obbligatoria per le azioni di maggior impatto, limiti decisionali più severi di quanto si pensi sia necessario e un monitoraggio più attento. Le restrizioni si potranno allentare man mano che cresce la fiducia. Non è possibile riparare i danni causati da un’azione troppo affrettata.
4. Monitorare di continuo: l’accuratezza può variare con l’evolversi dei mercati dei fornitori, l’adeguamento delle strategie di categoria o le fluttuazioni nella qualità dei dati. L’agente che ha funzionato bene nel primo trimestre potrebbe necessitare di una ricalibrazione nel terzo. Il monitoraggio continuo rende affidabile nel tempo l’intelligenza artificiale nell’orchestrazione degli acquisti.
5. Perfezionare e iterare: in base ai dati sulle prestazioni, effettuare modifiche come restringere o ampliare i limiti, introdurre nuove competenze, aggiornare le soglie, ampliare o limitare l’accesso ai dati. Non è un’operazione una tantum. Le migliori implementazioni dell’intelligenza artificiale sono quelle in cui il team considera le performance degli agenti alla stregua di quelle dei fornitori, ovvero come un aspetto da gestire attivamente.

Il punto non è centralizzare tutto lo sviluppo degli agenti nell’IT, ma fornire agli uffici acquisti strumenti concreti per sviluppare e perfezionare le funzionalità mentre il sistema di governance garantisce che nulla vada fuori controllo. 

L’ufficio acquisti conosce i workflow. L’IT conosce i requisiti di sicurezza e conformità. La piattaforma dovrebbe servire entrambe le parti senza costringere nessuna delle due ad attendere.

Il problema della proliferazione degli agenti: perché più agenti significa più rischi

C’è una dimensione della governance che la maggior parte delle discussioni sull’intelligenza artificiale nel procurement trascura completamente.

Molti vendor hanno reagito alla tendenza dell’IA agentica lanciando sul mercato un numero maggiore di agenti. Un agente per il sourcing. Un agente per i contratti. Un agente per il rischio fornitori. Un agente per la fatturazione. Un agente per l’analisi della spesa. 

Ognuno con le proprie connessioni ai dati, il proprio modello di autorizzazioni, il proprio audit trail (o la sua assenza) e i propri requisiti di governance.

Anche all’interno di un’unica suite S2P, questo rappresenta un problema di governance. Quando cinque o dieci agenti hanno ciascuno ambiti di accesso diversi, limiti decisionali diversi e strutture di accountability diverse, la governance diventa un mosaico eterogeneo. 

Chi è responsabile quando l’agente per il sourcing e l’agente per la gestione dei rischi si contraddicono a vicenda? Quali autorizzazioni prevalgono quando un agente ne attiva un altro? Come si verifica una catena decisionale che coinvolge tre diversi agenti con tre diversi meccanismi di registrazione?

La situazione peggiora quando tali agenti si basano su dati frammentati, come succede per la maggior parte di loro. A questo punto ci sono più agenti che prendono decisioni indipendenti partendo da visioni parziali della stessa realtà. 

Ogni agente è gestito individualmente, ma manca una gestione delle loro interazioni. È proprio in quella lacuna che si annidano i fallimenti della governance.

L’alternativa è di natura architettonica, ossia un unico agente con accesso all’intera piattaforma, disciplinato da un solo modello di autorizzazioni, che registra in un unico audit trail. Un unico framework di autorizzazioni. 

Un unico modello di accountability. Un unico punto di riferimento quando è necessario verificare una decisione. Non perché la semplicità sia un fine in sé, ma perché la governance su larga scala richiede coerenza, e la proliferazione degli agenti è l’opposto della coerenza.

Cinque domande sulla governance che ogni CPO dovrebbe farsi

Prima di investire in agenti IA per gli acquisti, analizza la governance con lo stesso rigore che applichi alle funzionalità. Queste cinque domande ti diranno se un’implementazione ti farà scalare o rallentare:

1. Posso vedere a quali dati accede ciascun agente? 

Se non puoi definire e verificare l’ambito dei dati per ciascun agente, non puoi applicare la governance dei dati. Ogni agente dovrebbe operare entro un confine chiaramente definito e basato sulle autorizzazioni.

2. C’è una persona specifica a cui attribuire l’accountability per ogni azione dell’agente? Non nel senso che “una persona possa controllarla se lo desidera”, ma nel senso che ci sia una persona specifica responsabile del risultato, sempre e in ogni caso. Non dovrebbe esistere alcuna possibilità che l’agente operi senza tale accountability.

3. Ogni azione è registrata e verificabile? L’audit trail dovrebbe documentare cosa ha fatto l’agente, quando, per conto di chi, con quali dati e seguendo quale ragionamento. Tracce parziali significano governance parziale.

4. Posso testarne l’accuratezza prima dell’implementazione? Gli agenti dovrebbero essere sottoposti a test in scenari di procurement reali prima di essere implementati nella versione definitiva. Se il vendor non è in grado di offrire test prima dell’implementazione, è un segnale che la dice lunga su come è stato realizzato il prodotto.

5. Gli uffici acquisti possono creare o modificare gli agenti senza generare un’IA ombra? Il procurement deve poter perfezionare ed estendere le funzionalità dell’intelligenza artificiale. Ma se ciò avviene al di fuori di un quadro regolamentato, senza un accesso ai dati monitorato o un procedimento di controllo, si crea un’IA ombra. La piattaforma dovrebbe consentire al contempo autonomia e controllo.

Caso di studio: come Körber sta scalando l’IA con la governance al primo posto

Il gruppo tecnologico globale Körber sta testando con successo un progetto pilota di Ivalua IVA mettendo la governance al centro già dall’inizio.

Il modello è illuminante. Anziché implementare l’IA con un approccio top-down e definire la governance in un secondo momento, Körber ha invitato gli utenti a proporre casi d’uso, li ha valutati uno per uno alla luce dei requisiti di governance e selezionato solo quelli conformi agli standard. È un sistema basato sulla fiducia anziché su imposizioni.

“Abbiamo iniziato a utilizzare l’IA nel 2023. Attualmente stiamo conducendo un progetto pilota di grande successo con l’IVA di Ivalua. Ai nostri utenti stiamo chiedendo soprattutto di proporre casi d’uso, e quelli che ci arrivano più spesso in questo momento sono casi d’uso del tipo ‘Automazione’ e ‘Analisi’.” — Jan Van Hueth, Senior Project Manager, Körber

La governance non rallenta l’adozione dell’intelligenza artificiale, ne assicura il successo. Quando gli utenti sanno che la piattaforma garantisce il rispetto dei limiti, registra le azioni e assicura l’accountability umana, tendono a fidarsi. Quando la fiducia manca, oppongono resistenza, a prescindere dalla bontà della tecnologia.

Leggi tutto il caso studio: Körber apre la strada all’IA responsabile e all’automazione degli acquisti con Ivalua

Conclusione: la governance consente di scalare

La governance non è una limitazione, è il motore che permette all’intelligenza artificiale di scalare. Senza governance, i responsabili degli acquisti non si fideranno delle azioni degli agenti. Senza fiducia, non c’è adozione e l’investimento non ripaga.

Le organizzazioni che gestiscono correttamente questo aspetto sono quelle capaci di dimostrare, in qualsiasi momento, che ogni azione dell’intelligenza artificiale è stata autorizzata, è tracciabile, verificabile e allineata alle politiche aziendali. Questa capacità di “dimostrazione” permette il passaggio dal progetto pilota all’implementazione a livello d’impresa.

La governance stabilisce cosa gli agenti sono autorizzati a fare, mentre le skill ne definiscono le capacità operative. Il prossimo articolo di questa serie parlerà di come gli uffici acquisti sviluppano le funzionalità IA effettivamente necessarie e spiegherà perché il futuro è delle organizzazioni che considerano l’IA per il procurement come una capacità operativa dell’azienda, non come un prodotto da acquistare.

---