Gestione dei rischi dell’IA agentica negli acquisti: una guida completa

L’intelligenza artificiale generativa (GenAI) sta rapidamente trasformando il procurement, ma introduce anche una nuova problematica, cioè la gestione dei rischi legati all’IA generativa. Questa disciplina consiste nell’identificare, governare e attenuare i rischi relativi a dati, modelli, processi e persino fornitori interessati dai workflow basati sull’IA. Per un CPO che deve prendere decisioni di grande impatto, rispettare severi requisiti di conformità e allo stesso tempo contenere al massimo l’esposizione al rischio dei fornitori, è fondamentale comprendere i rischi e gestirli in modo responsabile. Solo così potrà trarre vantaggio dai benefici offerti dalla GenAI.

Questa guida spiega come si presentano i rischi della GenAI in ambienti di procurement reali e come è possibile creare le strutture necessarie per controllarli. Identifica le principali categorie di rischio da monitorare, i modelli di governance che supportano un’implementazione sicura e le funzionalità di base imprescindibili. Nella guida troverai anche un caso di successo reale e una pratica sezione di domande frequenti. Sotto la crescente spinta a adottare l’IA, i responsabili degli acquisti hanno bisogno di un approccio chiaro e concreto. Per iniziare, esaminiamo in che modo la GenAI crea aree di rischio nuove e più complesse rispetto agli strumenti tradizionali.

Perché l’IA generativa comporta nuovi rischi negli acquisti

Se da un lato l’IA generativa negli acquisti potenzia l’automazione e il processo decisionale, dall’altro introduce anche nuove potenziali insidie sconosciute ai sistemi tradizionali. Inoltre, l’attività di procurement è particolarmente vulnerabile a causa della natura sensibile dei dati dei fornitori e degli obblighi contrattuali in gioco. La supervisione normativa e la governance dei dati sono essenziali e devono estendersi a più funzioni.

La GenAI cambia l’equazione del rischio fornitori per gli acquisti. Se non viene controllata, può fornire risultati problematici o imprecisi, o addirittura «allucinazioni». Il comportamento dei modelli di IA è complesso, e per ottenere performance ottimali l’utente deve intervenire con prompt in tempo reale.

Man mano che vengono adottati workflow automatizzati più avanzati e articolati in più fasi, aumentano anche le opportunità relative a velocità e impatto strategico. Tuttavia, se le decisioni, le azioni e le raccomandazioni circolano senza supervisione umana tra più sistemi, è difficile garantirne la conformità e l’allineamento alle policy definite. Non basta impostare il sistema e non pensarci più, ma occorre implementare una governance rigorosa e un monitoraggio continuo.

Centralizzando i dati relativi a fornitori, contratti e performance in un unico sistema configurabile, una piattaforma unificata come Ivalua può eliminare la frammentazione che rende rischiosa la GenAI e assicurare che l’IA operi solo su dati accurati e verificati.

Per gestire questi rischi, è imprescindibile comprendere le specifiche categorie di rischio inerenti alla GenAI negli acquisti. Le analizzeremo in dettaglio nella seguente sezione.

I rischi più preoccupanti della GenAI che il procurement deve gestire

L’IA generativa amplia l’esposizione al rischio in materia di privacy dei dati, accuratezza delle decisioni, equità, sicurezza e conformità normativa. Diamo uno sguardo più da vicino a ciascuna di queste categorie di rischio.

Privacy dei dati e riservatezza dei fornitori

Se non è disciplinata adeguatamente, la IA generativa applicata al procurement può portare alla divulgazione accidentale dei dati dei fornitori. Questo rischio è conosciuto come fuga di modelli: le informazioni sensibili, cioè, vengono assorbite da un modello di IA e poi rivelate nei risultati.

I dati dei fornitori sono particolarmente sensibili perché spesso riguardano pricing, contratti, dettagli sulla performance e informazioni sulla conformità. In assenza di controlli rigorosi, si potrebbe verificare un caso simile all’incidente avvenuto alla Samsung, quando alcuni dipendenti hanno erroneamente inserito dati protetti in strumenti di IA esterni, mettendo a rischio l’organizzazione.

L’ambiente dati unificato di Ivalua riduce drasticamente questo rischio perché i dati dei fornitori rimangono dentro un’anagrafica sicura e controllata tramite autorizzazioni. Le funzionalità della GenAI di Ivalua operano all’interno di un ecosistema protetto, in cui i dettagli sensibili non escono mai dalla piattaforma né trapelano in sistemi non controllati.

Da qui emerge un’altra criticità grave: il rischio operativo di inserire informazioni errate o risultati fuorvianti (allucinazioni) nei workflow dell’ufficio acquisti. Errori che possono ripercuotersi sulle decisioni e amplificare il rischio legato ai fornitori.

Allucinazioni e disinformazione nel sourcing e nella stipula dei contratti

Quando produce allucinazioni, la GenAI può introdurre rischi operativi severi. Parliamo di allucinazioni quando l’IA genera risultati imprecisi o inventati.

Le allucinazioni possono distorcere le analisi dei fornitori o falsare le valutazioni dei rischi. Di fatto, recenti sondaggi su rischio e conformità hanno dimostrato che le allucinazioni sono una delle principali preoccupazioni nell’adozione dell’intelligenza artificiale.

Per questa ragione è indispensabile implementare revisioni umane e vincoli nei workflow, perché queste strategie di contenimento dei rischi aiutano a convalidare le raccomandazioni generate dall’IA prima che influenzino il processo decisionale.

Senza dati unificati e di alta qualità, tuttavia, è impossibile eseguire tali revisioni e workflow. Quando la GenAI opera sulle clausole contrattuali strutturate di Ivalua, sull’acquisizione dei dati fattura, sui dati di spesa convalidati e sulle schede fornitore controllate mediante autorizzazioni, si avvale di una fonte unica dei dati, riduce la disinformazione e rafforza la gestione del rischio.

Le allucinazioni, però, sono solo uno dei modi in cui la GenAI può accrescere il rischio; i preconcetti sono un’altra delle sue criticità.

Preconcetti, equità e selezione dei fornitori

Anche se involontariamente, l’intelligenza artificiale può rafforzare preconcetti storici che influiscono sulla selezione dei fornitori, in particolare quando i modelli apprendono da dati di addestramento distorti o incompleti.

La parzialità può minare gli obiettivi di diversificazione dei fornitori ed esporre l’organizzazione al rischio di non conformità normativa e a multe. Per questo, Gartner sottolinea l’importanza dell’equità come rischio centrale dell’IA in tutti i settori.

In quest’ottica, è fondamentale mettere in atto pratiche ben strutturate per il rilevamento dei preconcetti, test di equità e analisi anonimizzate. Ivalua ha risposto a questa esigenza fornendo dati completi e coerenti sulle performance e sulla conformità dei fornitori, tutti raccolti in un unico spazio. In questo modo l’intelligenza artificiale dispone di un’infrastruttura bilanciata e riduce i pregiudizi strutturali nei workflow di valutazione o di raccomandazione.

Anche la spiegabilità è essenziale. I dati di addestramento possono distorcere le raccomandazioni, vanificando gli obiettivi di diversificazione dei fornitori o attirando l’attenzione delle autorità di regolamentazione. Ponendo l’accento sull’equità nei test, Ivalua contribuisce a eliminare i preconcetti strutturali nei casi d’uso relativi al punteggio e alle raccomandazioni dei fornitori, migliorando i risultati della GenAI.

Oltre ai preconcetti, è importantissimo anche gestire il rischio di decisioni non spiegabili.

Falle nella spiegabilità e nella verificabilità

Nel procurement, le decisioni si basano sulla tracciabilità. Tuttavia, la GenAI può comportare rischi di non conformità quando il suo ragionamento è opaco o difficile da convalidare.

In contesti in cui gli audit, le controversie con i fornitori e la rendicontazione normativa sono all’ordine del giorno, i risultati di tipo black box non sono semplicemente compatibili con i requisiti di trasparenza.

Una governance efficace dei modelli prevede l’utilizzo di schede dei modelli, registri delle decisioni e spiegabilità per illustrare in che modo un modello di IA sia giunto a una decisione o a una raccomandazione. Per mantenere la trasparenza end-to-end, è inoltre necessario implementare workflow strutturati.

Ivalua soddisfa questi requisiti tramite la registrazione automatica di ogni approvazione, modifica dei dati o evento di sourcing e in questo modo garantisce risultati generati dall’IA altamente trasparenti e verificabili.

Anche la mancanza di spiegabilità può aumentare il rischio di non conformità. Nella seguente sezione, vedremo in che modo gli uffici acquisti possono rafforzare trasparenza e controllo.

Sicurezza informatica, deepfake e frodi

La GenAI può agevolare le minacce informatiche, come le frodi nel procurement perpetrate tramite deepfake e il phishing mirato basato sull’intelligenza artificiale. Questi vettori di frode sfruttano il ruolo dell’ufficio acquisti per accedere ai sistemi finanziari. Recenti casi di frodi basate sui deepfake e le linee guida governative mettono in luce la crescente preoccupazione in tutto il settore pubblico.

La verifica a più fattori e i modelli di sicurezza “zero-trust” possono aiutare a prevenire azioni non autorizzate. Le procedure Ivalua di approvazione in più passi, l’accesso basato sui ruoli e i rigorosi controlli delle anagrafiche fornitori, per esempio, contribuiscono a garantire che la GenAI non inneschi modifiche critiche, quali aggiornamenti dei dati bancari o variazioni agli ordini di acquisto, senza un intervento umano verificato.

Con l’aggravarsi di questi rischi informatici, è importante prepararsi a rispettare gli obblighi normativi e di conformità relativi all’utilizzo dell’IA.

Esposizione al rischio normativo e di conformità

Le normative in materia di IA cambiano rapidamente e il procurement è soggetto a classificazioni ad alto rischio previste dalla legge UE sull’intelligenza artificiale che impone documentazione rigorosa, supervisione umana e audit continuo. Standard internazionali come il NIST AI Risk Management Framework e le linee guida ISO, inoltre, rendono indispensabili una compliance normativa strutturata e una solida gestione della conformità.

È pertanto indispensabile disporre di modelli di governance per garantire la tracciabilità e l’allineamento alle policy di ogni azione assistita dall’IA. I workflow configurabili, i registri degli eventi verificabili e i controlli sulle policy applicabili di Ivalua possono contribuire a garantire che l’utilizzo della GenAI sia conforme a quanto previsto dagli standard NIST, dalla norma ISO 42001 e dall’AI Act dell’Unione europea.

Analizzeremo ora perché l’implementazione di una strategia di governance orientata al procurement rivesta un’importanza fondamentale nelle moderne organizzazioni di procurement.

Gestione responsabile della GenAI da parte dei responsabili degli acquisti

Gestire la GenAI in modo responsabile significa passare da controlli isolati a un approccio strutturato a livello di organizzazione. La sicurezza dell’IA deve essere integrata in ogni policy, workflow e decisione tecnologica.

Intelligenza artificiale coerente con la governance d’impresa

Un’efficace governance di intelligenza artificiale e acquisti dovrebbe essere ben integrata nelle prassi per la gestione del rischio attuate dai team dedicati a IT, sicurezza e conformità. Lo scopo, cioè, è conseguire un quadro di riferimento unificato per la governance, con regole, controlli e percorsi di escalation condivisi per l’utilizzo dell’IA.

Ivalua è il punto di partenza naturale perché centralizza le policy, le approvazioni e la logica delle regole degli acquisti. Può essere utilizzata per integrare e applicare la governance dell’intelligenza artificiale a livello d’impresa in tutte le fasi di sourcing, stipula dei contratti e gestione dei fornitori.

Con Ivalua è possibile stabilire un quadro di governance coerente, in linea con i più ampi programmi di gestione del rischio dell’organizzazione, e al contempo sostenere un’adozione responsabile della GenAI.

La supervisione umana là dov’è importante

Nel procurement, i workflow ad alto rischio devono essere gestiti dal personale umano. Di fatto, la supervisione “human-in-the-loop” è un requisito fondamentale per qualsiasi implementazione della GenAI.

È quindi fondamentale prevedere robuste misure di protezione per definire con chiarezza quali sono le decisioni che l’IA è autorizzata a prendere, quali raccomandazioni può fare e quali decisioni, invece, non deve mai mettere in atto senza la convalida umana.

Ivalua supporta la supervisione human-in-the-loop e consente di integrare le approvazioni del personale in qualsiasi punto del workflow. Questo sistema garantisce che la GenAI migliori l’efficienza senza aggirare i punti critici di giudizio relativi all’analisi dei fornitori, alla stipula dei contratti o alle decisioni sensibili in merito alle policy.

Mappatura dei rischi nei workflow S2P

La valutazione dei rischi per la GenAI deve essere specifica per ogni workflow perché processi come l’analisi dei contratti per mezzo dell’IA, le revisioni dei rischi dei fornitori e l’onboarding comportano un’esposizione al rischio molto maggiore rispetto alle attività a basso impatto.

A ogni workflow si dovrebbe assegnare un punteggio in base al rischio legato all’IA, tenendo conto del grado di sensibilità dei dati, della criticità delle decisioni e dei requisiti di conformità.

Con i workflow Source-to-Pay di Ivalua, completamente configurabili, gli uffici acquisti possono assegnare a ogni processo controlli IA differenti, per esempio una rigorosa supervisione per il sourcing strategico o i contratti, e controlli più leggeri per le attività a basso rischio. Questo approccio garantisce che la GenAI venga utilizzata esclusivamente in contesti a basso rischio e con una governance forte.

Accountability di fornitori e modelli

Oltre ai workflow, è importante analizzare anche i rischi dell’IA associati ai fornitori. La base per condurre un serio controllo dei rischi legati ai fornitori è quindi definire aspettative chiare circa la trasparenza dei modelli, la documentazione e la preparazione agli audit. Impostare tali requisiti è essenziale per un’efficace governance dei modelli.

Ivalua archivia internamente tutti i dati dei fornitori, i documenti contrattuali e i registri dei workflow, il che fornisce ai team piena visibilità e controllo sulle informazioni a cui l’IA può accedere. L’accountability dei fornitori e la trasparenza dei modelli, inoltre, ne vengono rafforzate.

Vediamo ora gli elementi base necessari per rendere l’IA sicura ed efficace negli acquisti: la qualità dei dati e l’orchestrazione.

Le colonne portanti di un’automazione affidabile

Dati frammentati o incongruenti aumentano il rischio legato all’IA perché alimentano allucinazioni, preconcetti e disinformazione, con la conseguenza di analisi distorte e profili di rischio dei fornitori invalidati.

Disporre di dati unificati, perciò, è importantissimo. Quando gli uffici acquisti lavorano servendosi di una fonte dei dati unica e integrata, i modelli IA poggiano su una buona base e forniscono risultati che riflettono l’accuratezza dei dati relativi alle performance dei fornitori.

In altre parole, consolidare i dati abbassa le percentuali d’errore e garantisce raccomandazioni IA in linea con le condizioni operative reali.

Meno rischi legati all’IA con l’orchestrazione

Nel moderno procurement, non è il modello LLM in sé a determinare l’affidabilità dell’IA. È l’orchestrazione.

Una buona orchestrazione regola il modo in cui i dati vengono instradati, come vengono convalidati i risultati e come viene applicata la logica multimodello per mantenere ogni azione dell’IA radicata nel contesto corretto. Questa prassi è coerente con le emergenti modalità di utilizzo dell’intelligenza artificiale agentica negli acquisti.

Il motore dei workflow Ivalua coordina ogni azione dell’IA con il contesto, le policy e le fonti di dati corretti. Applica inoltre un livello di controllo e contribuisce a garantire il funzionamento dei modelli di GenAI e di IA agentica entro limiti di procurement sicuri e predefiniti.

Un’IA agentica sicura nei workflow reali degli acquisti

L’intelligenza artificiale agentica apporta una grande autonomia multifase agli agenti AI nel procurement e nell’e-sourcing. Senza supervisione umana, tuttavia, tale autonomia implica nuovi rischi.
Gli agenti non supervisionati potrebbero avviare comunicazioni non intenzionali con i fornitori, modificare i dati contrattuali o assegnare punteggi errati nelle valutazioni di rischio. Integrando vincoli rigorosi, modelli di autorizzazione e controlli per la convalida dei dati, è possibile garantire l’esecuzione di ogni azione nel rispetto delle policy definite.

Ivalua fornisce le giuste misure di protezione, tra cui autorizzazioni basate sui ruoli, dati strutturati, fasi di convalida e vincoli dei workflow, consentendo all’intelligenza artificiale negli acquisti di automatizzare attività di procurement in più fasi senza operare al di fuori dei limiti approvati.

Esaminiamo l’esempio concreto di un’organizzazione che ha migliorato la gestione globale del rischio utilizzando i dati unificati come base per l’intelligenza artificiale negli acquisti.

Equilibrio tra innovazione e conformità: Körber riduce al minimo i rischi legati all’IA negli acquisti

Il gruppo tecnologico internazionale Körber riduce al minimo i rischi legati all’IA nelle operazioni di procurement, dando priorità all’uso etico, alla trasparenza e all’allineamento tra gli stakeholder.

Per gestire in sicurezza queste attività, l’azienda ha istituito un Consiglio etico e implementato una serie di principi guida formali sull’IA che fissano regole ferree a tutela di un’innovazione responsabile. Körber, inoltre, consolida fiducia e conformità focalizzandosi su casi d’uso dell’IA orientati al business, adottando un approccio dal basso verso l’alto e assicurando che l’intelligenza artificiale porti valore concreto senza pregiudicare la responsabilità del gruppo.

Per noi è essenziale diventare un’organizzazione competente nell’uso dell’intelligenza artificiale.

Michael Schürmann
EVP & CPO

Uffici acquisti in vantaggio competitivo con la GenAI responsabile

Un’IA responsabile non solo è realizzabile, è un aiuto preziosissimo nella gestione proattiva dei rischi grazie all’applicazione di una governance robusta, dati unificati e orchestrazione disciplinata. È compito dei responsabili degli acquisti, tuttavia, garantire un’adozione sicura, trasparente e controllata dell’intelligenza artificiale, un’adozione, cioè, capace di affiancare la reale trasformazione del procurement.

Le basi giuste consentono di ottenere efficienza e insight migliori senza mettere a repentaglio la conformità o la fiducia dei clienti.

Scopri come Ivalua può affiancare la tua organizzazione nella trasformazione degli acquisti con la GenAI e come può aiutarti a strutturare la governance, l’integrità dei dati e i controlli sui workflow necessari per una transizione sicura e scalabile verso l’IA.