Dalla riduzione dei bias cognitivi al concetto di appropriate reliance: ricerche, esperimenti e casi pratici mostrano come l’AI possa supportare leader e manager nelle decisioni, a patto di non delegare mai la responsabilità.
Prendere decisioni è l’essenza stessa dell’essere leader e manager in aziende e organizzazioni. Secondo una ricerca, il decision making occupa in media circa il 40% del tempo di figure senior executive.
Non è semplice decidere in un contesto così incerto e frammentato come quello attuale e questa difficoltà impatta sia sulle persone, in termini di fatica cognitiva (decision fatigue), sia sulle aziende: decisioni sbagliate possono infatti comportare un costo molto alto, in termini economici, legali, etici e reputazionali.
La progressiva adozione dell’intelligenza artificiale in azienda ha però offerto a leader e manager un aiuto importante per prendere decisioni più informate, data-driven ed efficaci: in una parola, migliori.
Lo rivela, tra gli altri, un recente rapporto di Capgemini Research Institute, secondo cui oltre la metà degli intervistati – un campione di dirigenti C-level e Ceo di primarie aziende – ha riportato vantaggi significativi dall’utilizzo dell’AI come supporto nel decision making in termini di riduzione dei tempi e dei costi necessari per prendere decisioni, miglioramento della capacità di previsione e della creatività.
Altri esperimenti e casi pratici dove l’AI è stata applicata al decision making, sia in ambito quotidiano sia in ambiti specialistici come il contesto medico, confermano l’importanza di “incorporare” l’intelligenza artificiale nel processo decisionale, ma al tempo stesso sottolineano alcuni caveat.
Il principale è una sorta di mantra che molti esperti ripetono a proposito dei tool di AI e AI generativa: è fondamentale non delegare completamente le decisioni all’AI.
Non è solo un problema di fallibilità: anche gli esseri umani sbagliano (e in alcuni casi anche più dell’AI). È, soprattutto, un tema di responsabilità: l’AI non è e non può essere ritenuta responsabile di decisioni sbagliate, al contrario degli esseri umani.
Vediamo allora nel dettaglio alcuni di questi studi e casi pratici che mostrano come l’AI sta ridefinendo il decision making.
In sintesi. L’AI può rendere il decision making più veloce, più informato e meno distorto dai bias cognitivi. Ma solo a determinate condizioni. Questo articolo analizza in particolare tre fonti: un esperimento del Behavioural Insights Team, un report Capgemini su executive C-level, e la ricerca del professor Federico Cabitza in ambito medico. Il quadro che emerge è coerente: l’AI è uno strumento potente, ma il suo valore dipende da come viene integrata nel processo decisionale e dal modo con cui il decisore umano fa affidamento su queste tecnologie.
Uno degli esperimenti più rigorosi sull’impatto dell’AI sul decision making quotidiano è stato condotto dal Behavioural Insights Team (BIT), la cosiddetta nudge unit nata nel 2010 in seno al governo britannico. Il BIT ha coinvolto circa 4.000 adulti tra Regno Unito e Stati Uniti, sottoponendoli a una serie di scenari decisionali classici – con o senza il supporto di un large language model (LLM).
L’obiettivo: capire se e come l’AI riesce a contrastare i principali bias cognitivi che distorcono le nostre scelte. I risultati sono stati in gran parte positivi, ma con una significativa eccezione.
In presenza di bias come il sunk cost fallacy (la tendenza a continuare a investire in qualcosa solo perché lo si è già fatto), l’outcome bias (giudicare una decisione sbagliata solo perché è andata male, a prescindere dalla sua logica al momento della scelta) e l’anchoring (l’influenza sproporzionata del primo dato che riceviamo), l’assistenza di un LLM ha ridotto significativamente gli errori.
Le persone si sono dimostrate meno inclini a restare ancorate a investimenti in perdita, meno influenzate da numeri arbitrari, più capaci di valutare le decisioni per come erano state prese e non per come erano andate a finire.
In uno scenario legato all’effetto decoy – la tendenza a scegliere un’opzione che sembra conveniente perché posta accanto a un’alternativa volutamente meno attraente – l’LLM ha amplificato il bias invece di ridurlo. Più partecipanti nel gruppo con supporto AI hanno scelto l’opzione “trappola” rispetto al gruppo di controllo.
Ne deriva un promemoria importante: l’AI non è neutrale, e il suo effetto dipende in modo critico da come viene progettata e integrata nel processo decisionale.
Un’altra variabile rilevante emersa dall’esperimento riguarda il design dell’interazione: il gruppo a cui veniva proposta un’AI che rispondeva con domande di riflessione (invece di dare risposte dirette) ha mostrato risultati migliori nella qualità delle scelte. Coinvolgere attivamente il ragionamento dell’utente, anziché sostituirlo, fa la differenza.
Se l’esperimento del BIT si concentra sulle decisioni quotidiane, la già citata ricerca del Capgemini Research Institute sposta lo sguardo sulla C-suite aziendale. Il report Inside the C-suite: How AI is quietly reshaping executive decisions si basa su un’indagine condotta su 500 executive C-level – tra cui 100 CEO – di aziende con fatturato superiore ai 10 miliardi di dollari, distribuite in 16 Paesi e 13 settori.
Il quadro che emerge è quello di un’adozione ancora selettiva, ma con benefici già tangibili per chi usa l’AI in modo strategico.
Oggi 1 CXO (termine che nella ricerca indica qualsiasi figura C-level) su 6 usa l’AI attivamente nel processo decisionale strategico. Nei prossimi tre anni questo numero sarà più che raddoppiato. Il 41% dei CEO sta già sperimentando l’AI nel decision making – la quota più alta tra tutti i gruppi di leadership.
Oltre la metà dei CXO che utilizza l’AI a supporto dei propri processi decisionali riporta miglioramenti significativi. Le aree in cui l’AI produce i vantaggi più consistenti includono:
Un dato particolarmente rilevante riguarda la differenza tra chi usa l’AI come strumento di produttività (per email, sintesi, note) e chi la usa per sfidare e potenziare (challenge) il proprio pensiero strategico. Questi ultimi ottengono risultati fino a 1,7 volte superiori in termini di qualità delle decisioni e foresight. Il valore maggiore, insomma, non viene dall’automazione delle attività di routine, ma dall’ingaggio dell’AI come vero sparring partner cognitivo.
Nonostante i benefici, il report Capgemini mette in evidenza un nodo critico che molte organizzazioni faticano ancora ad affrontare: la governance. La maggior parte delle aziende non dispone dei framework, dei sistemi e dei processi necessari per aiutare i propri leader a integrare l’AI in modo responsabile e consapevole. Con una conseguenza concreta: molti CXO usano l’AI nel decision making in modo informale e non dichiarato, senza che l’organizzazione ne abbia piena visibilità o controllo.
I numeri confermano questa percezione diffusa di inadeguatezza: due terzi dei CXO affermano che framework di governance e accountability più chiari li aiuterebbero a sfruttare meglio l’AI nelle proprie scelte strategiche. Le preoccupazioni più citate riguardano i rischi legali, la scarsa esplicabilità dei processi decisionali assistiti dall’AI e la qualità dei dati su cui questi si basano.
Non a caso, la prima delle cinque raccomandazioni del report è proprio quella di rivedere i framework di governance e accountability in vista dell’era agentiva: un segnale che la questione non è più rinviabile.
Nonostante i benefici, il report è esplicito: solo l’1% dei CXO ritiene che l’AI possa prendere decisioni strategiche in modo autonomo nel prossimo futuro. La direzione è quella di una collaborazione, non di una delega. Come sintetizza il CMO di GE Healthcare Simon Rost: adottare un approccio human-in-the-loop è essenziale – l’AI aiuta a muoversi più velocemente e con maggiore intelligenza, ma la responsabilità finale deve restare in capo a un leader umano.
Un’ulteriore conferma dell’importanza di integrare l’AI nel processo decisionale – e dei rischi di farlo in modo non consapevole – arriva dal lavoro di ricerca del professor Federico Cabitza, ingegnere e ricercatore specializzato nell’interazione uomo-AI, con un focus particolare sull’ambito diagnostico medico.
Il contesto sanitario rappresenta un laboratorio estremo per studiare il decision making assistito dall’AI: le decisioni sono ad alta complessità, spesso prese in condizioni di incertezza, e hanno conseguenze dirette e potenzialmente irreversibili sulle persone. Proprio per questo, è uno degli ambiti in cui il rapporto tra giudizio umano e supporto algoritmico è stato analizzato con maggiore profondità.
Come ha raccontato Cabitza durante un evento tenuto nella Independent design company logotel, negli ultimi tre anni il professore e il suo team hanno condotto studi su 16.641 casi diagnostici in 6 contesti clinici diversi, coinvolgendo 330 medici. I risultati mostrano che nel 7% dei casi l’AI ha fatto cambiare idea al medico. Ma il dato più interessante non è tanto se l’AI influenzi la decisione, quanto come lo fa.
Quando l’AI interviene nel processo decisionale, gli effetti non sono uniformi. In poco più di un quarto dei casi in cui il medico ha modificato la propria valutazione sulla base del suggerimento dell’AI, la decisione finale è peggiorata: un fenomeno noto come automation bias, cioè la tendenza ad attribuire un’eccessiva fiducia all’output del sistema automatico, anche quando sarebbe opportuno metterlo in discussione.
In quasi il 60% dei casi, invece, la performance decisionale è migliorata: l’AI ha aiutato il medico a riconsiderare ipotesi, individuare segnali trascurati o correggere valutazioni iniziali errate.
La differenza non sta nella tecnologia utilizzata – la stessa AI può portare a esiti opposti –, ma nel modo in cui viene interpretata e integrata dal decisore umano.
È qui che entra in gioco il concetto chiave emerso dalla ricerca di Cabitza: la appropriate reliance, cioè la capacità di affidarsi all’AI nella misura giusta. Non troppo, per evitare la delega acritica. Non troppo poco, per non sprecare il valore informativo che l’AI può offrire.
Questo tema viene approfondito dallo stesso Cabitza anche in un articolo pubblicato su Weconomy 17 – XXL Expectations, ultimo numero del progetto di ricerca open-source di logotel, dove sposta ulteriormente il focus dall’AI come semplice strumento all’AI come interlocutore cognitivo.
Nell’articolo Interagire con l’AI per (ri)scoprire il piacere dell’incompletezza, Cabitza osserva come alcune delle interazioni più promettenti emergano quando l’AI non è vissuta come un sistema che “fornisce risposte”, ma come un soggetto con cui instaurare una vera e propria dialettica. Un medico che chiede a un sistema “perché hai proposto questa diagnosi?”, o un insegnante che esplora insieme all’AI modi diversi di spiegare lo stesso concetto a studenti con caratteristiche differenti.
In questi casi, sottolinea Cabitza, non c’è solo uso della tecnologia, ma confronto, allineamento progressivo e apprendimento reciproco.
Per rendere questa interazione più consapevole e meno ambigua, Cabitza propone cinque protocolli di interazione con l’AI, utili anche in ambito organizzativo per chiarire ruoli, aspettative e responsabilità nel processo decisionale:
Questi protocolli non sono semplici modalità operative, ma veri e propri dispositivi di governance cognitiva: aiutano a evitare sia l’automation bias sia il rifiuto pregiudiziale dell’AI, creando le condizioni per una reliance appropriata e situata. Ancora una volta, il punto non è quanto l’AI sia “intelligente”, ma quanto il decisore umano sia in grado di usarla come leva per migliorare il proprio pensiero.
I dati convergono verso una direzione chiara. L’AI può aiutarci a prendere decisioni migliori: più veloci, meglio informate, meno distorte dai bias cognitivi, più aperte a scenari alternativi. Ma lo fa solo a determinate condizioni.
In un contesto di crescente complessità e pressione decisionale, l’AI si conferma uno strumento potente. Ma da grandi poteri derivano grandi responsabilità, per fare una citazione cinematografica. E, come ogni strumento potente, il suo valore dipende da chi lo usa e da quanto consapevolmente lo fa.
In che modo l’AI può migliorare il decision making aziendale? L’AI supporta il processo decisionale riducendo i tempi e i costi delle decisioni, migliorando la capacità previsionale e aiutando a identificare bias cognitivi come il sunk cost fallacy e l’anchoring. Secondo il report Capgemini, oltre la metà dei C-suite executive che usa l’AI nel decision making riporta benefici significativi, soprattutto quando la usa come interlocutore strategico piuttosto che come semplice strumento di produttività.
Quali sono i rischi dell’AI nel processo decisionale? Il principale rischio è l’automation bias: la tendenza ad affidarsi acriticamente all’output dell’AI, anche quando sarebbe necessario metterlo in discussione. La ricerca del professor Federico Cabitza in ambito medico mostra che in oltre un quarto dei casi in cui un medico ha cambiato valutazione sulla base del suggerimento dell’AI, la decisione finale è peggiorata. Un altro rischio rilevante riguarda la governance: molte organizzazioni non dispongono ancora di framework adeguati per rendere l’uso dell’AI nel decision making trasparente e responsabile.
Cos’è l’appropriate reliance nell’uso dell’AI? È il concetto, sviluppato dal professor Federico Cabitza, che indica la capacità di affidarsi all’AI nella misura giusta: né troppo, per evitare la delega acritica, né troppo poco, per non sprecare il valore informativo che l’AI può offrire. È considerata la competenza chiave per integrare efficacemente l’intelligenza artificiale nel processo decisionale.
L’AI può prendere decisioni strategiche al posto dei manager? No. Secondo il report Capgemini, solo l’1% dei C-suite executive ritiene che l’AI possa prendere decisioni strategiche in modo autonomo nel prossimo futuro. La direzione indicata dagli esperti è quella di una collaborazione human-in-the-loop, in cui l’AI supporta e potenzia il giudizio umano, ma la responsabilità finale resta sempre in capo a un decisore umano.
Come si può usare l’AI in modo più consapevole nel decision making? Il professor Cabitza propone cinque protocolli di interazione con l’AI: esplorativo (generare alternative), verificativo (controllare ipotesi), delegativo (affidare attività circoscritte), interrogativo (chiedere spiegazioni al sistema) e dialogico (scambio iterativo per stimolare riflessione e apprendimento). Questi protocolli aiutano a evitare sia l’automation bias sia il rifiuto pregiudiziale dell’AI.
Scalare l’AI in azienda: le tre barriere principali e come superarle
Gen AI, Multimodal AI, Embodied AI: il futuro dell’intelligenza artificiale nelle aziende
“Con il Dojo superiamo i limiti del training tradizionale sull’AI”: intervista a Claudio Magni di Italgas
Decision intelligence: come l’AI sta trasformando i processi decisionali aziendali
