La scena è straordinariamente attuale perché ci obbliga a distinguere tra una decisione tecnicamente suggerita e una decisione realmente assunta.
Oggi algoritmi e sistemi di intelligenza artificiale possono supportare selezione, valutazione delle performance, allocazione delle risorse, gestione dei clienti, analisi dei rischi e pianificazione.
La loro capacità di elaborare rapidamente grandi quantità di dati rende il supporto tecnologico sempre più prezioso. Il rischio nasce quando il risultato prodotto dal sistema diventa una scorciatoia cognitiva per chi deve decidere.
“L’ha detto l’algoritmo” può facilmente trasformarsi in una forma di deresponsabilizzazione manageriale.
LA TECNOLOGIA PUÒ SUPPORTARE LA DECISIONE, LA RESPONSABILITÀ RIMANE UMANA
Sully non rifiuta i dati. Li interpreta. Osserva il modello, comprende quali ipotesi contiene e introduce una variabile che la simulazione aveva sottovalutato: il tempo umano necessario per reagire.
È esattamente la competenza che servirà sempre di più ai manager che lavorano con sistemi di intelligenza artificiale. La capacità osservabile consiste nel saper interrogare una raccomandazione tecnologica prima di trasformarla in una decisione, chiedendosi quali dati siano stati utilizzati, quali assunzioni siano incorporate nel modello, quali elementi di contesto siano rimasti fuori e quali conseguenze produrrà la scelta.
L’AI può aumentare enormemente la qualità del giudizio quando viene utilizzata da persone capaci di comprenderne i limiti e assumersi la responsabilità finale.
CHIAVE DI LETTURA PER IL MONDO DEL LAVORO
Immaginiamo un algoritmo che suggerisce di non assumere un candidato, un sistema che identifica un collaboratore come low performer, un modello che consiglia di interrompere un progetto o un agente AI che decide come rispondere a un cliente strategico.
In tutti questi casi il problema manageriale arriva nel momento in cui qualcuno approva la raccomandazione.
Quando il sistema suggerisce una decisione e tu la approvi, chi ha veramente deciso?
La risposta organizzativa deve essere chiara: la responsabilità appartiene alla persona e alla struttura che hanno scelto di utilizzare quella raccomandazione. Per questo l’AI introduce un nuovo livello di accountability.
Un manager dovrà sapere fino a che punto può affidarsi al sistema, quali decisioni richiedono supervisione umana, quando chiedere una seconda valutazione e quando fermare l’automazione. La qualità della governance dipenderà sempre più dalla capacità di stabilire dove termina il suggerimento della macchina e dove comincia la responsabilità umana.
UTILIZZO IN AULA
La scena è particolarmente efficace in percorsi dedicati a leadership, intelligenza artificiale, decision making, governance, HR, risk management e cultura aziendale. Può essere utilizzata con manager e dirigenti per affrontare concretamente il rapporto tra automazione e responsabilità, oppure con funzioni HR e compliance per discutere quali decisioni possano essere supportate dall’AI e quali richiedano sempre una valutazione umana esplicita.
ATTIVAZIONE ESPERIENZIALE
- Il formatore può presentare al gruppo tre decisioni supportate dall’AI, per esempio una selezione del personale, una valutazione delle performance e la scelta di interrompere un progetto, chiedendo ai partecipanti quali informazioni vorrebbero conoscere prima di approvare la raccomandazione.
- Una seconda attività consiste nel prendere un processo aziendale già supportato da algoritmi e individuare chiaramente tre elementi: che cosa decide il sistema, che cosa decide la persona e chi risponde delle conseguenze. Infine, si può chiedere ai manager di costruire una breve checklist da utilizzare ogni volta che una decisione rilevante nasce da un suggerimento dell’AI.
DOMANDE PER IL DEBRIEFING
- Quando un sistema ci propone una decisione, quanto comprendiamo realmente il ragionamento che l’ha prodotta?
- Quali decisioni della nostra organizzazione potrebbero diventare pericolose se venissero approvate automaticamente?
- Quanto contesto possiede una persona che un modello potrebbe non vedere?
- Chi dovrebbe assumersi la responsabilità quando una decisione supportata dall’AI produce conseguenze negative?
- Quali domande dovrebbe porsi un manager prima di dire semplicemente “approvo”?
- In quali ambiti della nostra organizzazione serve definire con maggiore chiarezza il confine tra automazione e giudizio umano?
L’algoritmo può suggerire la decisione. La responsabilità di approvarla rimane umana.
Acquista il film
“Sully” è un film del 2016 diretto da Clint Eastwood. Acquistalo su Amazon
Acquista il libro
“La Regola dei 5 Secondi – Il metodo “fallo e basta” per prendere le decisioni migliori e non rimandare più”, Mel Robbins – Acquistalo su IlGiardinodeiLibri.it
