AI controllabile nella Compensation: perché i limiti migliorano le decisioni retributive

I responsabili Compensation sono sotto pressione per agire più rapidamente, ma la velocità è utile solo se le decisioni su cui si basa sono solide. Una raccomandazione che non sia vincolata alle politiche, ai budget e ai requisiti legali non è mai una buona idea. È un rischio pronto a verificarsi nel peggior momento possibile, come a seguito di una domanda di un dipendente, di un audit o di una revisione del consiglio di amministrazione.

Ecco perché il controllo non è un limite a ciò che l'IA fa nella compensation. È esattamente quello che rende l'IA sicura e utilizzabile. Questo è il principio alla base di AI intenzionale: un approccio in cui ogni raccomandazione è spiegabile, guidata dal giudizio umano e vincolata dalle regole che governano le retribuzioni, in modo che l'IA supporti la strategia di compensation invece di aggirarla.

L'IA intenzionale, come delineato nel whitepaper di beqom, Modeling with Intention, si fonda su tre pilastri: deve essere spiegabile, collaborativa e controllabile. Il nostro primo articolo di questa serie ha analizzato l'esplicabilità, mentre il secondo ha esaminato come l'IA e il giudizio umano devono collaborare mantenendo l'intervento umano. Questo articolo finale si concentra sul controllo: cosa significa, perché è importante e come definisce ogni decisione retributiva di un'organizzazione.

Orientarsi nell'EU AI Act: un'IA etica, sicura e controllabile

L'EU AI Act impone alle aziende di utilizzare l'IA in modo governato e spiegabile, con una supervisione umana ben definita. La sicurezza e la controllabilità sono al centro di questo requisito: le organizzazioni devono sapere cosa un sistema di IA può e non può fare, ed essere in grado di dimostrarlo. L'IA intenzionale è progettata esattamente per questo. Dato che ogni raccomandazione rimane vincolata a regole esplicite e non negoziabili, i team di Compensation hanno sempre una risposta chiara e pronta ogni volta che le autorità di regolamentazione chiedono come sia stata presa una decisione, oltre a una strategia che è in grado di rimanere aggiornata al continuo evolversi del panorama normativo.

Esiste anche un rischio pratico. Un modello generico a cui viene chiesto di elaborare una formula per i bonus, ad esempio, rischia di generare un risultato apparentemente corretto, ma non conforme alle regole aziendali; ogni assunto implicito si trasforma in una criticità che qualcun altro dovrà individuare. Il controllo elimina questa incertezza, rendendo le regole esplicite e non negoziabili fin dall'inizio.

Come funziona nella pratica l'AI controllabile?

Il controllo in ambito compensation deriva dalla combinazione di una logica deterministica con limiti chiaramente definiti su ciò che un sistema può e non può consigliare. Questo significa che:

• Ogni raccomandazione viene generata sulla base delle regole definite dall'organizzazione, come i criteri di idoneità agli aumenti, i tetti e i minimi retributivi e i requisiti specifici per giurisdizione, in modo da non lasciare nulla alla discrezionalità.
• Ogni output rispetta automaticamente i vincoli di budget e di range, anziché fare affidamento su un manager per individuare un valore fuori policy dopo che è già stato generato.
• Ogni regola è gestita e aggiornata dall'HR, quindi, al variare delle politiche, i limiti entro cui opera il sistema cambiano di conseguenza.
• Ogni azione eseguita dal sistema viene registrata: in questo modo, se sorge una domanda sul motivo per cui è stato applicato un limite, è sempre disponibile un dato chiaro a cui fare riferimento.

Questo è il ruolo dei sistemi basati su regole all'interno dell'Intentional AI. Trasformano le politiche di compensation in parametri applicati in modo coerente a ogni decisione; in questo modo, una volta che una politica è stata definita, essa viene applicata allo stesso modo per tutti, ogni volta.

Qual è la differenza tra AI controllabile e AI open-ended?

L'intelligenza artificiale open-ended, compresa quella della maggior parte dei modelli linguistici di uso generale, è progettata per generare un'ampia gamma di risposte plausibili. Questa flessibilità è preziosa per redigere comunicazioni o riassumere documenti, ma si trasforma in un rischio quando viene applicata alle decisioni relative a stipendi, bonus o promozioni. Se si chiede a un modello generalista di calcolare due volte il pagamento di un incentivo, si rischia di non ottenere la stessa risposta.

L'IA controllabile si basa sull'obiettivo opposto. Anziché ottimizzare la flessibilità, punta sulla coerenza: gli stessi input, le stesse regole, applicati nello stesso modo, ogni volta. Quando due dipendenti si trovano in situazioni realmente comparabili, un sistema controllabile genera raccomandazioni altrettanto comparabili e ne illustra con precisione il motivo.

Il controllo rallenta i processi di compensation?

È una domanda legittima, e la risposta è no. Il controllo viene spesso confuso con l'attrito, come se porre dei limiti significasse necessariamente aggiungere passaggi. Nella pratica, si verifica il contrario.

Quando le regole sono integrate nel sistema anziché dover essere verificate manualmente a posteriori, i manager dedicano meno tempo a verificare che un valore sia conforme alle policy, perché lo è già. I team HR passano meno tempo a gestire eccezioni una tantum, poiché i limiti vengono applicati prima ancora che la proposta venga generata. Inoltre, le verifiche di conformità sono più rapide, dato che la logica delle regole e l'audit trail esistono già, e non devono essere ricostruiti a posteriori.

In che modo il controllo si collega alla compliance e alla fiducia?

Ogni decisione retributiva è destinata prima o poi a essere sottoposta a verifiche: può essere un dipendente che chiede perché il proprio aumento sia stato stabilito in quel modo, un auditor che esamina un ciclo di merito o un'autorità di regolamentazione che verifica la conformità a una normativa sulla trasparenza salariale. In ciascuno di questi casi, la risposta non può essere "lo ha suggerito il sistema". Deve fare riferimento alla regola specifica che è stata applicata e al motivo per cui tale regola esiste.

Come sottolinea il Dr. Sébastien Baehni, CTO di beqom, il controllo non riguarda solo il calcolo. Riguarda l'intera catena di dati, formule e risultati, e una base affidabile è ciò che rende verificabile ogni anello della catena. Senza confini definiti, un'organizzazione non gestisce la propria strategia di compensation. Si limita a sperare che l'IA che la gestisce abbia operato correttamente.

Integrare il controllo nella strategia di compensation

Il controllo non è un'impostazione da attivare all'interno di un modello di IA esistente. Deve essere progettato nel sistema fin dalle fondamenta, partendo da un'unica fonte di verità governata per i dati retributivi ed estendendosi a ogni regola, formula e limite definito dall'organizzazione.

Ciò significa definire con precisione in quali ambiti dare spazio d'azione all'IA e in quali no. Un'IA controllabile funziona al meglio come livello che applica le politiche in modo coerente su vasta scala, mentre la funzione HR mantiene la titolarità nella definizione e nella modifica di tali politiche. Non è un sistema che decide la strategia di compensation. È il sistema che garantisce che la strategia di compensation già definita venga applicata nello stesso modo, ogni volta, per tutti.

In questa serie, spiegabilità, collaborazione e controllo costituiscono un unico framework anziché tre funzionalità distinte. Insieme, consentono all'IA di farsi carico delle attività più gravose nella gestione retributiva, mentre l'organizzazione mantiene il controllo completo delle decisioni che definiscono la retribuzione e la carriera delle persone.

La tecnologia di beqom si basa su questi principi: un unico sistema di record governato e una logica deterministica basata su regole e limiti definiti per ogni raccomandazione, in modo che ogni decisione retributiva rispetti le policy e sia spiegabile e difendibile.