Tecnologia · Dalla demo alla produzione
È in produzione che l'IA inizia a svolgere un lavoro reale.
Una demo può dimostrare che un modello comprende un documento, risponde a una domanda o propone una decisione. Ciò non significa ancora che possa farsi carico di una parte reale dell'operatività.
In produzione entrano in gioco i sistemi esistenti, le autorizzazioni, i dati incompleti, le eccezioni, le decisioni umane e le conseguenze degli errori.
moraix nasce attorno a questa differenza: trasformare una capacità di IA in un sistema capace di svolgere lavoro reale in modo affidabile.
Una demo dimostra che qualcosa è possibile. La produzione dimostra che può svolgere il lavoro.
Demo e produzione
La differenza non sta soltanto nel modello. Sta in tutto ciò che accade intorno.
Una demo
- Lavora con esempi selezionati
- Opera in un ambiente controllato
- Può presumere che i dati siano disponibili
- Una persona può correggere il risultato
- I malfunzionamenti hanno conseguenze limitate
- Dimostra una capacità
Un sistema in produzione
- Lavora con dati reali e mutevoli
- È collegato ai sistemi aziendali
- Deve rispettare autorizzazioni, regole e stati
- Deve gestire le eccezioni in modo esplicito
- Deve sapere quando arrestarsi e richiedere una decisione
- I malfunzionamenti hanno conseguenze operative
- Deve continuare a funzionare domani
La demo risponde a «l'IA può farlo?». La produzione risponde a «possiamo fidarci che questo sistema svolga questo lavoro?».
Il passaggio alla produzione
L'intelligenza è una capacità. È il sistema a svolgere il lavoro.
Per trasformare una capacità di IA in una componente affidabile dell'operatività bisogna risolvere molto più che prompt e modelli.
Il sistema deve sapere quale lavoro è arrivato, quali informazioni può utilizzare, quali regole si applicano, qual è lo stato di ogni caso, quale azione è consentita, quando deve arrestarsi e che cosa accade dopo.
Integrazioni
Collegare in modo affidabile i sistemi in cui il lavoro nasce e termina.
Stato
Sapere che cosa è accaduto, che cosa manca e che cosa deve succedere dopo.
Regole deterministiche
Risolvere con il software ciò che non richiede interpretazione.
IA selettiva
Utilizzare i modelli soltanto dove comprendere informazioni o contesto apporta valore.
Eccezioni
Trasformare l'incertezza in casi espliciti che una persona possa risolvere.
Controlli umani
Mantenere l'approvazione e il giudizio umano dove le conseguenze lo richiedono.
Evidenze
Conservare le informazioni che hanno supportato ogni risultato o decisione.
Monitoraggio
Sapere quando il sistema funziona, quando peggiora e quando richiede un intervento.
Ripristino
Gestire errori, nuovi tentativi e malfunzionamenti senza perdere lo stato del processo.
Modifiche controllate
Modificare modelli, regole e integrazioni senza trasformare la produzione in un esperimento permanente.
L'IA può essere la parte più visibile del sistema. Raramente costituisce la maggior parte del lavoro necessario per portarlo in produzione.
Eccezioni
Un sistema affidabile non deve avere sempre ragione. Deve sapere quando non proseguire.
I processi reali contengono informazioni mancanti, record contraddittori, casi limite e decisioni che non devono essere automatizzate.
Tentare di nascondere questa incertezza fa sembrare un sistema più automatizzato, ma anche meno affidabile. moraix progetta le eccezioni come parte esplicita del processo.
Rilevare
Il sistema rileva che mancano evidenze, esiste una contraddizione o una regola impedisce di proseguire.
Arrestarsi
Non esegue un'azione che non può supportare.
Preparare
Raccoglie le informazioni, le verifiche effettuate e il motivo dell'eccezione.
Consegnare
Invia il caso alla persona giusta, affinché possa decidere senza ricominciare l'analisi da zero.
Registrare
La decisione umana e il relativo risultato entrano a far parte dello stato del sistema.
Automatizzare ciò che è certo. Rendere esplicita l'incertezza.
Collaudato in produzione
L'1,8% può contare più del 98,2%.
Nel nostro sistema di riconciliazione finanziaria multientità, 279 transazioni su 284 sono state riconciliate automaticamente.
Le cinque rimanenti non erano malfunzionamenti del sistema. Erano eccezioni correttamente identificate perché le evidenze disponibili non giustificavano una riconciliazione automatica.
98,2%
abbinate automaticamente
1,8%
inviate alla revisione
5
eccezioni esplicite
Il sistema è affidabile non perché automatizza il 98,2%, ma perché non tenta di nascondere il restante 1,8%.
Gestione continua
Arrivare in produzione non è la fine del lavoro.
I dati cambiano. I sistemi esterni cambiano. I modelli cambiano. Le politiche cambiano. Emergono nuovi casi e le condizioni che rendevano affidabile il sistema al momento del lancio possono smettere di esserlo.
Per questo moraix non considera la produzione una consegna una tantum. Il sistema continua a essere gestito dopo il lancio.
Monitoraggio continuo
Osserviamo prestazioni, errori, eccezioni e cambiamenti nel comportamento del sistema.
Valutazione
I componenti di IA vengono testati rispetto a set e criteri che consentono di rilevare il degrado prima che diventi un problema operativo.
Manutenzione
Integrazioni, regole, modelli e dipendenze vengono aggiornati con l'evolversi dell'operatività.
Modifiche controllate
Le nuove versioni vengono testate, registrate e distribuite senza sostituire silenziosamente ciò che già funziona.
Responsabilità operativa
moraix continua a rispondere della tecnologia dopo che il sistema entra in produzione.
La produzione non è un momento. È una condizione da mantenere.
Dal processo al sistema
Non iniziamo chiedendoci che cosa può fare l'IA.
Iniziamo comprendendo quale lavoro deve essere svolto, quale risultato serve all'azienda, che cosa può essere risolto in modo deterministico, dove serve interpretazione e quali decisioni devono restare in mano alle persone.
Solo allora decidiamo dove utilizzare l'IA.
- Processo reale
- Risultato necessario
- Regole e controlli
- Logica deterministica
- IA dove apporta valore
- Eccezioni e decisioni umane
- Sistema in produzione
L'obiettivo non è inserire l'IA in un processo. È costruire un processo migliore, capace di funzionare in modo affidabile in produzione.
Prosegui con la tecnologia