È un rischio che si scarica su di te. Per tre motivi molto concreti.
Davanti al GDPR, all'AI Act e a un fornitore che contesta una fattura, non risponde il modello. Rispondi tu. Chi decide deve poter essere una persona, e deve poterlo dimostrare.
Il cliente che ordina a parole, il fornitore con cui si tratta, il codice che in anagrafica non c'è. Sono le cose che un modello non può sapere, e sono esattamente quelle che decidono il margine.
Un pagamento sbagliato, un prezzo fuori accordo, un ordine registrato male. Il tempo risparmiato automatizzando alla cieca torna indietro moltiplicato, e con gli interessi.
Legge i documenti come arrivano, estrae i dati, confronta con l'ordine e con il listino, compila la bozza nel gestionale. Non inventa: quello che non trova, lo dichiara.
Soglie di confidenza, importi oltre i quali serve un'approvazione, fornitori da guardare sempre, scostamenti di prezzo tollerati. Le scrivi tu nella Console, l'AI le applica e non le cambia.
I casi certi si chiudono da soli, oltre il 90%. Quelli dubbi si fermano e arrivano a chi segue quel processo oggi, con il motivo scritto accanto e il documento a fianco: approva, corregge o rifiuta.
Chi ha deciso cosa, quando, su quale documento e perché: l'Agente in autonomia o la persona. Se domani ti chiedono conto di una scelta, la risposta c'è già.
Se il dato estratto non è certo, l'Agente non tira a indovinare: passa la mano.
Sopra una certa cifra serve un'approvazione umana, sempre. La soglia la imposti tu.
Prezzo diverso dall'ordine, quantità che non corrisponde, codice sconosciuto: è un'eccezione, e le eccezioni sono tue.
Un fornitore nuovo, un formato mai incontrato. La prima volta decide una persona, e quella decisione resta.
Il modello prepara la previsione mensile per cliente e famiglia di prodotto, con gli intervalli di confidenza. I responsabili di area la rivedono in un modulo, e la previsione finale mette insieme modello e stima umana.
Errore di previsione: 19% in meno in media, 40% in meno nel mese peggiore. Nessuna delle due, da sola, batte l'altra.
Misurato su due mesi fuori campione, in consolidamento.
Chi segue quel processo oggi continua a seguirlo. Cambia cosa gli arriva sul tavolo.
È una delle tre garanzie scritte nel contratto: impatto minimo sulle persone. Nessuna migrazione, nessun cambio di gestionale, nessun ruolo cancellato.
Sui sistemi che contano, una persona deve poter capire cosa ha fatto l'AI, fermarla e decidere al posto suo. La Console è costruita così dal primo giorno, non con una toppa aggiunta dopo.