AI aziendale: la fiducia è il vero problema, non solo i dati

Le aziende stanno correndo a implementare agenti AI, ma c'è un problema di fiducia fondamentale. La maggior parte di queste AI produce risposte sbagliate con grande sicurezza, perché i dati che le alimentano sono incompleti o incoerenti. È un problema di contesto, non solo di recupero delle informazioni.

Oltre 100 aziende hanno scoperto che l'infrastruttura per dare contesto alle loro AI viene costruita troppo in fretta. Non c'è tempo di verificare l'affidabilità di tutte le informazioni. Così, l'agente AI attinge a un mare di dati non del tutto puliti, sparando sentenze che sembrano perfette ma sono fuorvianti. La ricerca di VentureBeat su 101 aziende ha rivelato che la mancanza di fiducia nei dati è la causa principale degli errori degli agenti AI.

Molti si affidano già alla "generazione aumentata da recupero" (RAG) per fornire contesto alle AI. È il metodo predefinito. Curiosamente, le soluzioni di recupero dati native dei provider stanno superando i più blasonati database vettoriali. Ma la soluzione vera è un "layer semantico governato".

Questo layer semantico non è fantascienza, ma un sistema che assicura che i dati siano coerenti e affidabili prima di arrivare all'AI. È un po' come avere un revisore capo che controlla ogni informazione. Senza questo, le AI continueranno a fare i loro show di "conferma con errore", un classico ormai.

Molte aziende stanno ancora cercando di costruire la soluzione internamente, spesso partendo da zero. Questo significa che l'adozione di agenti AI su larga scala è rallentata da questo "gap di fiducia". Un "governed semantic layer" sta emergendo come la soluzione preferita per garantire la coerenza dei dati alimentati agli agenti AI aziendali. Non basta avere tanti dati, serve che siano giusti.