La tassa della «funzione AI»: perché aggiungere l’AI a un prodotto può peggiorarlo

Non ogni prodotto ha bisogno dell’AI. Anzi, a volte aggiungere l’AI può peggiorare un prodotto che andava benissimo.

È la parte del boom dell’AI di cui non parliamo abbastanza. Una funzione può essere più intelligente, più avanzata e più impressionante in una demo, e creare comunque un’esperienza peggiore per chi la usa davvero.

C’è stato un tempo in cui aggiungere una nuova funzione a un prodotto di solito voleva dire aggiungere qualcosa di utile. Una ricerca migliore, un checkout più veloce, un nuovo modo di organizzare le informazioni, o una funzione che risolveva un problema di cui gli utenti si lamentavano già.

Poi è arrivata l’AI.

All’improvviso quasi ogni prodotto aveva l’occasione di aggiungere una funzione AI. Gli assistenti di scrittura sono comparsi nelle app di posta. I riassunti generati dall’AI sono spuntati negli strumenti per le riunioni. I chatbot sono finiti nei software di assistenza clienti. Le app di produttività hanno iniziato a suggerire agli utenti cosa fare dopo.

E onestamente, alcune di queste funzioni sono davvero utili.

Ma c’è un problema crescente nel modo in cui l’AI viene aggiunta al software. A volte la domanda non è «Quale problema può risolvere l’AI per i nostri utenti?». È «Dove possiamo mettere l’AI nel nostro prodotto?».

Questa piccola differenza può portare a un prodotto sorprendentemente brutto.

L’AI non è automaticamente un miglioramento

Aggiungere l’AI a un prodotto non lo rende automaticamente più intelligente. Immagina un’app per prendere appunti che ti permette già di cercare tra le tue note in un secondo. Ora immagina di aggiungere un chatbot AI a cui puoi chiedere cosa hai scritto sei mesi fa.

Sembra impressionante.

Ma se il chatbot ci mette di più a rispondere, ogni tanto fraintende la tua domanda o ti dà una risposta senza mostrarti esattamente da dove viene l’informazione, l’esperienza potrebbe essere addirittura peggiore che cercare semplicemente tra le note.

La funzione AI è più avanzata. Il prodotto non è per forza migliore.

Questa è la tassa della funzione AI: la complessità, i costi, l’incertezza e l’attrito per l’utente in più che arrivano quando aggiungi l’AI dove il software tradizionale potrebbe già funzionare bene.

Il vecchio modo era prevedibile

Il software tradizionale è per lo più deterministico. Clicchi un pulsante, succede qualcosa. Inserisci una password, il sistema la verifica. Cerchi una parola, il sistema trova i risultati corrispondenti.

Gli utenti imparano in fretta questi schemi perché il software si comporta in modo coerente.

L’AI è diversa. Fai la stessa domanda due volte e potresti ricevere due risposte diverse. Dalle informazioni leggermente diverse e potrebbe interpretare la tua richiesta in un altro modo. A volte ci prende. A volte sbaglia con grande sicurezza.

Non è per forza un difetto dell’AI. Fa parte di come funzionano i sistemi probabilistici.

Ma crea un problema di design difficile. Gli utenti si aspettano comunque che il software si comporti da software.

Se una funzione AI deve dare un consiglio, riassumere qualcosa, generare contenuti o compiere un’azione per conto dell’utente, il prodotto deve comunicare cosa sta facendo l’AI e cosa l’utente può aspettarsi da lei.

Altrimenti l’imprevedibilità diventa un problema dell’utente.

Più intelligenza può voler dire più lavoro

Una delle promesse dell’AI è ridurre la fatica. Ma le funzioni AI progettate male possono creare un altro tipo di lavoro.

Mettiamo che un’applicazione generi in automatico il riassunto di una riunione. Sembra fantastico. Risparmi tempo.

Ma ora devi leggere il riassunto con attenzione, perché non sei del tutto sicuro che non abbia tralasciato qualcosa di importante. Forse devi confrontarlo con la trascrizione originale. Forse devi correggere qualche errore prima di condividerlo con il tuo team.

Il compito non è sparito. Una parte del lavoro si è semplicemente spostata dal fare il compito al controllare se l’AI l’ha fatto bene.

Questo conta soprattutto nelle situazioni in cui la precisione è importante.

Una bozza generata dall’AI può far risparmiare tempo a chi scrive, perché poi la può modificare. Ma un report finanziario, un documento legale o una configurazione tecnica generati dall’AI richiedono un livello di fiducia molto diverso.

Meno un compito tollera gli errori, più diventa costosa l’incertezza dell’AI.

Il problema dell’«AI ovunque»

Un altro problema è che le funzioni AI possono iniziare a comparire ovunque solo perché gli utenti si sono abituati a vedere l’etichetta AI.

Nella dashboard viene aggiunto un pulsante «Chiedi all’AI». Poi ne compare un altro nella pagina di ricerca. Poi c’è un assistente AI nelle impostazioni. Poi in home page appare un consiglio generato dall’AI.

Alla fine il prodotto inizia a dare l’impressione di voler sempre fare conversazione con te.

Ma non ogni interazione ha bisogno di una conversazione.

A volte gli utenti vogliono solo cliccare un pulsante. A volte vogliono un filtro. A volte vogliono una casella di ricerca. A volte vogliono un’impostazione che faccia esattamente quello che dice.

La migliore esperienza con l’AI potrebbe essere proprio quella in cui l’utente si accorge appena che c’è di mezzo l’AI.

L’AI dovrebbe togliere attrito, non aggiungere un nuovo strato

Le funzioni AI più utili spesso hanno una cosa in comune: si inseriscono in modo naturale in un flusso di lavoro che esiste già.

Prendi la scrittura. Se un utente seleziona un paragrafo e chiede al prodotto di accorciarlo, l’AI può essere davvero d’aiuto. L’utente sa già cosa sta facendo, e l’AI rende solo più veloce quel compito.

Ma immagina di costringere l’utente ad aprire una chat AI separata, spiegare su quale documento sta lavorando, copiare il testo nella conversazione, chiedere una riscrittura e poi incollare indietro il risultato.

L’AI fa la parte difficile. Il prodotto fa lavorare di più l’utente per arrivarci.

Una buona AI dovrebbe sembrare una scorciatoia. Non dovrebbe sembrare un’altra applicazione da imparare.

C’è anche un costo che nessuno vede

Le funzioni AI non sono gratis solo perché, dal punto di vista dell’utente, sembrano facili da aggiungere.

Dietro l’interfaccia ci sono i costi dei modelli, l’infrastruttura, la latenza, il monitoraggio, i limiti di utilizzo, la gestione dei dati, le questioni di sicurezza e la manutenzione continua.

Una funzione tradizionale può avere un costo per interazione abbastanza prevedibile. Una funzione AI può introdurre costi variabili, che dipendono da quanti dati vengono elaborati e da quanto spesso gli utenti la usano.

Su piccola scala potrebbe non contare molto.

Su larga scala può diventare una seria questione di business.

Una funzione che rende un prodotto un po’ più comodo non vale per forza la pena se ogni interazione aumenta parecchio il costo di servire quell’utente.

Questo conta soprattutto per i prodotti con tanti utenti gratuiti.

Il problema più grande è la fiducia

La cosa più preziosa che l’AI può aggiungere a un prodotto non è sempre l’intelligenza.

È la sicurezza.

Se un sistema AI mi aiuta a finire qualcosa più in fretta, mettendo in chiaro cosa ha fatto, lasciandomi il controllo e permettendomi di correggerlo, è molto più probabile che io mi fidi.

Se invece prende decisioni per me in silenzio e ogni tanto sbaglia, comincio a guardare ogni risultato con sospetto.

E quando gli utenti devono verificare tutto quello che fa una funzione AI, il tempo che prometteva di farti risparmiare inizia a sparire.

Ecco perché la trasparenza conta.

Gli utenti dovrebbero sapere quando viene usata l’AI, soprattutto quando il risultato può incidere su qualcosa di importante. Dovrebbero avere modo di rivedere, modificare, annullare o rifiutare quello che il sistema produce.

L’obiettivo non è far sembrare l’AI autonoma. L’obiettivo è far sentire l’utente in controllo.

Non aggiungere l’AI. Trovale il lavoro giusto.

La domanda migliore per un team di prodotto non è:

«Dove possiamo aggiungere l’AI?»

È:

«Dove sta perdendo tempo inutilmente l’utente, e l’AI potrebbe ridurre davvero quella fatica?»

È una domanda molto più difficile.

Potrebbe portare a una funzione AI. Potrebbe portare a un algoritmo di ricerca migliore. Potrebbe portare a un’automazione. Potrebbe non portare a niente.

E va bene così.

L’AI non dovrebbe essere costretta a comparire in ogni parte di un prodotto per dimostrare che il prodotto è moderno.

A volte la decisione di prodotto migliore è lasciare in pace una funzione che va benissimo così.

Il futuro non è l’AI ovunque

Probabilmente vedremo più AI dentro il software, non meno.

Ma non credo che i prodotti vincenti saranno per forza quelli con più funzioni AI. Saranno quelli che usano l’AI dove migliora davvero l’esperienza.

La differenza è sottile ma importante.

L’AI non dovrebbe essere un altro strato in cui gli utenti devono orientarsi. Non dovrebbe trasformare azioni semplici in conversazioni. Non dovrebbe far chiedere di continuo agli utenti se il sistema li ha capiti bene.

E non dovrebbe esistere solo perché ogni concorrente ha un pulsante AI.

Le migliori funzioni AI alla fine diventeranno quasi invisibili. Toglieranno il lavoro ripetitivo, gestiranno la complessità dietro le quinte e daranno agli utenti risultati migliori senza pretendere attenzione per sé.

Probabilmente è questo il vero test.

Se togliere l’AI peggiora il prodotto, il suo posto è lì. Se toglierla non cambia niente, forse non serviva fin dall’inizio.