Agenti vocali nei dialetti arabi e dove si rompono

L'arabo standard moderno è la lingua del notiziario, del contratto e della circolare ministeriale. Nessuno lo usa per chiedere perché una carta è stata rifiutata. Chi chiama ad Amman, Riad, Il Cairo o Casablanca parla l’arabo della strada in cui è cresciuto, ricorre all’inglese o al francese per le parole che la banca gli ha insegnato, legge il numero di un conto nel modo in cui la madre gli ha insegnato a contare e si aspetta di essere interpellato con il rispetto che il suo nome porta con sé. Un agente vocale che ha avuto una dimostrazione in una stanza tranquilla su un dialogo scritto in arabo standard non è stato testato contro nulla di tutto ciò.

Un sistema vocale arabo va testato sulle chiamate previste: dialetti, cambi di lingua, numeri, rumore e richieste che richiedono una persona. L’idoneità alla produzione dipende dai risultati, dalle azioni consentite e da un passaggio verificato all’operatore.

La lingua nella demo non è la lingua in linea

L'arabo è una lingua scritta e diverse lingue parlate. L'arabo standard moderno viene imparato a scuola e utilizzato per la scrittura, la trasmissione e il discorso formale; non è la lingua madre di nessuno. Le varietà parlate differiscono da esso e tra loro nel vocabolario, nella grammatica, nella pronuncia e nel ritmo. Quattro gruppi contano per una linea di servizio nella regione: levantino (Giordania, Siria, Libano e Palestina), Golfo (la penisola arabica), egiziano (il più ampiamente compreso, dopo decenni di cinema e televisione) e maghrebino (Marocco, Algeria e Tunisia, il più lontano dal resto e il più fortemente mescolato con il francese).

Le differenze non sono accenti. Sono parole diverse per le funzioni più frequenti in una frase.

Anche la pronuncia si muove. La lettera qāf è una tappa glottale al Cairo e nel discorso urbano levantino, una dura g nella maggior parte del Golfo e nelle zone rurali della Giordania, e vicino al suono dei libri di testo nelle città del Maghreb. L'egiziano Jim è difficile g. La negazione, la formazione della domanda e il tempo futuro sono costruiti ciascuno in modo diverso. Un modello vocale addestrato sull'arabo standard e su un dialetto di prestigio trascriverà adeguatamente un chiamante del Cairo e male un chiamante di Casablanca, e farà entrambe le cose con la stessa sicurezza.

La conseguenza per un acquirente è che "supporta l'arabo" non è un'affermazione che può essere valutata. Le domande sono quali dialetti, come testati, su quali registrazioni e con quale risultato per dialetto anziché in media.

I chiamanti cambiano lingua e i numeri corrono in due direzioni

Il cambio di codice è la norma

Una persona che chiama dalla Giordania o dal Golfo passa dall'arabo all'inglese all'interno di una singola frase, e lo fa molto spesso esattamente per le parole che interessano a una banca o a una società di telecomunicazioni: transfer, account, card, statement, OTP, app, branch. Un chiamante libanese può aggiungere il francese. Un chiamante marocchino o tunisino effettuerà tutta la parte transazionale della chiamata in prestiti francesi: virement, compte, carte, prelevamento. Non si tratta di un errore nell'arabo del chiamante. È il modo in cui la lingua viene parlata dalle persone che tengono i conti.

I riconoscitori gestiscono questa situazione in tre modi. Alcuni sono vincolati a una lingua per chiamata e trascrivono le parole inglesi come sciocchezze arabe. Alcuni rilevano il cambio e scambiano i modelli, perdendo la prima sillaba dopo ogni cambio. Alcuni sono addestrati al linguaggio misto e lo trattano come se fosse normale. Solo il terzo è idoneo per una linea di servizio. Il test è la registrazione di un cliente reale che dice "biddi aʿmal transfer la account tani" e una trascrizione che coglie ogni parola.

Numeri

L'arabo parlato legge prima le unità dei numeri composti: venticinque è "venticinque" e centoventicinque è "centocinqueventi". Un chiamante che legge un numero di conto o di riferimento può leggerlo cifra per cifra, in coppie, in centinaia o interamente in inglese e può cambiare metodo a metà. L'arabo scritto va da destra a sinistra, ma le cifre al suo interno vanno da sinistra a destra, il che è importante per ogni trascrizione che un agente mostra a una persona e per ogni rilettura che genera. L'Egitto, il Levante e il Golfo scrivono i numeri con le cifre arabe orientali; il Maghreb utilizza le stesse cifre occidentali dell'Europa. Un sistema che normalizza correttamente i numeri per un mercato li corromperà per un altro, e un numero di conto corrotto non è un errore di trascrizione. È un pagamento alla persona sbagliata.

La risposta progettuale è procedurale, non linguistica. Ogni valore critico viene riletto al chiamante nella convenzione del chiamante e confermato prima che venga eseguita qualsiasi operazione. Un fornitore che non può dimostrare la rilettura non è pronto.

Nomi e titoli onorifici

I nomi arabi arrivano in diverse forme. Il nome sul conto può essere una catena di nome, padre, nonno e famiglia; il chiamante può dare il suo kunya, Abu Khalid o Ehm Sara, invece del nome di battesimo; un cognome può portare l'articolo determinativo o eliminarlo; lo stesso nome viene traslitterato nei sistemi bancari come Mohammed, Muhammad o Mohamed. Far corrispondere il nome pronunciato al record è un problema di dati tanto quanto un problema di linguaggio, e deve essere risolto prima che la verifica possa fare affidamento su di esso.

Gli onorifici sono il registro in cui l'istituzione parla ai propri clienti. Ustaz, Dottore, Sceicco, Hajj, Bash-muhandis, il vocativo ya, le forme plurali di rispetto: chi chiama li aspetta, e un agente che usa quello sbagliato, o nessuno, ha detto al cliente cosa pensa di lui l'istituzione. L'arabo declina anche il verbo e l'aggettivo in base al genere della persona a cui si rivolge. L'agente deve sapere se sta parlando a un uomo o a una donna, oppure essere scritto in modo da non dover mai indovinare. Nessuno dei due è automatico in un sistema progettato in inglese.

Dove il riconoscimento fallisce

Il riconoscimento vocale fallisce su tre livelli e ciascuno deve essere testato separatamente.

Il primo è il dialetto, descritto sopra. Il secondo è l'ambiente acustico: una persona che chiama dal cellulare in macchina, in un suk, in una cucina con la televisione accesa, in vivavoce, con un bambino in linea. L'arabo ha un insieme di consonanti contraddistinte da fini segnali acustici, compresi i suoni enfatici e faringei che non hanno equivalenti nelle lingue europee, e il rumore rimuove per primo esattamente quei segnali.

Il terzo è il telefono stesso. La maggior parte delle chiamate viaggia ancora su canali a banda stretta campionati a otto kilohertz, con una banda passante che termina ben al di sotto delle frequenze che separano s da ṣ e t da ṭ. Un modello che ha ottenuto buoni risultati nell'audio in studio o nelle registrazioni dell'app per smartphone non è stato testato sul canale utilizzato dai vostri clienti. Il set di prova deve essere effettuato da registrazioni telefoniche, non da registrazioni di telefoni.

Due ulteriori comportamenti meritano un test con nome. I modelli di discorso di grandi dimensioni a volte producono testo fluente durante il silenzio, trattengono musica o rumore, un comportamento solitamente chiamato allucinazione; su una linea di servizio quel testo diventa un intento e poi un'azione. E le trascrizioni arabe sono scritte senza le vocali brevi, quindi una trascrizione può essere corretta come testo e comunque ambigua come significato. Ciò che il modello passa a valle conta tanto quanto ciò che ha sentito.

Riconoscere le parole non è comprendere l’intento

Una trascrizione perfetta può comunque portare all’azione sbagliata. La conversazione araba, in ogni dialetto, tende ad aprirsi con formule di saluto e di benedizione, a porre la richiesta al termine di un lungo preambolo, ad addolcirla con l'indiretta. Chi chiama dice molto della carta ricevuta il mese scorso, della filiale, della coda e della telefonata precedente prima della frase che contiene ciò che desidera, e quella frase può contenere due richieste. Un modello linguistico ottimizzato sui ticket di supporto in inglese cerca la richiesta nella prima riga.

Il secondo fallimento è la traduzione nel mezzo. Alcuni sistemi trascrivono l'arabo, lo traducono in inglese per la fase di ragionamento e traducono nuovamente la risposta. L'idioma dialettale, il titolo onorifico e la formulazione esatta del numero da parte del chiamante sono andati perduti due volte. L'agente deve ragionare nella lingua del chiamante, oppure sottoporsi a un test per dimostrare che il viaggio di andata e ritorno non perde nulla di importante.

Il terzo è l’eccessiva fiducia. L'agente che non ha capito lo deve dire una volta nel dialetto del chiamante e chiedere di nuovo. Un agente che indovina intenzionalmente e agisce in base all'ipotesi è peggiore del menu che ha sostituito, perché almeno il menu ha fatto sì che il chiamante premesse il pulsante sbagliato.

L'agente che non ha capito lo deve dire una volta nel dialetto del chiamante e chiedere di nuovo. Un agente che indovina e agisce è peggiore del menu che ha sostituito.

L'avviso, il consenso e la persona alla fine

Ogni chiamata ha un'apertura legale prima di avere una conversazione. La legge sulla protezione dei dati personali della Giordania, il GDPR per qualsiasi cliente o filiale europea, la revisione della FADP svizzera, le leggi sulla protezione dei dati degli stati del Golfo e le norme sulla protezione dei consumatori delle telecomunicazioni e delle autorità bancarie della regione, ciascuno, secondo i propri termini, richiedono che a chi chiama venga detto che la chiamata è registrata e perché, e che la registrazione venga conservata solo per il tempo richiesto dal suo scopo. La legge UE sull’IA aggiunge, laddove applicabile, l’obbligo di dire a una persona che ha a che fare con una macchina, a meno che ciò non sia evidente dal contesto. La Banca Centrale della Giordania e i suoi omologhi nella regione si aspettano che un istituto vigilato sappia dove si trovano i dati dei suoi clienti, chi li elabora e come viene ricevuto e risolto un reclamo relativo al canale.

L'avviso deve essere nella lingua del chiamante, pronunciata prima dell'inizio della registrazione, e deve contenere una risposta di rifiuto. Una chiamata che rifiuta non è una chiamata fallita; vengono indirizzati a una persona su una linea non registrata, laddove ciò sia richiesto dalla legge e dalla politica dell'istituzione. Il consenso, laddove costituisca la base legale, deve essere raccolto in una forma che può essere prodotta successivamente, per chiamata.

La voce stessa è un'altra questione. Un'impronta vocale utilizzata per la verifica è costituita da dati biometrici, una categoria speciale ai sensi del GDPR e dati sensibili ai sensi di diverse leggi regionali. La verifica vocale necessita quindi di un consenso esplicito, di un caso documentato di necessità e di un piano di cancellazione, e non dovrebbe mai essere l'unico fattore per una transazione che la policy considera sensibile.

Dove vive l'audio

Per una banca, un assicuratore o un ministero della regione, la questione dell’architettura viene prima di quella dell’accuratezza. Un modello vocale ospitato dietro un'API significa che l'audio del cliente lascia il paese ogni volta che squilla il telefono. I regimi di protezione dei dati di Arabia Saudita, Emirati Arabi Uniti, Giordania ed Egitto limitano ciascuno il trasferimento transfrontaliero di dati personali, attraverso meccanismi diversi; le autorità di regolamentazione bancaria aggiungono regole di outsourcing che richiedono all’istituto di conoscere, approvare ed essere in grado di controllare ogni parte che elabora i dati dei clienti; e un programma sovrano può richiedere che i modelli stessi funzionino su infrastrutture nazionali.

La progettazione praticabile colloca il riconoscimento vocale, il modello linguistico e l'archivio delle trascrizioni all'interno del piano dati dell'istituto, nei suoi locali o in un cloud nazionale, e mantiene solo policy, configurazione e metriche aggregate in qualsiasi piano di controllo gestito dal fornitore. Fai tre domande al venditore. "Regione" significa che l'audio è archiviato nella regione o che viene anche elaborato lì? Il modello eseguito in locale è lo stesso modello dimostrato o uno più piccolo? E cosa c'è nell'elenco dei sub-responsabili del trattamento, per nome, per il percorso che una registrazione segue dal supporto alla trascrizione?

Il compromesso è onesto e dovrebbe essere dichiarato nella proposta. L'implementazione in sede richiede un'infrastruttura fornita e gestita dall'istituto, limita la scelta dei modelli a quelli che si adattano a tale impronta e comporta una propria linea di costi. L'alternativa è una promessa di residenza contenuta in un contratto, che nessun revisore dei conti può verificare.

Come testare un fornitore

Non accettare una dimostrazione. Costruisci il test e realizzalo dalle vostre chiamate.

Prendi le registrazioni dal vostro contact center esistente, secondo le basi legali e l'anonimizzazione approvata dalla vostra funzione privacy, e costruisci un set stratificato per dialetto, per genere, per fascia di età, per condizione acustica, per canale e per intento. Includi le chiamate che i vostri agenti hanno trovato difficili. Includere silenzio, musica d'attesa e un chiamante che non dice nulla per dieci secondi. Includere il chiamante che chiede di una persona nella prima frase e il chiamante che fa una domanda alla quale l'agente non è autorizzato a rispondere. Quindi misura ciò che conta per l'azienda piuttosto che ciò che è facile da calcolare: se il numero di conto è stato acquisito correttamente, se l'intento è stato compreso, se l'agente ha consegnato quando avrebbe dovuto e non ha fatto quando non avrebbe dovuto, e quanto spesso ha detto "Non lo so" quando quella era la risposta vera.

Il comportamento di rifiuto merita particolare attenzione. Un agente che non sa dire "non lo so" prima o poi dirà qualcosa di peggio, su una linea registrata, al cliente. Mettilo alla prova con domande che non hanno risposta nella sua policy, con un chiamante che insiste e con un chiamante che cerca di convincerlo a partecipare a una transazione che non gli è consentita. L'agente che ogni volta declina educatamente, in dialetto, è quello che può essere difeso davanti a un regolatore.

Cosa fare lunedì

1. Estrai un campione di registrazioni dalla vostra linea di servizio esistente, in base a una base firmata dal responsabile della privacy, e chiedete a un madrelingua di taggarle ciascuna per dialetto, mix linguistico, rumore e intenzione. Questo è l'inizio del vostro set di test e appartiene a voi.
2. Annota gli intenti che l'agente può risolvere da solo, quelli che può risolvere dopo la verifica e quelli che deve sempre consegnare a una persona. Chiedete alla conformità di firmarlo prima che qualsiasi fornitore lo veda.
3. Chiedete alla tua funzione legale l'avviso di registrazione, l'acquisizione del consenso e il periodo di conservazione per ciascuna giurisdizione in cui servi e decidi cosa fa l'agente quando un chiamante rifiuta.
4. Decidi il piano dati prima dell'elenco dei fornitori: on-premise, cloud nazionale o ospitato e ciò che l'autorità di regolamentazione bancaria o di settore richiede che voi possa mostrare per ciascuno.
5. Inserisci le sei domande nella tabella sopra nella richiesta di proposta e valuta le risposte scritte prima che venga programmata qualsiasi dimostrazione.
6. Pianifica la prima fetta di traffico in tempo reale come un intento, un dialetto e un segmento, con una persona che esamina ogni chiamata e imposta i numeri che devono rimanere prima che la fetta si allarghi.