Ai team di procurement viene detto che le loro domande sull’intelligenza artificiale sono ingenue, che la tecnologia si muove troppo velocemente per clausole standard e che la consueta due diligence non si applica. È vero il contrario. Le domande che il procurement ha sempre posto a un fornitore critico sono esattamente le domande giuste da porre a un fornitore di intelligenza artificiale. Chi possiede ciò che produciamo insieme. Dove sono i nostri dati? Chi può vederlo. Cosa succede quando partiamo. Cosa succede quando fallisci.
Una revisione d’acquisto utile collega ogni affermazione rilevante a un documento, un responsabile e una verifica. Partire da utilizzo, flussi di dati e uscita, poi verificare le evidenze necessarie alla decisione.
Chi possiede il modello
La parola "modello" nasconde quattro cose che possono essere possedute separatamente, e su un contratto che non le distingue si discuterà più avanti.
Il modello base è l'artefatto a cui il venditore ha concesso la licenza o che ha formato prima del vostro arrivo. Non lo possiedi e non dovreste aspettartelo. Ciò di cui avete bisogno è il diritto di usarlo per il termine e un percorso documentato per sostituirlo.
Pesi calibrati prodotti dai vostri dati sono una questione diversa. Se i vostri documenti, trascrizioni o esempi etichettati sono stati utilizzati per adattare un modello, l'adattamento contiene le vostre informazioni. L'acquirente dovrebbe possedere, o almeno detenere una licenza perpetua esclusiva, su qualsiasi peso derivato dai suoi dati e al venditore dovrebbe essere vietato fornire tali pesi a chiunque altro.
Prompt, istruzioni di sistema, indici di recupero e set di valutazione sono prodotto del lavoro. Incarnano le politiche dell'acquirente, i suoi casi limite e il suo giudizio su come appare buono. Essi appartengono all'acquirente, senza alcuna riserva, e dovranno essere consegnati in formato leggibile su richiesta e all'uscita.
Uscite sono le risposte che il sistema produce. L'acquirente necessita di una cessione inequivocabile di tutti i diritti esistenti in essi e di un'indennità per pretese di terzi derivanti dai dati di formazione del venditore, entro un limite negoziato.
Da dove provengono i dati di allenamento
Un acquirente non può verificare il corpus su cui è stato addestrato un modello di frontiera, e un venditore che afferma di averlo fatto sta esagerando. Ciò che un acquirente può e dovrebbe richiedere è una posizione documentata: se il venditore ha addestrato il modello base o lo ha concesso in licenza; cosa ha dichiarato il concessore della licenza circa la provenienza dei dati; se il modello è stato valutato per rigurgito di materiale protetto da copyright o personale; e chi si assume la responsabilità se un terzo denuncia una violazione.
L’EU AI Act aggiunge struttura qui. I fornitori di modelli generici sono tenuti a pubblicare un riepilogo sufficientemente dettagliato dei contenuti della formazione e a conservare la documentazione sulle capacità e sui limiti del modello. Un fornitore che si basa su un modello di questo tipo dovrebbe essere in grado di fare riferimento a tale documentazione. Un venditore che non può farlo non presta attenzione alla legge in base alla quale vende o si basa su qualcosa che non dovrebbe fare.
Per i dati dell'acquirente la questione è più semplice. È stato utilizzato per addestrare, mettere a punto o valutare un modello utile a qualcun altro? L'unica risposta accettabile è no, per iscritto, con una descrizione tecnica di come viene applicata piuttosto che una promessa.
Cosa succede ai nostri prompt
Ogni richiesta è una divulgazione. Quando un analista incolla il rendiconto finanziario di un cliente in un sistema, tale rendiconto è stato inviato da qualche parte. L'acquirente deve sapere dove, per quanto tempo e chi può vederlo.
| Domanda | Risposta accettabile | Rispondi che dovrebbe porre fine alla conversazione |
|---|---|---|
| I prompt e gli output vengono conservati dopo la risposta? | No, o solo per una finestra fissa di monitoraggio degli abusi che possiamo ridurre o disattivare | "Conservati per migliorare i nostri servizi" |
| Dove viene eseguita l'inferenza? | Un territorio legale denominato, fissato per contratto | "Distribuito globalmente per le prestazioni" |
| Chi presso il venditore può accedere ai nostri contenuti? | Un ruolo denominato, nell'ambito di un processo registrato, con accesso verificabile da noi | "Personale autorizzato" |
| I suggerimenti vengono utilizzati per la formazione o la valutazione? | Mai, con un divieto applicato tecnicamente | "Solo in forma anonima" |
| Possiamo detenere le chiavi di crittografia? | Sì, con effetto di revoca documentato | "La nostra crittografia è lo standard del settore" |
La cornice legale dipende da dove vi siedi. Sia il GDPR che la revisione della LPD svizzera trattano il trasferimento in un’altra giurisdizione come qualcosa che richiede una base giuridica e garanzie, ed entrambi ritengono il responsabile del trattamento responsabile di ciò che fa il responsabile del trattamento. La legge giordana sulla protezione dei dati personali richiede una base giuridica per il trattamento e pone condizioni sul trasferimento transfrontaliero. L'HIPAA richiede un accordo di società in affari con chiunque gestisca informazioni sanitarie protette per conto di un'entità coperta. In ogni caso il venditore è un processore o un socio in affari e una pagina dei termini di servizio di livello consumer non soddisfa lo standard.
Possiamo andarcene?
L'uscita è la domanda che gli acquirenti fanno per ultimi e dovrebbero porre per primi. I sistemi di intelligenza artificiale sono insolitamente vischiosi: i suggerimenti sono adattati alle abitudini di un modello, il set di valutazione codifica le modalità di fallimento di un modello e le applicazioni di cui sopra sono scritte su un'unica interfaccia.
Un'azienda seria offrirà, per iscritto, tutto quanto segue. Consegna di prompt, istruzioni, indici di recupero, set di valutazione ed eventuali pesi ottimizzati in formati aperti e documentati. Un periodo di transizione durante il quale il servizio continua al prezzo esistente mentre l'acquirente si sposta. Documentazione sufficiente affinché un tecnico competente possa eseguire il sistema altrove. Cancellazione dei dati dell'acquirente al termine della transizione, certificata per iscritto, anche dai backup entro un periodo stabilito.
Un acquirente serio insisterà anche su un’architettura che renda l’uscita plausibile anziché semplicemente consentita. Una sottile astrazione tra le applicazioni e l'interfaccia del modello. Set di valutazione indipendenti dal modello. Recupero basato sull'infrastruttura dell'acquirente. Queste sono decisioni ingegneristiche e sono economiche se prese all'inizio.
Ogni clausola sull’uscita è una descrizione del potere contrattuale. L'acquirente che può andarsene è l'acquirente i cui problemi vengono risolti.
Cosa succede quando il modello è sbagliato
La questione non è se il modello sarà sbagliato. Lo farà. La domanda è cosa fa il sistema quando lo è e chi ne è responsabile.
L'approvvigionamento dovrebbe richiedere la metodologia di valutazione del fornitore: su cosa è stato testato il sistema, come il set di test si collega all'uso effettivo da parte dell'acquirente, quali sono le modalità di guasto misurate e come vengono monitorate in produzione. Un fornitore che risponde con un punteggio di riferimento ha risposto a una domanda diversa. I benchmark misurano un modello sui compiti scelti dall'autore del benchmark; l'acquirente deve sapere come si comporta il sistema sui propri documenti, sui propri chiamanti e sui propri casi limite.
L'acquirente dovrebbe anche chiedere cosa fa il sistema quando non lo sa. La risposta giusta è che lo dice, consegna a una persona o rifiuta. Un sistema che produce sempre una risposta sicura è una responsabilità in un contesto regolamentato, e un fornitore che non ha progettato per il rifiuto non ha progettato per voi.
Ne consegue la responsabilità. Il fornitore dovrebbe assumersi la responsabilità del comportamento documentato del sistema. L'acquirente dovrebbe assumersi la responsabilità del modo in cui vengono utilizzati i risultati, all'interno del processo progettato dalle due parti insieme. Se una decisione riguarda un interessato con rilevanza giuridica o simile, sia il GDPR che la revisione della LPD richiedono che sia disponibile il coinvolgimento umano e il contratto dovrebbe indicare di chi è il compito.
Chi c'è dietro l'azienda
Per un servizio che rimarrà per anni all'interno di un processo regolamentato, l'acquirente deve sapere che il venditore esisterà ancora, sarà ancora indipendente e avrà sempre le stesse persone.
Chiedete chi saranno gli ingegneri dell'account e se sono dipendenti o subappaltatori. Richiedere disposizioni relative alle persone chiave: nominativi, avviso di cambiamento, obbligo di sostituzione con pari anzianità. Chiedete informazioni sui sub-responsabili del trattamento del fornitore e sul processo di notifica quando l'elenco cambia. Chiedete informazioni sulla responsabilità civile professionale e sull'assicurazione informatica e leggi le esclusioni. Chiedere cosa succede al contratto, ai dati e ai pesi in caso di cambio di controllo e garantire il diritto di risoluzione se l'acquirente è inaccettabile.
Nessuna di queste domande è nuova. Sono le domande che il procurement pone a qualsiasi fornitore di una funzione critica. Si applicano senza modifiche.
Le domande che chiudono la conversazione
Alcune risposte dovrebbero chiudere il file, educatamente e senza ulteriori discussioni.
- Un rifiuto di fissare il territorio giuridico in cui si svolge l’inferenza.
- Una licenza per utilizzare i contenuti del cliente per il miglioramento del servizio che il fornitore non annullerà.
- Un accordo sulla protezione dei dati che nomina il venditore come responsabile del trattamento dei dati dell'acquirente piuttosto che come responsabile del trattamento.
- L'incapacità di descrivere cosa fa il sistema quando non lo sa.
- Termini di uscita che forniscono "assistenza ragionevole" senza nominare gli artefatti, i formati o la sequenza temporale.
- Una risposta chiave che nomina un responsabile delle vendite e nessun ingegnere.
- Sub-responsabili del trattamento descritti come "fornitori cloud leader" anziché per nome e territorio.
Un’azienda che non fornisce nessuna di queste risposte potrebbe comunque essere l’azienda sbagliata. Un'azienda che ne dà qualcuno lo è.
Cosa fare lunedì
- Prendi il questionario dei fornitori che il vostro team già utilizza per i fornitori critici e aggiungete una sezione: proprietà di pesi, richieste e risultati; conservazione dei suggerimenti; territorio di inferenza; artefatti e formati di uscita; comportamento quando il sistema non lo sa.
- Invialo a tutti i fornitori di intelligenza artificiale attualmente in fase di sviluppo e classificali in base alla qualità delle risposte scritte, non alle dimostrazioni.
- Chiedete al consulente legale generale di redigere le quattro clausole che contano di più prima dell'inizio delle negoziazioni: nessuna formazione sui contenuti del cliente, territorio di elaborazione fisso, proprietà degli artefatti derivati e uscita con risultati definiti.
- Chiedere al CIO di richiedere un livello di astrazione del modello e set di valutazione indipendenti dal modello come condizione per qualsiasi progetto pilota che proceda alla produzione.
- Inserisci subito nel modello le disposizioni relative alle persone chiave e al cambio di controllo, prima che il primo fornitore vi dica che sono insolite.
Fonti e approfondimenti
Materiale primario pertinente al tema dell’articolo. Queste fonti non avallano Altuon né verificano le sue dichiarazioni commerciali.