On dit aux équipes achats que leurs questions sur l’intelligence artificielle sont naïves, que la technologie évolue trop vite pour les clauses standards et que les diligences habituelles ne s’appliquent pas. Le contraire est vrai. Les questions que les achats ont toujours posées à un fournisseur critique sont exactement les bonnes questions à poser à un fournisseur d’IA. À qui appartient ce que nous produisons ensemble. Où sont nos données. Qui peut le voir. Que se passe-t-il lorsque nous partons. Que se passe-t-il lorsque vous échouez.
Une revue d’achat utile relie chaque affirmation importante à un document, un responsable et une vérification. Commencez par l’usage, les flux de données et la sortie, puis vérifiez les preuves nécessaires à la décision.
À qui appartient le modèle
Le mot « modèle » cache quatre choses qui peuvent être possédées séparément, et un contrat qui ne les distingue pas sera discuté plus tard.
Le modèle de base est l'artefact que le vendeur a autorisé ou formé avant votre arrivée. Vous n’en êtes pas propriétaire et vous ne devriez pas vous y attendre. Ce dont vous avez besoin, c'est du droit de l'utiliser pour le terme et d'un chemin documenté pour le remplacer.
Des poids affinés produits à partir de vos données sont une autre affaire. Si vos documents, transcriptions ou exemples étiquetés ont été utilisés pour adapter un modèle, l'adaptation contient vos informations. L'acheteur doit posséder, ou au minimum détenir une licence perpétuelle exclusive, sur tous les poids dérivés de ses données, et il doit être interdit au vendeur de fournir ces poids à quiconque.
Invites, instructions système, indices de récupération et ensembles d'évaluation sont le produit du travail. Ils incarnent les politiques de l'acheteur, ses cas extrêmes et son jugement sur ce à quoi ressemble le bien. Ils appartiennent à l'acheteur, sans réserve, et doivent être livrés dans un format lisible sur demande et en sortie.
Sorties sont les réponses que le système produit. L'acheteur a besoin d'une cession sans ambiguïté de tous les droits existants et d'une indemnisation pour les réclamations de tiers découlant des données de formation du vendeur, dans le cadre d'un plafond négocié.
D'où proviennent les données d'entraînement
Un acheteur ne peut pas auditer le corpus sur lequel un modèle frontière a été formé, et un fournisseur qui prétend l'avoir fait exagère. Ce qu'un acheteur peut et doit exiger, c'est une position documentée : si le fournisseur a formé le modèle de base ou l'a obtenu sous licence ; ce que le concédant de licence a divulgué sur la provenance des données ; si le modèle a été évalué pour la régurgitation de matériel protégé par le droit d'auteur ou personnel ; et qui porte la responsabilité si un tiers réclame une violation.
La loi européenne sur l’IA ajoute ici une structure. Les fournisseurs de modèles à usage général sont tenus de publier un résumé suffisamment détaillé du contenu de la formation et de conserver une documentation sur les capacités et les limites du modèle. Un fournisseur s'appuyant sur un tel modèle devrait être en mesure de pointer vers cette documentation. Un vendeur qui ne le peut pas ne prête pas attention à la loi en vertu de laquelle il vend ou s'appuie sur quelque chose qu'il ne devrait pas faire.
Pour les propres données de l’acheteur, la question est plus simple. Une partie de cette somme a-t-elle été utilisée pour former, affiner ou évaluer un modèle qui sert quelqu'un d'autre ? La seule réponse acceptable est non, par écrit, avec une description technique de la manière dont cela est appliqué plutôt qu'une promesse.
Qu'arrive-t-il à nos invites
Chaque invite est une révélation. Lorsqu'un analyste colle le relevé financier d'un client dans un système, ce relevé a été envoyé quelque part. L'acheteur doit savoir où, pendant combien de temps et qui peut le voir.
| Question | Réponse acceptable | Réponse qui devrait mettre fin à la conversation |
|---|---|---|
| Les invites et les sorties sont-elles conservées après la réponse ? | Non, ou uniquement pour une fenêtre fixe de surveillance des abus que nous pouvons raccourcir ou désactiver | "Retenu pour améliorer nos services" |
| Où l'inférence est-elle effectuée ? | Un territoire juridique nommé, fixé par contrat | "Distribué mondialement pour la performance" |
| Qui chez le fournisseur peut accéder à notre contenu ? | Un rôle nommé, dans le cadre d'un processus journalisé, avec un accès vérifiable par nos soins | "Personnel autorisé" |
| Les invites sont-elles utilisées pour la formation ou l’évaluation ? | Jamais, avec une interdiction appliquée techniquement | "Uniquement sous forme anonyme" |
| Pouvons-nous détenir les clés de chiffrement ? | Oui, avec effet de révocation documenté | "Notre cryptage est la norme de l'industrie" |
Le cadre juridique dépend de votre position. Le RGPD et la LPD suisse révisée traitent tous deux le transfert vers une autre juridiction comme quelque chose nécessitant une base juridique et des garanties, et tous deux tiennent le responsable du traitement responsable de ce que fait le sous-traitant. La loi jordanienne sur la protection des données personnelles exige une base juridique pour le traitement et impose des conditions au transfert transfrontalier. HIPAA exige un accord de partenariat commercial avec toute personne qui gère des informations de santé protégées au nom d'une entité couverte. Dans tous les cas, le fournisseur est un sous-traitant ou un associé commercial, et une page de conditions de service destinée aux consommateurs ne répond pas à la norme.
Pouvons-nous partir
La sortie est la question que les acheteurs se posent en dernier et devraient se poser en premier. Les systèmes d'IA sont inhabituellement collants : les invites sont adaptées aux habitudes d'un modèle, l'ensemble d'évaluation code les modes de défaillance d'un modèle et les applications ci-dessus sont écrites sur une seule interface.
Une entreprise sérieuse proposera, par écrit, tout ce qui suit. Livraison de invites, d'instructions, d'indices de récupération, d'ensembles d'évaluation et de tout poids affiné dans des formats ouverts et documentés. Une période de transition pendant laquelle le service continue au prix en vigueur pendant que l'acheteur déménage. Documentation suffisante pour qu'un ingénieur compétent puisse exécuter le système ailleurs. Suppression des données de l'acheteur à la fin de la transition, certifiée par écrit, y compris à partir des sauvegardes dans un délai indiqué.
Un acheteur sérieux insistera également sur une architecture qui rend la sortie plausible plutôt que simplement autorisée. Une fine abstraction entre les applications et l'interface du modèle. Ensembles d'évaluation indépendants du modèle. Récupération construite sur la propre infrastructure de l'acheteur. Ce sont des décisions d’ingénierie, et elles sont peu coûteuses lorsqu’elles sont prises dès le départ.
Chaque clause concernant la sortie est une description du pouvoir de négociation. L’acheteur qui peut partir est celui dont les problèmes sont résolus.
Que se passe-t-il lorsque le modèle est erroné
La question n’est pas de savoir si le modèle sera erroné. Ce sera. La question est de savoir ce que fait le système lorsqu’il l’est et qui en est responsable.
Les achats doivent demander la méthodologie d'évaluation du fournisseur : sur quoi le système a été testé, comment l'ensemble de test est lié à l'utilisation réelle de l'acheteur, quels sont les modes de défaillance mesurés et comment ils sont surveillés en production. Un fournisseur qui répond avec un score de référence a répondu à une question différente. Les benchmarks mesurent un modèle sur les tâches choisies par l'auteur du benchmark ; l'acheteur doit savoir comment le système se comporte sur ses propres documents, ses propres appelants et ses propres cas extrêmes.
L'acheteur doit également demander ce que fait le système lorsqu'il ne le sait pas. La bonne réponse est qu'il le dit, le remet à une personne ou refuse. Un système qui produit toujours une réponse sûre est un handicap dans un contexte réglementé, et un fournisseur qui n'a pas conçu pour le refus n'a pas conçu pour vous.
La responsabilité suit. Le fournisseur doit accepter la responsabilité du comportement du système tel que documenté. L'acheteur doit accepter la responsabilité de la manière dont les résultats sont utilisés, dans le cadre du processus conçu ensemble par les deux parties. Lorsqu'une décision affecte une personne concernée avec une signification juridique ou similaire, le RGPD et la LPD révisée exigent qu'une implication humaine soit disponible, et le contrat doit indiquer à qui appartient cette tâche.
Qui se cache derrière l'entreprise
Pour un service qui restera dans un processus réglementé pendant des années, l’acheteur doit savoir que le fournisseur existera toujours, sera toujours indépendant et emploiera toujours les mêmes personnes.
Demandez qui seront les ingénieurs du compte et s’ils sont salariés ou sous-traitants. Demandez des dispositions concernant les personnes clés : personnes nommées, avis de changement, obligation de remplacement par une ancienneté équivalente. Renseignez-vous sur les propres sous-traitants du fournisseur et sur le processus de notification lorsque la liste change. Renseignez-vous sur l’indemnisation professionnelle et la cyberassurance et lisez les exclusions. Demandez ce qu'il advient du contrat, des données et des conséquences en cas de changement de contrôle, et obtenez un droit de résiliation si l'acquéreur est inacceptable.
Aucune de ces questions n’est nouvelle. Ce sont les questions que les achats posent à tout fournisseur d’une fonction critique. Ils s'appliquent sans modification.
Les questions qui mettent fin à la conversation
Certaines réponses devraient clôturer le dossier, poliment et sans autre discussion.
- Un refus de fixer le territoire juridique dans lequel s’effectue l’inférence.
- Une licence pour utiliser le contenu client pour améliorer le service que le fournisseur n'accordera pas.
- Un accord de protection des données qui désigne le vendeur comme responsable du traitement des données de l'acheteur plutôt que comme sous-traitant.
- Une incapacité à décrire ce que fait le système lorsqu’il ne le sait pas.
- Exit les termes qui délivrent une « assistance raisonnable » sans nommer les artefacts, les formats ou la chronologie.
- Une réponse d'une personne clé qui nomme un responsable commercial et aucun ingénieur.
- Les sous-traitants sont décrits comme des « principaux fournisseurs de cloud » plutôt que par leur nom et leur territoire.
Une entreprise qui ne donne aucune de ces réponses peut néanmoins se tromper. Une entreprise qui donne l'un d'entre eux l'est.
Que faire lundi
- Prenez le questionnaire fournisseur que votre équipe utilise déjà pour les fournisseurs critiques et ajoutez une section : propriété des pondérations, des invites et des résultats ; conservation des invites ; territoire d'inférence; artefacts et formats de sortie ; comportement lorsque le système ne le sait pas.
- Envoyez-le à tous les fournisseurs d'IA du pipeline actuel et classez-les en fonction de la qualité des réponses écrites, et non des démonstrations.
- Demandez au conseiller juridique de rédiger les quatre clauses les plus importantes avant le début des négociations : pas de formation sur le contenu du client, territoire de traitement fixe, propriété des artefacts dérivés et sortie avec des livrables nommés.
- Demandez au DSI d'exiger une couche d'abstraction du modèle et des ensembles d'évaluation indépendants du modèle comme condition pour que tout projet pilote passe à la production.
- Intégrez dès maintenant les dispositions relatives à la personne clé et au changement de contrôle dans le modèle, avant que le premier fournisseur ne vous dise qu'elles sont inhabituelles.
Sources et lectures complémentaires
Documents primaires liés au sujet de cet article. Ces sources ne cautionnent pas Altuon et ne valident pas ses affirmations commerciales.