Die Fragen des Einkaufs zu KI-Anbietern wurden beantwortet

Den Beschaffungsteams wird gesagt, dass ihre Fragen zu künstlicher Intelligenz naiv seien, dass sich die Technologie für Standardklauseln zu schnell entwickle und dass die übliche Sorgfaltspflicht nicht gelte. Das Gegenteil ist der Fall. Die Fragen, die der Einkauf einem kritischen Lieferanten schon immer gestellt hat, sind genau die richtigen Fragen, die man einem KI-Anbieter stellen sollte. Wem gehört, was wir gemeinsam produzieren? Wo sind unsere Daten? Wer kann es sehen. Was passiert, wenn wir gehen? Was passiert, wenn Sie scheitern?

Eine brauchbare Beschaffungsprüfung verbindet jede wesentliche Aussage mit einem Dokument, einer verantwortlichen Person und einem Prüfschritt. Beginnen Sie mit Nutzung, Datenflüssen und Ausstiegsbedingungen und prüfen Sie die benötigten Nachweise.

Wem gehört das Modell?

Hinter dem Wort „Modell“ verbergen sich vier Dinge, die separat erworben werden können, und über einen Vertrag, der sie nicht unterscheidet, wird später noch gestritten.

Die Basismodell ist das Produkt, das der Verkäufer vor Ihrer Ankunft lizenziert oder geschult hat. Sie besitzen es nicht und sollten es auch nicht erwarten. Was Sie benötigen, ist das Recht, es für den Begriff zu verwenden, und einen dokumentierten Weg, es zu ersetzen.

Fein abgestimmte Gewichte Anders sieht es bei den aus Ihren Daten erzeugten Daten aus. Wenn Ihre Dokumente, Transkripte oder gekennzeichneten Beispiele zur Anpassung eines Modells verwendet wurden, enthält die Anpassung Ihre Informationen. Der Käufer sollte Eigentümer aller aus seinen Daten abgeleiteten Gewichte sein oder zumindest eine unbefristete Exklusivlizenz dafür besitzen, und es sollte dem Verkäufer untersagt sein, diese Gewichte an Dritte weiterzugeben.

Eingabeaufforderungen, Systemanweisungen, Abrufindizes und Bewertungssätze sind Arbeitsprodukte. Sie verkörpern die Richtlinien des Käufers, seine Grenzfälle und sein Urteil darüber, was gut aussieht. Sie sind ohne Einschränkung Eigentum des Käufers und müssen auf Anfrage und bei der Ausreise in einem lesbaren Format geliefert werden.

Ausgänge sind die Reaktionen, die das System erzeugt. Der Käufer benötigt eine eindeutige Abtretung aller daran bestehenden Rechte und eine Freistellung von Ansprüchen Dritter aus den Trainingsdaten des Anbieters im Rahmen einer vereinbarten Höchstgrenze.

Woher kommen die Trainingsdaten?

Ein Käufer kann den Korpus, auf dem ein Frontier-Modell trainiert wurde, nicht prüfen, und ein Anbieter, der behauptet, dies getan zu haben, übertreibt. Was ein Käufer verlangen kann und sollte, ist eine dokumentierte Position: ob der Anbieter das Basismodell trainiert oder lizenziert hat; was der Lizenzgeber über die Herkunft der Daten offengelegt hat; ob das Modell auf die Weitergabe von urheberrechtlich geschütztem oder persönlichem Material untersucht wurde; und wer die Haftung trägt, wenn ein Dritter eine Verletzung geltend macht.

Das EU-KI-Gesetz schafft hier Struktur. Anbieter von Allzweckmodellen sind verpflichtet, eine ausreichend detaillierte Zusammenfassung der Schulungsinhalte zu veröffentlichen und eine Dokumentation über die Fähigkeiten und Einschränkungen des Modells zu führen. Ein Anbieter, der auf einem solchen Modell aufbaut, sollte auf diese Dokumentation verweisen können. Ein Verkäufer, der das nicht kann, achtet entweder nicht auf die Gesetze, nach denen er verkauft, oder er baut auf etwas auf, was er nicht tun sollte.

Für die eigenen Daten des Käufers ist die Frage einfacher. Wurde irgendetwas davon verwendet, um ein Modell zu trainieren, zu optimieren oder zu bewerten, das anderen dient? Die einzig akzeptable Antwort ist „Nein“, schriftlich, mit einer technischen Beschreibung, wie dies durchgesetzt wird, und nicht mit einem Versprechen.

Was passiert mit unseren Eingabeaufforderungen?

Jede Aufforderung ist eine Offenlegung. Wenn ein Analyst den Finanzbericht eines Kunden in ein System einfügt, wurde dieser Bericht irgendwohin gesendet. Der Käufer muss wissen, wo, wie lange und wer es sehen kann.

Der rechtliche Rahmen hängt davon ab, wo Sie sitzen. Sowohl die DSGVO als auch das überarbeitete Schweizer DSG behandeln die Übermittlung in eine andere Gerichtsbarkeit als etwas, das einer Rechtsgrundlage und Garantien bedarf, und beide machen den Verantwortlichen für die Handlungen des Auftragsverarbeiters verantwortlich. Das jordanische Gesetz zum Schutz personenbezogener Daten erfordert eine Rechtsgrundlage für die Verarbeitung und legt Bedingungen für die grenzüberschreitende Übermittlung fest. HIPAA erfordert eine Geschäftspartnervereinbarung mit jedem, der im Namen eines abgedeckten Unternehmens mit geschützten Gesundheitsinformationen umgeht. In jedem Fall handelt es sich bei dem Anbieter um einen Verarbeiter oder Geschäftspartner, und eine Seite mit den Nutzungsbedingungen für Endverbraucher entspricht nicht dem Standard.

Können wir gehen?

„Exit“ ist die Frage, die Käufer als Letztes stellen und als Erstes stellen sollten. KI-Systeme sind ungewöhnlich klebrig: Die Eingabeaufforderungen sind auf die Gewohnheiten eines Modells abgestimmt, der Bewertungssatz kodiert die Fehlermodi eines Modells und die oben genannten Anwendungen werden für eine Schnittstelle geschrieben.

Ein seriöses Unternehmen bietet Ihnen alles Folgende schriftlich an. Bereitstellung von Eingabeaufforderungen, Anweisungen, Abrufindizes, Bewertungssätzen und allen fein abgestimmten Gewichten in dokumentierten, offenen Formaten. Eine Übergangsfrist, in der die Dienstleistung zum bestehenden Preis weitergeführt wird, während der Käufer umzieht. Ausreichende Dokumentation, damit ein kompetenter Techniker das System an einem anderen Ort betreiben kann. Löschung der Daten des Käufers am Ende des Übergangs, schriftlich bestätigt, auch aus Backups innerhalb eines angegebenen Zeitfensters.

Ein seriöser Käufer wird außerdem auf einer Architektur bestehen, die einen Ausstieg plausibel und nicht nur erlaubt macht. Eine dünne Abstraktion zwischen den Anwendungen und der Modellschnittstelle. Modellunabhängige Bewertungssätze. Der Abruf basiert auf der eigenen Infrastruktur des Käufers. Dies sind technische Entscheidungen, und sie sind kostengünstig, wenn sie zu Beginn getroffen werden.

Jede Ausstiegsklausel ist eine Beschreibung der Verhandlungsmacht. Der Käufer, der gehen kann, ist der Käufer, dessen Probleme gelöst werden.

Was passiert, wenn das Modell falsch ist?

Die Frage ist nicht, ob das Modell falsch sein wird. Das wird es. Die Frage ist, was das System tut, wenn es so ist, und wer dafür verantwortlich ist.

Bei der Beschaffung sollte nach der Bewertungsmethodik des Anbieters gefragt werden: worauf das System getestet wurde, in welcher Beziehung das Testset zur tatsächlichen Nutzung durch den Käufer steht, welche Fehlermodi gemessen wurden und wie sie in der Produktion überwacht werden. Ein Anbieter, der mit einem Benchmark-Score antwortet, hat eine andere Frage beantwortet. Benchmarks messen ein Modell anhand von Aufgaben, die der Benchmark-Autor ausgewählt hat. Der Käufer muss wissen, wie sich das System bei seinen eigenen Dokumenten, seinen eigenen Aufrufern und seinen eigenen Randfällen verhält.

Der Käufer sollte sich auch fragen, was das System tut, wenn es es nicht weiß. Die richtige Antwort ist, dass man es sagt, einer Person übergibt oder sich weigert. Ein System, das immer eine sichere Antwort liefert, stellt in einem regulierten Kontext eine Belastung dar, und ein Anbieter, der nicht auf Ablehnung ausgelegt ist, hat nicht für Sie entwickelt.

Es folgt die Haftung. Der Anbieter sollte die Verantwortung dafür übernehmen, dass sich das System wie dokumentiert verhält. Der Käufer sollte die Verantwortung dafür übernehmen, wie die Ergebnisse im Rahmen des von den beiden Parteien gemeinsam entworfenen Prozesses verwendet werden. Wenn eine Entscheidung eine betroffene Person von rechtlicher oder ähnlicher Bedeutung betrifft, verlangen sowohl die DSGVO als auch das revidierte DSG, dass eine menschliche Beteiligung möglich ist, und im Vertrag sollte angegeben werden, wessen Aufgabe das ist.

Wer steht hinter der Firma?

Bei einer Dienstleistung, die über Jahre hinweg einem regulierten Prozess unterliegt, muss der Käufer wissen, dass der Anbieter weiterhin existiert, weiterhin unabhängig ist und weiterhin dieselben Mitarbeiter hat.

Fragen Sie, wer die Ingenieure auf dem Konto sein werden und ob es sich um Angestellte oder Subunternehmer handelt. Bitten Sie um Bestimmungen für Schlüsselpersonen: benannte Personen, Änderungsmitteilung, Verpflichtung zur Ersetzung durch gleichwertige Personen. Erkundigen Sie sich nach den eigenen Unterauftragsverarbeitern des Anbieters und dem Benachrichtigungsprozess, wenn sich die Liste ändert. Erkundigen Sie sich nach Berufshaftpflicht- und Cyberversicherungen und lesen Sie die Ausschlüsse. Erkundigen Sie sich, was mit dem Vertrag, den Daten und den Gewichten bei einem Kontrollwechsel passiert, und sichern Sie sich ein Kündigungsrecht, wenn der Erwerber nicht akzeptabel ist.

Keine dieser Fragen ist neu. Dies sind die Fragen, die die Beschaffung jedem Lieferanten einer kritischen Funktion stellt. Sie gelten unverändert.

Die Fragen, die das Gespräch beenden

Einige Antworten sollten die Datei höflich und ohne weitere Diskussion schließen.

• Eine Weigerung, den rechtlichen Bereich festzulegen, in dem die Schlussfolgerung verläuft.
• Eine Lizenz zur Nutzung von Kundeninhalten zur Serviceverbesserung, die der Anbieter nicht streichen wird.
• Eine Datenschutzvereinbarung, die den Verkäufer als Verantwortlichen für die Daten des Käufers und nicht als Auftragsverarbeiter bezeichnet.
• Die Unfähigkeit zu beschreiben, was das System tut, wenn es es nicht weiß.
• Exit-Begriffe, die „angemessene Hilfe“ liefern, ohne die Artefakte, die Formate oder die Zeitachse zu benennen.
• Eine Schlüsselpersonenantwort, die einen Vertriebsleiter und keinen Ingenieur nennt.
• Unterauftragsverarbeiter werden als „führende Cloud-Anbieter“ bezeichnet und nicht nach Name und Gebiet.

Ein Unternehmen, das keine dieser Antworten gibt, ist möglicherweise immer noch das falsche Unternehmen. Eine Firma, die eines davon gibt, ist.

Was tun am Montag?

1. Nehmen Sie den Lieferantenfragebogen, den Ihr Team bereits für kritische Lieferanten verwendet, und fügen Sie einen Abschnitt hinzu: Verantwortung für Gewichte, Eingabeaufforderungen und Ergebnisse; Beibehaltung von Eingabeaufforderungen; Territorium der Schlussfolgerung; Exit-Artefakte und -Formate; Verhalten, wenn das System es nicht weiß.
2. Senden Sie es an jeden KI-Anbieter in der aktuellen Pipeline und ordnen Sie ihn nach der Qualität der schriftlichen Antworten und nicht nach den Demonstrationen.
3. Bitten Sie den General Counsel, die vier wichtigsten Klauseln zu entwerfen, bevor die Verhandlungen beginnen: keine Schulung zu Kundeninhalten, festgelegtes Verarbeitungsgebiet, Eigentum an abgeleiteten Artefakten und Ausstieg mit benannten Ergebnissen.
4. Bitten Sie den CIO, eine Modellabstraktionsschicht und modellunabhängige Bewertungssätze als Bedingung dafür zu fordern, dass jedes Pilotprojekt in die Produktion übergeht.
5. Nehmen Sie jetzt Bestimmungen zu Schlüsselpersonen und Kontrollwechseln in die Vorlage auf, bevor Ihnen der erste Anbieter mitteilt, dass sie ungewöhnlich sind.