Zum Inhalt springen
Künstliche Intelligenz, eine Practice von Altuon Enterprise

Jedes Modell hat einen Besitzer.

Modellauswahl und Feinabstimmung, Abruf, Agenten und Automatisierung, bereitgestellt in Ihrer eigenen Datenebene und unter der Leitung ausgeführt, die Ihre Compliance-Funktion unterzeichnen kann. Eine überzeugende Demonstration ist nicht das Ziel. Ein System, das eine Regulierungsbehörde überprüfen kann, ein Betreiber ein Rollback durchführen kann und ein Unternehmen davon abhängig bleiben kann.

Angebot anfordernGespräch anfragen

Dies sind vorgeschlagene Fähigkeiten und Lieferanforderungen. Das Angebot muss Personen, Verfügbarkeit, Kontrollen, Abnahmekriterien und Kosten für Ihren Umfang bestätigen. Beispiele belegen keine abgeschlossenen Kundenprojekte.

Was diese Practice ist

  • Produktionstechnik für Sprachmodelle und die sie umgebenden Systeme: das für jede Aufgabe ausgewählte Modell, fein abgestimmt dort, wo es nachweislich hilfreich ist, die Abrufschicht, die Ihre Dokumente mit intakten Berechtigungen bereitstellt, und die Agenten und Automatisierungen, die eine Antwort in eine abgeschlossene Arbeit verwandeln.
  • Wird dort eingesetzt, wo Ihr Regulator es sehen kann. Modelle, Gewichtungen, Eingabeaufforderungen, Einbettungen und Protokolle befinden sich in der von Ihnen gewählten Datenebene, sei es in der Schweiz, in der EU, in den USA, vor Ort oder in einer nationalen Cloud, und nichts in der Steuerungsebene speichert Ihre Inhalte.
  • Vom ersten Tag an regiert. Jedes Modell in der Produktion hat einen benannten Eigentümer, einen Bewertungssatz, der vor jeder Veröffentlichung ausgeführt wird, eine dokumentierte Risikoklasse gemäß dem EU-KI-Gesetz, in dem es gilt, ein Design unter menschlicher Aufsicht und einen einstudierten Rollback-Pfad.
  • Gemessen an der geleisteten Arbeit, nicht an den Antworten, die es liefert. Bewertungssätze werden aus Ihren realen Fällen erstellt und von Ihren Experten bewertet. Die Zahlen, die zählen, sind diejenigen, die Ihr Unternehmen seinem Vorstand bereits mitteilt.

Kompetenzen

Modellauswahl und Benchmarking
Kandidatenmodelle, gehostet und offen gewichtet, werden anhand Ihres Bewertungssatzes hinsichtlich Genauigkeit, Latenz, Kosten und Residenz bewertet, wobei die Kompromisse aufgeschrieben werden, damit die Auswahl bei Marktbewegungen erneut geprüft werden kann.
Feinabstimmung und Anpassung
Überwachte Feinabstimmung, Präferenzabstimmung und Adapterschulung anhand gelöschter Daten, mit einem vorgehaltenen Satz, der darüber entscheidet, ob das abgestimmte Modell seinen Platz gegenüber dem Basismodell und dem Abruf allein verdient.
Abruf über Ihre Dokumente
Aufnahme von Dokumenten, Datensätzen und Tabellen unter Beibehaltung ihrer Zugriffsberechtigungen, Aufteilung und Indizierung für Ihre Dokumenttypen sowie Antworten, die die Passage zitieren, aus der sie stammen, damit ein Leser sie überprüfen kann.
Agenten, die im Rahmen der Richtlinien handeln
Agenten, die innerhalb schriftlicher Grenzen planen, Werkzeuge aufrufen und mehrstufige Arbeiten ausführen: welche Systeme sie berühren dürfen, welche Aktionen die Zustimmung einer Person erfordern und wo sie anhalten und übergeben müssen.
Workflow-Automatisierung
Dokumentenklassifizierung, -extraktion, -erstellung, -weiterleitung und -abgleich sind in die Systeme integriert, die Ihre Mitarbeiter bereits verwenden, mit einer Person auf dem Laufenden, wo immer die Risikoklasse oder Ihre eigene Richtlinie dies erfordert.
Evaluierungstechnik
Aus realen Fällen erstellte und von Ihren Experten bewertete Evaluierungssätze, kontradiktorische Fälle für Einschleusung und Datenlecks sowie ein System, das den gesamten Satz bei jeder Änderung ausführt und eine rückläufige Veröffentlichung blockiert.
Governance und das Musterregister
Ein Register aller in Produktion befindlichen Modelle: Eigentümer, Zweck, Risikoklasse, Herkunft der Trainingsdaten, Bewertungsergebnisse, genehmigte Version, Rollback-Version und Überprüfungsdatum. Es handelt sich um das Dokument, nach dem ein Prüfer zuerst fragt.
Gestaltung menschlicher Aufsicht
Wo eine Person überprüft, genehmigt oder außer Kraft setzt, im Einklang mit den menschlichen Aufsichtspflichten des EU-KI-Gesetzes und Ihren eigenen Richtlinien, mit Schnittstellen, die die Außerkraftsetzung real und nicht wie einen Knopfdruck ermöglichen, hat niemand Zeit, ihn zu drücken.
Souveräne und lokale Bereitstellung
Modelle, die innerhalb Ihrer Datenebene auf Ihrer Hardware oder einer nationalen Cloud bereitgestellt werden, mit Inferenz, Einbettungen, Vektorspeichern und Protokollen, alles innerhalb der Grenze, und einer Kostenaufstellung darüber, was Sie für deren Ausführung bereitstellen müssen.
Driftüberwachung und Beobachtbarkeit
Protokollierung von Eingaben, Ausgaben, Modellversion und Kosten pro Anfrage; Stichprobe einer menschlichen Bewertung mit einer Bewertungsrubrik; warnt, wenn Genauigkeit, Ablehnungsraten oder Latenz von der beim Go-Live aufgezeichneten Basislinie abweichen.
Sicherheit und Datenschutz
Abwehr von Prompt-Injection, Ausgabefilterung, Umgang mit Geheimnissen und Mandantentrennung, mit Datenschutz-Folgenabschätzungen, die mit Ihrer Datenschutzfunktion gemäß dem überarbeiteten Schweizer DSG, der DSGVO oder dem jordanischen Gesetz zum Schutz personenbezogener Daten, je nach Anwendbarkeit, erstellt wurden.
Validierte Bereitstellung für regulierte Umgebungen
Validierungsdokumentation, Audit-Trails und elektronische Aufzeichnungskontrollen für Pharmaunternehmen gemäß GxP und 21 CFR Part 11 sowie die Outsourcing- und Betriebssicherheitsnachweise, die von der FINMA beaufsichtigte Institutionen für ein kritisches System vorhalten müssen.
Der Stack, von Ihrer Datenebene bis zu den Schnittstellen, die Ihre Mitarbeiter nutzen: was Sie besitzen, was wir aufbauen und was wir gemeinsam betreibenSchnittstellen und IntegrationenInterne Werkzeuge, Kernsystemintegration, Dokumenten- und Sprachkanäle, BeobachtbarkeitEvaluierung und GovernanceBewertungssets, Modellregister, Menschliche Aufsicht, PrüfpfadAbruf, Agenten und AutomatisierungBerechtigungsbewusste Aufnahme, Zitierter Abruf, Richtliniengebundene Agenten, Workflow-AutomatisierungModellePro Aufgabe ausgewählt, Feinabstimmung anhand der gelöschten Daten, Gewichte in Ihrem Flugzeug, Rollback-Version beibehaltenDatenebeneSchweiz, EU, USA, lokale oder nationale Cloud, Quellsysteme, Identität und Zugriff, Verschlüsselungsschlüssel
Von Altuon entwickeltGemeinsam betriebenIm Eigentum des Kunden

Der Stack, von Ihrer Datenebene bis zu den Schnittstellen, die Ihre Mitarbeiter nutzen: was Sie besitzen, was wir aufbauen und was wir gemeinsam betreiben

Wie wir liefern

Fünf Phasen, jede durch ein von Ihrem Team unterzeichnetes Tor abgeschlossen. Kein Modell erreicht den Produktionsverkehr ohne einen benannten Eigentümer, einen bestandenen Bewertungssatz und ein geprobtes Rollback, und keine Phase wird übersprungen, weil die Demonstration bereits abgeschlossen schien.

Die fünf Lieferphasen und das Gate, das jede abschliesst01Entdecken02Definieren03Bauen04Beweisen05BetreibenGate
01Entdecken
Lesen Sie die Prozesse, bei denen Geheimdienst die Arbeit verändern würde, inventarisieren Sie die Daten und die Systeme, in denen sie gespeichert sind, lesen Sie die regulatorischen Verpflichtungen für jede Gerichtsbarkeit und trennen Sie die Fälle, in denen ein Modell hilfreich ist, von den Fällen, in denen eine Regel ausreichen würde.
Gate: Eine geordnete Fallliste mit Datenbestand, Risikoklassifizierung und Datenstandortanforderungen, genehmigt von den Geschäfts-, Datenschutz- und IT-Sponsoren.
02Definieren
Schreiben Sie die Zielarchitektur und die Datenebenen-Entscheidung, nehmen Sie Kandidatenmodelle in die engere Auswahl, erstellen Sie mit Ihren Experten den ersten Bewertungssatz aus realen Fällen und entwerfen Sie die Governance: Eigentümer, Aufsicht, Rollback und Überprüfung.
Gate: Architektur, Evaluierungsset und Governance-Design unterzeichnet; Datenschutz-Folgenabschätzung, die mit Ihrer Datenschutzabteilung erstellt wurde.
03Bauen
Stellen Sie die Modelle auf der gewählten Ebene bereit, erstellen Sie Abrufe, Agenten und Integrationen, nehmen Sie nur dort eine Feinabstimmung vor, wo sich der zurückgehaltene Satz lohnt, und führen Sie bei jeder Änderung den vollständigen Evaluierungssatz aus.
Gate: Bewertungssatz, der die vereinbarten Schwellenwerte erreicht; Sicherheits- und kontradiktorische Feststellungen abgeschlossen; Rollback wurde auf der Produktionsebene durchgehend geprobt.
04Beweisen
Lassen Sie reale Fälle durch das System laufen, wobei eine Person jede Ausgabe überprüft, sie mit dem aktuellen Prozess vergleicht, den Teilbereich je nach Ergebnis erweitert und die Validierungsdokumentation dort ausfüllt, wo die Branche dies erfordert.
Gate: Zielqualität im gesamten Pilotbereich für den vereinbarten Zeitraum; Die Compliance-, Qualitäts- oder Risikofunktion signiert den Musterregistereintrag.
05Betreiben
Führen Sie den Modelllebenszyklus durch: Driftüberprüfung, Aktualisierung des Bewertungssatzes, Änderungen der Modellversion über dieselben Gates und neue Fälle, die hinzugefügt werden, wenn das Register wächst und sich der Markt verändert.
Gate: Monatliche Lenkungsüberprüfung von Qualität, Kosten und Fallrückstand; geplante Neubewertung jedes Modells im Register anhand seines aktualisierten Satzes.

Was Sie erhalten

LieferergebnisFormWas es ist
Fall- und RisikoregisterDokumentieren und registrierenJede in Frage kommende Nutzung, sortiert nach Wert und Risiko, mit ihren Datenquellen, ihrer Risikoklasse und dem dafür erforderlichen Datenstandort.
ZielarchitekturDokumentDatenebene, Modelloptionen, Abrufdesign, Integrationspunkte und die Grenze, die Ihr Inhalt niemals überschreitet.
Evaluierungsset und GeschirrTestsuiteEchte und kontroverse Fälle, die von Ihren Experten bewertet werden, mit den Tools, die sie bei jeder Änderung ausführen und eine Regression blockieren.
ModellregisterLebendes DokumentEigentümer, Zweck, Risikoklasse, Datenherkunft, genehmigte Version und Rollback-Version für jedes Modell in Produktion.
Das SystemBereitgestelltes SystemModelle, Abruf, Agenten, Automatisierungen und Integrationen, die auf Ihrer Datenebene ausgeführt werden, mit dem Ihnen zugewiesenen Code.
Governance-PaketDokument und BeweisHuman-Oversight-Design, Datenschutz-Folgenabschätzung, Audit-Trail-Spezifikation und, sofern erforderlich, Validierungsdokumentation.
Qualitäts-DashboardBetriebsansichtGenauigkeit, Kosten, Latenz und Ablehnungsraten pro Fall und pro Modellversion, mit Abweichungswarnungen gegenüber der Go-Live-Basislinie.
Betriebs-RunbookDokumentSo ändern Sie eine Eingabeaufforderung, aktualisieren den Bewertungssatz, tauschen ein Modell, führen ein Rollback durch, reagieren auf einen Vorfall und beantworten eine Datensubjekt- oder Prüferanfrage.

Wo es zählt

Repräsentative Engagements

Verwandte Insights

Umfang und Grenzen

  • Für einen allgemeinen Mitarbeitendenassistenten kann ein bestehendes Produkt genügen. Individuelle Entwicklung ist sinnvoll, wenn Integration, Rechte, Evaluation oder Betriebsanforderungen sie erfordern. Die Klärung sollte beide Optionen vergleichen.
  • Eine Wette auf einen Anbieter. Modelle werden pro Aufgabe anhand Ihres Bewertungssatzes ausgewählt, und die Architektur sorgt dafür, dass jedes Modell austauschbar ist, sodass eine genauere, billigere oder zuverlässigere Option ausgetauscht werden kann, ohne das System darum herum neu aufbauen zu müssen.
  • Schulung zu Ihren Daten, ohne zu fragen. Eine Feinabstimmung erfolgt nur dann, wenn sich herausstellt, dass der Abruf und die Eingabeaufforderung nicht ausreichen, und zwar nur bei Daten, die Ihre Datenschutzfunktion gelöscht hat, und die resultierenden Gewichtungen gehören Ihnen.
  • Fertig, wenn die Demonstration funktioniert. Der Abstand zwischen einer Demonstration, die bei einer Besprechung Eindruck macht, und einem System, das ein Prüfer prüfen kann, ist der größte Teil der Technik, und für diesen Teil ist diese Praxis gedacht.

Fragen, die die Beschaffung stellt

Wem gehören die Modelle, die Gewichte und der Code?

Das tust du. Feinabgestimmte Gewichte, Adapter, Eingabeaufforderungen, Bewertungssätze, Abrufindizes und der für Sie geschriebene Anwendungscode werden Ihnen gegen Bezahlung zugeteilt. Wenn ein Basismodell von einem Dritten lizenziert wird, werden seine Lizenzbedingungen vor Beginn der Arbeiten im Angebot genannt und die Architektur ist so aufgebaut, dass das Modell ersetzt werden kann, ohne dass das, was um es herum aufgebaut wurde, verloren geht. Altuon behält seine eigenen Methoden, internen Tools und bereits vorhandenen Komponenten und lizenziert sie für die gesamte Lebensdauer des Systems an Sie.

Trainieren Sie anhand unserer Daten und was passiert mit unseren Eingabeaufforderungen?

Nicht ohne schriftlichen Beschluss. Zuerst werden Abruf und Eingabeaufforderung ausprobiert; Eine Feinabstimmung wird nur dann vorgeschlagen, wenn der zurückgehaltene Satz zeigt, dass sie nicht ausreichen, und nur für Daten, die Ihre Datenschutzfunktion zu diesem Zweck freigegeben hat. Eingabeaufforderungen, Abschlüsse und Einbettungen werden in Ihrer Datenebene zur Auswertung und Prüfung gemäß einem von Ihnen festgelegten Aufbewahrungsplan protokolliert und niemals für Schulungen außerhalb Ihres Auftrags verwendet. Wenn ein gehostetes Modell in den Geltungsbereich fällt, werden die Bedingungen des Anbieters zu Schulung und Aufbewahrung in die Unterauftragsverarbeitervereinbarung aufgenommen und ein Anbieter, der sich das Recht vorbehält, Ihre Inhalte zu schulen, wird nicht eingesetzt.

Wo bleiben unsere Daten und können wir verlangen, dass nichts das Land verlässt?

Ja. Die Entscheidung über die Datenebene wird in der Phase „Definieren“ getroffen und im Architekturregister erfasst: Schweiz, Europäische Union, USA, Ihre eigenen Räumlichkeiten oder eine nationale Cloud. Inferenz, Einbettungen, Vektorspeicher und Protokolle laufen alle innerhalb dieser Grenze. Die Steuerungsebene enthält Konfigurationen, Bewertungsergebnisse und Metriken, jedoch niemals Ihre Dokumente oder Eingabeaufforderungen. Für eine souveräne Bereitstellung gibt der Vorschlag an, was Sie bereitstellen müssen, einschließlich Hardware, Netzwerk und Identität, sowie die Modelloptionen, die zu diesem Footprint passen, sodass die Residenzverpflichtung eher kalkuliert als angenommen wird.

Wie bewerten Sie das System und was passiert, wenn es driftet?

Jedes Modell verfügt über einen Bewertungssatz, der aus Ihren realen Fällen erstellt und von Ihren Experten bewertet wird, wobei kontroverse Fälle für Einschleusung, Leckage und nicht richtlinienkonforme Anfragen hinzugefügt werden. Das Set wird bei jeder Änderung ausgeführt, und eine Version, die zurückgeht, wird nicht ausgeliefert. In der Produktion werden Stichprobenausgaben von einer Person anhand derselben Rubrik überprüft und es werden Warnungen ausgelöst, wenn Genauigkeit, Ablehnungsraten oder Latenz von der beim Go-Live aufgezeichneten Basislinie abweichen. Drift wird als ein Vorfall mit einem Eigentümer behandelt: Das Register benennt, wer über eine Neuabstimmung, ein Rollback oder eine Außerbetriebnahme entscheidet, und das Runbook sagt, wie.

Wie sieht menschliche Aufsicht in der Praxis aus?

Es gilt für den Einzelfall und wird nicht in einer Police festgelegt. Für jedes Modell gibt das Governance-Paket an, wo eine Person überprüft, bevor eine Ausgabe verwendet wird, wo eine Person genehmigt, bevor ein Agent handelt, und wo eine Person anschließend außer Kraft setzen kann, wobei die Schnittstelle so aufgebaut ist, dass dies schnell erfolgt und aufgezeichnet wird. Wenn das EU-KI-Gesetz eine Verwendung als risikoreich einstuft, werden die damit verbundenen Dokumentations-, Protokollierungs- und Überwachungspflichten durch die Gestaltung erfüllt und im Register nachgewiesen. Die Überwachungsraten werden gemessen, und ein Prüfer, der alles genehmigt, ohne es zu lesen, ist eine Feststellung, kein Erfolg.

Was passiert, wenn wir die Zusammenarbeit beenden?

Das System läuft weiter. Alles, was es benötigt, befindet sich in Ihrer Datenebene und ist Ihnen zugewiesen: Gewichtungen, Eingabeaufforderungen, Indizes, Code, Bewertungssätze und das Runbook, das Ihrem Team sagt, wie es eine Eingabeaufforderung ändert, ein Modell austauscht, ein Rollback durchführt und einem Prüfer antwortet. Der Ausstieg wird während der Testphase geprobt, daher ist der Tag, an dem er geschieht, nicht das erste Mal, dass Ihr Team das System alleine bedient. Wenn von Altuon lizenzierte Werkzeuge verwendet werden, bleibt die Lizenz für die gesamte Lebensdauer des Systems bestehen, und im Vorschlag sind die Kündigungsfrist und die darin enthaltenen Übergabearbeiten aufgeführt.

Wer sind Ihre Unterauftragsverarbeiter und wie genehmigen wir sie?

Der Vorschlag listet alle Dritten, die mit Ihren Inhalten in Berührung kommen könnten, nach Name, Rolle und Standort auf: Modellanbieter, bei denen ein gehostetes Modell in den Geltungsbereich fällt, Infrastrukturanbieter, bei denen Sie das Flugzeug nicht bereitstellen, und alle Tools, die Eingabeaufforderungen oder Ausgaben verarbeiten. Vor der Verwendung wird jeweils Ihre Genehmigung erteilt und eine Änderung der Liste wird Ihnen vorab mit dem Recht zum Widerspruch mitgeteilt. Für eine vollständig souveräne oder lokale Bereitstellung kann die Liste bis auf Altuon selbst leer sein, und dies ist in der Vereinbarung schriftlich festgelegt.

Bringen Sie uns den Fall, der nicht scheitern kann.

Die Discover-Phase beginnt mit Ihren Prozessen und Ihren Verpflichtungen und endet mit einem Ranglistenregister, das Sie Ihrem Risikoausschuss vorlegen können. Fordern Sie ein Angebot an oder buchen Sie ein Executive Briefing für die Personen, die das erste Modell besitzen werden.

Angebot anfordernGespräch anfragen