Tedarik'in AI tedarikçileri hakkındaki soruları yanıtlandı

Tedarik ekiplerine yapay zeka hakkındaki sorularının safça olduğu, teknolojinin standart maddelere göre çok hızlı hareket ettiği ve olağan durum tespitinin geçerli olmadığı söyleniyor. Bunun tersi doğrudur. Satın almanın her zaman kritik bir tedarikçiye sorduğu sorular, bir yapay zeka tedarikçisine sorulacak doğru sorulardır. Birlikte ürettiklerimizin sahibi kim? Verilerimiz nerede? Kim görebilir? Biz gidince ne olacak? Başarısız olduğunuzda ne olur?

Faydalı bir satın alma incelemesi, her önemli iddiayı belgeye, sorumlu kişiye ve doğrulama adımına bağlar. Önce kullanım amacını, veri akışlarını ve çıkış gereksinimlerini belirleyin; ardından gerekli kanıtları inceleyin.

Modelin sahibi kim

"Model" kelimesi ayrı ayrı sahiplenilebilecek dört şeyi gizler ve bunları ayırt etmeyen bir sözleşme daha sonra tartışılacaktır.

Bu temel model satıcının siz gelmeden önce lisansladığı veya eğittiği eserdir. Ona sahip değilsiniz ve bunu beklememelisiniz. İhtiyacınız olan şey, onu terim için kullanma hakkı ve onu değiştirmek için belgelenmiş bir yoldur.

İnce ayarlı ağırlıklar Verilerinizden üretilenler farklı bir konudur. Belgeleriniz, transkriptleriniz veya etiketli örnekleriniz bir modeli uyarlamak için kullanıldıysa uyarlama sizin bilgilerinizi taşır. Alıcı, kendi verilerinden elde edilen tüm ağırlıklara sahip olmalı veya en azından bunlar için özel bir kalıcı lisansa sahip olmalı ve satıcının bu ağırlıkları başkalarına sunması yasaklanmalıdır.

İstemler, sistem talimatları, alma endeksleri ve değerlendirme setleri iş ürünüdür. Alıcının politikalarını, uç durumlarını ve iyinin neye benzediğine dair yargısını somutlaştırırlar. Bunlar hiçbir şart olmaksızın alıcıya aittir ve talep üzerine ve çıkışta okunabilir bir formatta teslim edilmelidir.

Çıkışlar sistemin ürettiği tepkilerdir. Alıcının, üzerinde var olan hakların açık bir şekilde devredilmesine ve satıcının eğitim verilerinden kaynaklanan üçüncü taraf talepleri için üzerinde anlaşmaya varılan bir tavan tutar dahilinde bir tazminata ihtiyacı vardır.

Eğitim verileri nereden geliyor?

Bir alıcı, bir sınır modeli üzerinde eğitim verilen derlemi denetleyemez ve bunu yaptığını iddia eden bir satıcı abartıyor. Bir alıcının talep edebileceği ve etmesi gereken şey belgelenmiş bir pozisyondur: Satıcının temel modeli eğitip eğitmediği veya lisanslayıp lisanslamadığı; lisans verenin veri kaynağı hakkında neler açıkladığı; modelin telif hakkıyla korunan veya kişisel materyalin yeniden ortaya çıkması açısından değerlendirilip değerlendirilmediği; ve üçüncü bir tarafın ihlal iddiasında bulunması durumunda sorumluluğu kimin üstleneceği.

AB Yapay Zeka Yasası buraya yapı katıyor. Genel amaçlı model sağlayıcılarının, eğitim içeriğinin yeterince ayrıntılı bir özetini yayınlamaları ve modelin yetenekleri ve sınırlamalarına ilişkin belgeleri muhafaza etmeleri gerekmektedir. Böyle bir modeli temel alan bir satıcı bu belgelere işaret edebilmelidir. Bunu yapamayan bir satıcı, ya altında satış yaptığı kanuna dikkat etmiyordur ya da olmaması gereken bir şeyin üzerine inşa ediyordur.

Alıcının kendi verileri açısından soru daha basittir. Bunlardan herhangi biri başkalarına hizmet edecek bir modeli eğitmek, ince ayar yapmak veya değerlendirmek için kullanıldı mı? Kabul edilebilir tek cevap, bir söz vermek yerine bunun nasıl uygulandığına dair teknik bir açıklama içeren yazılı bir hayırdır.

İstemlerimize ne olur?

Her istem bir ifşadır. Bir analist, müşterinin mali beyanını bir sisteme yapıştırdığında, bu beyan bir yere gönderilmiştir. Alıcının onu nerede, ne kadar süreyle ve kimin görebileceğini bilmesi gerekir.

Yasal çerçeve oturduğunuz yere göre değişir. GDPR ve revize edilmiş İsviçre FADP'si, başka bir yetki alanına aktarımı yasal dayanak ve güvenceler gerektiren bir şey olarak ele alır ve her ikisi de veri işleyenin yaptıklarından denetleyiciyi sorumlu tutar. Ürdün Kişisel Verilerin Korunması Kanunu, işleme için yasal bir temel gerektirir ve sınır ötesi aktarıma ilişkin koşullar koyar. HIPAA, kapsam dahilindeki bir kuruluş adına korunan sağlık bilgilerini işleyen herkesle bir iş ortaklığı anlaşması yapılmasını gerektirir. Her durumda satıcı bir işleyici veya iş ortağıdır ve tüketici düzeyinde bir hizmet şartları sayfası standardı karşılamamaktadır.

Ayrılabilir miyiz?

Çıkış, alıcıların en son sorduğu ve ilk sorması gereken sorudur. Yapay zeka sistemleri alışılmadık derecede yapışkandır: İstemleri bir modelin alışkanlıklarına göre ayarlanır, değerlendirme seti bir modelin arıza modlarını kodlar ve yukarıdaki uygulamalar tek bir arayüze yazılır.

Ciddi bir firma aşağıdakilerin tamamını yazılı olarak sunacaktır. İstemlerinin, talimatların, erişim endekslerinin, değerlendirme setlerinin ve ince ayarlı ağırlıkların belgelenmiş, açık formatlarda teslimi. Alıcı hareket ederken hizmetin mevcut fiyattan devam ettiği bir geçiş dönemi. Yetkili bir mühendisin sistemi başka bir yerde çalıştırması için yeterli belgeler. Geçişin sonunda alıcı verilerinin silinmesi, yazılı olarak tasdik edilerek, belirtilen bir zaman aralığındaki yedeklemeler de dahil olmak üzere.

Ciddi bir alıcı aynı zamanda çıkışı sadece izin verilen bir mimariden ziyade makul kılan bir mimari üzerinde ısrar edecektir. Uygulamalar ve model arayüzü arasında ince bir soyutlama. Modelden bağımsız değerlendirme kümeleri. Alma, alıcının kendi altyapısı üzerine kuruludur. Bunlar mühendislik kararlarıdır ve başlangıçta verildiğinde ucuzdurlar.

Çıkışla ilgili her madde pazarlık gücünün bir açıklamasıdır. Ayrılabilen alıcı, sorunları çözülen alıcıdır.

Model yanlış olduğunda ne olur?

Sorun modelin yanlış olup olmayacağı değil. O olacak. Soru, sistemin bu durumda ne yaptığı ve kimin sorumlu olduğudur.

Tedarik, satıcının değerlendirme metodolojisini sormalıdır: sistemin ne üzerinde test edildiği, test setinin alıcının fiili kullanımıyla nasıl bir ilişkisi olduğu, ölçülen arıza modlarının neler olduğu ve bunların üretimde nasıl izlendiği. Karşılaştırma puanıyla yanıt veren bir satıcı, farklı bir soruya yanıt vermiştir. Karşılaştırmalar, karşılaştırma yazarının seçtiği görevlere ilişkin bir modeli ölçer; alıcının sistemin kendi belgelerinde, kendi arayanlarında ve kendi uç durumlarında nasıl davrandığını bilmesi gerekir.

Alıcının ayrıca sistemin bilmediği durumlarda ne yaptığını sorması gerekir. Doğru cevap, öyle söylemesi, bir kişiye teslim etmesi veya reddetmesidir. Her zaman kendinden emin bir yanıt üreten bir sistem, düzenlenmiş bir bağlamda bir sorumluluktur ve reddetmeye yönelik olmayan bir satıcı sizin için tasarlamamıştır.

Sorumluluk bunu takip eder. Satıcı, sistemin belgelendiği gibi davranmasının sorumluluğunu kabul etmelidir. Alıcı, iki tarafın birlikte tasarladığı süreç içerisinde çıktıların nasıl kullanılacağına ilişkin sorumluluğu kabul etmelidir. Bir kararın yasal veya benzer öneme sahip bir veri sahibini etkilediği durumlarda, hem GDPR hem de revize edilmiş FADP, insan katılımının mevcut olmasını gerektirir ve sözleşmede bunun kimin işi olduğu belirtilmelidir.

Firmanın arkasında kim var?

Yıllarca düzenlenmiş bir süreç içinde kalacak bir hizmet için alıcının, satıcının hâlâ var olacağını, bağımsız olacağını ve hâlâ aynı kişilere sahip olacağını bilmesi gerekir.

Hesaptaki mühendislerin kim olacağını ve bunların çalışan mı yoksa taşeron mu olduğunu sorun. Anahtar kişi hükümleri isteyin: adı geçen kişiler, değişiklik bildirimi, eşdeğer kıdem ile değiştirme yükümlülüğü. Satıcının kendi alt işlemcileri ve liste değiştiğinde bildirim süreci hakkında bilgi alın. Mesleki tazminat ve siber sigorta hakkında bilgi alın ve istisnaları okuyun. Sözleşmeye, verilere ve kontrol değişikliğinin ağırlığına ne olacağını sorun ve edinen tarafın kabul edilemez olması durumunda fesih hakkını güvence altına alın.

Bu soruların hiçbiri yeni değil. Bunlar, tedarikin kritik bir işleve sahip herhangi bir tedarikçiye sorduğu sorulardır. Değişiklik yapılmadan uygulanırlar.

Konuşmayı sonlandıran sorular

Bazı yanıtlar dosyayı kibarca ve daha fazla tartışmaya gerek kalmadan kapatmalıdır.

• Çıkarımın yürütüleceği yasal bölgeyi belirlemenin reddedilmesi.
• Satıcının almayacağı hizmet iyileştirme amacıyla müşteri içeriğini kullanmaya yönelik bir lisans.
• Satıcıyı, alıcının verilerinin işleyicisi yerine denetleyicisi olarak adlandıran bir veri koruma sözleşmesi.
• Sistemin bilmediği durumlarda ne yaptığını açıklayamama.
• Eserleri, formatları veya zaman çizelgesini belirtmeden "makul yardım" sağlayan şartlardan çıkın.
• Bir satış liderinin adını veren ve mühendis olmayan bir anahtar kişi yanıtı.
• Alt işleyiciler ad ve bölge yerine "öncü bulut sağlayıcıları" olarak tanımlanır.

Bu cevapların hiçbirini vermeyen bir firma yine de yanlış firma olabilir. Bunlardan herhangi birini veren bir firmadır.

Pazartesi günü ne yapmalı

1. Ekibinizin kritik tedarikçiler için halihazırda kullandığı satıcı anketini alın ve bir bölüm ekleyin: ağırlıkların, istemlerin ve çıktıların sahipliği; istemlerin saklanması; çıkarım bölgesi; eserlerden ve formatlardan çıkış; sistem bilmediğinde davranış.
2. Bunu mevcut üretim hattındaki tüm yapay zeka satıcılarına gönderin ve onları gösterilere değil, yazılı yanıtların kalitesine göre sıralayın.
3. Müzakereler başlamadan önce genel danışmandan en önemli dört maddenin taslağını hazırlamasını isteyin: müşteri içeriğine ilişkin eğitim verilmemesi, sabit işleme bölgesi, türetilmiş eserlerin sahipliği ve adlandırılmış teslimatlarla çıkış.
4. CIO'dan, herhangi bir pilot üretim aşamasının koşulu olarak bir model soyutlama katmanı ve modelden bağımsız değerlendirme kümeleri talep etmesini isteyin.
5. İlk satıcı size bunların alışılmadık olduğunu söylemeden önce, anahtar kişi ve kontrol değişikliği hükümlerini şablona hemen ekleyin.