Bir Kelime Bilgisi, İki Hedef Kitle: Yapay Zekanız ve Kontrol Panelleriniz Neden Anlamsal Bir Katmanı Paylaşmalı?

Üç farklı anlama gelen number

Aynı şirketteki üç takıma "bu çeyrekteki aktif üyeler" sorulduğunda genellikle üç rakam elde edilir. Pazarlama, bir e-postayı açan herkesi sayar. Sadakat ekibi, satın alma işlemi gerçekleştiren üyeleri sayar. Finans, değeri kullanan üyeleri sayar. Hiçbiri yalan söylemiyor. Farklı tanımlarla çalışıyorlar, farklı SQL'de kodlanmışlar, farklı araçlarda yaşıyorlar. Söz paylaşılıyor; anlamı öyle değil.

İnsanlar bu sayıların tek tüketicisi olduğunda bu katlanılabilir bir sorundu. Deneyimli bir analist hangi tanımı kastettiğinizi sormayı bilir ve bir slayttaki dipnot geri kalanını örtbas eder. Ancak bir yapay zeka ajanını aynı verilere yönlendirdiğiniz anda, dipnot kaybolur ve belirsizlik bir dezavantaj haline gelir. Bir ajan "aktif" kelimesinin tartışmalı olduğunu bilmez. Bir tanım seçecek - veya daha kötüsü, bir tane icat edecek - ve sonucu diğer her şeyi sunduğu aynı güvenle sunacaktır.

Araçlar fiillerdir; anlamsal katman kelimedir

Bir temsilciye araçlar verdiğinizde ona fiiller vermiş olursunuz: sorgulama, özetleme, karşılaştırma, tahmin etme. Anthropic'in Model Bağlam Protokolü bunu resmileştirir; bir araç, modelin çağırabileceği yazılı, adlandırılmış bir yetenektir. Bu çerçeveleme doğru ve faydalıdır. Ancak arkasında ortak bir kelime dağarcığı olmayan bir fiil, doğaçlama yapma iznidir. "Bana geliri söyle" yalnızca "gelir" tek bir onaylı tanıma (insanların kontrol panelinde gördüğü ve her seferinde aynı şekilde hesaplanan tanım) bağlıysa güvenlidir.

Temel argüman şudur: Sertifikalı metriklerin semantik katmanı, ajanın fiillerini dürüst tutan ortak kelime dağarcığıdır. Araçlar ajanın hareket etmesine izin verir. Semantik katman, bu eylemlerin ne anlama gelmesine izin verildiğidir. İkisini ayırırsanız, sorguları çalıştırabilen ancak bunları yorumlamasına güvenilemeyen bir ajan elde edersiniz. Bunları birleştirin ve temsilci, analistlerinizin üzerinde anlaşmak için zaten mücadele ettiği her tanımı ücretsiz olarak devralır.

Aşağıdaki disiplini ifade etmek basit, taklit etmek zordur: tek bir kelime dağarcığı, iki hedef kitle. İnsanlar bunu gösterge panelleri ve özel sorular aracılığıyla tüketir. Temsilciler bunu MCP araçları ve yardımcı pilotlar aracılığıyla tüketir. Her ikisi de aynı sertifikalı katmandan okur, bu nedenle bir number, ister bir insan ister bir temsilci tarafından istensin, aynı anlama gelir.

Paylaşılan katman olmadığında ortaya çıkan hata modu

Anlamsal katmanı atladığınızda üç hata bir araya gelir. Birincisi, yapay zeka rakamları halüsinasyona uğratıyor; model bozulduğu için değil, ondan herhangi bir şeyin kanonik tanımı olmayan ham tablolar üzerinde mantık yürütmesini istediğiniz için, boşluğu makul bir tahminle dolduruyor. İkincisi, KPI tanımlarının sapması: her ekip, araç ve not defteri "karışıklığı" veya "AOV"yi biraz farklı şekilde yeniden uygular ve farklılık sessizce birleşir. Üçüncüsü, "kendi kendine hizmet analitiği" çelişkili rakamlar üretir ve kuruluş sessizce bunların hepsine güvenmeyi bırakır.

Deloitte'un "Kurumsal Yapay Zekanın Durumu" araştırması, işletmelerin yapay zekayı pilot aşamasından üretime ölçeklendirmesinde kilit faktörlerin modelin ham yeteneği değil, güven ve yönetişim olduğunu sürekli olarak ortaya koymuştur. Bu durum doğrudan analitik problemine de yansıyor. Engelleyici unsur nadiren modelin SQL yazıp yazamayacağıdır. Asıl sorun, herhangi birinin cevaba yeterince güvenip ona göre hareket edebilmesi ve daha sonra number'ın nereden geldiğini açıklayabilmesidir.

Onaylı tanımlar ve bunların ardındaki sürüm geçmişi

Sertifikalı bir metrik, bir sahibi tarafından incelenip tek doğruluk kaynağı olarak onaylanan bir tanımdır. "Aktif üye", mevcut sorgunun hesapladığı her şey değildir; açık mantığa, bir sahibine ve bir duruma sahip, adlandırılmış, yönetilen bir object'dır. Pazarlama, sadakat ve finans departmanları anlaşmazlığa düştüğünde, artık SQL'de tartışmazlar. Bir kez, açık bir şekilde, tanım hakkında tartışırlar. Sonra onaylanır ve herkes -her insan ve her temsilci- aynı cevabı devralır.

Sürüm oluşturma bunu dayanıklı kılan şeydir. Tanımlar gelişir: mali takvim değişir, bir segment hassaslaştırılır, bir veri kaynağı düzeltilir. Sürüm oluşturma olmadan, yeniden tanımlama sessizce geçmişi yeniden yazar ve son çeyreğin pano numarası artık yeniden üretilmez. Bununla birlikte, her ölçüm kendi kökenini taşır; böylece denetçilerin ve CFO'ların aslında sorduğu soruyu yanıtlayabilirsiniz - yalnızca "sayı nedir" değil, "raporladığımız tarihte sayı neydi, hangi tanım altındaydı?"

Tek bir sorgu giriş noktası, kiracı kapsamı bunun dışında uygulanır

Tanımlar, onları yürüten yol kadar güvenilirdir. Mimari yapımızda, ister bir gösterge paneli ister bir aracı tarafından talep edilsin, her metrik tek bir sorgu giriş noktası üzerinden çözümlenir. Yapay zeka için ikinci, daha gevşek bir yol yoktur. Yardımcı pilot ve ekrandaki grafik aynı onaylı mantığı çalıştırır; bu da rakamlarının birbirinden ayrışamamasının mekanik nedenidir.

Kiracı izolasyonu sorgunun dışında uygulanır, içinde değil. Arayan, hangi kiracının verilerini göreceğini asla belirtmez ve etkileyemez; Kapsam belirleme, kimlik doğrulaması yapılmış bağlamdan yürütme katmanı tarafından uygulanır. Bu, girdileri sizin senaryo yazmadığınız şekillerde oluşturan aracılar için son derece önemlidir. Eğer izolasyon, modelin bir araya getirmesine yardımcı olduğu bir sorgunun string içinde yer alsaydı, zekice bir istem onu ​​bozabilirdi. Kapsam belirleme sorgunun dışında olduğundan, hiçbir istem - düşmanca veya kazara - bir kiracı sınırını geçemez. Sonuç, tekrarlanabilir, kiracıya özel olarak izole edilmiş ve yapısı gereği denetlenebilir yanıtlardır.

İzin tabanlı salt okunur görünümler: modelin akıl yürütemeyeceği güvenlik

Şu anda kurumsal yapay zekadaki en tehlikeli model, bir sohbet robotunu doğrudan ham tablolara eklemektir. Muhteşem bir şekilde demo yapar ve tam olarak göze alamayacağınız yerlerde başarısız olur. Tabloya erişim verildiğinde, bir ajan asla birleştirilmemesi gereken verileri birleştirebilir, kaynak sistemden asla çıkmaması gereken sütunları ortaya çıkarabilir ve üç geçerli görünümlü şekilde bir metriği hesaplayabilir; bunların hepsi birbiriyle çelişir. Sadece birer gelenek olarak var olan sınırları dikkate alması için olasılıksal bir sisteme güveniyorsunuz.

Bunun alternatifi ise veritabanındaki sınırı modelin altında uygulamaktır. Sertifikalı katmanı, hibe tabanlı, salt okunur görünümler aracılığıyla kullanıma sunuyoruz. Yapay zekanın kimlik bilgileri, beyaz listeye alınmış güvenli görünümleri okuyabilir ve başka hiçbir şeyi okuyamaz; ham tablolar, yazma yolları, sertifikalı yüzeyin dışında sütunlar yoktur. Model hiçbir zaman geçmeyi göze alabileceği bir sınır görmez, çünkü sınır bir sistem isteminde yer alan bir talimat paragrafı değil, bir veritabanı tahsisidir. Bu tam da NIST AI RMF 1.0 gibi çerçevelerin hedeflediği türden açık, teknik kontroldür: modelin hareket edeceğine güvenmek yerine yapay zeka sisteminizin gerçek erişimini ve veri akışlarını yönetin ve haritalandırın.

Ajanları bu yüzeye bağlamak bir yeniden yapılandırma değil, bir kablolama problemidir. İnsan panolarını destekleyen aynı sertifikalı katman, MCP araçları ve SoCode aracılığıyla ajanlara sunulur, böylece ajan sertifikalı metrikler üzerinde akıl yürütür ve asla ham tablolar üzerinde düşünmez. Yapay zeka bir rakam icat edemez, çünkü hiç rakam üretmez - katmana sorar ve katman sertifikalı number'yi döndürür.

Paylaşılan bir katmanın Kodsuz Yazılım Geliştirmeyi Güvenli Hale Getirmesinin Nedenleri

Self-servis bir yönetişim riski gibi görünüyor: iş kullanıcılarına bir ölçüm oluşturucu verin ve kesinlikle aynı çelişkili tanımları başka yollarla yaratacaklar. İnşaatçının sertifikalı katmanın üstüne oturması koşuluyla bunun tersi doğrudur. Kodsuz ve yapılandırılmış metrik yazma, kullanıcıların, ham SQL yazmadan ve bir temel tabloya dokunmadan, onaylı boyutları, filtreleri ve toplamaları seçerek beyaz listeye alınmış güvenli görünümler üzerinden yeni metrikler oluşturmasına olanak tanır.

Her oluşturulan ölçüt, zaten yönetilen yapı taşlarından bir araya getirildiği için, güvenlik özellikleri yeniden tartışılmak yerine miras alınır. Yeni bir ölçüt, aynı nedenle onaylanmış olanlarla aynı şekilde kiracıya özel, tekrarlanabilir ve denetlenebilirdir: aynı giriş noktasından, aynı görünümlerden, aynı yetkiler altında geçer. Yönetişim, insanları yavaşlatan bir kapı olmaktan çıkıp, daha fazla insanın güvenli bir şekilde inşa etmesine olanak tanıyan bir temel haline gelir. Bu, tanımlarınızı yeniden parçalamadan ölçeklenebilen tek kendi kendine hizmet modelidir.

Bir CDO'nun gerçekte ne yapması gerektiği

Eğer bir CDO olarak yapay zeka analitik katmanı oluşturuyorsanız, chatbot ile başlama dürtüsüne direnin. Chatbot kolay %20'lik kısım ve tehlikeli olanıdır. Kelime dağarcığıyla başlayın. En önemli metriklerinizi onaylayın - tanımlayın, sahiplerini atayın, sürümlendirin. Bunları, dışarıdan kiracı kapsamını zorlayan tek bir sorgu giriş noktasının arkasına yerleştirin. Bunları, yetkilendirmeye dayalı salt okunur görünümler aracılığıyla ortaya çıkarın. Ancak o zaman, MCP tarzı araçlar aracılığıyla, ajanları bu yönetilen yüzeye bağlayın. Bu sırayla yapıldığında, yapay zeka ilk günden itibaren güvenilirdir çünkü hayal kurması için hiçbir şey yoktur.

Bu teorik bir çalışma değil. Elde tutma döngüsünü AI ile kapatan markalar, temsilcileri ve kontrol panelleri zaten aynı dili konuşan markalardır — McDonald's China, SocialHub.AI ile çalışarak GMV'nin üye payını %5'ten %85'e çıkardı. Bu ölçekteki sonuçlar yalnızca altlarındaki sayılar sertifikalı, tekrarlanabilir ve kontrol panelini inceleyen insan ve üzerinde hareket eden temsilci için aynı olduğunda inandırıcıdır.

Tez tek bir satırda yer alıyor: Araçlar fiillerdir, anlamsal katman ise kelime dağarcığıdır ve iki izleyici için tek bir kelime dağarcığına ihtiyacınız vardır, böylece bir sayı, kişi ya da temsilci sorsa aynı şeyi ifade eder. Bir yapay zeka analiz katmanı oluşturuyorsanız ve sertifikalı, kiracıya özel, denetlenebilir ölçümlerin hem bir kontrol panelini hem de bir aracıyı aynı gerçek kaynağından güçlendirmenin nasıl göründüğünü görmek istiyorsanız, bir demo rezervasyonu yaptırın ve ekibinize kendi tanımlarınızla bu konuda rehberlik edelim.