Yapay Zeka Yönetişimi: İç Gözlem ve Onaylar

İşletme-object iç gözlem (kapsam introspection:read)

Üç okuma aracı, bir yapay zeka istemcisinin işletmeye dokunmadan önce işletmenin yapısını öğrenmesini sağlar: hangi nesnelerin mevcut olduğu (çalışma alanının kendi özel alanları ve özel nesneleri dahil), her bir özniteliğin ne anlama geldiği, nesnelerin nasıl ilişkili olduğu ve hangi eylemlerin yürütülebilir olduğu - ön koşulları ve mevcut donanımlarıyla birlikte. İyi huylu bir temsilci önce bunları arar ve yalnızca mekanizmaların gerçekten izin verdiği eylemleri önerir.

Araçları inceleme donanımının altına yazın: beklemede / reddedildi

Bir MCP yazma aracı, dişlisi review olan bir eylemi hedeflediğinde, çağrı yan etkiyi yürütmez. Yapılandırılmış bir sonuç döndürür: ya teklif insan onayı için sıraya alınmıştır (pending) ya da makine tarafından okunabilir bir reason_code ve bir suggested_action ile doğrudan reddedilmiştir (refused).

// proposed — waiting for a human
{
  "status": "pending",
  "proposal_id": "prop_9f2c…",
  "action": "issue_coupon",
  "expires_at": "2026-07-10T00:00:00Z",  // 7 days
  "message": "Queued for human approval in
              AI Activity & Approvals."
}

// refused — with a reason and a next step
{
  "status": "refused",
  "action": "issue_coupon",
  "reason_code": "recently_rejected",
  "suggested_action": "A human rejected this
    proposal recently. Do not re-propose;
    consider a different action or ask the
    operator."
}

Her ret, bu biçimde bir reason_code artı bir suggested_action taşır; yukarıdaki kodları dallanacak kodlar ve alanı genişletilebilir olarak kabul edin. Reddetmek, sizin için zor bir sınırdır, tekrar denemeniz gereken bir hata değildir: bir reddi atlatmak için asla bir teklifi yeniden ifade etmeyin.

Şeffaflık temel öğeleri ve şeffaf kutu modeli envanteri

Aynı şeffaf kutu disiplini — her otomatik karar kaydedilir ve açıklanabilir, kişisel veriler model bağlamının dışında tutulur — yönetilen eylemlerin ötesine uzanır: trafik optimizasyonunu denemek, giden LLM istemlerine ve ürün genelinde sıralama, tahmin ve tespiti destekleyen klasik ML model envanterine.

A/B trafik otomatik optimizasyonu: karar günlüğü

Tekrarlayan kampanyalar (otomasyonlar ve yolculuklar), gözlemlenen tıklama performansına göre deney varyantları arasında teslimat ağırlıklarını yeniden dağıtan Zaman içinde trafiği otomatik olarak optimize etme seçeneğine katılabilir. Her yeniden dağıtım denetlenebilir:

• Sadece eklemeli karar günlüğü. Her saatlik yeniden hesaplama, uygulanan ağırlıklar ve insan tarafından okunabilir bir gerekçeyle bir kayıt yazar. Kayıtlar asla yeniden yazılmaz — günlük, trafiğin neden böyle göründüğünün tam geçmişidir.
• Yapılandırılan bölme hiçbir zaman değiştirilmez. Denemenizin yapılandırılmış bölmesine temel olarak dokunulmaz; optimize edilmiş ağırlıklar hesaplanır ve onunla birlikte kaydedilir.
• Keşif tabanı: %10. Hiçbir varyantın ağırlığı %10'un altına düşmez, bu nedenle her varyant trafik almaya devam eder ve bir geri dönüş tespit edilebilir kalır.
• Varyant başına ≥100 teslimata kadar eşit dağılım. Ağırlıklar, her varyant en az ~100 teslimata ulaşana kadar yapılandırılmış dağılımda kalır — ince verilerde yeniden tahsis yapılmaz ve bu mekanizma tarafından hiçbir zaman istatistiksel bir "kazanan" ilan edilmez.

Sağlayıcı dikişinde LLM PII maskeleme

Herhangi bir istem Flash'dan harici bir LLM sağlayıcısına gitmeden önce, üye kişisel tanımlayıcıları maskelenir - sağlayıcı arayüzünde uygulanır, böylece her yapay zeka özelliği buradan geçer:

• Belirli takma adlar. E-posta adresleri, telefon numaraları ve kart benzeri rakam dizileri, kararlı yedek belirteçlerle değiştirilir. Aynı tanımlayıcı her zaman aynı takma ada eşlenir, bu nedenle modelin bir istem üzerindeki akıl yürütmesi tutarlı kalır.
• Maskeleme, her yapay zeka özelliğinden gelen her giden isteme uygulanır — etkinleştirilecek bir şey yoktur ve üründen kapatılamaz.
• Sadece maske, asla maskesi kaldırılmaz. Eşleme, çıktı sınırında tek yönlüdür: model çıktısı, gerçek tanımlayıcıları yeniden oluşturmak için asla yeniden yazılmaz, bu nedenle ham kişisel tanımlayıcı bilgiler bir LLM yanıtı üzerinden gidiş-dönüş yapamaz.

Cam kutu modeli envanteri

Üründeki her tahmine dayalı veya istatistiksel yetenek, klasik, deterministik bir modeldir; kara kutu puanlaması yoktur, örnekleme yoktur; dolayısıyla aynı veriler her zaman aynı modeli üretir. Her biri açık bir dürüstlük kapısı taşıyor: Kapının altında tahmin yerine hiçbir şey yayılmıyor ve her puan, onu yeniden hesaplamak için gereken sayılarla birlikte geliyor. Mevcut envanter:

Bu modellerin hiçbiri kendi başına hareket etmez: sıralar, puanlar ve işaretler ve para hareket ettiren veya bir üyeyle iletişime geçen her şey, yukarıdaki yönetilen eylem mekanizmalarından geçer.

Her modelin tüm mühendislik detayları için — yöntem, girdiler, çıktı sütunları, dürüstlük kapıları ve tüketim yüzeyleri — Tahmin Modelleri Referansı bölümüne bakın.