Tadbir Urus AI: Muhasabah Diri & Kelulusan

Perniagaan-object introspeksi (skop introspection:read)

Tiga alat baca membolehkan klien AI mempelajari bentuk perniagaan sebelum menyentuhnya: objek yang wujud (termasuk medan tersuai ruang kerja dan objek tersuai), maksud setiap atribut, bagaimana objek berkaitan dan tindakan yang boleh dilaksanakan — dengan prasyarat dan gear semasa. Ejen yang berkelakuan baik memanggil ini terlebih dahulu dan hanya mencadangkan tindakan yang sebenarnya dibenarkan oleh gear.

Alat tulis di bawah gear semakan: belum selesai / ditolak

Apabila alat tulis MCP menyasarkan tindakan yang gearnya ialah review, panggilan tersebut tidak melaksanakan kesan sampingan. Ia mengembalikan hasil berstruktur: sama ada cadangan itu telah diarahkan untuk kelulusan manusia (pending), atau ia ditolak terus (refused) dengan reason_code yang boleh dibaca mesin dan suggested_action.

// proposed — waiting for a human
{
  "status": "pending",
  "proposal_id": "prop_9f2c…",
  "action": "issue_coupon",
  "expires_at": "2026-07-10T00:00:00Z",  // 7 days
  "message": "Queued for human approval in
              AI Activity & Approvals."
}

// refused — with a reason and a next step
{
  "status": "refused",
  "action": "issue_coupon",
  "reason_code": "recently_rejected",
  "suggested_action": "A human rejected this
    proposal recently. Do not re-propose;
    consider a different action or ask the
    operator."
}

Setiap penolakan membawa reason_code dalam bentuk ini ditambah suggested_action — anggap kod di atas sebagai kod untuk dicabangkan dan medan sebagai boleh dikembangkan. Penolakan adalah batasan yang sukar untuk anda baca, bukan ralat untuk dicuba semula: jangan sekali-kali mengubah kata cadangan untuk melepasi penolakan.

Primitif ketelusan & inventori model kotak kaca

Disiplin kotak kaca yang sama — setiap keputusan automatik yang direkodkan dan boleh dijelaskan, data peribadi yang disimpan di luar konteks model — melangkaui tindakan yang dikawal: untuk mencuba pengoptimuman trafik, kepada gesaan LLM keluar dan kepada inventori model ML klasik yang menguasakan kedudukan, ramalan dan pengesanan merentasi produk.

Pengoptimuman automatik trafik A/B: log keputusan

Kempen berulang (automasi dan perjalanan) boleh memilih untuk Optimumkan trafik secara automatik dari semasa ke semasa, yang memperuntukkan semula pemberat penghantaran merentasi varian eksperimen berdasarkan prestasi klik yang diperhatikan. Setiap peruntukan semula boleh diaudit:

• Log keputusan tambahan sahaja. Setiap pengiraan semula setiap jam menulis satu rekod dengan pemberat yang dikenakan dan rasional yang boleh dibaca oleh manusia. Rekod tidak pernah ditulis semula — log tersebut ialah sejarah penuh mengapa trafik kelihatan seperti itu.
• Pemisahan yang dikonfigurasikan tidak pernah diubah. Pemisahan yang dikonfigurasikan untuk eksperimen anda kekal tidak disentuh sebagai garis dasar; pemberat yang dioptimumkan dikira dan direkodkan di sampingnya.
• Aras penerokaan: 10%. Tiada pemberat varian yang pernah jatuh di bawah 10%, jadi setiap varian terus menerima trafik dan pembalikan kekal dapat dikesan.
• Pembahagian genap sehingga ≥100 dihantar setiap varian. Pemberat kekal pada pembahagian yang dikonfigurasikan sehingga setiap varian mempunyai sekurang-kurangnya ~100 penghantaran — tiada pengagihan semula pada data nipis dan tiada "pemenang" statistik yang pernah diisytiharkan oleh mekanisme ini.

Penyamaran LLM PII pada jahitan penyedia

Sebelum sebarang gesaan meninggalkan Flash untuk penyedia LLM luaran, pengecam peribadi ahli disembunyikan — digunakan pada lapisan penyedia, jadi setiap ciri AI melaluinya:

• Nama samaran deterministik. Alamat e-mel, nombor telefon dan larian digit seperti kad digantikan dengan token pelengkap yang stabil. Pengecam yang sama sentiasa dipadankan dengan nama samaran yang sama, jadi penaakulan model merentasi gesaan kekal koheren.
• Pelindungan terpakai pada setiap gesaan keluar daripada setiap ciri AI — tiada apa yang perlu didayakan dan ia tidak boleh dimatikan daripada produk.
• Pelindung muka sahaja, tidak pernah dibuka. Pemetaan adalah sehala di sempadan output: output model tidak pernah ditulis semula untuk mengembalikan pengecam sebenar, jadi PII mentah tidak boleh melalui respons LLM secara pergi balik.

Inventori model kotak kaca

Setiap keupayaan ramalan atau statistik dalam produk ialah model klasik dan deterministik — tiada pemarkahan kotak hitam, tiada persampelan, jadi data yang sama sentiasa menghasilkan model yang sama. Setiap satu membawa pintu kejujuran yang eksplisit: di bawah pintu ia memancarkan tiada apa-apa dan bukannya tekaan, dan setiap skor dihantar dengan nombor yang diperlukan untuk mengiranya semula. Inventori semasa:

Tiada satu pun daripada model ini yang bertindak sendiri: ia memberi kedudukan, skor dan penandaan, dan semua yang menggerakkan wang atau menghubungi ahli masih melepasi gear tindakan yang dikawal di atas.

Untuk butiran kejuruteraan penuh pada setiap model — kaedah, input, lajur output, pintu kejujuran dan permukaan penggunaan — lihat Rujukan Model Ramalan.