مفردات واحدة، جمهوران: لماذا يجب أن يشترك الذكاء الاصطناعي ولوحات المعلومات في طبقة دلالية مشتركة؟

يشير الرمز number إلى ثلاثة معانٍ مختلفة

اسأل ثلاثة فرق في نفس الشركة عن "الأعضاء النشطين هذا الربع"، وستحصل غالبًا على ثلاثة أرقام مختلفة. يحسب فريق التسويق كل من فتح بريدًا إلكترونيًا. ويحسب فريق الولاء الأعضاء الذين قاموا بعملية شراء. أما فريق المالية فيحسب الأعضاء الذين استبدلوا رصيدًا. لا أحد منهم يكذب. إنهم يعملون وفقًا لتعريفات مختلفة، ومُشفّرة بلغات SQL مختلفة، ويستخدمون أدوات مختلفة. الكلمة واحدة، لكن المعنى مختلف.

كانت هذه مشكلة مقبولة عندما كان البشر هم المستخدمون الوحيدون لهذه الأرقام. يعرف المحلل الخبير أن يسأل عن التعريف المقصود، وتُغطي حاشية في الشريحة باقي البيانات. ولكن بمجرد توجيهك لوكيل ذكاء اصطناعي إلى البيانات نفسها، تختفي الحاشية ويصبح الغموض عائقًا. لا يعلم الوكيل أن مصطلح "نشط" محل خلاف. سيختار تعريفًا - أو الأسوأ من ذلك، سيخترع تعريفًا - ويعرض النتيجة بنفس الثقة التي يعرض بها كل شيء آخر.

الأدوات أفعال؛ والطبقة الدلالية مفردات

عندما تُزوّد ​​الوكيل بالأدوات، فإنك تُزوّده بالأفعال: الاستعلام، التلخيص، المقارنة، التنبؤ. يُضفي بروتوكول سياق النموذج من أنثروبيك طابعًا رسميًا على هذا المفهوم - فالأداة عبارة عن قدرة مُحددة النوع ومُسماة يمكن للنموذج استدعاؤها. هذا الإطار صحيح ومفيد. لكن الفعل الذي لا يحمل مفردات مشتركة يُتيح مجالًا واسعًا للارتجال. عبارة "أخبرني بالإيرادات" لا تكون آمنة إلا إذا كانت "الإيرادات" تُشير إلى تعريف مُعتمد واحد، وهو نفس التعريف الذي يراه المستخدم على لوحة التحكم، ويتم حسابه بنفس الطريقة في كل مرة.

هذه هي الحجة الأساسية: الطبقة الدلالية للمقاييس المعتمدة هي المفردات المشتركة التي تضمن نزاهة أفعال الوكيل. تُمكّن الأدوات الوكيل من التصرف. الطبقة الدلالية هي ما يُسمح أن تعنيه تلك الإجراءات. فصل الاثنين يُنتج وكيلًا يُمكنه تنفيذ الاستعلامات ولكن لا يُمكن الوثوق به في تفسيرها. وحّدها، وسيرث النظام تلقائيًا جميع التعريفات التي سعى محللوك جاهدين للاتفاق عليها.

المنهج التالي بسيط في شرحه ويصعب تزييفه: مصطلحات واحدة، وجمهوران. يستهلكها المستخدمون من خلال لوحات المعلومات والأسئلة المخصصة. ويستهلكها الوكلاء من خلال أدوات MCP ومساعديهم. كلاهما يقرأ من نفس الطبقة المعتمدة، لذا فإن number يعني الشيء نفسه سواء طلبه شخص أو وكيل.

نمط الفشل عند غياب طبقة مشتركة

تجاوز الطبقة الدلالية، وستظهر ثلاث مشكلات مجتمعة. أولًا، يُظهر الذكاء الاصطناعي أرقامًا غير منطقية - ليس لأن النموذج معيب، بل لأنك طلبت منه تحليل جداول بيانات خام بدون تعريف موحد لأي شيء، فيلجأ إلى تخمين معقول. ثانيًا، تتغير تعريفات مؤشرات الأداء الرئيسية: كل فريق وأداة ودفتر ملاحظات يُعيد تعريف "التخلي" أو "متوسط ​​قيمة الطلب" بشكل مختلف قليلًا، ويتفاقم هذا التباين تدريجيًا. ثالثًا، تُنتج "التحليلات ذاتية الخدمة" أرقامًا متضاربة، فتتوقف المؤسسة عن الثقة بها جميعًا. اختر بلدك مرة واحدة.

أظهرت دراسة ديلويت بعنوان "حالة الذكاء الاصطناعي في المؤسسات" باستمرار أن الثقة والحوكمة - وليس قدرة النموذج الخام - هما العاملان الحاسمان لتوسيع نطاق استخدام الذكاء الاصطناعي من المرحلة التجريبية إلى مرحلة الإنتاج. ويرتبط هذا ارتباطًا وثيقًا بمشكلة التحليلات. فنادرًا ما يكون العائق هو قدرة النموذج على كتابة استعلامات SQL، بل يكمن في مدى ثقة أي شخص في الإجابة بما يكفي لاتخاذ إجراء بناءً عليها، وما إذا كان بإمكانهم شرح مصدر الخطأ number لاحقًا.

التعريفات المعتمدة، وسجل الإصدارات الخاص بها

المقياس المعتمد هو تعريف راجعه مالكه ووافق عليه باعتباره المصدر الوحيد للحقيقة. "العضو النشط" ليس ما تحسبه الاستعلامات الحالية، بل هو عنصر object مُسمى ومُدار، ذو منطق واضح، ومالك، وحالة. عندما تختلف آراء أقسام التسويق والولاء والمالية، لا يتجادلون بلغة SQL، بل يتناقشون مرة واحدة، علنًا، حول التعريف. ثم يتم اعتمادها، ويحصل الجميع - كل إنسان وكل وكيل - على نفس النتيجة.

يضمن نظام إدارة الإصدارات استمرارية البيانات. تتطور التعريفات باستمرار: يتغير التقويم المالي، ويتم تحسين قطاع معين، ويتم تصحيح مصدر البيانات. بدون نظام إدارة الإصدارات، يُعيد أي تعريف كتابة التاريخ دون علمك، ولن يتم إعادة إنتاج بيانات الربع الأخير number. بفضل هذه الميزة، يحمل كل مقياس تاريخه، مما يُمكّنك من الإجابة على سؤال المدققين الماليين والمديرين الماليين: ليس فقط "ما هو number؟" بل "ما هو number، وما هو تعريفه، في تاريخ إعداد التقرير؟"

نقطة دخول واحدة للاستعلام، مع تطبيق نطاق المستأجر خارجها.

لا تكون التعريفات موثوقة إلا بقدر موثوقية المسار الذي يُنفذها. في بنيتنا، يتم حل كل مقياس - سواء طُلب من لوحة تحكم أو أداة وكيل - من خلال نقطة دخول استعلام واحدة. لا يوجد مسار ثانٍ أقل موثوقية للذكاء الاصطناعي. يعمل كل من مساعد الطيار والرسم البياني على الشاشة بنفس المنطق المعتمد، وهذا هو السبب الميكانيكي لعدم اختلاف أرقامهما.

يتم تطبيق عزل المستأجر خارج الاستعلام، وليس داخله. لا يقوم المستدعي أبدًا بتوفير بيانات المستأجر التي يراها، ولا يمكنه التأثير عليها. يُطبَّق تحديد النطاق بواسطة طبقة التنفيذ من سياق المصادقة. وهذا أمر بالغ الأهمية للوكلاء، الذين يُدخلون البيانات بطرق لم تُبرمجها مسبقًا. فلو كان العزل موجودًا داخل استعلام string ساعد النموذج في تجميعه، لكان بإمكان أي توجيه ذكي أن يُخلّ به. ولأن تحديد النطاق خارجي للاستعلام، فلا يمكن لأي توجيه - سواء كان خبيثًا أو عرضيًا - أن يتجاوز حدود المستأجر. والنتيجة هي إجابات قابلة للتكرار، ومعزولة عن المستأجر، وقابلة للتدقيق بحكم تصميمها.

عرض القراءة فقط القائم على منح الصلاحيات: أمان لا يمكن للنموذج تجاوزه

إن أخطر نمط في مجال الذكاء الاصطناعي المؤسسي حاليًا هو ربط روبوت محادثة مباشرةً بجداول البيانات الخام. يبدو الأمر رائعًا في البداية، لكنه يفشل في المواضع التي لا يمكنك تحمل تكلفتها. فمع إمكانية الوصول إلى الجداول، يستطيع الروبوت دمج بيانات لم يكن من المفترض دمجها، واستخراج أعمدة لم يكن ينبغي لها مغادرة النظام المصدر، وحساب مقياس بثلاث طرق تبدو صحيحة، لكنها جميعًا متناقضة. أنت بذلك تثق بنظام احتمالي ليحترم حدودًا موجودة فقط كعرف.

البديل هو فرض حدود في قاعدة البيانات، أسفل النموذج. نكشف الطبقة المعتمدة من خلال عروض للقراءة فقط تعتمد على منح الصلاحيات. يمكن لبيانات اعتماد الذكاء الاصطناعي قراءة عروض الوصول الآمنة المُدرجة في القائمة البيضاء فقط - لا جداول خام، ولا مسارات كتابة، ولا أعمدة خارج النطاق المعتمد. لا يرى النموذج أبدًا أي حدود قد يميل إلى تجاوزها، لأن الحدود عبارة عن منح صلاحية في قاعدة البيانات، وليست فقرة من التعليمات في موجه النظام. هذا هو تحديدًا نوع التحكم التقني الصريح الذي تسعى إليه أطر عمل مثل NIST AI RMF 1.0: إدارة وتحديد وصول نظام الذكاء الاصطناعي وتدفقات البيانات الفعلية بدلاً من الاعتماد على النموذج في التصرف. ابدأ من حيث يكون العبء اليدوي أكبر - قم بأتمتة سير عمل واحد ذي حجم كبير، وتحقق من الساعات المُستعادة، ثم أعد استثمارها في سير العمل التالي.

ربط الوكلاء بهذه الواجهة مشكلة توصيل، وليست إعادة بناء. الطبقة المعتمدة نفسها التي تدعم لوحات معلومات المستخدمين متاحة للوكلاء من خلال أدوات MCP وSoCode، لذا يعتمد الوكيل على المقاييس المعتمدة وليس على الجداول الخام. لا يمكن للذكاء الاصطناعي ابتكار رقم، لأنه لا ينتج أرقامًا على الإطلاق - بل يطلبها من الطبقة، فترد الطبقة بالبيانات المعتمدة number. لا يمكن للذكاء الاصطناعي ابتكار رقم، لأنه لا ينتج أرقامًا أصلًا - بل يطلبها من الطبقة، فترد الطبقة بالبيانات المعتمدة number.

لماذا تجعل الطبقة المشتركة كتابة البرامج بدون كتابة أكواد آمنة؟

يبدو خيار الخدمة الذاتية مُحفوفًا بمخاطر الحوكمة: فمنح مستخدمي الأعمال أداة إنشاء مقاييس سيؤدي حتمًا إلى إنشاء نفس التعريفات المتضاربة بوسائل أخرى. على النقيض من ذلك، true، شريطة أن تكون أداة الإنشاء مُعتمدة على طبقة مُعتمدة. يُمكّن إنشاء المقاييس بدون كتابة أكواد وبشكل مُهيكل المستخدمين من إنشاء مقاييس جديدة على طرق العرض الآمنة المُدرجة في القائمة البيضاء - باختيار الأبعاد والفلاتر والتجميعات المُعتمدة - دون كتابة استعلامات SQL مباشرة ودون تعديل أي جدول أساسي.

لأن كل مقياس مُنشأ يُبنى من مكونات أساسية مُدارة مسبقًا، فإن خصائص الأمان تُورَث بدلًا من إعادة النظر فيها. المقياس الجديد مُحدد النطاق وقابل للتكرار والتدقيق لنفس السبب الذي يجعل المقاييس المعتمدة كذلك: فهو يمر عبر نفس نقطة الدخول، وعبر نفس طرق العرض، وبنفس الصلاحيات. تتوقف الحوكمة عن كونها عائقًا يُبطئ العمل، وتصبح أساسًا يُتيح لعدد أكبر من الأشخاص البناء بأمان. هذه هي النسخة الوحيدة من الخدمة الذاتية التي تتوسع دون إعادة تجزئة تعريفاتك.

ما يجب أن يقوم به مسؤول البيانات الرئيسي فعلياً

إذا كنتَ مسؤولاً عن البيانات (CDO) وتعمل على بناء طبقة تحليلات الذكاء الاصطناعي، فقاوم الرغبة في البدء بالروبوتات الدردشة. الروبوتات الدردشة هي الجزء الأسهل (20%)، ولكنها في الوقت نفسه الجزء الأكثر خطورة. ابدأ بالمفردات. حدّد أهم مقاييسك - عرّفها، وعيّن مسؤولين عنها، وحدّد إصداراتها. ضعها خلف نقطة دخول استعلام واحدة تُطبّق نطاق المستأجر خارجيًا. اعرضها من خلال طرق عرض للقراءة فقط قائمة على منح الصلاحيات. عندها فقط اربط الوكلاء، عبر MCPأدوات من هذا النوع، إلى تلك السطح الخاضع للحكم. إذا تم ذلك بهذا الترتيب، يصبح الذكاء الاصطناعي جديراً بالثقة منذ اليوم الأول لأنه لا يوجد ما يجعله يتوهم.

هذا ليس تمرينًا نظريًا. العلامات التجارية التي تُغلق حلقة الاحتفاظ بالعملاء باستخدام الذكاء الاصطناعي هي تلك التي يتحدث وكلاؤها ولوحات تحكمها لغةً واحدة بالفعل - McDonald's China، بالتعاون مع SocialHub.AI، زادت حصة إجمالي قيمة البضائع المباعة من الأعضاء من 5% إلى 85%. لا يُمكن تصديق النتائج على هذا النطاق إلا عندما تكون الأرقام التي تدعمها موثقة وقابلة للتكرار ومتطابقة بالنسبة للشخص الذي يراجع لوحة التحكم والوكيل الذي يعمل عليها. لا يُمكن تصديق النتائج على هذا النطاق إلا عندما تكون الأرقام التي تدعمها موثقة وقابلة للتكرار ومتطابقة بالنسبة للشخص الذي يراجع لوحة التحكم والوكيل الذي يعمل عليها.

تتلخص الفكرة الرئيسية في جملة واحدة: الأدوات هي الأفعال، والطبقة الدلالية هي المفردات، وتحتاج إلى مفردات واحدة لجمهورين بحيث يكون للرمز number نفس المعنى سواء سأل شخص أو وكيل. إذا كنت بصدد إنشاء طبقة تحليلات الذكاء الاصطناعي وترغب في رؤية شكل المقاييس المعتمدة والمعزولة عن المستأجر والقابلة للتدقيق، والتي تدعم كلاً من لوحة التحكم والوكيل من مصدر بيانات واحد، فاحجز عرضًا توضيحيًا وسنشرح لفريقك ذلك وفقًا لتعريفاتك الخاصة.