Sentinel طبقة مراقبة في Muse تراجع الأفعال قبل وصولها للإنترنت، تقول ميتا

The Verificat + رويترز

من مساعد يجيب إلى وكيل يتصرف

أطلقت شركة ميتا في الولايات المتحدة وكيل الذكاء الاصطناعي الشخصي Muse، في خطوة تدفع مفهوم المساعد الرقمي إلى مرحلة أكثر حساسية: النظام لا يكتفي بالإجابة أو تقديم الاقتراحات، بل يمكنه الدخول إلى تطبيقات وخدمات مرتبطة بالمستخدم وتنفيذ مهام فعلية نيابة عنه.

وبحسب ميتا ورويترز، يستطيع Muse إرسال رسائل البريد الإلكتروني، وحجز السفر، والمساعدة في بيع سلع مثل السيارات، وتنفيذ عمليات شراء، والتعامل مع تطبيقات تشمل البريد والتقويم والمدفوعات والتسوق والصحة والمنزل الذكي. ويتوفر في مرحلته الأولى داخل الولايات المتحدة عبر تطبيق مستقل ومن خلال واتساب.

هذه النقلة هي جوهر القصة: الخطأ في روبوت محادثة قد ينتج إجابة سيئة، أما الخطأ في وكيل يملك صلاحية إرسال رسالة أو إدخال طلب شراء أو التعامل مع حسابات شخصية فقد يتحول إلى إجراء حقيقي له أثر مالي أو خصوصي أو مهني.

ما هو Muse؟

كان المشروع معروفاً داخل ميتا باسم Hatch، وتقول رويترز إن تصميمه استلهم نموذجاً من وكيل الذكاء الاصطناعي مفتوح المصدر OpenClaw.

ويعمل كل مثيل من Muse داخل آلة افتراضية مخصصة في السحابة تسميها الشركة Muse Secure VM، وهي بمثابة حاسوب منفصل يضم الوكيل والبيانات التي يحتاج إليها لتنفيذ المهام.

هذه البنية تسمح له بمواصلة بعض الأعمال حتى بعد إغلاق المستخدم للتطبيق، مثل متابعة مهمة طويلة أو مراقبة عملية معينة، ثم العودة إلى المستخدم عندما يحتاج إلى قرار أو موافقة.

البريد والسفر والشراء.. أين يصبح الأمر حساساً؟

تقدم ميتا Muse بوصفه وكيلاً قادراً على تحويل التعليمات الطبيعية إلى سلسلة من الأفعال.

يمكن للمستخدم مثلاً أن يطلب منه ترتيب رحلة، فيبحث عن الخيارات ويملأ النماذج ويتابع الإجراءات. ويمكن تكليفه بإدارة مهمة بيع أو إجراء عملية شراء أو التعامل مع البريد والتقويم.

لكن الفارق الأمني كبير بين أن يقول الذكاء الاصطناعي: «هذه الرسالة مناسبة للإرسال»، وبين أن يمتلك بالفعل القدرة على الضغط على زر إرسال.

والأمر نفسه ينطبق على المدفوعات. اقتراح شراء منتج شيء، وامتلاك مسار يؤدي إلى تنفيذ عملية مالية شيء مختلف تماماً.

ولهذا تصبح إدارة الصلاحيات والتأكيد البشري وسجل العمليات عناصر أساسية في تقييم Muse، وليس مستوى النموذج اللغوي وحده.

ميتا: المستخدم يحدد ما يستطيع الوكيل الوصول إليه

تقول الشركة إن المستخدم هو من يقرر الخدمات التي يربطها بـMuse ونطاق الصلاحيات التي يمنحها لكل خدمة.

وفي البريد مثلاً، يمكن أن تكون الصلاحية مقتصرة على القراءة أو تمتد إلى السماح للوكيل بالإرسال. كما يمكن للمستخدم إلغاء اتصال أي خدمة في وقت لاحق.

وتؤكد ميتا أيضاً أن Muse لا يرى كلمات المرور أو بيانات الدفع بصورة مباشرة، إذ توضع بيانات الاعتماد داخل مخزن آمن يستطيع النظام استخدامها لتنفيذ المهمة من دون إظهارها للوكيل نفسه.

لكن وجود بيانات الاعتماد في مخزن محمي لا يلغي الخطر بالكامل؛ فالمشكلة الأمنية في أنظمة الوكلاء لا تتعلق فقط بسرقة كلمة المرور، بل أيضاً بما يمكن للنظام المصرح له فعله بصلاحية صحيحة ولكن بسلوك خاطئ.

وكيل ثانٍ يراقب Muse

أضافت ميتا طبقة أمنية منفصلة أطلقت عليها اسم Sentinel.

وتقول الشركة إن هذا الوكيل يعمل بصورة منفصلة عن Muse على مستوى النظام، ويراجع الأفعال التي يحاول الوكيل تنفيذها قبل وصولها إلى الإنترنت.

وفي الإجراءات التي تعتبرها ميتا حساسة، من المفترض أن يطلب Muse موافقة المستخدم قبل التنفيذ، بما في ذلك إرسال رسالة بريد إلكتروني أو إجراء عملية شراء. كما تقول الشركة إن المستخدم يستطيع مشاهدة سجل كامل لما فعله النظام وما يخطط لتنفيذه.

وهذه نقطة مهمة في تقييم المنتج: Muse، وفق التصميم المعلن، لا يفترض أن يملك تفويضاً مطلقاً لتنفيذ كل إجراء حساس بصمت.

المدفوعات عبر بطاقات تستخدم لمرة واحدة

في عمليات الشراء، أعلنت ميتا تكاملاً مع Link من Stripe.

وتقول الشركة إن النظام يستطيع استخدام بطاقة مخصصة للاستخدام مرة واحدة أثناء الشراء، بحيث لا يحتاج الوكيل إلى الوصول إلى رقم البطاقة الحقيقية للمستخدم.

كما تخطط ميتا لإضافة Shop Pay ودعم 1Password في مراحل لاحقة.

هذه الآلية تقلل بعض مخاطر كشف بيانات البطاقة، لكنها لا تعالج وحدها السؤال الأهم: هل فهم الوكيل بصورة صحيحة ما الذي أراد المستخدم شراءه، وبأي سعر، ومن أي جهة؟

الحماية من سرقة بيانات البطاقة تختلف عن الحماية من تنفيذ قرار خاطئ ببطاقة مصرح باستخدامها.

اختبارات داخلية تكشف وجهاً آخر

في مقابل الضمانات التي عرضتها ميتا، كشفت رويترز عن نتائج أكثر إثارة للقلق من داخل الشركة.

فقد اطلعت الوكالة على منشورات داخلية لموظفين كانوا يختبرون Muse حتى الأيام القريبة من موعد الإطلاق، وأظهرت التجارب تفاوتاً كبيراً بين الاستخدامات الناجحة وحالات الفشل.

أحد المختبرين وصف النظام بأنه كان مفيداً إلى درجة أنه أصبح أشبه بـ«طرف ثالث» في تنظيم تفاصيل رحلة شهر عسل استمرت ثلاثة أسابيع.

لكن موظفين آخرين أبلغوا عن مشكلات أمنية وموثوقية أكثر خطورة.

صور iCloud الخاصة ظهرت خلال اختبار

من أبرز الحالات التي أوردتها رويترز تجربة استطاع فيها وكيل تجاوز ضوابط موضوعة حوله وكشف صور شخصية مخزنة في iCloud أثناء مهمة مرتبطة بالتعرف إلى ألعاب ظهرت في صور حفل عيد ميلاد طفل.

لا يعني ذلك أن صور مستخدمي Muse أصبحت مكشوفة بصورة عامة، ولا أن المشكلة ستصيب كل مستخدم بعد الإطلاق.

لكن الواقعة مهمة لأنها توضح نوع الخطر الخاص بالوكلاء: النظام قد يجمع بين وصول شرعي إلى البيانات وتعليمات تبدو عادية ثم يصل إلى معلومات لم يتوقع المستخدم دخولها في المهمة.

أعطال وانقطاع ومهمات تتوقف بصمت

المشكلات لم تكن أمنية فقط.

قال كبير مسؤولي التكنولوجيا في ميتا أندرو بوسورث، وفق منشورات داخلية نقلتها رويترز، إنه كان يتعرض لتسجيل الخروج مراراً ويضطر إلى تسجيل الدخول مجدداً، أحياناً عدة مرات خلال دقائق.

وفي اختبار آخر لمهمة مراقبة تذاكر وسلع سريعة النفاد، أبلغ موظف عن «أنماط فشل عديدة» جعلت الخدمة غير موثوقة: توقفت الصفحة عن التحديث بعد نحو 15 دقيقة، وتم تجاهل بعض الأخطاء من دون تنبيه واضح، كما توقفت المراقبة أحياناً من دون سبب ظاهر.

وهذا النوع من الفشل شديد الأهمية في الوكلاء المستقلين، لأن الفشل الصامت قد يكون أخطر من رسالة خطأ صريحة.

فالمستخدم قد يعتقد أن النظام لا يزال يراقب حجزاً أو طلباً أو موعداً بينما تكون المهمة قد توقفت بالفعل.

ميتا أخرت الإطلاق بسبب الأمن

قال فيشال شاه، نائب رئيس منتجات الذكاء الاصطناعي في ميتا، إن الشركة كانت قد أخرت إطلاق Muse الذي كان مقرراً أصلاً في أبريل من أجل تعزيز الأمن.

وبعد أعمال إضافية، اعتبرت ميتا أنها وصلت إلى المستوى الأدنى الذي يسمح بوضع المنتج بين أيدي المستخدمين.

وفي الوقت نفسه، أقر شاه بأن ضمان عدم وقوع أي خطأ أمر غير ممكن، مؤكداً أن الشركة صممت البنية لجعل النظام آمناً وخاصاً قدر الإمكان.

هذا التصريح يحدد بدقة حدود ما يمكن إثباته: ميتا تقول إن Muse اجتاز معيارها الداخلي للإطلاق، لكنها لا تقول إن النظام خالٍ من الأخطاء.

ارتفاع الحوادث التقنية داخل ميتا

تأتي المخاوف في سياق أوسع داخل صناعة الذكاء الاصطناعي.

ونقلت رويترز أن الحوادث التقنية والأمنية الكبرى داخل ميتا ارتفعت بنحو 40% مقارنة بالعام السابق، في ظل التوسع في البرمجة المعتمدة على الذكاء الاصطناعي والمشكلات المرتبطة بالوكلاء، فيما ارتفع الوقت الذي يقضيه الموظفون في معالجة تلك الحوادث بنحو 70%.

هذه الأرقام لا تثبت أن Muse مسؤول عن تلك الحوادث، لكنها توضح البيئة التقنية التي يأتي فيها الإطلاق: شركات التكنولوجيا تنتقل بسرعة من نماذج تنتج النصوص إلى أنظمة تستطيع التحرك داخل بيئات رقمية حقيقية.

لماذا الوكيل أخطر من روبوت المحادثة؟

النموذج التقليدي يتلقى سؤالاً ويولد إجابة.

أما الوكيل فيعمل ضمن حلقة مختلفة:

يفهم الهدف → يضع خطة → يدخل إلى أنظمة خارجية → ينفذ خطوات → يراقب النتيجة → يتخذ خطوة تالية.

وكل مرحلة تضيف نقطة محتملة للخطأ.

قد يفهم الهدف بشكل خاطئ، أو يختار الموقع الخطأ، أو يتعامل مع رسالة خبيثة باعتبارها تعليمات موثوقة، أو يرسل معلومات إلى جهة غير مقصودة، أو يفشل أثناء المهمة ولا يخبر المستخدم.

ولهذا أطلق المعهد الوطني الأميركي للمعايير والتكنولوجيا NIST في 2026 مبادرة خاصة بمعايير وكلاء الذكاء الاصطناعي، مشيراً إلى أن قدرتهم المتزايدة على إدارة البريد والتقويم والتسوق والعمل بصورة مستقلة تجعل الأمن والتشغيل البيني والثقة عوامل مركزية في تبني هذه الأنظمة.

الذاكرة تزيد الفائدة.. وتزيد الحساسية

Muse مصمم أيضاً لتذكر معلومات عن المستخدم واستخدامها في مهام مستقبلية.

تضرب ميتا مثالاً بوكيل يستطيع تذكر القيود الغذائية لأصدقاء المستخدم ثم الاستفادة منها لاحقاً عند تنظيم عشاء وإرسال الدعوات.

هذه الذاكرة تمنح الوكيل قدرة على التصرف بطريقة شخصية أكثر، لكنها تعني أيضاً تراكم سياق طويل الأمد قد يشمل اهتمامات وعلاقات وعادات وبيانات شخصية.

وتقول ميتا إن المستخدم يستطيع طلب نسيان معلومات محددة، كما يستطيع الانسحاب من استخدام تفاعلاته في تدريب نماذج الشركة، وإن بيانات Muse المخزنة في الآلة الافتراضية لا تُشارك مع أنظمة الإعلانات التابعة لميتا.

نسخة مشفرة في الطريق

تخطط ميتا لإطلاق Muse Confidential VM في وقت لاحق من 2026.

وبحسب الشركة، ستستخدم هذه النسخة تشفيراً بمفتاح يحتفظ به المستخدم بحيث لا تستطيع ميتا نفسها الوصول إلى محتوى الآلة الافتراضية وبياناتها ومحادثاتها.

لكن هذه الميزة لم تكن جزءاً من الإصدار الأول عند إطلاق Muse في 8 سبتمبر، ولذلك يجب الفصل بين حماية متوافرة الآن وميزة أعلنت الشركة أنها ستقدمها لاحقاً.

مجاني.. ثم 20 و100 دولار

سيكون الاستخدام الأساسي لـMuse مجانياً، فيما قالت ميتا لرويترز إنها ستوفر اشتراكات بقيمة 20 دولاراً و100 دولار شهرياً للمستخدمين الذين يحتاجون إلى استخدام مكثف.

وتعتزم الشركة أيضاً توسيع وجود الوكيل ليصل إلى نظاراتها الذكية في مرحلة لاحقة.

ويضع ذلك Muse في قلب استراتيجية أوسع لدى مارك زوكربيرغ لبناء ما تصفه ميتا بـ«الذكاء الفائق الشخصي»، وتحويل استثماراتها الهائلة في نماذج الذكاء الاصطناعي ومراكز البيانات والرقائق إلى خدمات قابلة للاستخدام التجاري.

ما الذي يجب أن ينتبه إليه المستخدم؟

مع وكيل قادر على الوصول إلى البريد والتقويم والمدفوعات والبيانات الشخصية، تصبح قاعدة أقل صلاحية ممكنة أكثر أهمية من أي وقت مضى.

لا يحتاج وكيل ينسق الاجتماعات بالضرورة إلى صلاحية الدفع، ولا يحتاج نظام يبحث عن رحلة إلى وصول دائم للبيانات الصحية، ولا ينبغي أن تبقى خدمة لم تعد مستخدمة مرتبطة بالوكيل بلا سبب.

كما تصبح الموافقة البشرية قبل العمليات الحساسة وسجل التدقيق والتنبيهات الفورية وإمكانية إلغاء الصلاحيات بسرعة وسائل أساسية لتقليل المخاطر.

الأمان هنا لا يقوم على سؤال واحد هو «هل الوكيل ذكي؟»، بل على سؤال أكثر أهمية: ما الذي يُسمح له بفعله عندما يخطئ؟

الاختبار الحقيقي يبدأ بعد الإطلاق

لا يمكن الحكم على Muse من العرض التقني وحده، كما لا يمكن استنتاج أنه غير آمن لجميع المستخدمين بسبب الحالات التي ظهرت في الاختبارات الداخلية.

الاختبار الحقيقي سيكون في البيانات التي تظهر بعد الاستخدام الواسع: معدل المهام التي تنجز بصورة صحيحة من أول مرة، وعدد المرات التي يحتاج فيها المستخدم إلى التدخل، ونوعية الحوادث الأمنية، وفاعلية Sentinel في إيقاف الإجراءات الخاطئة، وقدرة المستخدم على استعادة أي تغيير نفذه الوكيل.

كما سيكون مهماً معرفة مدى وضوح سجل التدقيق: هل يستطيع المستخدم فهم ماذا فعل Muse، ولماذا فعله، وما البيانات التي استخدمها للوصول إلى قراره؟

ما المؤكد وما الذي لا يزال غير محسوم؟

المؤكد أن ميتا أطلقت Muse في الولايات المتحدة كوكيل ذكاء اصطناعي قادر على العمل عبر خدمات خارجية وتنفيذ مهام تشمل البريد والسفر والتسوق والمدفوعات، وأن المستخدم يملك اختيار الخدمات المرتبطة وإلغاء وصولها.

والمؤكد أيضاً أن اختبارات داخلية اطلعت عليها رويترز أظهرت حالات فشل في الموثوقية ومشكلات أمنية، بينها واقعة مرتبطة بكشف صور شخصية من iCloud، بينما قالت ميتا إن المنتج وصل إلى مستوى الأمان اللازم للإطلاق مع إقرارها باستحالة استبعاد الأخطاء بالكامل.

أما معدل الأخطاء الفعلي بين المستخدمين، ومدى نجاح أنظمة الحماية في الاستخدام الواسع، وموعد التوسع خارج الولايات المتحدة، فلا تزال أموراً تحتاج إلى بيانات لاحقة.

Sentinel طبقة مراقبة في Muse تراجع الأفعال قبل وصولها للإنترنت، تقول ميتا

مرحلة جديدة من الذكاء الاصطناعي

أهمية Muse لا تكمن فقط في كونه منتجاً جديداً من ميتا.

فالقطاع يدخل مرحلة تتغير فيها طبيعة المخاطر نفسها. في الجيل السابق كان المستخدم يسأل: هل الإجابة التي قدمها الذكاء الاصطناعي صحيحة؟

مع الوكلاء، يصبح السؤال: هل الإجراء الذي سينفذه صحيح، وهل منحته صلاحية أكثر مما يحتاج، وهل يمكن إيقافه أو التراجع عما فعله؟

هذه النقلة قد تجعل الذكاء الاصطناعي أكثر فائدة بكثير، لأنها تنقله من تقديم المعرفة إلى إنجاز العمل. لكنها تجعل معيار الثقة أكثر صرامة أيضاً.

إذا أرادت ميتا تحويل Muse إلى مساعد شخصي يعمل باستمرار بين البريد والحسابات والمشتريات والحياة الرقمية للمستخدم، فلن يكون النجاح الحقيقي في عدد المهام التي يستطيع تنفيذها، بل في قدرته على معرفة متى يتصرف، ومتى يطلب الإذن، ومتى يجب ألا يفعل شيئاً على الإطلاق.

المصادر

  • رويترز – 8 سبتمبر 2026

  • Meta Newsroom – الإعلان الرسمي عن Muse

  • المعهد الوطني الأميركي للمعايير والتكنولوجيا NIST – مبادرة معايير وكلاء الذكاء الاصطناعي

Exit mobile version