نموذج Manus يكسر الأداء مما يثير التفكير في أمان الذكاء الاصطناعي

مؤخراً، حقق نموذج Manus إنجازات بارزة في اختبار GAIA، مما أظهر أداءً ممتازًا يتجاوز النماذج الكبيرة من نفس الفئة. يعني هذا الإنجاز أن Manus يمكنه معالجة المهام المعقدة بشكل مستقل، مثل المفاوضات التجارية عبر الوطنية، التي تشمل تحليل بنود العقود، وتطوير الاستراتيجيات، وإنشاء الحلول، وغيرها من المراحل. تتركز مزايا Manus بشكل رئيسي في تفكيك الأهداف الديناميكية، والاستدلال بين الأنماط، وتعزيز التعلم. يمكنه تقسيم المهام الضخمة إلى مئات من المهام الفرعية القابلة للتنفيذ، ومعالجة أنواع متعددة من البيانات، وزيادة كفاءة اتخاذ القرار وتقليل معدل الأخطاء من خلال التعلم المعزز.

أثارت تقدم Manus مرة أخرى نقاشا في الصناعة حول مسارات تطوير الذكاء الاصطناعي: هل المستقبل يتجه نحو الذكاء الاصطناعي العام (AGI) الذي يسيطر على كل شيء، أم نحو أنظمة متعددة الوكلاء (MAS) التي تقود التعاون؟ تعكس هذه المناقشة في الواقع القضية الأساسية حول كيفية تحقيق التوازن بين الكفاءة والأمان في تطوير الذكاء الاصطناعي. مع اقتراب الذكاء الفردي من AGI، تزداد مخاطر عدم الشفافية في عملية اتخاذ القرار؛ بينما يمكن أن يؤدي التعاون بين الوكلاء المتعددين إلى توزيع المخاطر، إلا أنه قد يفوت الفرص الحاسمة في اتخاذ القرارات بسبب تأخير الاتصالات.

تطور Manus يزيد بشكل غير محسوس من المخاطر الكامنة في الذكاء الاصطناعي. على سبيل المثال، في المشهد الطبي، يحتاج Manus إلى الوصول الفوري إلى بيانات المرضى الحساسة؛ في المفاوضات المالية، قد تتعلق بمعلومات غير معلن عنها عن الشركات. بالإضافة إلى ذلك، لا يمكن تجاهل مشكلة تحيز الخوارزميات، مثل اقتراحات الرواتب المنخفضة لمجموعات معينة خلال عملية التوظيف، أو ارتفاع معدل أخطاء الحكم في شروط الصناعات الناشئة أثناء مراجعة العقود القانونية. والأكثر خطورة، قد تواجه أنظمة الذكاء الاصطناعي هجمات عدائية، مثل قيام القراصنة بالتدخل في حكم Manus التفاوضي من خلال ترددات صوتية محددة.

تسلط هذه التحديات الضوء على حقيقة مقلقة: كلما كانت أنظمة الذكاء الاصطناعي أكثر ذكاءً، زادت أيضاً مساحات الهجوم المحتملة.

في مجال Web3، كانت الأمان دائمًا موضوعًا يحظى باهتمام كبير. ألهمت نظرية "مثلث المستحيل" التي اقترحها مؤسس الإيثريوم فيتاليك بوتيرين تطوير العديد من تقنيات التشفير:

1. نموذج أمان الثقة الصفرية: يركز على التحقق الصارم من كل طلب وصول، دون الثقة بشكل افتراضي في أي جهاز أو مستخدم.

2. الهوية اللامركزية (DID): تتيح للكيانات الحصول على هوية قابلة للتحقق دون الحاجة إلى تسجيل مركزي.

3. التشفير المتجانس بالكامل (FHE): يسمح بإجراء حسابات مباشرة على البيانات المشفرة دون الحاجة إلى فك تشفير البيانات الأصلية.

من بين ذلك، يُعتبر التشفير المتجانس بالكامل كأحدث تقنيات، ومن المتوقع أن يصبح أداة رئيسية لحل مشكلات الأمان في عصر الذكاء الاصطناعي. يسمح FHE بإجراء حسابات معقدة مع حماية خصوصية البيانات، وهو أمر مهم بشكل خاص في السيناريوهات التي تتطلب التحليل دون الكشف عن البيانات الأصلية.

في مواجهة تحديات أمان الذكاء الاصطناعي، يمكن أن تلعب FHE دورًا من عدة جوانب:

1. الجانب البيانات: جميع المعلومات المدخلة من قبل المستخدم (بما في ذلك السمات البيولوجية، الصوت، إلخ) تتم معالجتها في حالة مشفرة، حتى إن نظام الذكاء الاصطناعي نفسه لا يمكنه فك تشفير البيانات الأصلية.

2. على مستوى الخوارزمية: من خلال FHE لتحقيق "تدريب نموذج مشفر"، لضمان أن المطورين لا يمكنهم حتى مراقبة عملية اتخاذ القرار للذكاء الاصطناعي بشكل مباشر.

3. المستوى التعاوني: يتم استخدام التشفير بالعتبة للتواصل بين عدة وكلاء ذكاء اصطناعي، حتى لو تم اختراق عقدة واحدة، فلن يؤدي ذلك إلى تسرب البيانات العالمية.

على الرغم من أن تقنيات أمان Web3 قد تكون مجردة بالنسبة للمستخدمين العاديين، إلا أن تأثيرها عميق. في هذا البيئة المليئة بالتحديات، من الضروري تعزيز قدرات الحماية الأمنية بشكل مستمر.

تاريخياً، حاولت بعض المشاريع في مجال أمان Web3. على سبيل المثال، أطلقت uPort في عام 2017 حلاً لهوية لامركزية على الشبكة الرئيسية للإيثيريوم؛ بينما أصدرت NKN في عام 2019 شبكة رئيسية قائمة على نموذج الثقة الصفرية. وفي مجال FHE، كانت Mind Network أول مشروع يطلق شبكة رئيسية، وتعاونت مع مؤسسات مثل ZAMA وGoogle وDeepSeek.

على الرغم من أن المشاريع الأمنية المبكرة قد لا تحظى باهتمام واسع ، إلا أن أهمية التقنيات الأمنية مثل FHE ستزداد بوضوح مع التطور السريع لتقنية الذكاء الاصطناعي. فهي لا تحل فقط المشكلات الأمنية الحالية ، بل تؤسس أيضًا لحقبة الذكاء الاصطناعي القوي في المستقبل. على الطريق نحو AGI ، لم تعد التقنيات الأمنية مثل FHE خيارًا ، بل هي ضمان ضروري لضمان تشغيل أنظمة الذكاء الاصطناعي بشكل موثوق.