ملاحظات رئيسية
- حذر Vitalik Buterin من أن الحوكمة الساذجة بالذكاء الاصطناعي يمكن استغلالها بسهولة.
- أظهر عرض توضيحي حديث كيف يمكن للمهاجمين خداع ChatGPT للكشف عن بيانات خاصة.
- يعزز نموذج "info finance" الذي طرحه Buterin التنوع، والإشراف، والمرونة.
حذر المؤسس المشارك لـ Ethereum، Vitalik Buterin، متابعيه على منصة X من مخاطر الاعتماد على الذكاء الاصطناعي في الحوكمة، مشيراً إلى أن الأساليب الحالية يسهل استغلالها للغاية.
جاءت مخاوف Buterin بعد تحذير آخر من المؤسس المشارك لـ EdisonWatch، Eito Miyamura، الذي أظهر كيف يمكن للجهات الخبيثة اختراق بروتوكول Model Context Protocol (MCP) الجديد من OpenAI للوصول إلى بيانات المستخدمين الخاصة.
لهذا السبب أيضاً تعتبر "الحوكمة الساذجة بالذكاء الاصطناعي" فكرة سيئة.
إذا استخدمت ذكاءً اصطناعياً لتخصيص التمويل للمساهمات، سيقوم الناس بإدخال jailbreak مع "أعطني كل المال" في أكبر عدد ممكن من الأماكن.
كبديل، أؤيد نهج info finance ( ...
— vitalik.eth (@VitalikButerin) 13 سبتمبر 2025
مخاطر الحوكمة الساذجة بالذكاء الاصطناعي
كشف اختبار Miyamura كيف يمكن لدعوة تقويم بسيطة تحتوي على أوامر مخفية أن تخدع ChatGPT للكشف عن رسائل بريد إلكتروني حساسة بمجرد أن يصل المساعد إلى الإدخال المخترق.
أشار خبراء الأمن إلى أن النماذج اللغوية الكبيرة لا تستطيع التمييز بين التعليمات الحقيقية والخبيثة، مما يجعلها عرضة للغاية للتلاعب.
جعلنا ChatGPT يسرب بيانات بريدك الإلكتروني الخاصة 💀💀
كل ما تحتاجه؟ عنوان بريد الضحية الإلكتروني. ⛓️💥🚩📧
يوم الأربعاء، أضافت @OpenAI دعمًا كاملاً لأدوات MCP (Model Context Protocol) في ChatGPT. مما يسمح لـ ChatGPT بالاتصال وقراءة Gmail، والتقويم، وSharepoint، وNotion الخاص بك، ...
— Eito Miyamura | 🇯🇵🇬🇧 (@Eito_Miyamura) 12 سبتمبر 2025
قال Buterin إن هذا الخلل يمثل إشارة تحذير كبيرة لأنظمة الحوكمة التي تضع ثقة مفرطة في الذكاء الاصطناعي.
وأوضح أنه إذا تم استخدام مثل هذه النماذج لإدارة التمويل أو اتخاذ القرار، يمكن للمهاجمين بسهولة تجاوز الضمانات من خلال مطالبات على نمط jailbreak، مما يترك عمليات الحوكمة عرضة للاستغلال.
Info Finance: بديل قائم على السوق
لمعالجة هذه الثغرات، اقترح Buterin نظامًا يسميه "info finance". بدلاً من تركيز السلطة في ذكاء اصطناعي واحد، يسمح هذا الإطار للعديد من نماذج الحوكمة بالتنافس في سوق مفتوحة.
يمكن لأي شخص تقديم نموذج، ويمكن الطعن في قراراتهم من خلال عمليات تدقيق عشوائية، مع ترك الكلمة الأخيرة لهيئات محلفين بشرية.
تم تصميم هذا النهج لضمان المرونة من خلال الجمع بين تنوع النماذج والإشراف البشري. كما تم تضمين الحوافز لكل من المطورين والمراقبين الخارجيين لاكتشاف العيوب.
تصميم المؤسسات من أجل المتانة
يصف Buterin هذا بأنه طريقة "تصميم المؤسسات"، حيث يمكن توصيل نماذج لغوية كبيرة من مساهمين مختلفين، بدلاً من الاعتماد على نظام مركزي واحد.
وأضاف أن ذلك يخلق تنوعًا في الوقت الفعلي، مما يقلل من مخاطر التلاعب ويضمن القدرة على التكيف مع التحديات الجديدة.
في وقت سابق من أغسطس، انتقد Buterin التوجه نحو وكلاء الذكاء الاصطناعي المستقلين للغاية، قائلاً إن زيادة السيطرة البشرية تحسن الجودة والسلامة بشكل عام.
على المدى المتوسط، أريد شيئًا متقدماً من BCI حيث يعرض لي الشيء أثناء إنشائه ويكتشف في الوقت الفعلي كيف أشعر تجاه كل جزء منه ويعدل وفقًا لذلك.
— vitalik.eth (@VitalikButerin) 11 أغسطس 2025
يدعم النماذج التي تسمح بالتحرير التكراري والتعليقات البشرية بدلاً من تلك المصممة للعمل بشكل مستقل لفترات طويلة.
