طبقة الثقة في الذكاء الاصطناعي: كيف تحل شبكة ميرا مشكلات التحيز والوهم في الذكاء الاصطناعي

مؤخراً، أطلقت شبكة تُدعى Mira إصدارها التجريبي العام، والذي يهدف إلى بناء طبقة ثقة للذكاء الاصطناعي. وقد أثار هذا التفكير حول قضية موثوقية الذكاء الاصطناعي: لماذا يحتاج الذكاء الاصطناعي إلى الثقة؟ وكيف تعالج Mira هذه المشكلة؟

عند مناقشة الذكاء الاصطناعي، غالبًا ما يركز الناس على قوته الكبيرة. ومع ذلك، فإن مشكلة "الهلاوس" أو التحيزات التي يعاني منها الذكاء الاصطناعي غالبًا ما يتم تجاهلها. ما يسمى بـ"هلاوس" الذكاء الاصطناعي، ببساطة، يعني أن الذكاء الاصطناعي أحيانًا "يختلق" ويقول أشياء غير صحيحة بجدية. على سبيل المثال، إذا سألت الذكاء الاصطناعي لماذا القمر وردي، فقد يقدم تفسيرًا يبدو منطقيًا ولكنه في الواقع لا أساس له.

هذه الأسئلة المتعلقة بالذكاء الاصطناعي مرتبطة بالطريق التكنولوجي الحالي. يحقق الذكاء الاصطناعي التوليدي التماسك والواقعية من خلال التنبؤ بـ"المحتوى الأكثر احتمالًا"، لكن هذه الطريقة قد تكون أحيانًا صعبة للتحقق من صحتها. بالإضافة إلى ذلك، قد تحتوي بيانات التدريب نفسها على أخطاء أو تحيزات أو حتى محتوى مختلق، مما يؤثر على مخرجات الذكاء الاصطناعي. بعبارة أخرى، يتعلم الذكاء الاصطناعي نماذج اللغة البشرية، وليس الحقائق نفسها.

آلية توليد الاحتمالات الحالية ونموذج البيانات المدفوعة تؤدي تقريبًا بلا منازع إلى إمكانية حدوث الوهم الناتج عن الذكاء الاصطناعي. على الرغم من أن هذه المشكلة قد لا تؤدي إلى عواقب مباشرة في المحتوى العام أو الترفيهي، إلا أنها قد تؤثر بشكل كبير في مجالات مثل الطب والقانون والطيران والمالية، التي تتطلب دقة عالية. لذلك، أصبح حل الوهم والتحيز الناتج عن الذكاء الاصطناعي واحدًا من القضايا الأساسية في عملية تطور الذكاء الاصطناعي.

مشروع ميرا يهدف إلى حل هذه المشكلة. إنه يحاول بناء طبقة ثقة للذكاء الاصطناعي، لتقليل التحيزات والأوهام في الذكاء الاصطناعي، وزيادة موثوقية الذكاء الاصطناعي. فكيف تحقق ميرا هذا الهدف؟

الطريقة الأساسية لـ Mira هي التحقق من مخرجات الذكاء الاصطناعي من خلال توافق نماذج الذكاء الاصطناعي المتعددة. في جوهرها، Mira هي شبكة تحقق تستخدم توافق عدة نماذج ذكاء اصطناعي للتحقق من موثوقية مخرجات الذكاء الاصطناعي. والأهم من ذلك، أنها تعتمد على طريقة التحقق من التوافق اللامركزية.

تكمن أهمية شبكة ميرا في التحقق من الإجماع اللامركزي. تعتمد هذه الطريقة على فوائد مجال التشفير، في الوقت نفسه تستخدم ميزات التعاون بين النماذج المتعددة لتقليل التحيز والوهم من خلال نمط التحقق الجماعي.

فيما يتعلق بهيكل التحقق، يدعم بروتوكول ميرا تحويل المحتوى المعقد إلى بيانات يمكن التحقق منها بشكل مستقل. يشارك مشغلو العقد في التحقق من هذه البيانات، ومن أجل ضمان نزاهة مشغلي العقد، يعتمد ميرا على آلية تحفيز/عقاب اقتصادية مشفرة. يضمن مشاركة نماذج الذكاء الاصطناعي المختلفة ومشغلي العقد الموزعين موثوقية نتائج التحقق.

تشمل بنية شبكة ميرا تحويل المحتوى، والتحقق الموزع، وآلية الإجماع. تحويل المحتوى هو الحلقة الأساسية في ذلك. تقوم شبكة ميرا أولاً بتفكيك المحتوى المرشح إلى بيانات قابلة للتحقق، ثم يتم توزيع هذه البيانات على العقد للتحقق من صحتها وتجميع النتائج للتوصل إلى إجماع. لحماية خصوصية العملاء، يتم توزيع البيانات بشكل عشوائي إلى شظايا على العقد المختلفة، لمنع تسرب المعلومات.

تتحمل مشغلات العقد مسؤولية تشغيل نموذج التحقق، ومعالجة التصريحات وتقديم نتائج التحقق. يشاركون في التحقق من أجل الحصول على مكافآت، وهذه المكافآت تأتي من القيمة التي يتم إنشاؤها للعملاء. الهدف من شبكة ميرا هو تقليل معدل الأخطاء في الذكاء الاصطناعي، وخاصة في مجالات مثل الطب والقانون والطيران والمالية، حيث يمكن أن تنتج قيمة ضخمة. لمنع مشغلي العقد من التحايل، سيتم معاقبة العقد التي تستمر في الانحراف عن الإجماع.

بشكل عام، تقدم ميرا فكرة جديدة لتحقيق موثوقية الذكاء الاصطناعي: بناء شبكة تحقق من التوافق اللامركزية على أساس نماذج ذكاء اصطناعي متعددة، مما يوفر موثوقية أعلى لخدمات الذكاء الاصطناعي الخاصة بالعملاء، ويقلل من تحيز الذكاء الاصطناعي والوهم، ويلبي احتياجات دقة وموثوقية أعلى. باختصار، تقوم ميرا ببناء طبقة ثقة للذكاء الاصطناعي، والتي ستدفع التطور العميق لتطبيقات الذكاء الاصطناعي.

حالياً، يمكن للمستخدمين المشاركة في شبكة Mira العامة للاختبار من خلال Klok (وهو تطبيق دردشة LLM قائم على Mira) وتجربة المخرجات المعتمدة للذكاء الاصطناعي، ولديهم فرصة لكسب نقاط Mira. لم يتم الإعلان بعد عن الاستخدامات المستقبلية لهذه النقاط، لكنها بلا شك توفر حافزًا إضافيًا لمشاركة المستخدمين.