Lapisan Kepercayaan AI: Bagaimana Jaringan Mira Mengatasi Masalah Bias dan Ilusi AI

Baru-baru ini, sebuah jaringan bernama Mira meluncurkan versi uji publik, yang bertujuan untuk membangun lapisan kepercayaan untuk AI. Ini memicu pemikiran tentang masalah kepercayaan AI: mengapa AI perlu dipercaya? Bagaimana Mira menyelesaikan masalah ini?

Saat membahas AI, orang sering kali lebih fokus pada kemampuannya yang kuat. Namun, masalah "ilusi" atau bias yang ada pada AI sering kali diabaikan. Yang disebut "ilusi" AI, secara sederhana, adalah bahwa AI kadang-kadang akan "mengarang" atau berbicara tanpa dasar. Misalnya, jika Anda bertanya kepada AI mengapa bulan berwarna pink, ia mungkin memberikan penjelasan yang tampak masuk akal tetapi sebenarnya tidak memiliki dasar.

Masalah-masalah ini terkait dengan jalur teknologi saat ini. AI generatif mencapai koherensi dan kewajaran dengan memprediksi konten yang "paling mungkin", tetapi pendekatan ini kadang-kadang sulit untuk memverifikasi kebenarannya. Selain itu, data pelatihan itu sendiri mungkin mengandung kesalahan, bias, atau bahkan konten fiksi, semua ini dapat mempengaruhi keluaran AI. Dengan kata lain, AI mempelajari pola bahasa manusia, bukan fakta itu sendiri.

Mekanisme generasi probabilitas saat ini dan model berbasis data hampir tidak terhindarkan membawa kemungkinan ilusi AI. Meskipun dalam konten pengetahuan umum atau hiburan, masalah ini sementara tidak akan menyebabkan konsekuensi langsung, di bidang-bidang yang sangat ketat seperti medis, hukum, penerbangan, dan keuangan, hal ini dapat memiliki dampak yang signifikan. Oleh karena itu, mengatasi ilusi dan bias AI telah menjadi salah satu masalah inti dalam proses evolusi AI.

Proyek Mira bertujuan untuk mengatasi masalah ini. Proyek ini mencoba membangun lapisan kepercayaan untuk AI, mengurangi bias dan halusinasi AI, serta meningkatkan keandalan AI. Lalu, bagaimana Mira mencapai tujuan ini?

Metode inti Mira adalah memvalidasi output AI melalui konsensus dari beberapa model AI. Mira pada dasarnya adalah jaringan verifikasi yang memanfaatkan konsensus dari beberapa model AI untuk memvalidasi keandalan output AI. Yang lebih penting, ia mengadopsi metode verifikasi konsensus terdesentralisasi.

Kunci jaringan Mira terletak pada verifikasi konsensus yang terdesentralisasi. Metode ini mengambil keuntungan dari bidang kripto, sambil memanfaatkan karakteristik kolaborasi multi-model, untuk mengurangi bias dan ilusi melalui model verifikasi kolektif.

Dalam hal arsitektur verifikasi, protokol Mira mendukung konversi konten yang kompleks menjadi pernyataan yang dapat diverifikasi secara independen. Operator node berpartisipasi dalam verifikasi pernyataan ini, dan untuk memastikan integritas operator node, Mira mengadopsi mekanisme insentif/punishment ekonomi kriptografi. Partisipasi model AI yang berbeda dan operator node yang terdesentralisasi menjamin keandalan hasil verifikasi.

Arsitektur jaringan Mira mencakup konversi konten, verifikasi terdistribusi, dan mekanisme konsensus. Konversi konten adalah salah satu bagian kunci. Jaringan Mira pertama-tama membagi konten yang menjadi kandidat menjadi berbagai pernyataan yang dapat diverifikasi, yang kemudian didistribusikan ke node untuk diverifikasi, guna menentukan keabsahannya, dan mengumpulkan hasil untuk mencapai konsensus. Untuk melindungi privasi pelanggan, pernyataan akan didistribusikan ke berbagai node dengan cara pemecahan acak, untuk mencegah kebocoran informasi.

Operator node bertanggung jawab untuk menjalankan model validator, memproses klaim, dan mengirimkan hasil validasi. Mereka terlibat dalam verifikasi untuk mendapatkan imbalan, yang berasal dari nilai yang diciptakan untuk klien. Tujuan jaringan Mira adalah untuk mengurangi tingkat kesalahan AI, terutama di bidang kesehatan, hukum, penerbangan, dan keuangan, yang dapat menghasilkan nilai besar. Untuk mencegah operator node melakukan spekulasi, node yang terus-menerus menyimpang dari konsensus akan dihukum.

Secara keseluruhan, Mira memberikan pendekatan baru untuk mencapai keandalan AI: membangun jaringan verifikasi konsensus terdesentralisasi di atas beberapa model AI, membawa keandalan yang lebih tinggi untuk layanan AI pelanggan, mengurangi bias dan ilusi AI, serta memenuhi kebutuhan akan akurasi dan presisi yang lebih tinggi. Singkatnya, Mira sedang membangun lapisan kepercayaan untuk AI, yang akan mendorong perkembangan mendalam aplikasi AI.

Saat ini, pengguna dapat berpartisipasi dalam pengujian publik Mira melalui Klok (aplikasi obrolan LLM yang berbasis Mira), merasakan keluaran AI yang telah terverifikasi, dan memiliki kesempatan untuk mendapatkan poin Mira. Penggunaan poin ini di masa depan belum diumumkan, tetapi pasti memberikan motivasi tambahan bagi pengguna untuk berpartisipasi.