Nâng cao độ tin cậy AI: Xây dựng lớp tin cậy AI của mạng Mira

Gần đây, mạng lưới Mira đã chính thức ra mắt mạng thử nghiệm công cộng, nhằm xây dựng một lớp tin cậy cho AI. Điều này đã dấy lên những suy nghĩ về độ tin cậy của AI: Tại sao AI cần được tin tưởng? Mira sẽ giải quyết vấn đề này như thế nào?

Khi thảo luận về AI, người ta thường chú ý nhiều hơn đến khả năng mạnh mẽ của nó, mà bỏ qua vấn đề "ảo giác" hoặc thiên kiến mà AI tồn tại. "Ảo giác" của AI chỉ việc AI đôi khi sẽ "bịa ra" những nội dung có vẻ hợp lý nhưng thực tế lại không chính xác. Ví dụ, khi được hỏi tại sao mặt trăng lại màu hồng, AI có thể đưa ra một loạt các giải thích nghe có vẻ hợp lý nhưng thực tế lại là hư cấu.

Sự xuất hiện của "ảo giác" hoặc thiên kiến trong AI liên quan đến một số con đường công nghệ AI hiện tại. AI sinh ra đạt được tính liên tục và hợp lý bằng cách dự đoán nội dung "có khả năng cao nhất", nhưng đôi khi không thể xác minh tính xác thực. Hơn nữa, dữ liệu huấn luyện có thể chứa lỗi, thiên kiến thậm chí là nội dung hư cấu, điều này cũng ảnh hưởng đến đầu ra của AI. Nói tóm lại, AI học các mẫu ngôn ngữ của con người chứ không phải sự thật.

Cơ chế sinh xác suất và mô hình dựa trên dữ liệu hiện tại gần như không thể tránh khỏi khả năng dẫn đến ảo giác AI. Mặc dù trong các kiến thức thông thường hoặc nội dung giải trí, loại đầu ra có thiên lệch hoặc ảo giác này tạm thời không gây ra hậu quả trực tiếp, nhưng trong các lĩnh vực nghiêm ngặt như y tế, pháp lý, hàng không, tài chính, nó có thể tạo ra ảnh hưởng lớn. Do đó, việc giải quyết ảo giác và thiên lệch của AI trở thành một trong những vấn đề cốt lõi trong quá trình phát triển AI.

Dự án Mira cố gắng giải quyết vấn đề này bằng cách xây dựng một lớp tin cậy cho AI, giảm thiểu thiên kiến và ảo giác của AI, nâng cao độ tin cậy của AI. Ý tưởng cốt lõi của Mira là xác thực đầu ra của AI thông qua sự đồng thuận của nhiều mô hình AI. Đây là một mạng lưới xác thực, sử dụng sự đồng thuận của nhiều mô hình AI và sự đồng thuận phi tập trung để xác thực độ tin cậy của đầu ra AI.

Chìa khóa của mạng Mira nằm ở việc xác thực đồng thuận phi tập trung. Nó kết hợp những lợi thế của lĩnh vực tiền mã hóa và phương pháp hợp tác đa mô hình, thông qua mô hình xác thực tập thể để giảm thiểu thiên lệch và ảo giác. Về mặt kiến trúc xác thực, giao thức Mira hỗ trợ việc chuyển đổi nội dung phức tạp thành các tuyên bố xác thực độc lập. Các nhà điều hành nút tham gia xác thực những tuyên bố này, thông qua các cơ chế khuyến khích và trừng phạt kinh tế mã hóa để đảm bảo tính trung thực của các nhà điều hành nút.

Kiến trúc mạng của Mira bao gồm chuyển đổi nội dung, xác thực phân tán và cơ chế đồng thuận. Chuyển đổi nội dung là một phần quan trọng trong đó, mạng Mira sẽ phân tách nội dung ứng cử thành các tuyên bố có thể xác thực khác nhau và phân phối cho các nút để xác minh. Để bảo vệ quyền riêng tư của khách hàng, các tuyên bố sẽ được phân phát cho các nút khác nhau theo cách chia ngẫu nhiên.

Các nhà điều hành nút chịu trách nhiệm chạy mô hình xác minh, xử lý tuyên bố và nộp kết quả xác minh. Họ tham gia xác minh nhằm kiếm lợi, lợi nhuận này đến từ giá trị mà họ tạo ra cho khách hàng. Mục tiêu của mạng Mira là giảm tỷ lệ lỗi của AI, đặc biệt trong các lĩnh vực như y tế, pháp lý, hàng không và tài chính, điều này sẽ tạo ra giá trị to lớn.

Nhìn chung, Mira cung cấp một giải pháp mới để đạt được độ tin cậy của AI. Nó xây dựng một mạng lưới xác thực đồng thuận phi tập trung dựa trên nhiều mô hình AI, mang đến độ tin cậy cao hơn cho dịch vụ AI của khách hàng, giảm thiểu sự thiên kiến và ảo giác của AI, đáp ứng nhu cầu của khách hàng về độ chính xác và tỷ lệ chính xác cao hơn. Mira cố gắng xây dựng một tầng tin cậy cho AI, điều này sẽ thúc đẩy sự phát triển sâu rộng của các ứng dụng AI.

Hiện tại, Mira đã hợp tác với nhiều khung AI agent. Người dùng có thể tham gia mạng thử nghiệm công cộng của Mira thông qua Klok (ứng dụng trò chuyện LLM dựa trên Mira), trải nghiệm đầu ra AI đã được xác minh và có cơ hội kiếm điểm Mira.