Tầng tin cậy của AI: Mạng Mira giải quyết vấn đề thiên lệch và ảo giác của AI như thế nào
Gần đây, một mạng lưới tên là Mira đã ra mắt phiên bản thử nghiệm công khai, với mục tiêu xây dựng một lớp tin cậy cho AI. Điều này đã dấy lên những suy nghĩ về vấn đề độ tin cậy của AI: Tại sao AI cần được tin tưởng? Mira đã giải quyết vấn đề này như thế nào?
Khi thảo luận về AI, mọi người thường chú ý hơn đến khả năng mạnh mẽ của nó. Tuy nhiên, vấn đề về "ảo giác" hoặc thiên kiến của AI thường bị bỏ qua. Nói một cách đơn giản, "ảo giác" của AI có nghĩa là đôi khi AI sẽ "bịa chuyện", nói năng một cách nghiêm túc nhưng lại vô lý. Ví dụ, nếu bạn hỏi AI tại sao mặt trăng lại có màu hồng, nó có thể đưa ra một lời giải thích có vẻ hợp lý nhưng thực tế lại không có cơ sở.
Các vấn đề này của AI liên quan đến con đường công nghệ hiện tại. AI sinh sinh thông qua việc dự đoán nội dung "có khả năng nhất" để đạt được sự mạch lạc và hợp lý, nhưng phương pháp này đôi khi khó xác minh tính xác thực. Hơn nữa, dữ liệu đào tạo có thể chứa lỗi, thiên lệch thậm chí là nội dung hư cấu, tất cả những điều này đều ảnh hưởng đến đầu ra của AI. Nói cách khác, AI học các mẫu ngôn ngữ của con người chứ không phải sự thật bản thân.
Cơ chế sinh概率 hiện tại và mô hình dựa trên dữ liệu gần như không thể tránh khỏi khả năng gây ra ảo giác AI. Mặc dù trong các kiến thức thông thường hoặc nội dung giải trí, vấn đề này tạm thời không gây ra hậu quả trực tiếp, nhưng trong các lĩnh vực nghiêm ngặt như y tế, pháp lý, hàng không, tài chính, nó có thể tạo ra tác động đáng kể. Do đó, việc giải quyết ảo giác AI và sự thiên lệch đã trở thành một trong những vấn đề cốt lõi trong quá trình tiến hóa của AI.
Dự án Mira chính là nhằm giải quyết vấn đề này. Nó cố gắng xây dựng một lớp tin cậy cho AI, giảm thiểu thiên kiến và ảo giác của AI, nâng cao độ tin cậy của AI. Vậy, Mira đã thực hiện mục tiêu này như thế nào?
Phương pháp cốt lõi của Mira là xác thực đầu ra AI thông qua sự đồng thuận của nhiều mô hình AI. Mira về cơ bản là một mạng lưới xác thực, sử dụng sự đồng thuận của nhiều mô hình AI để kiểm tra độ tin cậy của đầu ra AI. Quan trọng hơn, nó áp dụng phương thức xác thực đồng thuận phi tập trung.
Chìa khóa của mạng Mira nằm ở việc xác minh đồng thuận phi tập trung. Phương pháp này học hỏi từ những lợi thế trong lĩnh vực tiền mã hóa, đồng thời tận dụng đặc điểm hợp tác đa mô hình, thông qua mô hình xác minh tập thể để giảm thiểu thành kiến và ảo giác.
Trong kiến trúc xác thực, giao thức Mira hỗ trợ chuyển đổi nội dung phức tạp thành các tuyên bố có thể xác thực độc lập. Các nhà điều hành nút tham gia vào việc xác thực các tuyên bố này, và để đảm bảo tính trung thực của các nhà điều hành nút, Mira áp dụng cơ chế khuyến khích/khắc phục bằng kinh tế mật mã. Sự tham gia của các mô hình AI khác nhau và các nhà điều hành nút phân tán đảm bảo độ tin cậy của kết quả xác thực.
Kiến trúc mạng của Mira bao gồm chuyển đổi nội dung, xác thực phân tán và cơ chế đồng thuận. Chuyển đổi nội dung là khâu then chốt. Mạng Mira trước tiên phân tách nội dung ứng cử thành các tuyên bố khả thi khác nhau, các tuyên bố này được phân phối đến các nút để xác thực nhằm xác định tính hợp lệ và tổng hợp kết quả để đạt được đồng thuận. Để bảo vệ quyền riêng tư của khách hàng, các tuyên bố sẽ được phân phối đến các nút khác nhau theo cách phân mảnh ngẫu nhiên, nhằm ngăn chặn thông tin bị rò rỉ.
Các nhà điều hành nút chịu trách nhiệm vận hành mô hình xác thực, xử lý các tuyên bố và nộp kết quả xác thực. Họ tham gia xác thực để kiếm lợi nhuận, những lợi nhuận này đến từ giá trị mà họ tạo ra cho khách hàng. Mục tiêu của mạng Mira là giảm tỷ lệ sai sót của AI, đặc biệt trong các lĩnh vực như y tế, pháp luật, hàng không, tài chính, điều này có thể tạo ra giá trị lớn. Để ngăn chặn các nhà điều hành nút đầu cơ, các nút liên tục lệch khỏi sự đồng thuận sẽ bị trừng phạt.
Nói chung, Mira cung cấp một cách tiếp cận mới để đạt được độ tin cậy của AI: xây dựng một mạng lưới xác thực đồng thuận phi tập trung dựa trên nhiều mô hình AI, mang lại độ tin cậy cao hơn cho dịch vụ AI của khách hàng, giảm thiểu sự thiên lệch và ảo giác của AI, đáp ứng nhu cầu về độ chính xác và tỷ lệ chính xác cao hơn. Nói ngắn gọn, Mira đang xây dựng một lớp tin cậy cho AI, điều này sẽ thúc đẩy sự phát triển sâu rộng của ứng dụng AI.
Hiện tại, người dùng có thể tham gia vào mạng thử nghiệm công khai của Mira thông qua Klok (một ứng dụng trò chuyện LLM dựa trên Mira), trải nghiệm các đầu ra AI đã được xác thực và có cơ hội kiếm điểm Mira. Mục đích tương lai của những điểm này vẫn chưa được công bố, nhưng chắc chắn sẽ cung cấp thêm động lực cho người dùng tham gia.
Xem bản gốc
Trang này có thể chứa nội dung của bên thứ ba, được cung cấp chỉ nhằm mục đích thông tin (không phải là tuyên bố/bảo đảm) và không được coi là sự chứng thực cho quan điểm của Gate hoặc là lời khuyên về tài chính hoặc chuyên môn. Xem Tuyên bố từ chối trách nhiệm để biết chi tiết.
Mira mạng: Xây dựng tầng tin cậy AI Giải quyết vấn đề thiên kiến và ảo giác
Tầng tin cậy của AI: Mạng Mira giải quyết vấn đề thiên lệch và ảo giác của AI như thế nào
Gần đây, một mạng lưới tên là Mira đã ra mắt phiên bản thử nghiệm công khai, với mục tiêu xây dựng một lớp tin cậy cho AI. Điều này đã dấy lên những suy nghĩ về vấn đề độ tin cậy của AI: Tại sao AI cần được tin tưởng? Mira đã giải quyết vấn đề này như thế nào?
Khi thảo luận về AI, mọi người thường chú ý hơn đến khả năng mạnh mẽ của nó. Tuy nhiên, vấn đề về "ảo giác" hoặc thiên kiến của AI thường bị bỏ qua. Nói một cách đơn giản, "ảo giác" của AI có nghĩa là đôi khi AI sẽ "bịa chuyện", nói năng một cách nghiêm túc nhưng lại vô lý. Ví dụ, nếu bạn hỏi AI tại sao mặt trăng lại có màu hồng, nó có thể đưa ra một lời giải thích có vẻ hợp lý nhưng thực tế lại không có cơ sở.
Các vấn đề này của AI liên quan đến con đường công nghệ hiện tại. AI sinh sinh thông qua việc dự đoán nội dung "có khả năng nhất" để đạt được sự mạch lạc và hợp lý, nhưng phương pháp này đôi khi khó xác minh tính xác thực. Hơn nữa, dữ liệu đào tạo có thể chứa lỗi, thiên lệch thậm chí là nội dung hư cấu, tất cả những điều này đều ảnh hưởng đến đầu ra của AI. Nói cách khác, AI học các mẫu ngôn ngữ của con người chứ không phải sự thật bản thân.
Cơ chế sinh概率 hiện tại và mô hình dựa trên dữ liệu gần như không thể tránh khỏi khả năng gây ra ảo giác AI. Mặc dù trong các kiến thức thông thường hoặc nội dung giải trí, vấn đề này tạm thời không gây ra hậu quả trực tiếp, nhưng trong các lĩnh vực nghiêm ngặt như y tế, pháp lý, hàng không, tài chính, nó có thể tạo ra tác động đáng kể. Do đó, việc giải quyết ảo giác AI và sự thiên lệch đã trở thành một trong những vấn đề cốt lõi trong quá trình tiến hóa của AI.
Dự án Mira chính là nhằm giải quyết vấn đề này. Nó cố gắng xây dựng một lớp tin cậy cho AI, giảm thiểu thiên kiến và ảo giác của AI, nâng cao độ tin cậy của AI. Vậy, Mira đã thực hiện mục tiêu này như thế nào?
Phương pháp cốt lõi của Mira là xác thực đầu ra AI thông qua sự đồng thuận của nhiều mô hình AI. Mira về cơ bản là một mạng lưới xác thực, sử dụng sự đồng thuận của nhiều mô hình AI để kiểm tra độ tin cậy của đầu ra AI. Quan trọng hơn, nó áp dụng phương thức xác thực đồng thuận phi tập trung.
Chìa khóa của mạng Mira nằm ở việc xác minh đồng thuận phi tập trung. Phương pháp này học hỏi từ những lợi thế trong lĩnh vực tiền mã hóa, đồng thời tận dụng đặc điểm hợp tác đa mô hình, thông qua mô hình xác minh tập thể để giảm thiểu thành kiến và ảo giác.
Trong kiến trúc xác thực, giao thức Mira hỗ trợ chuyển đổi nội dung phức tạp thành các tuyên bố có thể xác thực độc lập. Các nhà điều hành nút tham gia vào việc xác thực các tuyên bố này, và để đảm bảo tính trung thực của các nhà điều hành nút, Mira áp dụng cơ chế khuyến khích/khắc phục bằng kinh tế mật mã. Sự tham gia của các mô hình AI khác nhau và các nhà điều hành nút phân tán đảm bảo độ tin cậy của kết quả xác thực.
Kiến trúc mạng của Mira bao gồm chuyển đổi nội dung, xác thực phân tán và cơ chế đồng thuận. Chuyển đổi nội dung là khâu then chốt. Mạng Mira trước tiên phân tách nội dung ứng cử thành các tuyên bố khả thi khác nhau, các tuyên bố này được phân phối đến các nút để xác thực nhằm xác định tính hợp lệ và tổng hợp kết quả để đạt được đồng thuận. Để bảo vệ quyền riêng tư của khách hàng, các tuyên bố sẽ được phân phối đến các nút khác nhau theo cách phân mảnh ngẫu nhiên, nhằm ngăn chặn thông tin bị rò rỉ.
Các nhà điều hành nút chịu trách nhiệm vận hành mô hình xác thực, xử lý các tuyên bố và nộp kết quả xác thực. Họ tham gia xác thực để kiếm lợi nhuận, những lợi nhuận này đến từ giá trị mà họ tạo ra cho khách hàng. Mục tiêu của mạng Mira là giảm tỷ lệ sai sót của AI, đặc biệt trong các lĩnh vực như y tế, pháp luật, hàng không, tài chính, điều này có thể tạo ra giá trị lớn. Để ngăn chặn các nhà điều hành nút đầu cơ, các nút liên tục lệch khỏi sự đồng thuận sẽ bị trừng phạt.
Nói chung, Mira cung cấp một cách tiếp cận mới để đạt được độ tin cậy của AI: xây dựng một mạng lưới xác thực đồng thuận phi tập trung dựa trên nhiều mô hình AI, mang lại độ tin cậy cao hơn cho dịch vụ AI của khách hàng, giảm thiểu sự thiên lệch và ảo giác của AI, đáp ứng nhu cầu về độ chính xác và tỷ lệ chính xác cao hơn. Nói ngắn gọn, Mira đang xây dựng một lớp tin cậy cho AI, điều này sẽ thúc đẩy sự phát triển sâu rộng của ứng dụng AI.
Hiện tại, người dùng có thể tham gia vào mạng thử nghiệm công khai của Mira thông qua Klok (một ứng dụng trò chuyện LLM dựa trên Mira), trải nghiệm các đầu ra AI đã được xác thực và có cơ hội kiếm điểm Mira. Mục đích tương lai của những điểm này vẫn chưa được công bố, nhưng chắc chắn sẽ cung cấp thêm động lực cho người dùng tham gia.