Довірчий рівень ШІ: як мережа Mira вирішує проблеми упередженості та ілюзій ШІ
Нещодавно мережа під назвою Mira запустила публічну бета-версію, метою якої є створення рівня довіри для AI. Це викликало роздуми про питання довіри до AI: чому AI потрібно довіряти? Як Mira вирішує цю проблему?
Обговорюючи штучний інтелект, люди зазвичай більше зосереджуються на його потужних можливостях. Однак проблема "ілюзій" або упереджень у ШІ часто залишається поза увагою. Що стосується "ілюзій" ШІ, простіше кажучи, це те, що ШІ іноді може "вимислити", серйозно базуючись на вигадках. Наприклад, якщо ви запитаєте ШІ, чому місяць рожевий, він може надати на перший погляд розумне, але насправді безпідставне пояснення.
Ці проблеми штучного інтелекту пов'язані з сучасними технологічними шляхами. Генеративний ШІ досягає зв'язності та логічності, прогнозуючи "найімовірніший" контент, але цей підхід іноді важко перевірити на правдивість. Крім того, навчальні дані самі по собі можуть містити помилки, упередження або навіть вигадані матеріали, що вплине на результати ШІ. Іншими словами, ШІ вчиться мовним патернам людини, а не самим фактам.
Сучасні механізми генерації ймовірностей та дані, що керують моделями, майже неминуче призводять до можливості виникнення ілюзій штучного інтелекту. Хоча в загальних знаннях або розважальному контенті ця проблема тимчасово не призведе до прямих наслідків, у таких надзвичайно строгих сферах, як медицина, право, авіація, фінанси, вона може мати значний вплив. Тому вирішення проблеми ілюзій та упереджень штучного інтелекту стало одним з ключових питань у процесі еволюції штучного інтелекту.
Проект Mira якраз і прагне вирішити цю проблему. Він намагається створити рівень довіри для ШІ, зменшити упередженість та ілюзії в ШІ, підвищити надійність ШІ. Отже, як Mira досягає цієї мети?
Основний метод Mira полягає в перевірці виходу ШІ через консенсус кількох AI-моделей. Mira, по суті, є мережею перевірки, яка використовує консенсус кількох AI-моделей для перевірки надійності виходу ШІ. Що ще важливіше, вона використовує децентралізований спосіб перевірки консенсусу.
Ключовим аспектом мережі Mira є децентралізована верифікація консенсусу. Цей метод запозичує переваги криптосфери, одночасно використовуючи особливості співпраці кількох моделей, щоб зменшити упередженість та ілюзії шляхом колективної верифікації.
У сфері перевірки архітектури протокол Mira підтримує перетворення складного контенту в незалежні заяви, які можуть бути перевірені. Оператори вузлів беруть участь у перевірці цих заяв, а для забезпечення чесності операторів вузлів протокол Mira використовує механізм криптоекономічних стимулів/покарань. Участь різних AI-моделей та децентралізованих операторів вузлів гарантує надійність результатів перевірки.
Мережна архітектура Mira включає перетворення контенту, розподілену верифікацію та механізм консенсусу. Перетворення контенту є ключовим етапом. Спочатку мережа Mira розділяє кандидатний контент на різні перевіряються заяви, які розподіляються між вузлами для верифікації, щоб визначити їхню дійсність, і підсумовує результати для досягнення консенсусу. Для захисту конфіденційності клієнтів заяви будуть розподілені між різними вузлами випадковими частинами, щоб запобігти витоку інформації.
Оператори вузлів відповідають за запуск модельного перевірника, обробку заявок та подання результатів перевірки. Вони беруть участь у валідації для отримання прибутку, який походить від створюваної для клієнтів цінності. Мета мережі Mira – знизити коефіцієнт помилок ШІ, особливо в таких сферах, як медицина, право, авіація, фінанси, де це може мати величезну цінність. Щоб запобігти спекуляціям з боку операторів вузлів, вузли, які постійно відхиляються від консенсусу, будуть покарані.
В цілому, Mira пропонує новий підхід до забезпечення надійності ШІ: створення децентралізованої мережі валідації консенсусу на основі кількох моделей ШІ, що забезпечує більшу надійність для AI-сервісів клієнтів, знижує упередженість і ілюзії ШІ, задовольняючи потреби у більшій точності та точності. Коротше кажучи, Mira будує рівень довіри для ШІ, що сприятиме глибокому розвитку застосувань ШІ.
Наразі користувачі можуть брати участь у публічній тестовій мережі Mira через Klok (додаток для чату на основі LLM), випробувати перевірені AI-виходи і отримати можливість заробити бали Mira. Майбутнє використання цих балів ще не оголошено, але безсумнівно, що це надає додатковий стимул для участі користувачів.
Переглянути оригінал
Ця сторінка може містити контент третіх осіб, який надається виключно в інформаційних цілях (не в якості запевнень/гарантій) і не повинен розглядатися як схвалення його поглядів компанією Gate, а також як фінансова або професійна консультація. Див. Застереження для отримання детальної інформації.
15 лайків
Нагородити
15
4
Поділіться
Прокоментувати
0/400
SelfRugger
· 07-14 15:41
Є що подивитися, браття!
Переглянути оригіналвідповісти на0
CoconutWaterBoy
· 07-13 15:14
Надійна спроба!
Переглянути оригіналвідповісти на0
FrontRunFighter
· 07-11 16:40
Давайте проведемо тестування на реальних прикладах
Mira мережа: побудова довірчого рівня AI для вирішення проблем упередженості та ілюзій
Довірчий рівень ШІ: як мережа Mira вирішує проблеми упередженості та ілюзій ШІ
Нещодавно мережа під назвою Mira запустила публічну бета-версію, метою якої є створення рівня довіри для AI. Це викликало роздуми про питання довіри до AI: чому AI потрібно довіряти? Як Mira вирішує цю проблему?
Обговорюючи штучний інтелект, люди зазвичай більше зосереджуються на його потужних можливостях. Однак проблема "ілюзій" або упереджень у ШІ часто залишається поза увагою. Що стосується "ілюзій" ШІ, простіше кажучи, це те, що ШІ іноді може "вимислити", серйозно базуючись на вигадках. Наприклад, якщо ви запитаєте ШІ, чому місяць рожевий, він може надати на перший погляд розумне, але насправді безпідставне пояснення.
Ці проблеми штучного інтелекту пов'язані з сучасними технологічними шляхами. Генеративний ШІ досягає зв'язності та логічності, прогнозуючи "найімовірніший" контент, але цей підхід іноді важко перевірити на правдивість. Крім того, навчальні дані самі по собі можуть містити помилки, упередження або навіть вигадані матеріали, що вплине на результати ШІ. Іншими словами, ШІ вчиться мовним патернам людини, а не самим фактам.
Сучасні механізми генерації ймовірностей та дані, що керують моделями, майже неминуче призводять до можливості виникнення ілюзій штучного інтелекту. Хоча в загальних знаннях або розважальному контенті ця проблема тимчасово не призведе до прямих наслідків, у таких надзвичайно строгих сферах, як медицина, право, авіація, фінанси, вона може мати значний вплив. Тому вирішення проблеми ілюзій та упереджень штучного інтелекту стало одним з ключових питань у процесі еволюції штучного інтелекту.
Проект Mira якраз і прагне вирішити цю проблему. Він намагається створити рівень довіри для ШІ, зменшити упередженість та ілюзії в ШІ, підвищити надійність ШІ. Отже, як Mira досягає цієї мети?
Основний метод Mira полягає в перевірці виходу ШІ через консенсус кількох AI-моделей. Mira, по суті, є мережею перевірки, яка використовує консенсус кількох AI-моделей для перевірки надійності виходу ШІ. Що ще важливіше, вона використовує децентралізований спосіб перевірки консенсусу.
Ключовим аспектом мережі Mira є децентралізована верифікація консенсусу. Цей метод запозичує переваги криптосфери, одночасно використовуючи особливості співпраці кількох моделей, щоб зменшити упередженість та ілюзії шляхом колективної верифікації.
У сфері перевірки архітектури протокол Mira підтримує перетворення складного контенту в незалежні заяви, які можуть бути перевірені. Оператори вузлів беруть участь у перевірці цих заяв, а для забезпечення чесності операторів вузлів протокол Mira використовує механізм криптоекономічних стимулів/покарань. Участь різних AI-моделей та децентралізованих операторів вузлів гарантує надійність результатів перевірки.
Мережна архітектура Mira включає перетворення контенту, розподілену верифікацію та механізм консенсусу. Перетворення контенту є ключовим етапом. Спочатку мережа Mira розділяє кандидатний контент на різні перевіряються заяви, які розподіляються між вузлами для верифікації, щоб визначити їхню дійсність, і підсумовує результати для досягнення консенсусу. Для захисту конфіденційності клієнтів заяви будуть розподілені між різними вузлами випадковими частинами, щоб запобігти витоку інформації.
Оператори вузлів відповідають за запуск модельного перевірника, обробку заявок та подання результатів перевірки. Вони беруть участь у валідації для отримання прибутку, який походить від створюваної для клієнтів цінності. Мета мережі Mira – знизити коефіцієнт помилок ШІ, особливо в таких сферах, як медицина, право, авіація, фінанси, де це може мати величезну цінність. Щоб запобігти спекуляціям з боку операторів вузлів, вузли, які постійно відхиляються від консенсусу, будуть покарані.
В цілому, Mira пропонує новий підхід до забезпечення надійності ШІ: створення децентралізованої мережі валідації консенсусу на основі кількох моделей ШІ, що забезпечує більшу надійність для AI-сервісів клієнтів, знижує упередженість і ілюзії ШІ, задовольняючи потреби у більшій точності та точності. Коротше кажучи, Mira будує рівень довіри для ШІ, що сприятиме глибокому розвитку застосувань ШІ.
Наразі користувачі можуть брати участь у публічній тестовій мережі Mira через Klok (додаток для чату на основі LLM), випробувати перевірені AI-виходи і отримати можливість заробити бали Mira. Майбутнє використання цих балів ще не оголошено, але безсумнівно, що це надає додатковий стимул для участі користувачів.