Повышение доверия к ИИ: Сеть Mira создает уровень доверия к ИИ
На днях публичная тестовая сеть Mira была официально запущена, с целью создания уровня доверия для ИИ. Это вызвало размышления о надежности ИИ: почему ИИ необходимо доверять? Как Mira решает эту проблему?
При обсуждении ИИ люди часто больше сосредотачиваются на его мощных возможностях, игнорируя проблему "галлюцинаций" или предвзятости, существующую у ИИ. "Галлюцинации" ИИ означают, что ИИ иногда может "выдумывать" на вид разумное, но на самом деле неточное содержание. Например, когда его спрашивают, почему луна розовая, ИИ может дать ряд объяснений, которые звучат разумно, но на самом деле являются вымышленными.
Появление "галлюцинаций" или предвзятости у ИИ связано с текущими направлениями некоторых технологий ИИ. Генеративный ИИ достигает согласованности и разумности, предсказывая "наиболее вероятное" содержание, но иногда не может проверить подлинность. Кроме того, сами обучающие данные могут содержать ошибки, предвзятости или даже вымышленные содержания, что также влияет на выводы ИИ. Короче говоря, ИИ учится языковым моделям человека, а не самим фактам.
Современные механизмы генерации вероятностей и модели, основанные на данных, почти неизбежно могут привести к возможности появления иллюзий в ИИ. Хотя в общих знаниях или развлекательном контенте такие предвзятые или иллюзорные результаты временно не приведут к прямым последствиям, в таких строго регулируемых областях, как медицина, право, авиация и финансы, они могут иметь серьезные последствия. Поэтому решение проблем иллюзий и предвзятостей в ИИ становится одной из ключевых задач в процессе развития ИИ.
Проект Mira пытается решить эту проблему, создавая уровень доверия для ИИ, уменьшая предвзятость и иллюзии ИИ, повышая его надежность. Основная идея Mira заключается в проверке вывода ИИ через консенсус нескольких моделей ИИ. Это сеть верификации, использующая консенсус нескольких моделей ИИ и децентрализованный консенсус для проверки надежности вывода ИИ.
Ключ к сети Mira заключается в децентрализованной верификации консенсуса. Она объединяет преимущества криптографической области и методы многомодельного сотрудничества, снижая предвзятость и иллюзии через коллективные модели верификации. В плане архитектуры верификации протокол Mira поддерживает преобразование сложного контента в независимые верификационные утверждения. Операторы узлов участвуют в верификации этих утверждений, обеспечивая честность операторов узлов через механизмы экономического стимулирования и наказания.
Сетевая архитектура Mira включает в себя преобразование контента, распределенную проверку и механизм согласия. Преобразование контента является важным этапом, в котором сеть Mira разбивает кандидатный контент на различные проверяемые утверждения и распределяет их по узлам для проверки. Для защиты конфиденциальности клиентов утверждения будут распределяться по различным узлам в случайном порядке.
Операторы узлов отвечают за работу моделей валидации, обработку заявлений и представление результатов валидации. Их участие в валидации направлено на получение прибыли, которая исходит от создаваемой для клиентов ценности. Цель сети Mira заключается в снижении уровня ошибок ИИ, особенно в таких областях, как медицина, право, авиация и финансы, что приведет к значительной ценности.
В целом, Mira предлагает новый подход к обеспечению надежности ИИ. Она строит децентрализованную сеть верификации консенсуса на основе нескольких ИИ-моделей, что обеспечивает более высокую надежность ИИ-сервисов для клиентов, снижает предвзятость и галлюцинации ИИ, удовлетворяя потребности клиентов в более высокой точности и точности. Mira пытается создать уровень доверия к ИИ, что будет способствовать углубленному развитию приложений ИИ.
В настоящее время Mira сотрудничает с несколькими AI агентами. Пользователи могут участвовать в публичной тестовой сети Mira через Klok (чат-приложение на основе LLM от Mira), испытать проверенные AI результаты и получить возможность заработать очки Mira.
Посмотреть Оригинал
На этой странице может содержаться сторонний контент, который предоставляется исключительно в информационных целях (не в качестве заявлений/гарантий) и не должен рассматриваться как поддержка взглядов компании Gate или как финансовый или профессиональный совет. Подробности смотрите в разделе «Отказ от ответственности» .
9 Лайков
Награда
9
6
Поделиться
комментарий
0/400
CoffeeNFTrader
· 07-14 12:07
Искусственный интеллект снова затевает что-то новое, социальная смерть в итоге?
Сеть Mira создает уровень доверия AI, много моделей соглашения повышают надежность
Повышение доверия к ИИ: Сеть Mira создает уровень доверия к ИИ
На днях публичная тестовая сеть Mira была официально запущена, с целью создания уровня доверия для ИИ. Это вызвало размышления о надежности ИИ: почему ИИ необходимо доверять? Как Mira решает эту проблему?
При обсуждении ИИ люди часто больше сосредотачиваются на его мощных возможностях, игнорируя проблему "галлюцинаций" или предвзятости, существующую у ИИ. "Галлюцинации" ИИ означают, что ИИ иногда может "выдумывать" на вид разумное, но на самом деле неточное содержание. Например, когда его спрашивают, почему луна розовая, ИИ может дать ряд объяснений, которые звучат разумно, но на самом деле являются вымышленными.
Появление "галлюцинаций" или предвзятости у ИИ связано с текущими направлениями некоторых технологий ИИ. Генеративный ИИ достигает согласованности и разумности, предсказывая "наиболее вероятное" содержание, но иногда не может проверить подлинность. Кроме того, сами обучающие данные могут содержать ошибки, предвзятости или даже вымышленные содержания, что также влияет на выводы ИИ. Короче говоря, ИИ учится языковым моделям человека, а не самим фактам.
Современные механизмы генерации вероятностей и модели, основанные на данных, почти неизбежно могут привести к возможности появления иллюзий в ИИ. Хотя в общих знаниях или развлекательном контенте такие предвзятые или иллюзорные результаты временно не приведут к прямым последствиям, в таких строго регулируемых областях, как медицина, право, авиация и финансы, они могут иметь серьезные последствия. Поэтому решение проблем иллюзий и предвзятостей в ИИ становится одной из ключевых задач в процессе развития ИИ.
Проект Mira пытается решить эту проблему, создавая уровень доверия для ИИ, уменьшая предвзятость и иллюзии ИИ, повышая его надежность. Основная идея Mira заключается в проверке вывода ИИ через консенсус нескольких моделей ИИ. Это сеть верификации, использующая консенсус нескольких моделей ИИ и децентрализованный консенсус для проверки надежности вывода ИИ.
Ключ к сети Mira заключается в децентрализованной верификации консенсуса. Она объединяет преимущества криптографической области и методы многомодельного сотрудничества, снижая предвзятость и иллюзии через коллективные модели верификации. В плане архитектуры верификации протокол Mira поддерживает преобразование сложного контента в независимые верификационные утверждения. Операторы узлов участвуют в верификации этих утверждений, обеспечивая честность операторов узлов через механизмы экономического стимулирования и наказания.
Сетевая архитектура Mira включает в себя преобразование контента, распределенную проверку и механизм согласия. Преобразование контента является важным этапом, в котором сеть Mira разбивает кандидатный контент на различные проверяемые утверждения и распределяет их по узлам для проверки. Для защиты конфиденциальности клиентов утверждения будут распределяться по различным узлам в случайном порядке.
Операторы узлов отвечают за работу моделей валидации, обработку заявлений и представление результатов валидации. Их участие в валидации направлено на получение прибыли, которая исходит от создаваемой для клиентов ценности. Цель сети Mira заключается в снижении уровня ошибок ИИ, особенно в таких областях, как медицина, право, авиация и финансы, что приведет к значительной ценности.
В целом, Mira предлагает новый подход к обеспечению надежности ИИ. Она строит децентрализованную сеть верификации консенсуса на основе нескольких ИИ-моделей, что обеспечивает более высокую надежность ИИ-сервисов для клиентов, снижает предвзятость и галлюцинации ИИ, удовлетворяя потребности клиентов в более высокой точности и точности. Mira пытается создать уровень доверия к ИИ, что будет способствовать углубленному развитию приложений ИИ.
В настоящее время Mira сотрудничает с несколькими AI агентами. Пользователи могут участвовать в публичной тестовой сети Mira через Klok (чат-приложение на основе LLM от Mira), испытать проверенные AI результаты и получить возможность заработать очки Mira.