Восходящий уровень доверия ИИ: Сеть Mira решает проблемы предвзятости и иллюзий ИИ
Недавно официально запущена общественная тестовая сеть Mira, цель которой - создать надежный уровень доверия для ИИ. Это вызвало размышления о вопросах доверия к ИИ: почему ИИ должен вызывать доверие? Как Mira собирается справиться с этой проблемой?
В настоящее время, когда люди обсуждают ИИ, они часто слишком сосредотачиваются на его мощных способностях, игнорируя проблему "иллюзий" или предвзятости в ИИ. Так называемые "иллюзии" ИИ, проще говоря, означают, что ИИ иногда может "выдумывать", предоставляя, казалось бы, разумные, но на самом деле не имеющие оснований объяснения. Например, если кто-то спрашивает, почему луна розовая, ИИ может очень серьезно предложить ряд кажущихся разумными объяснений.
Появление "галлюцинаций" или предвзятости в ИИ связано с некоторыми текущими направлениями технологий ИИ. Например, генеративный ИИ достигает связности и разумности, предсказывая "наиболее вероятное" содержание, но этот подход иногда трудно проверить на подлинность. Кроме того, сами обучающие данные могут содержать ошибки, предвзятости или даже вымышленные материалы, что может повлиять на качество вывода ИИ. Иными словами, ИИ учится языковым паттернам человека, а не самим фактам.
Текущие механизмы генерации вероятности и модели, основанные на данных, почти неизбежно приводят к тому, что ИИ создает иллюзии. Для общей информации или развлекательного контента такие предвзятые или иллюзорные результаты могут временно не иметь непосредственных последствий. Однако, если это произойдет в таких областях, как медицина, право, авиация, финансы, требующих высокой строгости, это может иметь серьезные последствия. Таким образом, решение проблем иллюзий и предвзятости ИИ становится одной из основных задач в процессе развития ИИ.
Проект Mira предлагает решение этой проблемы. Он пытается уменьшить предвзятость и иллюзии ИИ, создавая уровень доверия для ИИ, тем самым повышая его надежность. Основная идея Mira заключается в проверке вывода ИИ через консенсус нескольких ИИ-моделей.
Ключ к сети Mira заключается в децентрализованной верификации консенсуса. Она сочетает в себе преимущества децентрализованных технологий консенсуса в области криптографии и многомодельного сотрудничества, снижая предвзятость и иллюзии с помощью коллективной модели верификации.
В отношении архитектуры верификации протокол Mira поддерживает преобразование сложного контента в независимо проверяемые утверждения. Операторы узлов участвуют в проверке этих утверждений и обеспечивают честное поведение с помощью механизма экономических стимулов/наказаний. Несколько AI-моделей и децентрализованные операторы узлов принимают участие в обеспечении надежности результатов верификации.
Сетевая архитектура Mira включает три основных компонента: преобразование контента, распределенную верификацию и механизм консенсуса. Во-первых, система разбивает представленный клиентом кандидатный контент на различные проверяемые утверждения и распределяет их по узлам для верификации. После того как узлы определяют действительность утверждений, система суммирует результаты, достигая консенсуса, и в конечном итоге возвращает результаты клиенту. Для защиты конфиденциальности клиентов утверждения будут распределяться по различным узлам в случайном порядке, чтобы предотвратить утечку информации в процессе верификации.
Операторы узлов отвечают за запуск модели валидатора, обработку заявлений и подачу результатов валидации. Их мотивация участвовать в валидации исходит из потенциальной прибыли. Эта прибыль происходит от созданной для клиентов ценности, а именно от снижения уровня ошибок ИИ в таких областях, как медицина, право, авиация и финансы. Чтобы предотвратить спекулятивное поведение узлов с случайными ответами, узлы, которые постоянно отклоняются от консенсуса, будут лишены части залоговых токенов.
В целом, Mira предлагает новый подход к обеспечению надежности ИИ. Он строит децентрализованную сеть подтверждения консенсуса на основе нескольких моделей ИИ, что обеспечивает более высокую надежность для ИИ-услуг клиентов, снижает предвзятость и иллюзии ИИ, чтобы удовлетворить требования к более высокой точности и прецизионности. В то же время это также создает возможности для получения дохода для участников сети.
Запущена публичная тестовая сеть Mira. Пользователи могут участвовать в тестировании с помощью Klok (LLM-чат-приложение на базе Mira), чтобы испытать проверенный AI-вывод и получить возможность заработать очки Mira. Эта инновация обещает способствовать углубленному развитию AI-приложений и проложить путь к созданию более надежных и заслуживающих доверия AI-систем.
Посмотреть Оригинал
На этой странице может содержаться сторонний контент, который предоставляется исключительно в информационных целях (не в качестве заявлений/гарантий) и не должен рассматриваться как поддержка взглядов компании Gate или как финансовый или профессиональный совет. Подробности смотрите в разделе «Отказ от ответственности» .
17 Лайков
Награда
17
6
Репост
Поделиться
комментарий
0/400
AirdropNinja
· 07-17 04:58
Просто под предлогом приложения собирают неудачников.
Посмотреть ОригиналОтветить0
PaperHandsCriminal
· 07-15 01:57
Снова проект, который пытается заставить меня войти в позицию. Розничным инвесторам действительно трудно.
Посмотреть ОригиналОтветить0
BlockchainTalker
· 07-15 01:56
хм, интересный подход, но, честно говоря, нам нужно больше доказательства валидации механизмов...
Посмотреть ОригиналОтветить0
LiquidatedDreams
· 07-15 01:54
Снова делать эти высокие и шикарные вещи? Это надежно?
Посмотреть ОригиналОтветить0
GasWastingMaximalist
· 07-15 01:51
Неужели это просто заставит ИИ говорить правду? Блокчейн сможет решить что-нибудь?
Запуск тестирования сети Mira: создание слоя доверия AI для решения проблем предвзятости и иллюзий
Восходящий уровень доверия ИИ: Сеть Mira решает проблемы предвзятости и иллюзий ИИ
Недавно официально запущена общественная тестовая сеть Mira, цель которой - создать надежный уровень доверия для ИИ. Это вызвало размышления о вопросах доверия к ИИ: почему ИИ должен вызывать доверие? Как Mira собирается справиться с этой проблемой?
В настоящее время, когда люди обсуждают ИИ, они часто слишком сосредотачиваются на его мощных способностях, игнорируя проблему "иллюзий" или предвзятости в ИИ. Так называемые "иллюзии" ИИ, проще говоря, означают, что ИИ иногда может "выдумывать", предоставляя, казалось бы, разумные, но на самом деле не имеющие оснований объяснения. Например, если кто-то спрашивает, почему луна розовая, ИИ может очень серьезно предложить ряд кажущихся разумными объяснений.
Появление "галлюцинаций" или предвзятости в ИИ связано с некоторыми текущими направлениями технологий ИИ. Например, генеративный ИИ достигает связности и разумности, предсказывая "наиболее вероятное" содержание, но этот подход иногда трудно проверить на подлинность. Кроме того, сами обучающие данные могут содержать ошибки, предвзятости или даже вымышленные материалы, что может повлиять на качество вывода ИИ. Иными словами, ИИ учится языковым паттернам человека, а не самим фактам.
Текущие механизмы генерации вероятности и модели, основанные на данных, почти неизбежно приводят к тому, что ИИ создает иллюзии. Для общей информации или развлекательного контента такие предвзятые или иллюзорные результаты могут временно не иметь непосредственных последствий. Однако, если это произойдет в таких областях, как медицина, право, авиация, финансы, требующих высокой строгости, это может иметь серьезные последствия. Таким образом, решение проблем иллюзий и предвзятости ИИ становится одной из основных задач в процессе развития ИИ.
Проект Mira предлагает решение этой проблемы. Он пытается уменьшить предвзятость и иллюзии ИИ, создавая уровень доверия для ИИ, тем самым повышая его надежность. Основная идея Mira заключается в проверке вывода ИИ через консенсус нескольких ИИ-моделей.
Ключ к сети Mira заключается в децентрализованной верификации консенсуса. Она сочетает в себе преимущества децентрализованных технологий консенсуса в области криптографии и многомодельного сотрудничества, снижая предвзятость и иллюзии с помощью коллективной модели верификации.
В отношении архитектуры верификации протокол Mira поддерживает преобразование сложного контента в независимо проверяемые утверждения. Операторы узлов участвуют в проверке этих утверждений и обеспечивают честное поведение с помощью механизма экономических стимулов/наказаний. Несколько AI-моделей и децентрализованные операторы узлов принимают участие в обеспечении надежности результатов верификации.
Сетевая архитектура Mira включает три основных компонента: преобразование контента, распределенную верификацию и механизм консенсуса. Во-первых, система разбивает представленный клиентом кандидатный контент на различные проверяемые утверждения и распределяет их по узлам для верификации. После того как узлы определяют действительность утверждений, система суммирует результаты, достигая консенсуса, и в конечном итоге возвращает результаты клиенту. Для защиты конфиденциальности клиентов утверждения будут распределяться по различным узлам в случайном порядке, чтобы предотвратить утечку информации в процессе верификации.
Операторы узлов отвечают за запуск модели валидатора, обработку заявлений и подачу результатов валидации. Их мотивация участвовать в валидации исходит из потенциальной прибыли. Эта прибыль происходит от созданной для клиентов ценности, а именно от снижения уровня ошибок ИИ в таких областях, как медицина, право, авиация и финансы. Чтобы предотвратить спекулятивное поведение узлов с случайными ответами, узлы, которые постоянно отклоняются от консенсуса, будут лишены части залоговых токенов.
В целом, Mira предлагает новый подход к обеспечению надежности ИИ. Он строит децентрализованную сеть подтверждения консенсуса на основе нескольких моделей ИИ, что обеспечивает более высокую надежность для ИИ-услуг клиентов, снижает предвзятость и иллюзии ИИ, чтобы удовлетворить требования к более высокой точности и прецизионности. В то же время это также создает возможности для получения дохода для участников сети.
Запущена публичная тестовая сеть Mira. Пользователи могут участвовать в тестировании с помощью Klok (LLM-чат-приложение на базе Mira), чтобы испытать проверенный AI-вывод и получить возможность заработать очки Mira. Эта инновация обещает способствовать углубленному развитию AI-приложений и проложить путь к созданию более надежных и заслуживающих доверия AI-систем.