Когда мы впервые говорили о децентрализации ИИ, мы сосредоточились на вычислениях, данных и моделях управления - и это по-прежнему имеет значение.
Тем не менее, поскольку автономные агенты действуют в реальных условиях, таких как торговля активами, управление цепочками поставок и модерация сообществ, доверие становится основной проблемой.
Не тот мягкий, человеческий тип, как "Мне нравится этот бренд" или "Их маркетинг убедителен."
В машинных экономиках доверие должно быть проверяемым, количественным и исполнимым на скорости протокола.
Без этого децентрализованный ИИ рискует стать ареной с высокой пропускной способностью для галлюцинаций, спама, эксплуатации и цепных сбоев.
Это не проблема, которую мы можем решить с помощью большего вычислительного ресурса или более чистых наборов данных. Это проблема в том, как мы решаем, кто может действовать.
От неформального доверия к правилам протокола
В Web 2.0 доверие было похоже на чтение отзывов о ресторанах – это подходило для выбора ужина, но было бессмысленно, когда тысячи автономных агентов принимают мгновенные решения с высоким воздействием.
Эти сигналы легко подделать, невозможно провести аудит в большом масштабе и они не имеют встроенных последствий для злонамеренных участников.
В децентрализованных AI-сетях этого недостаточно. Агенты больше не являются изолированными скриптами, работающими на сервере хоббиста.
Это сущности, которые запрашивают ресурсы, выполняют сделки, голосуют в DAO и координируют других агентов.
Ущерб становится немедленным и часто необратимым, если кто-то ведет себя злонамеренно или некомпетентно.
Ответ, возникающий из исследовательского сообщества, заключается в том, чтобы сделать доверие частью инфраструктуры.
Одно предложение, набирающее популярность, — это идея токенов AgentBound — непередаваемых учетных данных, которые служат доказательством для ИИ-агентов, впервые предложенная исследователем Томером Йорди Чаффером.
ABT – Паспорта для машин
ABT — это неконвертируемый криптографический сертификат, который фиксирует поведение агента с течением времени.
Думайте об этом как о паспорте для машин – с отметками не о визах, а о проверенных выполненных задачах, достигнутых результатах и зафиксированных неудачах.
В отличие от балансов кошельков или сумм стейка, ABT нельзя купить, продать или делегировать.
Их получают за действия, обновляют на основе проверенной производительности и снижают за misconduct – доказательство поведения.
Это меняет стандарт с "платить, чтобы играть" на "доказать, чтобы действовать".
Балансы токенов могут контролировать людей, но в машинных экономиках они неправильно оценивают риск – агенты легко клонируются, могут занимать капитал и действовать на скорости машин, создавая внешние эффекты, которые значительно превышают их долю.
ABT закрывают этот разрыв, делая проверенную производительность дефицитным ресурсом со временем.
В системах с токенами с весом глубокие карманы покупают доступ – в системах с ABT-Gated только прочная, прозрачная история открывает доступ к более значимым ролям.
Надежность становится операционным залогом.
Через пятиступенчатый цикл в реальном времени ABT превращают поведение агентов в операционный капитал, который может расти, угасать или быть сокращенным.
Рассмотрите децентрализованную логистическую сеть. Новый агент маршрутизации с нулевой репутацией ABT начинает под контролем с малых грузов.
Каждая проверенная работа зарабатывает аттестации — доверие накапливается, пока не начнет автономно управлять регионом.
Ошибка в обновлении затем вызывает задержки — валидаторы отмечают это, и ABT подвергается штрафу, возвращая агента к низкорисковым задачам.
После чистого испытательного срока его репутация восстанавливается.
Это доверие как живой системы, которое приобретается, теряется и восстанавливается в форме, которую машины могут понять, а протоколы могут обеспечить.
Строительство на основе идеи, связанной с душой
Если это звучит концептуально похоже на токены Soulbound, так оно и есть.
В своей статье 2022 года «Децентрализованное общество – поиск души Web 3.0» Глен Уэйл, Пуджа Охлавер и Виталик Бутерин предложили SBT как непередаваемые удостоверения для человеческой идентичности – дипломы, принадлежности, лицензии.
ABT расширяет эту логику на машины.
Но в то время как SBT в основном статичны ("этот человек окончил X"), ABT динамичны, обновляясь с каждым проверенным действием.
Они меньше о том, кто такой агент, и больше о том, как он ведет себя со временем – и временной элемент имеет критическое значение.
Безупречная репутация за прошлый год мало что значит, если модель агента с тех пор ухудшилась или была скомпрометирована.
ABT фиксируют эту эволюцию, делая их живым сигналом, а не одноразовым значком.
Репутационные DAO как уровень управления
ABT управляет данными, неизменяемой записью того, что произошло, но кто-то должен установить правила.
Что такое хорошее или плохое поведение? Насколько важны различные действия? Как справляться с спорами?
Репутационные DAO — это децентрализованные органы управления, которые определяют, поддерживают и проверяют уровень репутации.
Они решают, какие валидаторы могут обновлять ABT, какие метрики важны для данной области и как репутация исчезает или восстанавливается со временем.
Они также могут устанавливать уровни риска в условиях высокой ставки – агент по модерации контента нуждается в одном послужном списке, чтобы действовать автономно.
В отличие от этого, торговому боту может понадобиться другое. Децентрализуя эти решения, система избегает как захвата одной властью, так и жесткости жестко закодированных правил.
Репутационные DAO являются элементом человеческого участия в децентрализованном доверии – не для микроменеджмента каждого действия – а для направления норм и параметров, которые поддерживают честность машинного слоя.
Проблемы в создании программируемого доверия
Ничто из этого не является тривиальным для реализации. Самые сложные проблемы одновременно социальные и технические.
Атаки Сибил — это очевидная угроза, порождающая тысячи новых агентов для добычи репутации в низкорисковых ролях, а затем их развертывание в более рискованных контекстах.
Предотвращение этого требует привязки ABT к сильным децентрализованным идентичностям — и иногда к аппаратным или исполняемым средам, которые нельзя дешево воспроизвести.
Репутационное отмывание - еще один риск.
Без мер предосторожности система ABT может превратиться в рискованную костюмированную вечеринку, где злонамеренные агенты надевают маску другого человека, чтобы войти в VIP-зал.
Неотъемлемость на уровне протокола, криптографическая привязка к ключам и строгие правила анти-делегирования являются необходимыми.
Существует также компромисс между конфиденциальностью и аудируемостью. Чтобы доверять агенту, необходимо знать, как он работает.
Однако публикация полных журналов решений может раскрыть конфиденциальные данные или запатентованные методы.
ZKPs (доказательства с нулевым разглашением) и агрегация метрик являются многообещающими способами решить эту задачу.
А затем есть захват управления – если небольшая группа валидаторов контролирует большинство обновлений, они могут внести в белый список плохих акторов или наказывать соперников.
Открытые наборы валидаторов, ротация и наказание за сговор помогают распределить эту власть.
Почему это важно сейчас
Мы находимся на том этапе, когда децентрализованный ИИ ограничен меньше технологиями и больше легитимностью.
Не решая, какие агенты могут быть доверены каким ролям, сети либо централизуют контроль, либо принимают постоянный риск.
ABT и репутационные DAO предлагают третий путь – способ закодировать доверие непосредственно в инфраструктуру, делая его таким же естественным для системы, как консенсус.
Они публично отвечают на этот вопрос, преобразуя «кто контролирует ИИ?» в «как определяется, предоставляется и отзывается контроль?»
Первая волна Web 3.0 научила нас доверять незнакомцам с деньгами.
Следующий должен научить нас доверять незнакомцам в принятии решений на скорости машины, с последствиями, которые ни один человек не может вовремя изменить.
В агентской экономике это не опция – это выживание.
Роман Мельник является главным маркетологом в DeXe.
На этой странице может содержаться сторонний контент, который предоставляется исключительно в информационных целях (не в качестве заявлений/гарантий) и не должен рассматриваться как поддержка взглядов компании Gate или как финансовый или профессиональный совет. Подробности смотрите в разделе «Отказ от ответственности» .
Доверие Машин – Почему Репутация Это Следующий Примитив ИИ - The Daily Hodl
HodlX Гостевой постОтправьте ваш пост
Когда мы впервые говорили о децентрализации ИИ, мы сосредоточились на вычислениях, данных и моделях управления - и это по-прежнему имеет значение.
Тем не менее, поскольку автономные агенты действуют в реальных условиях, таких как торговля активами, управление цепочками поставок и модерация сообществ, доверие становится основной проблемой.
Не тот мягкий, человеческий тип, как "Мне нравится этот бренд" или "Их маркетинг убедителен."
В машинных экономиках доверие должно быть проверяемым, количественным и исполнимым на скорости протокола.
Без этого децентрализованный ИИ рискует стать ареной с высокой пропускной способностью для галлюцинаций, спама, эксплуатации и цепных сбоев.
Это не проблема, которую мы можем решить с помощью большего вычислительного ресурса или более чистых наборов данных. Это проблема в том, как мы решаем, кто может действовать.
От неформального доверия к правилам протокола
В Web 2.0 доверие было похоже на чтение отзывов о ресторанах – это подходило для выбора ужина, но было бессмысленно, когда тысячи автономных агентов принимают мгновенные решения с высоким воздействием.
Эти сигналы легко подделать, невозможно провести аудит в большом масштабе и они не имеют встроенных последствий для злонамеренных участников.
В децентрализованных AI-сетях этого недостаточно. Агенты больше не являются изолированными скриптами, работающими на сервере хоббиста.
Это сущности, которые запрашивают ресурсы, выполняют сделки, голосуют в DAO и координируют других агентов.
Ущерб становится немедленным и часто необратимым, если кто-то ведет себя злонамеренно или некомпетентно.
Ответ, возникающий из исследовательского сообщества, заключается в том, чтобы сделать доверие частью инфраструктуры.
Одно предложение, набирающее популярность, — это идея токенов AgentBound — непередаваемых учетных данных, которые служат доказательством для ИИ-агентов, впервые предложенная исследователем Томером Йорди Чаффером.
ABT – Паспорта для машин
ABT — это неконвертируемый криптографический сертификат, который фиксирует поведение агента с течением времени.
Думайте об этом как о паспорте для машин – с отметками не о визах, а о проверенных выполненных задачах, достигнутых результатах и зафиксированных неудачах.
В отличие от балансов кошельков или сумм стейка, ABT нельзя купить, продать или делегировать.
Их получают за действия, обновляют на основе проверенной производительности и снижают за misconduct – доказательство поведения.
Это меняет стандарт с "платить, чтобы играть" на "доказать, чтобы действовать".
Балансы токенов могут контролировать людей, но в машинных экономиках они неправильно оценивают риск – агенты легко клонируются, могут занимать капитал и действовать на скорости машин, создавая внешние эффекты, которые значительно превышают их долю.
ABT закрывают этот разрыв, делая проверенную производительность дефицитным ресурсом со временем.
В системах с токенами с весом глубокие карманы покупают доступ – в системах с ABT-Gated только прочная, прозрачная история открывает доступ к более значимым ролям.
Надежность становится операционным залогом.
Через пятиступенчатый цикл в реальном времени ABT превращают поведение агентов в операционный капитал, который может расти, угасать или быть сокращенным.
Рассмотрите децентрализованную логистическую сеть. Новый агент маршрутизации с нулевой репутацией ABT начинает под контролем с малых грузов.
Каждая проверенная работа зарабатывает аттестации — доверие накапливается, пока не начнет автономно управлять регионом.
Ошибка в обновлении затем вызывает задержки — валидаторы отмечают это, и ABT подвергается штрафу, возвращая агента к низкорисковым задачам.
После чистого испытательного срока его репутация восстанавливается.
Это доверие как живой системы, которое приобретается, теряется и восстанавливается в форме, которую машины могут понять, а протоколы могут обеспечить.
Строительство на основе идеи, связанной с душой
Если это звучит концептуально похоже на токены Soulbound, так оно и есть.
В своей статье 2022 года «Децентрализованное общество – поиск души Web 3.0» Глен Уэйл, Пуджа Охлавер и Виталик Бутерин предложили SBT как непередаваемые удостоверения для человеческой идентичности – дипломы, принадлежности, лицензии.
ABT расширяет эту логику на машины.
Но в то время как SBT в основном статичны ("этот человек окончил X"), ABT динамичны, обновляясь с каждым проверенным действием.
Они меньше о том, кто такой агент, и больше о том, как он ведет себя со временем – и временной элемент имеет критическое значение.
Безупречная репутация за прошлый год мало что значит, если модель агента с тех пор ухудшилась или была скомпрометирована.
ABT фиксируют эту эволюцию, делая их живым сигналом, а не одноразовым значком.
Репутационные DAO как уровень управления
ABT управляет данными, неизменяемой записью того, что произошло, но кто-то должен установить правила.
Что такое хорошее или плохое поведение? Насколько важны различные действия? Как справляться с спорами?
Репутационные DAO — это децентрализованные органы управления, которые определяют, поддерживают и проверяют уровень репутации.
Они решают, какие валидаторы могут обновлять ABT, какие метрики важны для данной области и как репутация исчезает или восстанавливается со временем.
Они также могут устанавливать уровни риска в условиях высокой ставки – агент по модерации контента нуждается в одном послужном списке, чтобы действовать автономно.
В отличие от этого, торговому боту может понадобиться другое. Децентрализуя эти решения, система избегает как захвата одной властью, так и жесткости жестко закодированных правил.
Репутационные DAO являются элементом человеческого участия в децентрализованном доверии – не для микроменеджмента каждого действия – а для направления норм и параметров, которые поддерживают честность машинного слоя.
Проблемы в создании программируемого доверия
Ничто из этого не является тривиальным для реализации. Самые сложные проблемы одновременно социальные и технические.
Атаки Сибил — это очевидная угроза, порождающая тысячи новых агентов для добычи репутации в низкорисковых ролях, а затем их развертывание в более рискованных контекстах.
Предотвращение этого требует привязки ABT к сильным децентрализованным идентичностям — и иногда к аппаратным или исполняемым средам, которые нельзя дешево воспроизвести.
Репутационное отмывание - еще один риск.
Без мер предосторожности система ABT может превратиться в рискованную костюмированную вечеринку, где злонамеренные агенты надевают маску другого человека, чтобы войти в VIP-зал.
Неотъемлемость на уровне протокола, криптографическая привязка к ключам и строгие правила анти-делегирования являются необходимыми.
Существует также компромисс между конфиденциальностью и аудируемостью. Чтобы доверять агенту, необходимо знать, как он работает.
Однако публикация полных журналов решений может раскрыть конфиденциальные данные или запатентованные методы.
ZKPs (доказательства с нулевым разглашением) и агрегация метрик являются многообещающими способами решить эту задачу.
А затем есть захват управления – если небольшая группа валидаторов контролирует большинство обновлений, они могут внести в белый список плохих акторов или наказывать соперников.
Открытые наборы валидаторов, ротация и наказание за сговор помогают распределить эту власть.
Почему это важно сейчас
Мы находимся на том этапе, когда децентрализованный ИИ ограничен меньше технологиями и больше легитимностью.
Не решая, какие агенты могут быть доверены каким ролям, сети либо централизуют контроль, либо принимают постоянный риск.
ABT и репутационные DAO предлагают третий путь – способ закодировать доверие непосредственно в инфраструктуру, делая его таким же естественным для системы, как консенсус.
Они публично отвечают на этот вопрос, преобразуя «кто контролирует ИИ?» в «как определяется, предоставляется и отзывается контроль?»
Первая волна Web 3.0 научила нас доверять незнакомцам с деньгами.
Следующий должен научить нас доверять незнакомцам в принятии решений на скорости машины, с последствиями, которые ни один человек не может вовремя изменить.
В агентской экономике это не опция – это выживание.
Роман Мельник является главным маркетологом в DeXe.