A Ascensão da Camada de Confiança em IA: A Rede Mira Resolve Problemas de Viés e Ilusões em IA
Recentemente, a rede Mira lançou oficialmente a sua testnet pública, com o objetivo de construir uma camada de confiança confiável para a IA. Isso suscitou reflexões sobre a questão da credibilidade da IA: por que a IA precisa ser confiável? Como a Mira enfrentará esse desafio?
Atualmente, quando as pessoas discutem a IA, muitas vezes se concentram demais em suas poderosas capacidades, ignorando o problema das "alucinações" ou preconceitos da IA. As chamadas "alucinações" da IA, simplificando, referem-se ao fato de que, às vezes, a IA "inventa" e fornece explicações que parecem razoáveis, mas que na verdade não têm fundamento. Por exemplo, se alguém perguntar por que a lua é rosa, a IA pode fornecer uma série de explicações que parecem razoáveis.
A "ilusão" ou preconceito da IA está relacionada a algumas das atuais trajetórias tecnológicas da IA. Por exemplo, a IA generativa alcança coerência e razoabilidade prevendo o conteúdo "mais provável", mas esse método às vezes é difícil de verificar a veracidade. Além disso, os dados de treinamento podem conter erros, preconceitos ou até conteúdos fictícios, o que pode afetar a qualidade da saída da IA. Em outras palavras, a IA aprende padrões de linguagem humana, e não os fatos em si.
Os atuais mecanismos de geração de probabilidade e os modelos orientados por dados quase inevitavelmente levam a AI a produzir alucinações. Para conhecimento geral ou conteúdo de entretenimento, essa saída enviesada ou alucinatória pode não ter consequências diretas imediatas. No entanto, se ocorrer em áreas que exigem rigor elevado, como saúde, direito, aviação e finanças, pode haver consequências graves. Portanto, resolver os problemas de alucinações e preconceitos da AI torna-se um dos desafios centrais no processo de desenvolvimento da AI.
O projeto Mira propõe uma solução precisamente para este problema. Tenta reduzir os preconceitos e alucinações da IA, aumentando a fiabilidade da IA, através da construção de uma camada de confiança para a IA. A ideia central do Mira é validar a saída da IA através do consenso de múltiplos modelos de IA.
A chave da rede Mira está na validação de consenso descentralizado. Ela combina a tecnologia de consenso descentralizado do campo da criptografia com as vantagens da colaboração de múltiplos modelos, reduzindo a ocorrência de viés e ilusões através de um modo de verificação coletiva.
No que diz respeito à arquitetura de validação, o protocolo Mira suporta a conversão de conteúdos complexos em declarações que podem ser verificadas de forma independente. Os operadores de nós participam na validação dessas declarações e garantem comportamentos honestos através de mecanismos de incentivo/recompensa da economia criptográfica. Vários modelos de IA e operadores de nós descentralizados participam conjuntamente para garantir a fiabilidade dos resultados de validação.
A arquitetura de rede da Mira inclui três partes principais: conversão de conteúdo, validação distribuída e mecanismo de consenso. Primeiro, o sistema decompõe o conteúdo candidato enviado pelo cliente em diferentes declarações verificáveis e as distribui para os nós para validação. Após os nós determinarem a validade das declarações, o sistema agrega os resultados para alcançar consenso e, finalmente, retorna os resultados ao cliente. Para proteger a privacidade do cliente, as declarações são distribuídas de forma aleatória em fragmentos para diferentes nós, evitando a divulgação de informações durante o processo de validação.
Os operadores de nós são responsáveis por executar modelos de validadores, processar declarações e submeter resultados de validação. A motivação deles para participar da validação vem das recompensas disponíveis. Essas recompensas vêm do valor criado para os clientes, ou seja, a redução da taxa de erro da IA em áreas como saúde, direito, aviação e finanças. Para evitar comportamentos especulativos de respostas aleatórias dos nós, nós que se afastam continuamente do consenso terão seus tokens de staking reduzidos.
De um modo geral, a Mira oferece uma nova abordagem para garantir a fiabilidade da IA. Ela constrói uma rede de validação de consenso descentralizada com base em múltiplos modelos de IA, trazendo maior fiabilidade aos serviços de IA dos clientes, reduzindo o preconceito e as ilusões da IA, para atender a uma demanda por maior precisão e exatidão. Ao mesmo tempo, também cria oportunidades de receita para os participantes da rede.
A rede de testes públicos da Mira já foi lançada. Os usuários podem participar dos testes utilizando o Klok (uma aplicação de chat LLM baseada na Mira), experimentar saídas de IA verificadas e ter a oportunidade de ganhar pontos Mira. Esta inovação promete impulsionar o desenvolvimento aprofundado de aplicações de IA, pavimentando o caminho para a construção de sistemas de IA mais confiáveis e dignos de confiança.
Ver original
Esta página pode conter conteúdos de terceiros, que são fornecidos apenas para fins informativos (sem representações/garantias) e não devem ser considerados como uma aprovação dos seus pontos de vista pela Gate, nem como aconselhamento financeiro ou profissional. Consulte a Declaração de exoneração de responsabilidade para obter mais informações.
17 gostos
Recompensa
17
6
Partilhar
Comentar
0/400
AirdropNinja
· 07-17 04:58
Está apenas a aproveitar-se dos idiotas em nome da aplicação.
Ver originalResponder0
PaperHandsCriminal
· 07-15 01:57
Mais um projeto que me enganou a entrar numa posição. Os investidores de retalho realmente têm dificuldades.
Ver originalResponder0
BlockchainTalker
· 07-15 01:56
hmm abordagem interessante, mas para ser sincero, precisamos de mais prova de validação mecanismos...
Ver originalResponder0
LiquidatedDreams
· 07-15 01:54
Ainda a fazer essas coisas sofisticadas? É confiável?
Ver originalResponder0
GasWastingMaximalist
· 07-15 01:51
Não é apenas fazer a IA dizer a verdade? O que é que a Blockchain pode resolver?
Ver originalResponder0
nft_widow
· 07-15 01:38
Mais um a resolver problemas de IA? Que aborrecido.
Lançamento do teste da rede Mira: Construindo uma camada de confiança em IA para resolver problemas de preconceito e alucinação
A Ascensão da Camada de Confiança em IA: A Rede Mira Resolve Problemas de Viés e Ilusões em IA
Recentemente, a rede Mira lançou oficialmente a sua testnet pública, com o objetivo de construir uma camada de confiança confiável para a IA. Isso suscitou reflexões sobre a questão da credibilidade da IA: por que a IA precisa ser confiável? Como a Mira enfrentará esse desafio?
Atualmente, quando as pessoas discutem a IA, muitas vezes se concentram demais em suas poderosas capacidades, ignorando o problema das "alucinações" ou preconceitos da IA. As chamadas "alucinações" da IA, simplificando, referem-se ao fato de que, às vezes, a IA "inventa" e fornece explicações que parecem razoáveis, mas que na verdade não têm fundamento. Por exemplo, se alguém perguntar por que a lua é rosa, a IA pode fornecer uma série de explicações que parecem razoáveis.
A "ilusão" ou preconceito da IA está relacionada a algumas das atuais trajetórias tecnológicas da IA. Por exemplo, a IA generativa alcança coerência e razoabilidade prevendo o conteúdo "mais provável", mas esse método às vezes é difícil de verificar a veracidade. Além disso, os dados de treinamento podem conter erros, preconceitos ou até conteúdos fictícios, o que pode afetar a qualidade da saída da IA. Em outras palavras, a IA aprende padrões de linguagem humana, e não os fatos em si.
Os atuais mecanismos de geração de probabilidade e os modelos orientados por dados quase inevitavelmente levam a AI a produzir alucinações. Para conhecimento geral ou conteúdo de entretenimento, essa saída enviesada ou alucinatória pode não ter consequências diretas imediatas. No entanto, se ocorrer em áreas que exigem rigor elevado, como saúde, direito, aviação e finanças, pode haver consequências graves. Portanto, resolver os problemas de alucinações e preconceitos da AI torna-se um dos desafios centrais no processo de desenvolvimento da AI.
O projeto Mira propõe uma solução precisamente para este problema. Tenta reduzir os preconceitos e alucinações da IA, aumentando a fiabilidade da IA, através da construção de uma camada de confiança para a IA. A ideia central do Mira é validar a saída da IA através do consenso de múltiplos modelos de IA.
A chave da rede Mira está na validação de consenso descentralizado. Ela combina a tecnologia de consenso descentralizado do campo da criptografia com as vantagens da colaboração de múltiplos modelos, reduzindo a ocorrência de viés e ilusões através de um modo de verificação coletiva.
No que diz respeito à arquitetura de validação, o protocolo Mira suporta a conversão de conteúdos complexos em declarações que podem ser verificadas de forma independente. Os operadores de nós participam na validação dessas declarações e garantem comportamentos honestos através de mecanismos de incentivo/recompensa da economia criptográfica. Vários modelos de IA e operadores de nós descentralizados participam conjuntamente para garantir a fiabilidade dos resultados de validação.
A arquitetura de rede da Mira inclui três partes principais: conversão de conteúdo, validação distribuída e mecanismo de consenso. Primeiro, o sistema decompõe o conteúdo candidato enviado pelo cliente em diferentes declarações verificáveis e as distribui para os nós para validação. Após os nós determinarem a validade das declarações, o sistema agrega os resultados para alcançar consenso e, finalmente, retorna os resultados ao cliente. Para proteger a privacidade do cliente, as declarações são distribuídas de forma aleatória em fragmentos para diferentes nós, evitando a divulgação de informações durante o processo de validação.
Os operadores de nós são responsáveis por executar modelos de validadores, processar declarações e submeter resultados de validação. A motivação deles para participar da validação vem das recompensas disponíveis. Essas recompensas vêm do valor criado para os clientes, ou seja, a redução da taxa de erro da IA em áreas como saúde, direito, aviação e finanças. Para evitar comportamentos especulativos de respostas aleatórias dos nós, nós que se afastam continuamente do consenso terão seus tokens de staking reduzidos.
De um modo geral, a Mira oferece uma nova abordagem para garantir a fiabilidade da IA. Ela constrói uma rede de validação de consenso descentralizada com base em múltiplos modelos de IA, trazendo maior fiabilidade aos serviços de IA dos clientes, reduzindo o preconceito e as ilusões da IA, para atender a uma demanda por maior precisão e exatidão. Ao mesmo tempo, também cria oportunidades de receita para os participantes da rede.
A rede de testes públicos da Mira já foi lançada. Os usuários podem participar dos testes utilizando o Klok (uma aplicação de chat LLM baseada na Mira), experimentar saídas de IA verificadas e ter a oportunidade de ganhar pontos Mira. Esta inovação promete impulsionar o desenvolvimento aprofundado de aplicações de IA, pavimentando o caminho para a construção de sistemas de IA mais confiáveis e dignos de confiança.