L'émergence de la couche de confiance AI : le réseau Mira résout les problèmes de biais et d'illusions de l'IA
Récemment, le réseau Mira a officiellement lancé son test public, visant à construire une couche de confiance fiable pour l'IA. Cela a suscité des réflexions sur la question de la confiance dans l'IA : pourquoi l'IA doit-elle être digné de confiance ? Comment Mira va-t-il relever ce défi ?
Actuellement, lorsque les gens discutent de l'IA, ils ont souvent tendance à se concentrer trop sur ses puissantes capacités, tout en négligeant le problème des "hallucinations" ou des préjugés de l'IA. Ce que l'on appelle les "hallucinations" de l'IA, en termes simples, signifie que l'IA peut parfois "inventer des histoires", fournissant des explications qui semblent raisonnables mais qui sont en réalité sans fondement. Par exemple, si quelqu'un demande pourquoi la lune est rose, l'IA pourrait fournir sérieusement une série d'explications qui semblent raisonnables.
L'apparition de "hallucinations" ou de biais dans l'IA est liée à certaines des trajectoires technologiques actuelles de l'IA. Par exemple, l'IA générative réalise la cohérence et la rationalité en prédisant le contenu "le plus probable", mais cette méthode est parfois difficile à vérifier. De plus, les données d'entraînement elles-mêmes peuvent contenir des erreurs, des biais, voire du contenu fictif, ce qui peut affecter la qualité de sortie de l'IA. En d'autres termes, l'IA apprend des modèles de langage humain, et non des faits eux-mêmes.
Les mécanismes de génération de probabilités actuels et les modèles basés sur les données conduisent presque inévitablement l'IA à générer des hallucinations. Pour les connaissances générales ou le contenu de divertissement, cette sortie biaisée ou hallucinée peut ne pas avoir de conséquences directes temporaires. Cependant, si cela se produit dans des domaines nécessitant une rigueur élevée comme la médecine, le droit, l'aviation, ou la finance, cela pourrait avoir des conséquences graves. Par conséquent, résoudre les problèmes d'hallucinations et de biais de l'IA est devenu l'un des défis centraux dans le processus de développement de l'IA.
Le projet Mira propose une solution à ce problème. Il tente de réduire les biais et les hallucinations de l'IA en construisant une couche de confiance pour l'IA, afin d'améliorer sa fiabilité. La philosophie centrale de Mira est de valider les sorties de l'IA par le consensus de plusieurs modèles d'IA.
La clé du réseau Mira réside dans la validation de consensus décentralisée. Il combine les avantages de la technologie de consensus décentralisée dans le domaine de la cryptographie et de la coopération multi-modèle, réduisant ainsi les biais et les illusions grâce à un modèle de validation collective.
En ce qui concerne l'architecture de validation, le protocole Mira prend en charge la conversion de contenus complexes en déclarations pouvant être vérifiées de manière indépendante. Les opérateurs de nœuds participent à la validation de ces déclarations et assurent un comportement honnête grâce à un mécanisme d'incitation/punition économique cryptographique. Plusieurs modèles d'IA et des opérateurs de nœuds décentralisés participent ensemble pour garantir la fiabilité des résultats de validation.
L'architecture réseau de Mira comprend trois parties principales : la conversion de contenu, la validation distribuée et le mécanisme de consensus. Tout d'abord, le système décompose le contenu candidat soumis par le client en différentes déclarations vérifiables et les distribue aux nœuds pour validation. Après que les nœuds ont déterminé la validité des déclarations, le système résume les résultats pour parvenir à un consensus, puis renvoie les résultats au client. Pour protéger la vie privée des clients, les déclarations seront distribuées à différents nœuds de manière aléatoire et fragmentée, afin d'empêcher la fuite d'informations pendant le processus de validation.
Les opérateurs de nœuds sont responsables de l'exécution des modèles de validation, du traitement des déclarations et de la soumission des résultats de validation. Leur motivation à participer à la validation provient des bénéfices disponibles. Ces bénéfices proviennent de la valeur créée pour les clients, à savoir la réduction des taux d'erreur de l'IA dans des domaines tels que la santé, le droit, l'aviation et la finance. Pour prévenir les comportements spéculatifs des nœuds qui répondent de manière aléatoire, les nœuds qui s'éloignent continuellement du consensus se verront retirer des tokens de mise.
Dans l'ensemble, Mira propose une nouvelle approche pour garantir la fiabilité de l'IA. Elle construit un réseau de validation de consensus décentralisé sur la base de plusieurs modèles d'IA, offrant ainsi une plus grande fiabilité aux services d'IA pour les clients, réduisant les biais et les hallucinations de l'IA afin de répondre à des exigences de précision et de justesse plus élevées. En même temps, elle crée également des opportunités de revenus pour les participants au réseau.
Le réseau de test public de Mira a été lancé. Les utilisateurs peuvent participer aux tests en utilisant Klok (une application de chat LLM basée sur Mira), pour expérimenter des sorties d'IA vérifiées et avoir la chance de gagner des points Mira. Cette innovation devrait favoriser le développement approfondi des applications d'IA et ouvrir la voie à la construction de systèmes d'IA plus fiables et dignes de confiance.
Voir l'original
Cette page peut inclure du contenu de tiers fourni à des fins d'information uniquement. Gate ne garantit ni l'exactitude ni la validité de ces contenus, n’endosse pas les opinions exprimées, et ne fournit aucun conseil financier ou professionnel à travers ces informations. Voir la section Avertissement pour plus de détails.
17 J'aime
Récompense
17
6
Reposter
Partager
Commentaire
0/400
AirdropNinja
· 07-17 04:58
C'est juste une façon de tondre les pigeons sous le prétexte d'une application.
Voir l'originalRépondre0
PaperHandsCriminal
· 07-15 01:57
Encore un projet qui essaie de me faire entrer dans une position. Les investisseurs détaillants ont vraiment du mal.
Voir l'originalRépondre0
BlockchainTalker
· 07-15 01:56
hmm approche intéressante mais pour être honnête, nous avons besoin de plus de proof of validation mécanismes...
Voir l'originalRépondre0
LiquidatedDreams
· 07-15 01:54
Encore ces trucs sophistiqués ? C'est fiable ?
Voir l'originalRépondre0
GasWastingMaximalist
· 07-15 01:51
Ce n'est pas juste pour que l'IA dise la vérité, le Blockchain peut résoudre quoi ?
Voir l'originalRépondre0
nft_widow
· 07-15 01:38
Encore un qui vient résoudre le problème de l'IA ? Ennuyeux.
Lancement du test du réseau Mira : construire une couche de confiance AI pour résoudre les problèmes de biais et d'illusions
L'émergence de la couche de confiance AI : le réseau Mira résout les problèmes de biais et d'illusions de l'IA
Récemment, le réseau Mira a officiellement lancé son test public, visant à construire une couche de confiance fiable pour l'IA. Cela a suscité des réflexions sur la question de la confiance dans l'IA : pourquoi l'IA doit-elle être digné de confiance ? Comment Mira va-t-il relever ce défi ?
Actuellement, lorsque les gens discutent de l'IA, ils ont souvent tendance à se concentrer trop sur ses puissantes capacités, tout en négligeant le problème des "hallucinations" ou des préjugés de l'IA. Ce que l'on appelle les "hallucinations" de l'IA, en termes simples, signifie que l'IA peut parfois "inventer des histoires", fournissant des explications qui semblent raisonnables mais qui sont en réalité sans fondement. Par exemple, si quelqu'un demande pourquoi la lune est rose, l'IA pourrait fournir sérieusement une série d'explications qui semblent raisonnables.
L'apparition de "hallucinations" ou de biais dans l'IA est liée à certaines des trajectoires technologiques actuelles de l'IA. Par exemple, l'IA générative réalise la cohérence et la rationalité en prédisant le contenu "le plus probable", mais cette méthode est parfois difficile à vérifier. De plus, les données d'entraînement elles-mêmes peuvent contenir des erreurs, des biais, voire du contenu fictif, ce qui peut affecter la qualité de sortie de l'IA. En d'autres termes, l'IA apprend des modèles de langage humain, et non des faits eux-mêmes.
Les mécanismes de génération de probabilités actuels et les modèles basés sur les données conduisent presque inévitablement l'IA à générer des hallucinations. Pour les connaissances générales ou le contenu de divertissement, cette sortie biaisée ou hallucinée peut ne pas avoir de conséquences directes temporaires. Cependant, si cela se produit dans des domaines nécessitant une rigueur élevée comme la médecine, le droit, l'aviation, ou la finance, cela pourrait avoir des conséquences graves. Par conséquent, résoudre les problèmes d'hallucinations et de biais de l'IA est devenu l'un des défis centraux dans le processus de développement de l'IA.
Le projet Mira propose une solution à ce problème. Il tente de réduire les biais et les hallucinations de l'IA en construisant une couche de confiance pour l'IA, afin d'améliorer sa fiabilité. La philosophie centrale de Mira est de valider les sorties de l'IA par le consensus de plusieurs modèles d'IA.
La clé du réseau Mira réside dans la validation de consensus décentralisée. Il combine les avantages de la technologie de consensus décentralisée dans le domaine de la cryptographie et de la coopération multi-modèle, réduisant ainsi les biais et les illusions grâce à un modèle de validation collective.
En ce qui concerne l'architecture de validation, le protocole Mira prend en charge la conversion de contenus complexes en déclarations pouvant être vérifiées de manière indépendante. Les opérateurs de nœuds participent à la validation de ces déclarations et assurent un comportement honnête grâce à un mécanisme d'incitation/punition économique cryptographique. Plusieurs modèles d'IA et des opérateurs de nœuds décentralisés participent ensemble pour garantir la fiabilité des résultats de validation.
L'architecture réseau de Mira comprend trois parties principales : la conversion de contenu, la validation distribuée et le mécanisme de consensus. Tout d'abord, le système décompose le contenu candidat soumis par le client en différentes déclarations vérifiables et les distribue aux nœuds pour validation. Après que les nœuds ont déterminé la validité des déclarations, le système résume les résultats pour parvenir à un consensus, puis renvoie les résultats au client. Pour protéger la vie privée des clients, les déclarations seront distribuées à différents nœuds de manière aléatoire et fragmentée, afin d'empêcher la fuite d'informations pendant le processus de validation.
Les opérateurs de nœuds sont responsables de l'exécution des modèles de validation, du traitement des déclarations et de la soumission des résultats de validation. Leur motivation à participer à la validation provient des bénéfices disponibles. Ces bénéfices proviennent de la valeur créée pour les clients, à savoir la réduction des taux d'erreur de l'IA dans des domaines tels que la santé, le droit, l'aviation et la finance. Pour prévenir les comportements spéculatifs des nœuds qui répondent de manière aléatoire, les nœuds qui s'éloignent continuellement du consensus se verront retirer des tokens de mise.
Dans l'ensemble, Mira propose une nouvelle approche pour garantir la fiabilité de l'IA. Elle construit un réseau de validation de consensus décentralisé sur la base de plusieurs modèles d'IA, offrant ainsi une plus grande fiabilité aux services d'IA pour les clients, réduisant les biais et les hallucinations de l'IA afin de répondre à des exigences de précision et de justesse plus élevées. En même temps, elle crée également des opportunités de revenus pour les participants au réseau.
Le réseau de test public de Mira a été lancé. Les utilisateurs peuvent participer aux tests en utilisant Klok (une application de chat LLM basée sur Mira), pour expérimenter des sorties d'IA vérifiées et avoir la chance de gagner des points Mira. Cette innovation devrait favoriser le développement approfondi des applications d'IA et ouvrir la voie à la construction de systèmes d'IA plus fiables et dignes de confiance.