L'IA générative augmente considérablement la vitesse de production d'informations, mais elle suscite également une préoccupation négligée : « l'écart de vérification (Verification Gap) ». Du précédent directeur technique de Coinbase, Balaji, au cofondateur d'OpenAI, Karpathy, jusqu'aux géants du capital-risque a16z, tous avertissent : « Le coût de vérification des productions d'IA devient le plus grand goulet d'étranglement et le risque de la nouvelle ère.
Balaji : Le "coût de validation" pour les utilisateurs d'IA devient un véritable goulot d'étranglement.
L'ancien directeur technique de Coinbase, Balaji, a publié le mois dernier qu'on peut décomposer le processus d'utilisation de l'IA en deux étapes : "saisir le mot clé (prompting)" et "vérifier la sortie (verifying)".
La première est à la portée de tous, il suffit de taper quelques lignes ; mais la seconde est plus difficile, nécessitant des connaissances professionnelles, de la patience et une pensée logique pour juger si l'IA a généré une erreur ou une "illusion (hallucination)".
AI SUGGESTION → AI VÉRIFICATION
L'échelle de l'IA en matière de prompts, car le prompt n'est que du texte.
Mais la vérification par l'IA ne se développe pas, car la vérification des résultats de l'IA implique beaucoup plus que de simplement taper.
Parfois, vous pouvez vérifier à l'œil, c'est pourquoi l'IA est géniale pour le frontend, les images et les vidéos. Mais…
— Balaji (@balajis) 4 juin 2025
Il a déclaré que cet écart est facilement géré dans les images ou les vidéos, car l'œil humain est naturellement doué pour évaluer le contenu visuel. Mais dès qu'il s'agit de code, d'articles techniques ou de raisonnements logiques, la tâche de vérification devient assez délicate :
La question la plus importante concernant l'utilisation de l'IA est : comment puis-je vérifier à moindre coût que le contenu produit par ce modèle d'IA est correct ? Nous avons besoin d'autres outils ou produits pour vérifier le contenu dans d'autres domaines non visuels.
Il a ajouté : « Pour les utilisateurs, la validation par IA est tout aussi importante que les invites par IA. »
Karpathy : L'IA a accéléré la création, mais n'a pas réduit le processus de validation.
Le cofondateur d'OpenAI et père de la conduite autonome, Andrej Karpathy, a davantage développé le point de vue de Balaji, soulignant que la nature de la création est un processus qui se déroule en deux étapes et se répète : « génération (generation) » et « discrimination (discrimination) » : « vous avez fait un trait (génération), mais vous devez aussi prendre du recul pour réfléchir si ce trait a réellement amélioré l'œuvre (discrimination). »
Il estime que les grands modèles de langage (LLM) ont considérablement réduit le coût en temps de "génération", permettant aux utilisateurs d'obtenir instantanément une grande quantité de production, mais n'ont absolument pas aidé à réduire le coût et la charge de travail liés à "l'évaluation". Cela est particulièrement grave pour le code :
Il est très facile pour un LLM de générer des dizaines, voire des centaines de lignes de code, mais l'ingénieur doit toujours lire, comprendre et vérifier toutes les logiques et les erreurs potentielles ligne par ligne.
Karpathy a indiqué que c'est en fait ce qui prend le plus de temps à la plupart des ingénieurs, ce qu'on appelle le « (Verification Gap) ». L'IA a accéléré le processus de création, mais ce coût en temps a été directement transféré à la validation.
( De conseiller à secrétaire, les défis de confiance des agents AI : pouvons-nous faire confiance aux décisions autonomes de l'intelligence artificielle ? )
a16z : La crise de confiance à l'ère de la génération doit être comblée par la technologie cryptographique.
Le célèbre capital-risque a16z aborde la question du point de vue institutionnel et industriel. Ils estiment que la technologie AI accélérera la prolifération de la "fausse information", car le seuil de génération est bas et difficile à vérifier, et le web sera envahi par un grand nombre de contenus falsifiés. a16z soutient que la confiance devrait être ingénierisée, et la solution consiste à introduire des technologies de cryptographie, comme :
Effectuer un traitement cryptographique des données générées par l'IA par étapes (publications hachées)
Créer avec une identité vérifiée par blockchain (crypto IDs)
Créer une chaîne de contenu fiable grâce à la transparence et à la traçabilité des données sur la chaîne.
Ces pratiques permettent non seulement de rendre les informations immuables et vérifiables, mais elles établissent également une ligne de défense pour la crédibilité du contenu à l'ère de l'IA, et pourraient devenir un point d'intersection important entre la technologie cryptographique et le domaine de l'IA.
(Analyse spécialisée de Messari : comment le protocole Mira utilise-t-il un mécanisme de consensus décentralisé pour rendre l'IA plus honnête ?)
Des compétences et des besoins nouveaux à l'ère de l'IA se sont formés, allant des mots clés à la capacité de vérification.
Actuellement, l'IA générative entraîne une croissance exponentielle de la production d'informations, mais sans une capacité de validation tout aussi efficace pour l'accompagner, les utilisateurs risquent de se retrouver piégés dans des opérations chronophages et une pollution par de fausses informations.
Ainsi, la compétence clé de l'ère actuelle de l'IA n'est plus seulement de rédiger des prompts précis, mais de pouvoir vérifier de manière efficace et à faible coût les résultats générés par l'IA. Que ce soit par l'intermédiaire de la révision entre modèles d'IA ou d'outils de validation professionnels, cela s'avère particulièrement important.
Cet article se demande si l'IA a rendu la vie plus pratique ? Balaji et a16z discutent de la manière de réduire le coût temporel de la validation du contenu de l'IA ? Publié pour la première fois sur Chaîne News ABMedia.
Cette page peut inclure du contenu de tiers fourni à des fins d'information uniquement. Gate ne garantit ni l'exactitude ni la validité de ces contenus, n’endosse pas les opinions exprimées, et ne fournit aucun conseil financier ou professionnel à travers ces informations. Voir la section Avertissement pour plus de détails.
L'IA a-t-elle rendu la vie plus pratique ? Balaji et A16z discutent de la manière de réduire le coût temporel de la vérification du contenu de l'IA ?
L'IA générative augmente considérablement la vitesse de production d'informations, mais elle suscite également une préoccupation négligée : « l'écart de vérification (Verification Gap) ». Du précédent directeur technique de Coinbase, Balaji, au cofondateur d'OpenAI, Karpathy, jusqu'aux géants du capital-risque a16z, tous avertissent : « Le coût de vérification des productions d'IA devient le plus grand goulet d'étranglement et le risque de la nouvelle ère.
Balaji : Le "coût de validation" pour les utilisateurs d'IA devient un véritable goulot d'étranglement.
L'ancien directeur technique de Coinbase, Balaji, a publié le mois dernier qu'on peut décomposer le processus d'utilisation de l'IA en deux étapes : "saisir le mot clé (prompting)" et "vérifier la sortie (verifying)".
La première est à la portée de tous, il suffit de taper quelques lignes ; mais la seconde est plus difficile, nécessitant des connaissances professionnelles, de la patience et une pensée logique pour juger si l'IA a généré une erreur ou une "illusion (hallucination)".
AI SUGGESTION → AI VÉRIFICATION
L'échelle de l'IA en matière de prompts, car le prompt n'est que du texte.
Mais la vérification par l'IA ne se développe pas, car la vérification des résultats de l'IA implique beaucoup plus que de simplement taper.
Parfois, vous pouvez vérifier à l'œil, c'est pourquoi l'IA est géniale pour le frontend, les images et les vidéos. Mais…
— Balaji (@balajis) 4 juin 2025
Il a déclaré que cet écart est facilement géré dans les images ou les vidéos, car l'œil humain est naturellement doué pour évaluer le contenu visuel. Mais dès qu'il s'agit de code, d'articles techniques ou de raisonnements logiques, la tâche de vérification devient assez délicate :
La question la plus importante concernant l'utilisation de l'IA est : comment puis-je vérifier à moindre coût que le contenu produit par ce modèle d'IA est correct ? Nous avons besoin d'autres outils ou produits pour vérifier le contenu dans d'autres domaines non visuels.
Il a ajouté : « Pour les utilisateurs, la validation par IA est tout aussi importante que les invites par IA. »
Karpathy : L'IA a accéléré la création, mais n'a pas réduit le processus de validation.
Le cofondateur d'OpenAI et père de la conduite autonome, Andrej Karpathy, a davantage développé le point de vue de Balaji, soulignant que la nature de la création est un processus qui se déroule en deux étapes et se répète : « génération (generation) » et « discrimination (discrimination) » : « vous avez fait un trait (génération), mais vous devez aussi prendre du recul pour réfléchir si ce trait a réellement amélioré l'œuvre (discrimination). »
Il estime que les grands modèles de langage (LLM) ont considérablement réduit le coût en temps de "génération", permettant aux utilisateurs d'obtenir instantanément une grande quantité de production, mais n'ont absolument pas aidé à réduire le coût et la charge de travail liés à "l'évaluation". Cela est particulièrement grave pour le code :
Il est très facile pour un LLM de générer des dizaines, voire des centaines de lignes de code, mais l'ingénieur doit toujours lire, comprendre et vérifier toutes les logiques et les erreurs potentielles ligne par ligne.
Karpathy a indiqué que c'est en fait ce qui prend le plus de temps à la plupart des ingénieurs, ce qu'on appelle le « (Verification Gap) ». L'IA a accéléré le processus de création, mais ce coût en temps a été directement transféré à la validation.
( De conseiller à secrétaire, les défis de confiance des agents AI : pouvons-nous faire confiance aux décisions autonomes de l'intelligence artificielle ? )
a16z : La crise de confiance à l'ère de la génération doit être comblée par la technologie cryptographique.
Le célèbre capital-risque a16z aborde la question du point de vue institutionnel et industriel. Ils estiment que la technologie AI accélérera la prolifération de la "fausse information", car le seuil de génération est bas et difficile à vérifier, et le web sera envahi par un grand nombre de contenus falsifiés. a16z soutient que la confiance devrait être ingénierisée, et la solution consiste à introduire des technologies de cryptographie, comme :
Effectuer un traitement cryptographique des données générées par l'IA par étapes (publications hachées)
Créer avec une identité vérifiée par blockchain (crypto IDs)
Créer une chaîne de contenu fiable grâce à la transparence et à la traçabilité des données sur la chaîne.
Ces pratiques permettent non seulement de rendre les informations immuables et vérifiables, mais elles établissent également une ligne de défense pour la crédibilité du contenu à l'ère de l'IA, et pourraient devenir un point d'intersection important entre la technologie cryptographique et le domaine de l'IA.
(Analyse spécialisée de Messari : comment le protocole Mira utilise-t-il un mécanisme de consensus décentralisé pour rendre l'IA plus honnête ?)
Des compétences et des besoins nouveaux à l'ère de l'IA se sont formés, allant des mots clés à la capacité de vérification.
Actuellement, l'IA générative entraîne une croissance exponentielle de la production d'informations, mais sans une capacité de validation tout aussi efficace pour l'accompagner, les utilisateurs risquent de se retrouver piégés dans des opérations chronophages et une pollution par de fausses informations.
Ainsi, la compétence clé de l'ère actuelle de l'IA n'est plus seulement de rédiger des prompts précis, mais de pouvoir vérifier de manière efficace et à faible coût les résultats générés par l'IA. Que ce soit par l'intermédiaire de la révision entre modèles d'IA ou d'outils de validation professionnels, cela s'avère particulièrement important.
Cet article se demande si l'IA a rendu la vie plus pratique ? Balaji et a16z discutent de la manière de réduire le coût temporel de la validation du contenu de l'IA ? Publié pour la première fois sur Chaîne News ABMedia.