OpenAI propose une nouvelle technologie PVG pour résoudre le problème de la "boîte noire"

PANews a rapporté le 18 juillet que, selon l'Observateur Économique, le site officiel d'OpenAI a déclaré aujourd'hui qu'avec l'utilisation de ChatGPT dans les domaines de la finance, du droit et du marketing, une situation de "boîte noire" se produira car son exactitude ne peut pas être vérifiée. Afin de résoudre ce problème, OpenAI a proposé un nouveau cadre de formation appelé Prover-Verifier Games (abrégé en "PVG"), par exemple, en utilisant de petits modèles tels que GPT-3 pour vérifier et superviser la sortie du grand modèle GPT-4, améliorant ainsi la précision et la contrôlabilité des sorties. Les nouvelles récentes montrent qu'OpenAI rapproche les capacités des grands modèles d'intelligence artificielle (IA) des niveaux de raisonnement humain.