OpenAI propõe uma nova tecnologia PVG para resolver o problema da "caixa preta"

PANews relatou em 18 de julho que, de acordo com o Economic Observer, o site oficial da OpenAI disse hoje que, com o uso do ChatGPT nos campos de finanças, direito e marketing, a situação de "caixa preta" ocorrerá porque sua precisão não pode ser verificada. Para resolver esse problema, a OpenAI propôs um novo framework de treinamento chamado Prover-Verifier Games (abreviado como "PVG"), por exemplo, usando modelos menores como o GPT-3 para verificar e supervisionar a saída do grande modelo GPT-4, melhorando assim a precisão e a controlabilidade da saída. Notícias recentes mostram que a OpenAI está aproximando as capacidades dos grandes modelos de inteligência artificial (IA) aos níveis de raciocínio humano.