OpenAI y Anthropic comparan sus modelos en cuanto a alucinaciones y seguridad

Jinse Finance informó que OpenAI y Anthropic evaluaron recientemente los modelos de la otra parte con el objetivo de detectar posibles problemas que podrían haber pasado por alto en sus propias pruebas. Ambas compañías anunciaron el miércoles en sus respectivos blogs que, durante este verano, realizaron pruebas de seguridad en los modelos de inteligencia artificial de acceso público de la otra parte, examinando si los modelos presentaban tendencias a generar alucinaciones, así como problemas de “desalineación” (misalignment), es decir, cuando el modelo no funciona según lo esperado por los desarrolladores. Estas evaluaciones se completaron antes del lanzamiento de GPT-5 por parte de OpenAI y de la publicación de Opus 4.1 por Anthropic a principios de agosto. Anthropic fue fundada por exempleados de OpenAI.