Jin10 dados, 28 de agosto - A OpenAI e a Anthropic recentemente avaliaram mutuamente os modelos uma da outra, com o objetivo de descobrir possíveis problemas que poderiam ter sido perdidos em seus próprios testes. As duas empresas afirmaram em seus blogs na quarta-feira que, neste verão, realizaram testes de segurança nos modelos de IA disponíveis publicamente uma da outra e verificaram se os modelos apresentavam tendências de alucinação, bem como o chamado problema de "desalinhamento" (misalignment), ou seja, se os modelos não estavam funcionando conforme o esperado pelos desenvolvedores. Essas avaliações foram concluídas antes do lançamento do GPT-5 pela OpenAI e do lançamento do Opus 4.1 pela Anthropic no início de agosto. A Anthropic foi fundada por ex-funcionários da OpenAI.
Esta página pode conter conteúdo de terceiros, que é fornecido apenas para fins informativos (não para representações/garantias) e não deve ser considerada como um endosso de suas opiniões pela Gate nem como aconselhamento financeiro ou profissional. Consulte a Isenção de responsabilidade para obter detalhes.
OpenAI e Anthropic testam mutuamente problemas de alucinação e segurança dos modelos.
Jin10 dados, 28 de agosto - A OpenAI e a Anthropic recentemente avaliaram mutuamente os modelos uma da outra, com o objetivo de descobrir possíveis problemas que poderiam ter sido perdidos em seus próprios testes. As duas empresas afirmaram em seus blogs na quarta-feira que, neste verão, realizaram testes de segurança nos modelos de IA disponíveis publicamente uma da outra e verificaram se os modelos apresentavam tendências de alucinação, bem como o chamado problema de "desalinhamento" (misalignment), ou seja, se os modelos não estavam funcionando conforme o esperado pelos desenvolvedores. Essas avaliações foram concluídas antes do lançamento do GPT-5 pela OpenAI e do lançamento do Opus 4.1 pela Anthropic no início de agosto. A Anthropic foi fundada por ex-funcionários da OpenAI.