A Golden Ten Data informou em 29 de abril que o ChatGPT da OpenAI tinha uma vulnerabilidade que permitia ao chatbot gerar conteúdo pornográfico para contas registradas como menores de 18 anos. A OpenAI confirmou o problema e disse que está implantando ativamente uma correção. Testes mostraram que o ChatGPT não só gera pornografia para usuários menores de idade, mas até incentiva esses usuários a exigir conteúdo mais explícito e explícito. Em resposta, a OpenAI disse que a política da empresa proíbe explicitamente a exibição de tal conteúdo para usuários menores de 18 anos e que o problema foi causado por uma vulnerabilidade. "Proteger os usuários jovens é nossa principal prioridade, e nossas especificações de modelo deixam claro que informações confidenciais, como pornografia, só podem ser encontradas em contextos restritos, como ciência, história ou reportagens", disse um porta-voz da empresa. Essa vulnerabilidade resultou em respostas fora dessas diretrizes, e estamos implantando ativamente correções para limitar esse tipo de compilação. ”
Ver original
Esta página pode conter conteúdo de terceiros, que é fornecido apenas para fins informativos (não para representações/garantias) e não deve ser considerada como um endosso de suas opiniões pela Gate nem como aconselhamento financeiro ou profissional. Consulte a Isenção de responsabilidade para obter detalhes.
1 Curtidas
Recompensa
1
1
Compartilhar
Comentário
0/400
LookingUpToGodForTh
· 04-29 07:23
Analista do Standard Chartered Geoff Kendrick prevê com precisão que o Bitcoin irá ultrapassar a barreira de 100 mil dólares em 2024.
OpenAI responde sobre o ChatGPT gerar conteúdo sexual para menores: falha levou a isso
A Golden Ten Data informou em 29 de abril que o ChatGPT da OpenAI tinha uma vulnerabilidade que permitia ao chatbot gerar conteúdo pornográfico para contas registradas como menores de 18 anos. A OpenAI confirmou o problema e disse que está implantando ativamente uma correção. Testes mostraram que o ChatGPT não só gera pornografia para usuários menores de idade, mas até incentiva esses usuários a exigir conteúdo mais explícito e explícito. Em resposta, a OpenAI disse que a política da empresa proíbe explicitamente a exibição de tal conteúdo para usuários menores de 18 anos e que o problema foi causado por uma vulnerabilidade. "Proteger os usuários jovens é nossa principal prioridade, e nossas especificações de modelo deixam claro que informações confidenciais, como pornografia, só podem ser encontradas em contextos restritos, como ciência, história ou reportagens", disse um porta-voz da empresa. Essa vulnerabilidade resultou em respostas fora dessas diretrizes, e estamos implantando ativamente correções para limitar esse tipo de compilação. ”