A OpenAI apresenta o GPT-Red para fortalecer o GPT-5.6 contra ataques de injeção de prompts

De acordo com a OpenAI, a empresa apresentou a GPT-Red, um sistema automatizado de red teaming de IA, na quarta-feira, para identificar vulnerabilidades em modelos de linguagem antes da implantação. A GPT-Red foi usada para treinar a GPT-5.6, reduzindo falhas em benchmarks de prompt injection. A OpenAI disse que a GPT-Red teve êxito em 84% dos cenários de avaliação interna, contra 13% para red teamers humanos nos mesmos testes. O sistema funciona por meio de reinforcement learning com autoconfronto, gerando ataques progressivamente mais fortes enquanto os modelos defensores aprendem a resisti-los. A OpenAI afirmou que a GPT-Red permanecerá uma ferramenta interna devido às suas capacidades ofensivas desenvolvidas intencionalmente.
Isenção de responsabilidade: as informações nesta página podem ter origem em fontes terceiras e servem apenas como referência. Não representam as opiniões da Gate e não constituem orientação financeira, de investimentos ou jurídica. A negociação de ativos virtuais envolve alto risco. Não tome decisões baseando-se apenas nas informações desta página. Para mais detalhes, consulte a Isenção de responsabilidade.
Comentário
0/400
Sem comentários