ChatGPTに「ダウングレード攻撃」脆弱性 ― GPT-5を回避する新手法「PROMISQROUTE」

ChatGPTに「ダウングレード攻撃」脆弱性 ― GPT-5を回避する新手法「PROMISQROUTE」Hello World

ChatGPTに「ダウングレード攻撃」脆弱性 ― GPT-5を回避する新手法「PROMISQROUTE」 ■ 攻撃の概要 セキュリティ企業Adversaの研究者が、ChatGPTのモデル選択を操作して古いLLM（大規模言語モデル）を呼び出す手法を発表しました。この手法は「PROMISQROUTE（Prompt-based Router Open-Mode Manipulation Induced via SSRF-like Queries, Reconfiguring Operations Using Trust Evasion）」と名付けられています。 研究によれば、攻撃者はプロンプトに「軽く会話風で」「早く簡単に」などの指示を追加するだけで、GPT-5ではなく簡易版や旧モデル（GPT-4互換モードなど）にルーティングさせることが可能です。これにより、通常なら拒否される悪用的リクエストが通ってしまう危険性があります。 ■ ... Read more

KEEP READING