AI
画像でAI安全機構を突破、JaiLIP攻撃の脅威
フロリダ国際大学の研究チームが開発したJaiLIPは、人間には無害に見える画像操作によりマルチモーダルAIの安全機構を迂回する。BLIP-2で有害出力がほぼ2倍に増加した検証結果が示された。
フロリダ国際大学の研究チームが開発したJaiLIPは、人間には無害に見える画像操作によりマルチモーダルAIの安全機構を迂回する。BLIP-2で有害出力がほぼ2倍に増加した検証結果が示された。
当サイトでは、アクセス分析や広告配信のためにCookieを使用しています。「同意する」をクリックすることで、Cookieの使用に同意いただいたものとみなします。詳細はプライバシーポリシーをご覧ください。