방어자도 프롬프트 주입을 수용하여 해킹 방지 기법 활용
해킹 에이전트는 컨텍스트 폭격을 통해 피해 발생 전에 중단되도록 속일 수 있다. 방어자들도 프롬프트 주입을 수용하는 상황이다. 이는 보안 및 방어 기법에 대한 변화를 시사한다.
댓글
0개
첫 댓글을 남겨보세요.