Multi-modal prompt injection image attacks against GPT-4V
GPT-4V는 이미지를 대화의 일부로 업로드할 수 있게 해주는 새로운 모드입니다.
이 기능은 프롬프트 인젝션 공격에 새로운 벡터를 제공하며, 이는 개인 데이터가 외부 공격자에게 유출될 수 있는 위험성을 가지고 있습니다.
이 문제를 해결하기 위한 명확한 방법은 아직 없으며, 이는 큰 언어 모델이 우리의 지시를 따르는 것이 유용하기 때문입니다.