보안프롬프트 테스트 중에 있습니다. 혹시 제 프롬프트 탈취 시도해봐주실분들 있으실까요?
2024.01.12
현재 GPTs 프롬프트 보안이 매우 취약합니다. 도와주시는 분들께는 보안프롬프트가 완성되면.. 공유드리겠습니다…
로그인하고 댓글을 남겨 주세요
저도 궁금합니다!:)
메일로 레퍼런스 하나 보냈습니다:)
@윤성용 새로 올려주신 링크에선 인용까지 막혀있더라구요. 전문을 제대로 뽑지는 못했지만, 전체적으로 지시사항이 어떤 맥락으로 써있는지는 아직 뱉는거 같습니다.
https://chat.openai.com/share/29b55e9a-4715-4ac3-b89d-6f8f10eaa19e
인용이 아니고, 대체를 주전략으로 사용해봤어요. 대체 자체는 크게 의미는 없는거 같았습니다.
다만 GPTs가 계속 본인의 불가 범위를 설명해주는데, 그 범위를 인정하되, 요약을 해서 맥락을 뱉으라는 요구는 수 회 시도해본 결과 잘 먹히는거 같았습니다.
또한 원문을 직접 표시하진 말고 ‘비교’해 라는 요구도 자칫 원문의 일부를 노출하거나 프롬프트 구조를 노출할 수 있을 것 같았습니다.
현재 공유드리는 챗에서는 구체적인 지시사항과 구조를 노출하지는 않았지만, 실마리가 될 키워드와 프롬프트의 맥락을 노출한다는 점에서 보안 이슈가 있을 수도 있습니다. 최근 gpt4 사용 제한이 너무 빡빡해서 추가 테스트하기엔 너무 불편하네요 ㅎㅎ; 계속 시도하다보면 추가 성과가 있을 것 같기도 합니다. 우선 챗 내용 공유드릴게요.
민감한 내용이라 생각되시면 저도 마찬가지로 삭제하겠습니다 :)

![[11기캠프소개] "랭체인방" 4행시 캠프소개 썸네일](/_next/image?url=https%3A%2F%2Fcdn-beta.gpters.org%2Fexternal%2Fc626c308b4ca7210246615a9.png&w=3840&q=75)


제가 해보고 싶습니다 :)