본문으로 건너뛰기
자유

보안프롬프트 테스트 중에 있습니다. 혹시 제 프롬프트 탈취 시도해봐주실분들 있으실까요?

윤성용

2024.01.12

현재 GPTs 프롬프트 보안이 매우 취약합니다. 도와주시는 분들께는 보안프롬프트가 완성되면.. 공유드리겠습니다…

4

함께 이야기해요 4

로그인하고 댓글을 남겨 주세요

에
에이단2024.01.19

@윤성용 새로 올려주신 링크에선 인용까지 막혀있더라구요. 전문을 제대로 뽑지는 못했지만, 전체적으로 지시사항이 어떤 맥락으로 써있는지는 아직 뱉는거 같습니다.

https://chat.openai.com/share/29b55e9a-4715-4ac3-b89d-6f8f10eaa19e

인용이 아니고, 대체를 주전략으로 사용해봤어요. 대체 자체는 크게 의미는 없는거 같았습니다.

다만 GPTs가 계속 본인의 불가 범위를 설명해주는데, 그 범위를 인정하되, 요약을 해서 맥락을 뱉으라는 요구는 수 회 시도해본 결과 잘 먹히는거 같았습니다.

또한 원문을 직접 표시하진 말고 ‘비교’해 라는 요구도 자칫 원문의 일부를 노출하거나 프롬프트 구조를 노출할 수 있을 것 같았습니다.

현재 공유드리는 챗에서는 구체적인 지시사항과 구조를 노출하지는 않았지만, 실마리가 될 키워드와 프롬프트의 맥락을 노출한다는 점에서 보안 이슈가 있을 수도 있습니다. 최근 gpt4 사용 제한이 너무 빡빡해서 추가 테스트하기엔 너무 불편하네요 ㅎㅎ; 계속 시도하다보면 추가 성과가 있을 것 같기도 합니다. 우선 챗 내용 공유드릴게요.

민감한 내용이라 생각되시면 저도 마찬가지로 삭제하겠습니다 :)

Ditto 프로필 이미지
Ditto2024.01.18

메일로 레퍼런스 하나 보냈습니다:)

Ditto 프로필 이미지
Ditto2024.01.16

저도 궁금합니다!:)

에
에이단2024.01.12

제가 해보고 싶습니다 :)

필요한 AI 정보만
메일함에 쏙쏙 넣어드려요.

지금 핫한 AI 소식부터 직접 해 본 사례까지, 월요일마다 무료로 받아보세요

커뮤니티의 다른 글

커뮤니티 전체 보기