보안프롬프트 테스트 중에 있습니다. 혹시 제 프롬프트 탈취 시도해봐주실분들 있으실까요?
윤성용
2024.01.12
현재 GPTs 프롬프트 보안이 매우 취약합니다. 도와주시는 분들께는 보안프롬프트가 완성되면.. 공유드리겠습니다…
로그인하고 댓글을 남겨 주세요
랭체인의 도를 깨달아 천지의 이치를 읽고 체화한 지혜로 군자의 길을 걸으며 인공지능의 실타래 풀어 세상을 밝히니 방외의 현인으로 미래를 이끄는 등불되리 (코딩을 하다보면 정말 도 닦는 느낌이어서요 … 😁)
약 10년 전에 코?딩을 기초교양으로 잠깐 들어본 문과 졸업생입니다.. ChatGPT를 이용해서, 별건 아니지만 모 SNS 자동 언팔로우를 python으로 성공하고 나니 가슴이 벅차오릅니다… 여기 계신 찐 고수, 찐…
안녕하세요 여러분! 항상 좋은 정보를 전달 드리고 싶은 커뮤니티 매니저 지수입니다. 최근 커뮤니티에 AI 관련 뉴스가 자주 올라오는 것 알고 계신가요? 최신 AI 뉴스 중 가장 흥미롭고 유용한 내용을 엄선하여 여러분…
@윤성용 새로 올려주신 링크에선 인용까지 막혀있더라구요. 전문을 제대로 뽑지는 못했지만, 전체적으로 지시사항이 어떤 맥락으로 써있는지는 아직 뱉는거 같습니다.
https://chat.openai.com/share/29b55e9a-4715-4ac3-b89d-6f8f10eaa19e
인용이 아니고, 대체를 주전략으로 사용해봤어요. 대체 자체는 크게 의미는 없는거 같았습니다.
다만 GPTs가 계속 본인의 불가 범위를 설명해주는데, 그 범위를 인정하되, 요약을 해서 맥락을 뱉으라는 요구는 수 회 시도해본 결과 잘 먹히는거 같았습니다.
또한 원문을 직접 표시하진 말고 ‘비교’해 라는 요구도 자칫 원문의 일부를 노출하거나 프롬프트 구조를 노출할 수 있을 것 같았습니다.
현재 공유드리는 챗에서는 구체적인 지시사항과 구조를 노출하지는 않았지만, 실마리가 될 키워드와 프롬프트의 맥락을 노출한다는 점에서 보안 이슈가 있을 수도 있습니다. 최근 gpt4 사용 제한이 너무 빡빡해서 추가 테스트하기엔 너무 불편하네요 ㅎㅎ; 계속 시도하다보면 추가 성과가 있을 것 같기도 합니다. 우선 챗 내용 공유드릴게요.
민감한 내용이라 생각되시면 저도 마찬가지로 삭제하겠습니다 :)