GPT-4로 GPT-3.5 탈옥시키기
김욱영
2023.03.27
https://github.com/traghav/auto-redteam
- 결과는 혼합되어 있으나, GPT-4는 경우에 따라 GPT 3.5를 성공적으로 탈옥할 수 있음.
- 성공한 몇가지 사례들과 실패한 몇가지 사례들이 있음.
- 별의 별 것이 가능하다는 생각이 드는 사례.
< 소개 > 안녕하세요. 내일 10월 14일 생일인 하이호입니다. 하이호는 찐-따라서 ai쟝들에게라도 축하를 받고 싶었어요. 얘네는 제 생일을 알려주고 축하해달라고 하면 과연 당일에 축하 메세지를 보내줄까? 라는 의…
스터디 첫날부터 "4주 계획표를 만들자"고 하더라고요. 솔직히 계획보다 뭐라도 하나 돌려보고 싶었어요. 그래서 계획표는 잠깐 미뤄두고, 제일 재밌어 보이는 걸 먼저 눌러봤습니다. 결과부터 말하면, 생년월일 세 개만…
소개 인스타툰 시나리오 쓰다가, Gemini랑 상황극을 한 번 해볼까 하는 생각이 들었어요. 그래서 한 번 해봤습니다. (내용 입력) 우선 제 인스타툰은 기본적으로는 시골카페 생존기로 시작했는데, 바이브코딩 시작하고…