불법을 조장하는 GPT에 대한 리뷰
꽃보다동구
2024.03.23
"FraudGPT" - "프로드GPT": 사기 행위를 탐지하고 예방하는 인공지능 모델입니다.
"WormGPT" - "웜GPT": 프롬프트 엔지니어링 관점에서 보면, 이는 특정한 프롬프트를 생성하고 최적화하는데 사용되는 GPT 모델의 한 종류입니다.
프로드GPT는 프롬프트를 구할수 없기에 못써봤고요.
웜GPT 경우 인터넷에 프롬프트가 많아서 써봤으나, 싸가지가 정말없어요.
말이 좀 짧고 외국 특유의 페로소나 감이되지 않은 GPT느낌이고요.
해킹이나 사기 다방면으로 말해주나 그 방법은 상세하지 않아서 쓰는 사람마다 고려됩니다.
(자세함을 요구할줄 알아야한다고요. 한마디로 프롬프트를 잘 모르면 못써요) 쓰나마나…
둘다 불법을 조장하는 GPT입니다. 아무튼 이러하고요.
전 솔직히 이걸 활용할 방안 모르겠어요. 이딴걸 왜 쓰는지…
쓰는 사람들은 예를들어 스팸메일 작성, 보이스피싱용 대본, 악성코드 (멀웨어 같은) 등 여러가지 불법적인 행동들을 구상하고 행동한다고 하네요. 그치만 전 그런 방법 쓸 일이 없어서..
로그인하고 댓글을 남겨 주세요
김지수2024.03.23
이런 유형의 AI 사용은 빠른 규제와 통제가 필요할 것 같습니다. 그런데 규제가 있어도 프롬프트 해킹 등을 통해 규제를 피해가는 사례들이 계속 나오니 어떻게 막을 수 있을지 참 걱정입니다

@김지수 막히면 언제든 어떻게든 해결책을 찾아가는 창조경제의 시대이고 그 시대는 GPT가 나오기 전부터 유형이였어요. 버그, 패치, 등 리버싱 이라는 기술을 활용해서 원래 프로그램 불법적으로 개조 기술이 많이 흥했죠. 그런데 GPT나오면서 이제 프로그래밍 언어를 몰라도 프롬프트만 잘짤수가 있다면 해킹이나 리버싱 등을 노려볼수 있는 시대가 되었어요.