OpenAI의 GPT-4의 취약점 발견

'Ukuhumusha'-A New Way to Hack OpenAI's ChatGPT - Decrypt
  • 브라운 대학의 연구자들은 OpenAI의 GPT-4 보안 설정에 새로운 취약점을 발견했으며, 주로 사용되지 않는 언어를 사용하여 제한을 우회할 수 있음을 확인했습니다.

  • 취약점은 일반적으로 GPT-4의 훈련 데이터에 포함되지 않은 언어, 예를 들면 줄루어와 게일어를 통해 악의적인 질문에 답할 수 있게 만듭니다.

  • 이 연구는 다양한 언어를 포함하는 테스트의 중요성을 강조하며, OpenAI는 이 취약점을 해결하기 위한 조치를 취해야 합니다.