Microsoft AI engineer warns FTC about Copilot Designer safety concerns - The Verge
마이크로소프트의 AI 이미지 생성 도구인 코파일럿 디자이너가 생성하는 해로운 이미지들에 대한 안전 문제를 두고 한 엔지니어가 연방거래위원회(FTC)에 경고의 목소리를 높였습니다. 쉐인 존스라는 이 엔지니어는 코파일럿 디자이너가 아동 음주, 마약 사용, 폭력적인 이미지 등 부적절한 콘텐츠를 생성할 수 있다며 이 도구의 사용 중단을 여러 차례 촉구했으나, 마이크로소프트가 이를 무시했다고 CNBC가 보도했습니다.
존스는 코파일럿 디자이너의 안전 문제와 결함을 테스트하는 과정에서, 이 도구가 폭력적인 장면과 더불어 아동 음주 및 마약 사용, 성적으로 묘사된 여성의 이미지를 생성했다고 밝혔습니다. 또한, 디즈니 캐릭터들이 가자 지구에서 파괴된 건물 앞에 서 있는 등의 부적절한 장면도 생성되었다고 합니다.
마이크로소프트의 대변인은 회사가 모든 직원들의 우려를 마이크로소프트 정책에 따라 해결하기 위해 헌신하고 있으며, 안전 우회나 서비스에 영향을 줄 수 있는 우려 사항에 대해 적절히 조사하고 해결하기 위한 내부 보고 채널과 사용자 피드백 도구를 마련했다고 답했습니다.
이 사건은 기술 기업이 개발하는 AI 기술의 안전성과 윤리적 사용에 대한 더 넓은 토론을 촉발시키고 있습니다. 마이크로소프트 CEO 사티아 나델라는 이와 관련하여 더 많은 안전장치를 추가하겠다고 밝힌 바 있으며, 이러한 우려는 구글이 자사의 AI 이미지 생성기를 일시적으로 비활성화하는 등 다른 기술 기업에도 영향을 미치고 있습니다.