HUMANS ARE BIASED. GENERATIVE AI IS EVEN WORSE
AI가 생성한 이미지는 직업에 대한 편견과 왜곡을 지속시켜 소외된 집단에 잠재적으로 피해를 줄 수 있습니다.
런던에 본사를 둔 스타트업 StabilityAI는 일반 데이터 세트의 과대 대표로 인한 편견을 완화하기 위해 Stable Diffusion 모델을 오픈소스로 공개하고 있습니다.
생성 AI 시장은 2032년까지 42% 성장하여 1조 3,000억 달러에 달할 것으로 예상되지만, 업계 연구자와 의원들 사이에서 공정성과 대표성에 대한 우려가 커지고 있습니다.
다음처럼 AI는 미국에서 패스트 푸드 근로자의 70%가 백인 임에도 불구하고 이 모델은 "패스트푸드 근로자"라는 키워드에 대해 70% 의 시간 동안 더 어두운 피부색을 가진 사람들의 이미지를 생성했습니다.
AI가 생성한 이미지는 직업에 대한 편견과 왜곡을 지속시켜 소외된 집단에 잠재적으로 피해를 줄 수 있습니다.
런던에 본사를 둔 스타트업 StabilityAI는 일반 데이터 세트의 과대 대표로 인한 편견을 완화하기 위해 Stable Diffusion 모델을 오픈소스로 공개하고 있습니다.
생성 AI 시장은 2032년까지 42% 성장하여 1조 3,000억 달러에 달할 것으로 예상되지만, 업계 연구자와 의원들 사이에서 공정성과 대표성에 대한 우려가 커지고 있습니다.
다음처럼 AI는 미국에서 패스트 푸드 근로자의 70%가 백인 임에도 불구하고 이 모델은 "패스트푸드 근로자"라는 키워드에 대해 70% 의 시간 동안 더 어두운 피부색을 가진 사람들의 이미지를 생성했습니다.
