본문으로 건너뛰기
자유

왜 뉴욕의 AI 고용 결정 도구법은 논쟁이 되고 있나?

Ditto

2023.07.12

Why everyone is mad about New York’s AI hiring law

수요일에 발효된 NYC의 자동화된 고용 결정 도구법(Automated Employment Decision Tool law)에 따르면 채용에 AI를 사용하는 고용주는 지원자에게 그렇게 하고 있음을 알려야 합니다.

그들은 또한 그들의 시스템이 인종차별적이거나 성차별적이지 않다는 것을 증명하기 위해 연례 독립 감사를 제출해야 할 것입니다.

지원자는 잠재적인 고용주에게 기술에 의해 수집되고 분석되는 데이터에 대한 정보를 요청할 수 있습니다. 위반 시 최대 $1,500의 벌금이 부과됩니다.

그룹은 이 법이 "충분히 포괄적이지 않으며" 자동화 시스템 의 많은 사용을 배제할 위험이 있다고 주장합니다. AI가 수천 명의 지원자를 선별하는 데 사용되는 시스템을 포함하여 채용에서 보안이 우려된다고 합니다.

게다가 감사 산업이 현재 너무 미성숙하기 때문에 독립 감사가 정확히 얼마나 효과적일지 명확하지 않습니다

중요한 것은 의무 감사는 기술의 “selection rate”가 다른 그룹에 따라 다른지 여부를 결정하는 “impact ratio”를 비교하는 시스템을 통해 AI 시스템의 출력이 사람들 그룹에 대해 편향되어 있는지 여부를 평가해야 한다는 것입니다.

감사는 알고리즘이 어떻게 결정을 내리는지 확인할 필요가 없으며 법률은 딥러닝 과 같은 복잡한 형태의 머신러닝의 " 설명 가능성(“explainability”)" 문제를 해결하지 못했습니다.

예상하셨겠지만, 그 누락은 AI 전문가들 사이에서 뜨거운 논쟁거리이기도 합니다.  

Why everyone is mad about New York's AI hiring law
1

함께 이야기해요 1

로그인하고 댓글을 남겨 주세요

김욱영 프로필 이미지
김욱영2023.07.19
산업이 확장되면서 법이 다시 재정될 필요가 있다는 점.
AI가 사람의 채용 같이 매우 중요한 것을 판단하기에는 문제가 있다는 점을 다룬 기사네요.

필요한 AI 정보만
메일함에 쏙쏙 넣어드려요.

지금 핫한 AI 소식부터 직접 해 본 사례까지, 월요일마다 무료로 받아보세요

커뮤니티의 다른 글

커뮤니티 전체 보기