Why everyone is mad about New York’s AI hiring law
수요일에 발효된 NYC의 자동화된 고용 결정 도구법(Automated Employment Decision Tool law)에 따르면 채용에 AI를 사용하는 고용주는 지원자에게 그렇게 하고 있음을 알려야 합니다.
그들은 또한 그들의 시스템이 인종차별적이거나 성차별적이지 않다는 것을 증명하기 위해 연례 독립 감사를 제출해야 할 것입니다.
지원자는 잠재적인 고용주에게 기술에 의해 수집되고 분석되는 데이터에 대한 정보를 요청할 수 있습니다. 위반 시 최대 $1,500의 벌금이 부과됩니다.
그룹은 이 법이 "충분히 포괄적이지 않으며" 자동화 시스템 의 많은 사용을 배제할 위 험이 있다고 주장합니다. AI가 수천 명의 지원자를 선별하는 데 사용되는 시스템을 포함하여 채용에서 보안이 우려된다고 합니다.
게다가 감사 산업이 현재 너무 미성숙하기 때문에 독립 감사가 정확히 얼마나 효과적일지 명확하지 않습니다
중요한 것은 의무 감사는 기술의 “selection rate”가 다른 그룹에 따라 다른지 여부를 결정하는 “impact ratio”를 비교하는 시스템을 통해 AI 시스템의 출력이 사람들 그룹에 대해 편향되어 있는지 여부를 평가해야 한다는 것입니다.
감사는 알고리즘이 어떻게 결정을 내리는지 확인할 필요가 없으며 법률은 딥러닝 과 같은 복잡한 형태의 머신러닝의 " 설명 가능성(“explainability”)" 문제를 해결하지 못했습니다.
예상하셨겠지만, 그 누락은 AI 전문가들 사이에서 뜨거운 논쟁거리이기도 합니다.
Why everyone is mad about New York's AI hiring law