(4/5) 뉴욕 시, 법 위반 조언하는 AI 챗봇 옹호 방어
2024.04.05
뉴욕시 시장 에릭 애덤스는 최근 법을 어기는 잘못된 답변이나 조언을 제공한 혐의로 논란이 된 도시의 새로운 인공지능 챗봇을 방어했습니다. 이 챗봇, MyCity는 작년 10월 시범 운영으로 시작되어, 사업주들에게 온라인 포털을 통해 질의에 대한 "실행 가능하고 신뢰할 수 있는 정보"를 제공하겠다고 약속했습니다. 그러나, 조사 매체 The Markup에 의해 처음 보도된 바에 따르면, 챗봇은 고용주가 직원들의 팁을 가져갈 수 있다고 잘못 조언했고, 고용주가 직원의 근무 시간 변경을 통지해야 한다는 규정이 없다고 잘못 알렸습니다.
뉴욕시는 여전히 때때로 잘못된 답변을 제공하는 이 챗봇을 운영 중이며, 챗봇은 상점 주인들이 현금 없이 영업할 수 있다고 잘못 알렸는데, 이는 2020년 도시 의회의 현금 거부 금지 법을 몰랐기 때문입니다. 또한, 챗봇은 도시의 최저 임금이 시간당 15달러라고 여전히 생각하고 있지만, 2024년부터 16달러로 인상되었습니다. 이 챗봇은 마이크로소프트의 Azure AI 서비스에 의존하고 있으며, 때때로 사실을 만들어내거나 확신을 가지고 거짓을 주장하는 일반적인 생성 AI 기술 플랫폼의 문제로 인해 올바른 길에서 벗어난 것으로 보입니다.
[🔗원문 보기]
