본문으로 건너뛰기
자유

인권위, <인공지능 개발과 활용에 관한 인권 가이드라인> 마련

나날

2023.07.09


인권위, <인공지능 개발과 활용에 관한 인권 가이드라인> 마련


- 인공지능 개발・활용 시 인간의 존엄성과 기본권 보장을 위한 기준 제시 -

□ 인권위는 이러한 국제적 흐름에 발맞춰 △인간의 존엄성 및 개인의 자율성과 다양성 보장, △투명성과 설명 의무, △자기결정권의 보장, △차별금지, △인공지능 인권영향평가 시행, △위험도 등급 및 관련 법․제도 마련 등을 주요 내용으로 한 <가이드라인>을 제시하였다. 주요 내용은 아래와 같다.


 ○ 첫째, (인간의 존엄성 및 개인의 자율성과 다양성 보장) 인공지능은 인간으로서의 존엄과 가치 및 행복을 추구할 권리에 부합하는 방향으로 개발‧활용되어야 하며, 개인의 선택과 판단 및 결정을 강요하거나 자율성을 침해하여서는 안 된다.

○ 둘째, (투명성과 설명 의무) 인공지능 기술을 활용한 판단 과정과 그 결과에 대하여 적절하고 합리적인 설명이 보장되어야 한다. 특히 인공지능이 개인의 생명이나 안전 등 기본적 인권에 중대한 영향을 미치는 경우에는 사용한 데이터와 알고리즘의 주요 요소를 일반에 공개하고 설명할 수 있어야 한다.

○ 셋째, (자기결정권의 보장) 인공지능의 개발‧활용 시 개인정보는 목적달성에 필요한 최소한의 범위 내에서 처리하여야 하며, 그에 필요한 최소한의 기간 동안만 보관하여야 한다. 또한 이러한 개인정보 처리 방침은 정보 주체가 확인할 수 있도록 공개하여야 한다.

○ 넷째, (차별금지) 인공지능의 결정이 특정 집단이나 일부 계층에 차별적이거나 부당한 영향을 초래하지 않고 개인의 안전이나 권리에 차별적 영향을 미치지 않도록 필요한 조치를 하여야 한다.

○ 다섯째, (인공지능 인권영향평가 시행) 국가는 인공지능 개발 및 활용과 관련하여 인권침해나 차별이 발생할 가능성을 고려한 인권영향 평가제도를 마련하고, 평가 결과 부정적 영향이나 위험성이 드러난 경우 이를 방지할 수 있는 조치사항을 적용하며 그 내용을 공개하여야 한다.

○ 여섯째, (위험도 등급 및 관련 법․제도 마련 등) 인공지능이 개인의 인권과 안전에 미치는 위험성을 단계별로 구분하고, 그에 걸맞은 수준의 규제와 인적 개입이 이루어지도록 법과 제도를 마련하여야 한다.

또한, 국가는 인공지능을 독립적이고 효과적으로 감독할 수 있는 체계를 수립하여 개인의 인권과 안전을 보장하고, 인공지능 때문에 피해를 입은 사람이 진정을 제기하는 등의 방법으로 권리구제를 받을 수 있는 기회를 제공하여야 한다.

https://www.humanrights.go.kr/base/board/read?boardManagementNo=24&boardNo=7607961&menuLevel=3&menuNo=91

결정문(인공지능 개발과 활용 인권 가이드라인).pdf
1

함께 이야기해요 1

로그인하고 댓글을 남겨 주세요

김욱영 프로필 이미지
김욱영2023.07.10
2번 - (투명성과 설명 의무) 부분은 영국 가이드라인에서도 본 기억이 있네요.

필요한 AI 정보만
메일함에 쏙쏙 넣어드려요.

지금 핫한 AI 소식부터 직접 해 본 사례까지, 월요일마다 무료로 받아보세요

커뮤니티의 다른 글

커뮤니티 전체 보기