인권위, <인공지능 개발과 활용에 관한 인권 가이드라인> 마련
- 인공지능 개발･활용 시 인간의 존엄성과 기본권 보장을 위한 기준 제시 -
□ 인권위는 이러한 국제적 흐름에 발맞춰 △인간의 존엄성 및 개인의 자율성과 다양성 보장, △투명성과 설명 의무, △자기결정권의 보장, △차별금지, △인공지능 인권영향평가 시행, △위험도 등급 및 관련 법․제도 마련 등을 주요 내용으로 한 <가이드라인>을 제시하였다. 주요 내용은 아래와 같다.
○ 첫째, (인간의 존엄성 및 개인의 자율성과 다양성 보장) 인공지능은 인간으로서의 존엄과 가치 및 행복을 추구할 권리에 부합하는 방향으로 개발‧활용되어야 하며, 개인의 선택과 판단 및 결정을 강요하거나 자율성을 침해하여서는 안 된다.
○ 둘째, (투명성과 설명 의무) 인공지능 기술을 활용한 판단 과정과 그 결과에 대하여 적절하고 합리적인 설명이 보장되어야 한다. 특히 인공지능이 개인의 생명이나 안전 등 기본적 인권에 중대한 영향을 미치는 경우에는 사용한 데이터와 알고리즘의 주요 요소를 일반에 공개하고 설명할 수 있어야 한다.
○ 셋째, (자기결정권의 보장) 인공지능의 개발‧활용 시 개인정보는 목적달성에 필요한 최소한의 범위 내에서 처리하여야 하며, 그에 필요한 최소한의 기간 동안만 보관하여야 한다. 또한 이러한 개인정보 처리 방침은 정보 주체가 확인할 수 있도록 공개하여야 한다.
○ 넷째, (차별금지) 인공지능의 결정이 특정 집단이나 일부 계층에 차별적이거나 부당한 영향을 초래하지 않고 개인의 안전이나 권리에 차별적 영향을 미치지 않도록 필요한 조치를 하여야 한다.
○ 다섯째, (인공지능 인권영향평가 시행) 국가는 인공지능 개발 및 활용과 관련하여 인권침해나 차별이 발생할 가능성을 고려한 인권영향 평가제도를 마련하고, 평가 결과 부정적 영향이나 위험성이 드러난 경우 이를 방지할 수 있는 조치사항을 적용하며 그 내용을 공개하여야 한다.
○ 여섯째, (위험도 등급 및 관련 법․제도 마련 등) 인공지능이 개인의 인권과 안전에 미치는 위험성을 단계별로 구분하고, 그에 걸맞은 수준의 규제와 인적 개입이 이루어지도록 법과 제도를 마련하여야 한다.
또한, 국가는 인공지능을 독립적이고 효과적으로 감독할 수 있는 체계를 수립하여 개인의 인권과 안전을 보장하고, 인공지능 때문에 피해를 입은 사람이 진정을 제기하는 등의 방법으로 권리구제를 받을 수 있는 기회를 제공하여야 한다.
결정문(인공지능 개발과 활용 인권 가이드라인).pdf