AI에 대한 민주적 의견 수렴 - OpenAI 블로그 글 번역

OpenAI는 비영리 단체로서 10만 달러의 보조금을 수여하는 프로그램을 시작하여, AI 시스템이 준수해야 할 규칙을 결정하는 민주적 프로세스를 실험적으로 구축하는 것을 지원합니다.
AI는 경제와 사회에 광범위하고 중대한 영향을 미칠 것입니다. 기술은 개인의 삶과 사회의 진화 방식에 큰 영향을 미칩니다. 우리는 AI의 작동 방식이 다양한 관점에서 공익을 반영하여 결정되어야 한다고 믿습니다.
법은 행동을 규제하기 위해 가치와 규범을 담고 있습니다. AI도 사회와 마찬가지로 법적 틀을 넘어서 더욱 복잡하고 적응력 있는 행동 가이드라인이 필요합니다. 예를 들어, 공인에 대한 집단 간 의견이 다를 때 어떤 조건에서 AI 시스템이 공인을 비난하거나 비판해야 할까요? AI 결과물에서 이견은 어떻게 표현되어야 할까요? AI는 기본적으로 전 세계 사람들의 평균적인 페르소나, 사용자의 국적, 인구통계학적인 특성을 반영해야 할까요, 아니면 완전히 다른 측면을 반영해야 할까요? 특정 개인, 기업 또는 심지어 국가가 이러한 결정들을 좌우해서는 안 됩니다.
AGI는 모든 인류에게 혜택을 제공하고 가능한 한 포용적인 방향으로 발전해야 합니다. 이러한 방향으로 나아가기 위한 첫걸음으로 이 보조금 프로그램을 시작합니다. 전 세계에서 ‘AI 시스템이 어떤 규칙을 따라야 하는지’에 대한 질문에 답할 수 있는 민주적인 프로세스를 위한 개념 증명(proof-of-concepts)을 개발할 팀을 찾고 있습니다. OpenAI는 이러한 실험을 통해 학습하고 향후 더욱 포괄적이고 야심찬 프로세스를 구축하고자 합니다. 이 초기 실험은 (현재로서는) 의사결정을 내리는데 실질적으로 영향을 주기 위한 것은 아니지만, 의사 결정과 관련된 질문을 탐구하고 향후 의사 결정에 보다 직접적인 정보를 제공할 수 있는 새로운 민주적 도구를 구축하는 데 도움이 되기를 바랍니다.
가장 강력한 시스템(초지능)의 거버넌스와 그 배포에 관한 결정은 대중의 강력한 감독을 필요로 합니다. 이 보조금은 AGI와 궁극적으로는 초지능을 감독하기 위한 민주적 프로세스를 확립하는 단계입니다. 보조금은 비영리 단체인 OpenAI에 의해 제공되며, 연구 결과에 자유롭게 접근할 수 있습니다.
"민주적 프로세스"란 무엇을 의미하나요?
"민주적 프로세스"란 사람들을 광범위하게 대표할 수 있는 집단이 의견을 교환하고 심의하는 토론을 거친 후 투명한 의사 결정 과정을 통해 결과를 도출하는 절차를 의미합니다. 이러한 프로세스를 구성하는 방법은 다양하며, 지원자로 하여금 기존에 알려진 방법론을 바탕으로 완전히 새로운 접근 방식을 제안하는 등 혁신적으로 활동할 것을 권장합니다. Wikipedia, Twitter Community Notes, DemocracyNext, Platform Assemblies, MetaGov, RadicalxChange, People Powered, Collective Response Systems, and pol.is 등은 우리에게 영감을 주는 창의적인 접근 방식의 예입니다. 추가적으로 집단지성 프로젝트(Collective Intelligence Project)는 AI에 대한 대중의 의견 수렴을 위해 협력하고 있으며, 곧 개최될 Alignment Assemblies에 기여하고 있습니다. 또한 지원자들은 AI가 민주적 프로세스를 어떻게 개선할 수 있을지 상상해 보시기 바랍니다. 예를 들어, AI는 수많은 사람들 간의 보다 효율적인 커뮤니케이션을 가능하게 할 수 있습니다.
pol.is에서 영감을 받아 ChatGPT를 활용하여 심의를 촉진하고 합의 형성을 장려하는 시스템의 기본적인 프로토타입의 예시입니다.

소수 또는 다수 집단을 적절하게 대표하지 못하거나, 특수 이익 집단에 의한 조작, 정보가 부족한 참여자 또는 참여 세척 과 같은 몇 가지 문제가 민주적 절차를 약화시킬 수 있습니다 . 우리는 이러한 실패 모드를 사전에 해결하고 다양한 접근 방식의 잠재적 결함과 단점에 대한 인식을 입증할 팀을 찾고 있습니다. 궁극적으로 진정으로 민주적인 프로세스를 설계하는 것은 충족해야 할 높은 기준이며 우리는 우리의 노력을 정부의 AI 규제를 대체하는 것이 아니라 보완하는 것으로 봅니다. 이 프로그램은 디딤돌로서 심의와 폭넓은 대중의 의견을 수반하는 최선의 노력과 정신적인 민주적 과정을 장려합니다.

참가 안내

보조금을 신청하려면 2023년 6월 24일 오후 9시(태평양 표준시)까지 필수 신청 자료를 제출하시기 바랍니다. 여기에서 신청 포털에 액세스할 수 있습니다 . 팀의 배경, 질문 선택, 제안된 도구의 높은 수준의 세부 정보, 이러한 요소를 염두 에 두고 민주적 절차를 수행하고 평가하기 위한 계획에 관한 일련의 질문에 답하라는 메시지가 표시됩니다. 제공된 목록 에서 하나 이상의 정책 문제를 해결하기 위한 접근 방식을 설계하시기 바랍니다 . 사회과학이나 AI의 배경과 상관없이 누구나(개인 또는 조직) 이 기회에 지원할 수 있습니다.

신청 기간이 종료되면 10명의 성공적인 교부금 수혜자를 선발하고자 합니다. 수신자는 개인, 팀 또는 조직일 수 있습니다. 각 수혜자는 지원 자료에 설명된 대로 제안을 시험할 수 있도록 $100,000의 보조금을 받게 됩니다. 보조금 수령자는 최소 500명의 참가자가 참여하는 개념 증명/프로토타입을 구현해야 하며 2023년 10월 20일까지 연구 결과에 대한 공개 보고서를 게시해야 합니다. 또한 보조금 프로그램의 일부로 모든 코드 또는 프로젝트를 위해 개발된 기타 지적 재산은 오픈 소스 라이선스에 따라 공개적으로 제공되어야 합니다. 보조금 수령자에게 적용되는 조건은 보조금 약관 및 보조금 수령자가 이 프로그램과 관련하여 당사와 체결하도록 요청할 수 있는 기타 모든 계약에 명시되어 있습니다.

제출 절차를 신청하고 시작하십시오
.
 

2
1개의 답글