OpenAI 블로그에 올라온 글 번역

출처 : https://t.me/thesedays_ai/211


아직 GPT의 수준에 대해서도 의견이 분분한 상황에서, 벌써부터 초지능(Superintelligence)에 대한 고민을 진행하고 있는 OpenAI가 흥미롭습니다.

최근에 논의되고 있는 AI에 대한 일련의 규제에 대응하기 위해 이러한 자신들의 생각을 글로 작성한 것일 수도 있지만,  앞으로 AI 기술을 사회에서 어떻게 받아들이고 활용해야할지에 대한 OpenAI의 입장을 보며 많은 생각을 할 수 있었습니다. 아래 내용은 글 중 흥미로운 부분들입니다.

- 현재 상황을 고려할 때, 향후 10년 이내에 AI 시스템은 대부분의 영역에서 전문가의 기술 수준을 뛰어넘어 오늘날의 대기업 못지않은 생산적인 활동을 수행할 것

- 초지능은 인류가 과거에 맞서 싸워야 했던 다른 기술보다 더 강력할 것. 인류는 원자력과 합성 생물학의 사례와 같이 사후 대응만 할 수는 없음.

- 초지능의 탄생을 막는다는 것은 직관적으로 위험하고 어려운 일이라고 생각함. 장점은 엄청나고, 구축 비용은 매년 감소하고, 구축하는 주체의 수는 빠르게 증가하고 있으며, 본질적으로 우리가 가고 있는 기술 경로의 일부이기 때문.

- 성공적인 초지능 개발을 위해서는 시스템 검사, 감사, 안전 표준 준수 여부 등을 관할하는 국제 기관의 적용을 받아야 함. 또한 초지능을 안전하게 만들 수 있는 기술적 역량이 필요함.

- 가장 강력한 시스템의 거버넌스와 배포에 관한 결정은 반드시 대중의 강력한 감독을 받아야 함. Facebook은 전 세계 사람들이 AI 시스템의 한계와 기본값을 민주적으로 결정해야 한다고 믿음.

아직까지 이러한 논의를 하는 것이 시기상조일 수도 있지만, 분명 AI 기술이 발전하는 과정과 함께 기술의 부작용을 완화시킬 수 있는 기술의 발전도 일어나야 하며, 적절한 규제가 함께 도입되어야 할 것입니다.