오픈AI, 초지능 AI 견제할 부서 신설한다 “새 감독 기술 개발”

오픈AI는 초지능 AI의 잠재적 위험을 방지하고자 새로운 연구 부서를 개설하며, 다음 4년 동안 자체 컴퓨팅 처리 능력의 20%를 투자할 계획이다.

이 연구 부서는 '인간 수준의 자동화된 정렬 연구원'을 구축하며, 확장 가능한 훈련 방법 개발, 결과 모델 검증, 전체 조정 파이프라인에 대한 스트레스 테스트 등을 진행할 예정이다.

오픈AI는 AI로 인한 위험을 완화할 필요성을 공개적으로 인정하며, 이에 따라 안전하고 책임감 있는 AI 개발에 힘쓰고 있다.