2023. 2.17일 OpenAi 공지

 
1. AI 시스템은 어떻게 작동해야 하며, 누가 결정해야 할까?

출시 이후 사용자들은 정치적으로 편향되거나 모욕적이거나 불쾌하다고 생각하는 콘텐츠를 공유해 왔다. 이러한 우려를 해소하고자 한다.

2. 현재 상황
OpenAI의 모델은 명시적으로 프로그래밍되지 않은 광범위한 데이터를 통해 학습하는 대규모 신경망이다. 초기 '사전 학습' 단계를 거친 후, 시스템 동작의 범위를 좁히기 위해 '미세 조정'을 하는 두 번째 단계를 거친다.

3. 2단계 프로세스: 사전 학습 및 미세 조정
수십억 개의 문장에 대해 모델을 사전 학습시킨 다음, 당사가 제공하는 가이드라인을 따르는 리뷰어와 함께 좁은 범위의 데이터 세트로 모델을 미세 조정한다. 그런 다음 이러한 피드백을 통해 모델을 일반화하여 특정 사용자가 제공하는 다양한 특정 입력에 응답한다.

4. 시스템 개발에서 리뷰어의 역할과 OpenAI의 정책
경우에 따라 리뷰어에게 특정 종류의 결과물에 대한 지침을 제공할 수도 있지만, 리뷰어의 협업은 지속적으로 가져간다.

5. 편견 해결
많은 사람들이 AI 시스템의 편향성에 대해 걱정하고 있다. 그래서 이해에 도움이 되는 가이드라인의 일부를 공유하고자 한다.
이러한 가이드라인의 명확성을 개선하고 있으며, 편견과 관련된 잠재적 함정과 문제에 대해 리뷰어에게 보다 명확한 지침을 제공할 예정이다. 또한 리뷰어에 대한 집계된 인구통계학적 정보를 공유하기 위해 노력하고 있다.

6. 우리가 나아갈 방향: 미래 시스템의 구성 요소
ChatGPT는 다양한 입력에 반응하는 방식에 대한 편견을 줄이고, 시스템 '구성'과 같은 시스템 동작의 다른 차원을 개선하기 위해 연구 및 엔지니어링에 투자하고 있다.
사용자가 쉽게 동작을 사용자 지정할 수 있도록 ChatGPT의 업그레이드를 개발 중이다. 다른 사람들이 강력히 반대할 수 있는 시스템이 구축될 수도 있지만, 시스템 동작에는 항상 어느 정도의 한계가 있을 것이니 걱정 말아라.
기본값과 하드 바운드에 대한 대중의 의견은 과도한 권한 집중을 방지하는 일에 도움이 될 것이다. 우리도  교육 분야의 기술과 AI에 대한 외부의 의견을 구하고 있으며, 안전 및 정책 노력에 대한 제3자 감사를 수행하기 위해 외부 기관과의 파트너십을 모색하고 있다.

7. 결론
실수를 하지만 이를 통해 배우며 성장하고 있고, 앞으로 진행되는 사항도 잘 공유하겠다.