Anthropic은 'constitutional AI'가 모델을 교육하는 가장 좋은 방법이라 말합니다.

  • constitutional AI(구상 AI)라 불리우는 Anthropic은 시스템에 정의된 가치를 부여하는 것으로 시스템의 동장을 이해하기 쉽고 필요에 따라 더 간단하게 조정할 수 있다독 주장합니다.
  • Constituional AI는 AI 피드백을 사용하여 결과를 평가함으로써 결점에 대응합니다.
    • 추신 -> Constitual AI의 핵심은 AI를 교육하는데 AI를 사용하자~ 라는 뉘양스로 나오게 된 개념이라 알고 있습니다.
  • 이러한 원칙이 정확히 무엇일까요? Anthropic은 AI 시스템을 교육하는데 사용되는것이 UN인권 선언을 비롯한 다양한 출처라고 말합니다.

1