[ 자동뇌 | 교수 | 연구 ]
얀 르쿤이 이렇게 적었네요.
현재 (자동 회귀) LLM에 대한 나의 확고한 의견
- 글쓰기 보조 도구로 유용하다.
- 그들은 "반응적"이며 계획하거나 추론하지 않습니다.
- 대략적인 내용을 만들어내거나 검색합니다.
- 사람의 피드백을 통해 완화할 수는 있지만 고칠 수는 없습니다.
- 더 나은 시스템이 등장할 것이다.
- 현재의 LLM은 글쓰기 보조 도구로 사용해야지 그 이상은 안 됩니다.
- 검색 엔진과 같은 도구와 결합하는 것은 매우 사소하지 않습니다.
- 사실에 입각하고, 독성이 없으며, 통제 가능한 더 나은 시스템이 있을 것입니다. 다만 자동 회귀적 LLM은 아닐 것입니다.
- 저는 과학적 글쓰기 보조 도구로서 Galactica를 옹호하는 동안 위의 내용을 일관되게 유지해 왔습니다.
- AR-LLM은 지어낸 이야기이므로 사실에 근거한 조언을 얻기 위해 사용해서는 안 된다고 경고합니다.
- 인간 지식의 극히 일부분만 LLM으로 포착할 수 있다는 경고.
- 더 나은 시스템이 등장할 것이지만 다른 원칙에 기반할 것임을 분명히 합니다. 자동 회귀적 LLM은 아닐 것입니다.
- LLM이 일반 텍스트를 생성하는 것보다 코드를 생성하는 데 훨씬 더 나은 이유는 무엇인가요? 실제 세계와 달리 프로그램이 조작하는 세계(변수 상태)는 제한적이고, 불연속적이며, 결정론적이고, 완전히 관찰할 수 있기 때문입니다. 현실 세계는 그런 것이 없습니다.
- 갤럭티카에 대한 가장 신랄한 비평가들의 주장과는 달리,
- LLM은 글쓰기 보조 도구로 사용되고 있습니다.
- 그들은 무의식적인 대중으로 하여금 그들이 만들어낸 말도 안 되는 이야기를 믿게 함으로써 사회의 구조를 파괴하지 않을 것입니다.
- 사람들은 도움이 되는 용도로 사용할 것입니다.