한글 번역본
AI와 언어의 한계[PADO] - 머니투데이원문 (영어)
AI And The Limits Of Language | NOEMA내용을 읽고 정리한 내용입니다. 그대로 가지고 온것이 아니라, 개인적인 제 이해와 설명이 들어가 있으니, 되도록 원문을 먼저 읽으시는것을 추천드립니다!!
1. 세상의 지식의 종류는 굉장히 많다. 지식을 하나의 무언가로 일원화하지 말 것.
2. LLM은 그 지식의 종류중 하나인 '언어', 그리고 그 '언어'를 사용하는 방식인 '맥락', '언어적 스킬' 을 기반으로 작동한다.
3. 이를 설명하기 위해, 좀 이분법적으로 사고해보자. 세상의 지식을 '언어적 지식'과 '비언어적 지식'으로 구분한다면?
4. 어떤 개념을 언어적으로 '설명'하는 능력은 '사용'하는 능력과 다름. EX) 강의나 책에서 배운 개념을 잘 아는 사람이, 막상 실험실에 들어가서 무언가가 제대로 돌아가게 만드는데 필요한 세부적인 스킬이 떨어지는 경우
= 연애를 책으로 배웠니??
5. 현재 기술력으로는, 주의력과 기억력의 한계(토큰문제)로 이 문제가 더 커짐. 일관성 X
6. 모든 지식을 언어로 구성할 수 있다는 관점을 버려야함. 인간의 세상은 그 자체로 많은 직관적 정보를 담고 있음. ( EX. 언어를 사용하지 않고도 머릿속에서 시뮬레이션을 돌리는 능력은 인간과 동물 모두에게 흔한 것. )
7. 미묘한 정보패턴(눈치!)은 언어로 표현하고 전달하기가 어렵지만, 습득이 가능함. 우리 신체의 신경망이 능숙하게 습득하고 갈고닦을 수 있는 바로 그런 형태의 맥락지향적 정보임. ( 인간 GPT!! )
8. 언어의 장점은 '작은 포맷에 많은 정보를 담을 수 있다' 하지만 단점은 압축하기 때문에 잃어버리는 것이 생김.
9. AI는 인간 지식의 일부분만을 제한적으로 습득하며, 이는 '표면적으로는' 인간의 지능에 가까워 보일 수 있으나, '내부적으로는' 인간이 세상을 체험하고 상호작용하며 얻는 깊이있는 이해와는 전혀 다름. 언어는 우리가 세계를 이해하는데 도움을 주지만, 그 자체가 지능을 의미하지 않음.
10. 즉, Ai의 지식은 '언어로 시작해 언어로 끝'나며, 그 이해는 주로 표면적임.
11. 진정한 인공지능 시스템의 목표는 언어가 표현하는 '세상'에 초점을 맞추는 거지, 언어 자체가 목적이 되어서는 안됨. 하지만 LLM은 이 차이를 인지하지 못함. 오직 언어만 가지고 세계를 깊이 이해할 수 있는 방법은 없다.
추가 : 개인적인 생각
인간 지식 중 ‘언어’ 하나라도 이해했다는 것은, 매우 큰 공학적인 가치가 있음. ( 물론 과학적인 가치도 엄청남 )
실제로 인간의 많은 활동, 심지어 경제적인 활동에서도 ‘표면적’인 경우로 끝나는 경우가 많음. ( 단순 모방만으로도 해결될 수 있는 일들이 많기 때문… )
특히 이것이 가치있는것은, Cost가 거의 0이기 때문. 이 압도적인 장점은 다른 단점… LLM이 가진 얄팍한 이해력으로 Hallucination같은 잘못된 정보가 전달된다 하더라도 감내가 충분히 가능함. 게다가 인간도 잘못된 정보를 전달하는데… 사실 인간보다도 잘못된 정보를 덜 전달할수도 있음.(실제로 더 낫다는 연구가 계속해서 나오는 중) + 게다가 인간은 비용이 많이듬.
인간도 언어를 자유자재로 구사하지 못함. 때문에, 특히 ‘언어적 지식’에 초점을 두는 분야… ( 지식전달, 단순 상담, 코드 작성(개발x) 등.. ) 에서는 GPT가 인간을 충분히 능가할수도 있지 않을까?
다만 GPT는 ‘언어적 지식’만 사용 가능하기 때문에, 반드시 인간과 융합하는 형태일 것.
세상의 지식을 ‘언어’로 한정하는 일반화로 인해서, 많은 혼란이 발생한다고 생각함.
또한, 나에게 주어진 문제가 ‘언어적 지식’과 ‘비언어적 지식’이 얼마나 비중을 차지하는지도 측정하기 굉장히 어려움.
하지만, 산업 전반적으로 GPT가 보조자로 떠오르면서, 인간은 ‘비언어적 지식’을 더 자유롭고 비중있게 사용하는데 초점을 맞추지 않을까…
ChatGPT를 잘쓰려면, 내가 도달하는 목표에 있어 ‘언어적 지식’과 ‘비언어적 지식’의 사용을 선제적으로 구분할 필요가 있음.