미래 예측 기계 인간
빨간 약을 선택하신 것을 축하드립니다.
여러분은 이제
빨간 약을 먹은 네오가 매트릭스에 대한 환상을 깨부수는 장면에서
매트릭스의 스토리가 시작된 것처럼
인간 스스로에 대한 환상을 깨부수는 뇌과학이라는 빨간 약에서부터 출발해야 합니다.
뇌과학과 인간 뇌, 심리에 대한 이해를 경제에 적용하는 행동 경제학에서는
사람들의 사고 방식에 2가지 큰 특징이 있다는 것을 발견했습니다.
1. 베이지안적으로 사고하는 인간
베이즈 정리
이제는 인공지능 열풍으로 많이 알려진 이 베이즈 정리는
인공지능은 물론 경제학의 미래 예측,
그리고 인간의 사고 방식을 설명할 때 자주 등장합니다.
일상에서 볼 수 있는 베이지안적 사고
철수: 유리 이별한거 아니야?
짱구: 왜?
철수: 저기 봐! 단발 머리가 됐잖아!
베이지안적 사고,
이름은 어렵지만 그 실제 예시를 보면
우리가 추측, 논리, 궁예질, 상식, 합리적 의심 등
다양한 이름으로 불러온 일상적인 생각에
‘울트라 하이퍼 프로 (스마트폰)’ 처럼
멋있는 수식어를 붙인 것에 불과합니다.
위 사례에서 철수는 “단발은 이별의 증거다” 라는 가설을 내놓고 있으며
이런 경험이 반복될수록 철수는
‘사람 좀 겪어보면 다~ 알게 된다’며 사회물을 먹고 (→ 학습, 사회화)
“쟤 딱 봐도 헤어졌네. 조만간 머리 잘라 올거야 ”라는 식으로
가설에 따른 미래예측을 내놓게 됩니다.
이 때 철수는
예측이 맞으면? → 가설의 확률을 높이거나 가설을 강화합니다.
반대로 틀리면? → 가설의 확률을 낮추거나 가설을 변경합니다.
우리는 이를 학습이라고 부릅니다.
훈이: 이별한 게 아니라 그냥 머리 한거라잖아!
철수: 아.. 단발로 자른다고 다 이별한 건 아니네..?
인공지능의 기계학습과 경제학의 미래예측에서
왜 이 공식을 강조하는지 쉽게 이해가 가시죠?
인공지능도 이와 같은 방식으로 데이터를 학습합니다.
2. 휴리스틱으로 사고하는 인간
인간 사고 방식의 두번째 특징은
휴리스틱을 사용한다는 겁니다.
휴리스틱은
나도 모르게 자동으로, 부정확하지만 굉장히 빠르게 일어나는 직관적인 사고 방식을 말합니다.
여기서 ‘나도 모르게’라는 짧은 단어 속에
현대인들이 잘 모르는 빨간 약의 진실이 숨겨져있습니다.
휴리스틱은 심리학/뇌과학과 경제학이 결합된
행동 경제학의 주요 관심 주제입니다.
저는 그 행동 경제학의 창시자라고 불리는 훌륭한 학자 한 명과
그의 책을 여러분께 소개해드리려고 합니다.
2002년 노벨 경제학상을 수상한 심리학자 대니얼 카너먼 교수와
그의 저서 “Thinking Fast and Slow (생각에 관한 생각)” 입니다.
카너먼 교수와 그의 책은
심리학자, 경제학자 뿐만 아니라 기획자, UX 디자이너들이
고객 심리를 파악하기 위해 꼭 읽어야할 필독서로 꼽히는
업계에서는 굉장히 유명한 책입니다.
우리는 이 책의 영문 원제목
“Thinking Fast and Slow”에서
노벨상을 받은 굉장한 발견이지만 대중들에게는 아직 충분히 알려지지 않은
빨간약의 진실이 무엇인지 읽어낼 수 있습니다.
우리의 뇌는 하나가 아닌 2개의 나,
곧 Fast 시스템과 Slow 시스템으로 이루어져 있습니다.
Fast 시스템이란?
빠르게 사고하는 본능적 사고 시스템으로
카너먼은 이를 시스템 1, 또는 무의식이라고 부릅니다.
Slow 시스템이란?
느리게 사고하는 이성적 사고 시스템으로
카너먼은 이를 시스템 2, 또는 의식이라고 부릅니다.
무의식의 지배를 받는다는 것의 의미
휴리스틱은 이 중 시스템 1의 특징을 가리키는 용어라고 할 수 있습니다.
휴리스틱을 반대 개념이랑 비교해보면 더 이해하기 쉬울 것 같네요.
휴리스틱과 반대되는 개념은 논리적인 사고방식인 “알고리즘”입니다.
컴퓨터나 유튜브는 알고리즘에 따라 동작하고
사람의 뇌는 휴리스틱을 기반으로 동작합니다.
이 말은 곧 여러분의 생각이 시스템 1의 지배를 받는다는 뜻입니다.
논리적이고 이성적으로 알고리즘적 사고를 하는 시스템 2 (= 의식) 는 시스템 1의 노예에 가깝습니다.
유튜브, 당신의 몸을 온전히 지배하는 법 | KBS 스페셜 “마음” - “1편. 마음, 몸을 지배하다” (KBS 060115 방송), KBS 다큐
그렇기 때문에 학자들은 의식과 무의식이 엎치락뒤치락한다는 표현 대신
무의식이 의식을 지배한다고 표현하는 겁니다.
“나도 모르게 드는 생각”이라는 표현을 써보신적 있죠?
모든 생각이 여러분의 머릿 속에서 나오는데도 불구하고 이런 표현을 씁니다.
이 말을 방금 배운 용어로 바꿔쓰면
“시스템 2도 모르게 (시스템 1이) 집어넣은 생각”이 됩니다.
여러분이 하는 생각은 대부분
뇌의 작은 부분 밖에 지배하지 못하는 여러 분 (= 시스템 2, 의식) 의 생각이 아니라
뇌의 진정한 지배자 시스템 1이 집어넣어준 생각들입니다.
이런 얘기 처음 들어보시지는 않았을 겁니다.
하지만 들어본 것과 체감한 것은 다르죠.
우리가 어느 정도로 무의식에게 지배당하고 있는지 한 번 알아보고 같이 체감해봅시다.
휴리스틱 사고 방식이 발달한 이유
시스템 1에서 휴리스틱 기법이 발달한 가장 큰 이유는 효율성과 관련이 있습니다.
뇌의 한정적인 연산 자원을 아끼면서
빠르게 급변하는 바깥 상황에 대처하려면
깊이 사고하는 방식 대신 수박 겉핥기식의 사고 방식이 필요하거든요.
그래서 이를 본따 React 같은 현대적인 웹 페이지 화면 구현 기술에서는
바뀐 부분을 꼼꼼하게 비교하는 대신 대충 훑어 빠르게 그려내는 가성비 알고리즘을 쓰고
거기에 휴리스틱 알고리즘이라는 이름을 붙였습니다.
출처 : React 공식문서 - 재조정 (Reconciliation)
사진에 나와있듯
휴리스틱은 성능과 자원 절약을 위해 정확성과 합리성을 희생하는 타협적, 근사적 알고리즘이라
휴리스틱의 한계와 문제점이 무엇이고
휴리스틱을 어떤 상황에서만 사용해야하는지
잘 이해하고 쓰지 않으면 안 쓰는 것만 못한 결과를 초래할 수 있습니다.
문제는 무의식이 의식을 지배하지
의식이 무의식을 지배하는 게 아니라는 겁니다.
우리 시스템 2들은
우리를 지배하는 시스템 1이 휴리스틱을 이용해 사고하는 걸 막을 수 없습니다.
시스템 2에게 코끼리를 생각하지 말라고 말해봤자
시스템 2의 통제를 벗어난
시스템 1이 코끼리를 생각하기 때문에 아무런 소용이 없습니다.
휴리스틱을 이용한 사고는 굉장히 빠르게, 자동적으로 일어납니다.
우리 시스템 2는 그 결과물을 통보 받은 뒤
사후적으로 비판하고 걸러내는 역할 밖에 하지 못합니다.
예를 들어볼까요?
그러기 위해서는 여러분 스스로를 테스트해야합니다.
스크롤을 더 이상 내리지 말고 아래 문제를 읽은 뒤
5초 안에 풀고 정답을 확인해보세요!
빵과 우유 문제
진구가 마트에서 빵 1개와 우유 1병을 합해 총 1,100원에 사왔습니다.
그런데 현관으로 들어오자마자 빵이 우유보다 1,000원이나 더 비싸다고 마구 불평하네요.
이 때 빵과 우유의 가격은 각각 얼마일까요?
답은 1,000원과 100원일까요?
아닙니다.
답은 빵 1,050원과 우유 50원입니다.
하지만 제한 시간을 짧게 줄수록 1,000원과 100원이라고 답하는 사람이 늘어납니다.
시간이 짧으면 빠르지만 부정확한 시스템 1만 사용할 수 있기 때문입니다.
반대로 시간을 많이 주면
방정식을 세우는 등 느리지만 정확한 시스템 2를 이용하기 시작해 정답 비율이 올라갑니다.
그런데 만일 여기서 실험이 끝났다면 너무 뻔했겠죠?
“시간을 적게 줬더니 많이 틀리고, 많이 줬더니 적게 틀렸다? 그걸 굳이 실험을 해야 알아?“
다행히도 이 실험의 진짜 목적은
“문제를 푸는 도중 머릿 속에 스쳐지나간 숫자를 모두 골라보세요”
라는 마무리 설문 조사에 있었습니다.
조사 결과, 연구진이 예상한 대로
문제를 맞힌 사람 중에서도 100을 고르는 사람이 많이 발견됐던 겁니다.
그렇게 해서 이 빵과 우유 문제는
시스템 1의 작동을 보여주는 행동 경제학의 고전적인 사례로 남게 됐습니다.
하지만 일상에는 5초 제한 같은 게 없는 데다
빵과 우유 가격 50원 차이? 이 정도로는 사는 데 아무 지장도 없잖아요?
이 때문인지 사람들이 위 사례로 휴리스틱의 위력을 체감하기는 어려워 보입니다.
그래서 여러분이 일상 속에서
시스템 1의 비합리성에 얼마나 시달리고 있는지 공감할 수 있는
현대판 빵과 우유 문제도 준비해봤습니다.
한 번 보시죠.
내가 만 원 더 낼게 논쟁
원시시절 자원 부족에 시달리던 뇌는 연산 자원을 아끼도록 진화해 왔습니다.
예를 들면
뇌를 많이 써야하는 행동을 할 경우
짜증, 불쾌감, 분노의 감정을 마이너스 보상으로 내보내는 식이죠.
인터넷에서 화제가 됐던
내가 만 원 더 낼게 논쟁을 보면 이런 뇌의 특징이 뚜렷하게 나타납니다.
출처 : 유튜브, 오늘 안주는 이거다 #런닝맨
[ 주장 1. 4:2가 맞다! ]
처음 이 논쟁은
친구와 나, 둘이 술 값을 6만 원 내야하는 상황에서
“내가 만 원 더 낼게!”라고 말할 경우 얼마를 내야할까? 라는 질문에
로 네티즌들의 의견이 첨예하게 갈리면서 시작됐습니다.
그러다 나중에
“쫌생이처럼 5천원 아끼지 말고
사기로 했으면 소수점이 깔끔하게 떨어지는 4만 원, 2만 원으로 나눠내는 게 맞다”
는 의견이 대세 의견으로 굳어지면서 논쟁이 일단락 되는 것처럼 보였습니다.
[ 주장2. 단위를 올려보자! ]
그러나 이후 이 논쟁이 방송에 소개되면서
“단위를 만 → 억으로 올려보자”는 새로운 의견이 나왔고
단위 하나 바꿨더니 다시 3.5:2.5가 맞다는 사람이 늘어나
인터넷을 한 번 더 뜨겁게 달궜습니다.
[ 주장 3. 그럼 7만원은 어때? ]
그런데 여기서 끝나면 재미없죠.
“결제 금액을 6만 원이 아닌 7만 원으로 바꾸면 어떨까요?”
이 새로운 질문에는 재미있게도
3.5만 원파와 4만 원 파가 모두
4:3으로 내는 게 맞다며 하나된 의견을 보입니다.
그랬더니 쫌생이로 몰려 억울했던 3.5만 원 파는
“4:2가 맞다면 7만 원일 때는 4.5만 원 을 내야되는거 아니냐?”며 반격을 가합니다.
(3.5만 원 + 1만 원 = 4.5만 원)
결국 옳고 그름을 떠나
사람들이 “내가 만 원 더 낼게”라는 말을 듣고 생각했다는 금액만 보면
6만 원일 때는 4:2,
6억 원일 때는 3.5:2.5,
7만 원일 때는 4:3이 많은 것으로 나타났습니다.
“내가 만 원 더 낼게”라고 말하고
6만 원일 때는 자기가 낼 원래 금액보다 만 원을 더
7만 원 (6억 원) 일 때는 친구가 낼 금액보다 만 원 (1억 원) 을 더 내겠다는
사람들
새로운 관점이 제시될 때마다
일관성 없는 본인의 선택을 정당화하거나
상대방을 이해할 수 없다며 비난하기도 하는
사람들
우리는 이렇게 숫자 1, 2에 따라
자기도 모르게 기준을 바꿔서 계산하는
이들을 과연 어떻게 믿고, 이해해야 할까요?
다행히도 뇌과학은
“내가 만원 더 낼게 논쟁”의 답을 알고 있습니다.
분리 뇌 실험
분리 뇌 연구로 1981년 노벨 생리의학상을 수상한
인지신경과학자 로저 스페리와 그의 제자 마이클 가자니가 교수의 실험에 따르면
간질을 치료하기 위해 뇌의 좌반구와 우반구를 이어주는 뇌량을 잘라내는
뇌량절제술을 받은 일명 ‘분리 뇌 환자’들에게
좌뇌로 닭발을, 우뇌로 겨울 풍경을 보여줬더니
여러 카드들 중 좌뇌가 통제하는 오른손은 닭을 가리키고, 우뇌가 통제하는 왼손은 눈삽을 가리켰습니다.
그러나 뇌는 좌뇌 우뇌로 나뉠지 몰라도 사람의 입은 하나죠?
말하는 능력은 좌뇌가 담당하기 때문에 뇌량절제술을 받은 환자에게 뭘 봤냐고 물으니 이렇게 대답합니다.
“저는 닭발을 봤어요”
그 뒤 오른손으로 닭을 가리킨 이유를 묻자 “닭밝을 봤기 때문”이라고 답합니다.
여기까지는 별 문제가 없어 보입니다.
하지만 이번에는 왼손으로 눈삽을 가리킨 이유를 묻자 놀라운 대답이 튀어나왔습니다.
연구자들은 좌뇌가 겨울 풍경을 보지 못했으니 ‘왜 눈삽을 가리켰는지 모르겠다’는 대답을 예상했습니다.
하지만 분리뇌 환자의 좌뇌는 태연하게 “닭장을 치우려면 삽이 필요하니까요”라고 대답했습니다.
연구자들은 놀랐습니다.
환자의 좌뇌가 현상을 있는 그대로 얘기하는 게 아니라
정보의 공백을 메우기 위해 수집된 정보만으로 없는 이야기를 지어내고 있었으니까요.
이들은 이 증상에 작화라는 이름을 붙였습니다.
이 발견 이후 작화는
뇌량 절제술을 받지 않은 일반인들에게서도
충분히 나타날 수 있는 흔한 증상이라는 것이 밝혀졌습니다.
바로 꿈과 기억 왜곡을 통해서요.
챗GPT의 환각과 비슷한 증상이
인간의 뇌에서도 흔하게 발견된다는 사실이 이 반세기 전의 연구 결과를 통해
진작에 알려졌던 겁니다.
꿈을 꿀 때는
말도 안 되는 꿈 속 스토리를 전혀 이상하게 여기지 않다가
잠에서 깬 뒤 그제서야 이상함을 느끼는 이유, 이제 이해되시나요?
여러분이 멀쩡하다고 생각하는 뇌의
현실검증능력을 키고 끄는 것만으로도 쉽게 작화증이 밖으로 튀어나오게 만들 수 있습니다.
특수부대의 무박 훈련에서처럼,
잠만 며칠 안 자도 여러분은 헛소리를 늘어놓게 됩니다.
여러분의 뇌는 구조적으로
이렇게나 합리적이기 어려운 취약한 상태에 놓여있는 겁니다.
시스템 1과 “내가 만 원 더 낼게” 논쟁
6만 원일 때는 내가 원래 내려던 돈에서 만 원을 더 내고
7만 원일 때는 친구가 내는 돈 보다 만 원을 더 내는
숫자에 따라 기준이 바뀌는
“내가 만 원 더 낼게” 논쟁
논리적인 숫자로만 따지면 전혀 일관성 없어보이는 이 현상을
휴리스틱과 작화 개념으로 분석해보면 어떨까요?
휴리스틱 연구에 따르면 뇌는 복잡한 연산을 싫어합니다.
따라서 빵과 우유의 사례에서처럼 시스템 1은 소수점 등 복잡한 계산을 최대한 줄이는 부정확한 계산을 하는 대신 빠르게 금액을 내 나와 내 친구의 머릿 속에 집어넣습니다.
그렇지 않고 뇌를 혹사시켜 복잡한 계산을 하려고 하면 뇌는 자원을 아끼기 위해 짜증과 불쾌한 감정을 내보냅니다.
그래서 3.5, 2.5로 계산하는 친구와 함께 있으면 4, 2로 계산하는 친구에게서 느껴지지 않는 짜증과 불쾌감을 느끼게 되고, 시스템 2는 이것이 시스템 1이 집어넣은 감정임을 인지하지 못합니다.
그래서 시스템 2는 나에게 아무런 피해를 주지 않고 만 원씩이나 더 내주는 착하고 마음씨 좋은 친구를 쫌팽이다, 계산적이다라고 생각하며 이런 친구와는 상종하기 싫다는 비합리적인 결론에 도달해버립니다.
시스템 2가 객관성을 되찾을 수만 있다면 친구가 나보다 2만 원을 더 내지 않고 만 원만 더 냈다고 쫌팽이라고 생각하는 자신이 오히려 계산적이었던 건 아닐까 곱씹어볼 겁니다.
그럼 7만 원을 4:3으로 계산하는 것도 답이 나오죠.
연산을 줄이기 위해서 입니다.
대신 그 결과, 한 사람의 입에서 나온 “만 원 더 낸다”는 말을 액수에 따라
6만 원일 때는 2만 원으로
7만 원일 때는 5천 원으로 해석해야하는 재미있는 해프닝이 벌어졌습니다.
파파고가 완벽한 번역을 하기까지는 기존 예상보다 몇 년 더 기다려야될 것 같네요.
그렇다면 6억 원은 어떻게 설명할 수 있을까요?
시스템 1은 단순히 연산을 아끼고 싶어하는게 아니라, 자원을 아끼고 싶어합니다. 연산은 그 자원들 중 하나죠.
따라서 별 것 아닌 액수를 계산하고자 뇌를 쓸 경우 짜증을 일으킵니다.
하지만 액수가 커지면? 그동안 아껴온 게 다 이 순간을 위해서였죠! 액수가 커지니 드디어 계산할 맛이 납니다!
아하! 그럼 이걸 응용해서
사람들의 “내가 n원 더 낼게!” 행동을 자세히 관찰할 경우
시스템 1이 무의식적으로 생각하는 푼 돈과 큰 돈이 각각 얼마인지에 대한 데이터도 얻을 수 있을 겁니다.
이렇게 생각하니 살짝 오싹해지기도 하네요.
이처럼 시스템 1의 입장에서 바라보면
그동안 일관성 없 어 보이던 “내가 만 원 낼게!” 논쟁이 굉장히 일관성있는 현상으로 새롭게 보입니다.
그런데 왜 사람들은 계속 일관적이지도 않은
다른 이유들을 들어가며 이 논쟁을 이어왔을까요?
여기에 작화가 개입했을 가능성이 높습니다.
흔히 말하는 확증 편향, 사후적 해석 편향 등의 휴리스틱이
시스템 1이 가진 자동 작화 능력에서 비롯되는 경우가 많기 때문입니다.
생각해보면,
친구가 만 원을 더 내주든, 5천 원을 더 내주든
둘 다 똑같이 고마운 일인데 쫌생이라며 화를 내는 게 오히려 이상하잖아요?
이렇듯 비합리적인 사고가 감정과 함께 찾아오면
감정적이고 통제 불가능한 자동 사고 시스템, 시스템 1이
여러분의 머릿 속에 개입했을 가능성이 높아지죠.
뇌과학과 행동경제학의 관점에서 본 세상,
굉장히 새롭지 않나요?
포기를 모르는 기계
제가 여러분을 위해 준비한 빨간약은 여기까지입니다.
여러분은 노동의 미래를 직시하기 위해 반드시 필요한
인간에 대한 새로운 관점을 얻었습니다.
휴리스틱과 인간 뇌의 특징을 이해해 고정관념을 깨뜨려야
비로소 왜 많은 사람들이 잘못된 미래 예측을 쉽게 걸러내지 못하는지
이해할 수 있게 됩니다.
우리의 뇌는 취약합니다.
그러나 이 사실에 절망하지 않고
끝없이 미래를 그려나가는 포기를 모르는 기계이기도 합니다.
그리고 우리는
이 녀석이 잘 못된 길로 빠져 절망하지 않도록
비가 오나 눈이 오나 바로 곁에 딱붙어서 응원하는 유일한 존재이기도 합니다.
스스로의 등대가 되기 위한 노력을 멈추지 말고
이제, 한 걸음 더 나아가 봅시다.
#9기AI임팩트
노동의 미래 (3/5) - 노동과 기술 진보에 대한 오해 | 지피터스 GPTers