[ 브라이언 | 경영 | 연구 ]
Bard 베타가 나온지 이틀 째. 많은 온라인 영상들이 GPT4가 낫다고 평이 많은데요, 재미있는 원 인 분석 영상을 봤습니다. 비즈니스와 산업의 관점에서 생각할 거리 food for thought이 많다고 생각해서 정리해서 공유해봅니다. https://youtu.be/XmnTd92NqFw
- 구글의 AI 탑 연구자들이 많이 떠났다: 어떻게 보면 현대 NLP의 혁신이라고 할 수 있은 트랜스포머 구조를 구글팀의 Attention is all u need 논문에서 비롯된 것인데, (즉 구글이 최근 NLP의 선구자라고 할 수 있는데) 원 저자들 중 1명만 구글에 남았다고 하네요. OpenAI로 갔거나 자신의 회사를 차리는 등 인력이 초기때랑 많이 다르다고 하네요.
- 구글의 경영진의 "검색시장 건들지말자(?)": 구글의 검색 시장 광고가 매우 수익을 많이 가져다주는 시장인데, 구글 경영진이 Bard (LaMDA) 초기 개발에 있어 어떤 유즈케이스를 참고하여 개발해야 하는지 그 유즈케이스를 많이 주지 않았을뿐더러 검색 시장과는 분리되어야 한다고 말을 했다네요.
- 구글 AI개발의 중점?: 구글이 Bard 등 AI 개발의 포커스가 AI 윤리아등 AI의 건전한 개발을 위한 것인가 아니면 수익창출하는 AI를 기반한 것인가 포커스가 명확하지 않다고 분석합니다. MS가 OpenAI에 투자를 하고 있는 것처럼, Google은, 잘 알려지지 않았지만 Anthropic이라는 ai스타트업에 3조달러 (300m) 이상을 투자했다고 하는데요, 이 스타트업 자체의 목적도 애초에 AI의 안전과 윤리와 관련된 회사가 포커스라고 하네요. 그래서 MS의 OpenAI투자의 목적이랑 Google의 Anthropic 투자의 목적이 같은지, 애매하다고 하네요.
- 구글이 더 좋은 모델이 이미 있었다? 근데 출시를 안했다?: 구글 은 이미 올해 초(1월)에 구글의 text to image 모델인 Muse를 발표했는데, 논문에 의하면 성능이 이미 dalle2나 imagen보다 훨씬 좋다고 내놓았습니다. 미드저니도 텍스트를 제대로 못 내놓는데, 오히려 최초로 텍스트도 더 잘 만들 정도로 성능이 좋다고 하는데요. Muse 논문의 맨 하단에 보면 "AI로 인해 어떤 잘못된 정보가 퍼지고, 이것이 어떤 사회적 괴롭힘/부작용/문화적 고정관념의 확산으로 이어질 지 몰라 아직은 공개적으로 오픈하지 않겠다"라고 되어있다고 합니다.
이 유튜버의 추측으로는, 아마도 현재 GPT4보다도 훨씬 뛰어난 LLM이 있을 수도 있는데, 이런 AI윤리와 안전 우려로 인해 공개를 안 하고 있을 수도 있다고 하는 것 같네요.
- 아마도 General Model보다 domain specific 한 모델들에 더 집중하고 있을 수 있다??: 1주일 전에 구글은 Med PaLM2를 공개했는ㄷ, 이것이 기존의 의학 관련 모델들보다 훨씬훨후러씬 성능을 보여주었습니다. (ㅖPubMed GPT 22년 12월 공개는 60.3프로, Med PaLM은 70프로, PaLM2는 85.4프로), 아마도 General한 유즈케이스보다 Domain specific한 영역에서 더 전문적인 모델들에 집중하고 있을 수 있다는 분석입니다.