#AI임팩트, #9기임팩트
AI 임팩트의 3주차 과제는 AI가 이 세상에 끼치는 영향들을 조사하고 정리하여 발표하는 것입니다. 저는 주제를 ‘On-Device AI가 온다.(feat. AI 비서)’로 잡았습니다.
2023년, AI분야에서 가장 큰 화두는 ChatGPT를 필두로 한 ‘생성형AI’ 였습니다. 아마 여기에 모인 지피터스 여러분들도 ChatGPT에 대한 관심을 시작으로 여기까지 오시지 않으셨을까 합니다.
그리고 2024년, AI분야의 새로운 트렌드가 될 On-Device AI를 소개드립니다.
1. On-Device AI 가 뭔데?
온 디바이스 AI(On-Device AI)는 클라우드나 외부 서버에 의존하지 않고, 기기 자체에서 AI 알고리즘과 모델을 구동하는 기술입니다. 이는 통신 상태의 제약을 받지 않으며, 보안성이 높고 정보 처리 속도가 빠르다는 점에서 차세대 기술로 주목받고 있습니다.
잠깐만요! 이거 공상과학영화 아니고요.. 23년 11월에 발표된 Humane사의 [AI Pin] 이라는 제품입니다.
2. 왜 관심을 가져야해?
올해 CES 2024에서 가장 큰 관심을 받은 분야가 바로 온디바이스 AI입니다.
주요한 이유는 각자의 기기에서 적은 비용으로 AI를 이용할 수 있다는 것 입니다.
우리가 현재 사용하는 ChatGPT, Midjourney 같은 생성형ai 서비스는 사용자의 데이터를 클라우드 서버로 전송해 처리하고 결과를 다시 사용자에게 전달합니다. 즉, 인터넷 연결과 클라우드 서버가 필수적입니다.
반면, 온디바이스 AI는 사용자의 기기 내에서 직접 데이터를 처리합니다. 이는 기기에 탑재된 인공지능 모델과 칩을 통해 인터넷 연결 없이도 가능합니다.
생성형AI 서비스는 서버 용량과 트래픽, 전력 및 연산 비용이 많이 들어 대중화에 어려움을 겪습니다.
(GPT4는 유료 서비스임에도! 사용량을 제한하고 있죠…ㅠㅠ)
온디바이스 AI방식을 통해 사용자는 시간, 장소, 인터넷 연결 상태에 상관없이 AI를 사용할 수 있고,
서비스 제공자는 거대한 클라우드 서버를 구축할 필요 없이 비용을 절감할 수 있습니다.
3.현황
4. IMPACT of ‘On-Device AI’
데이터 보안 문제 해결
: 온디바이스 AI 사용은 보안 문제를 해결하는 데 기여합니다. 일반적으로 클라우드 서버를 통해 사용자 정보를 전송하는 생성형 AI와 달리, 온디바이스 AI는 기기 내에서 데이터 처리를 하여 정보 유출 위험을 줄입니다. 이러한 접근 방식은 AI 활용의 범위를 넓힐 수 있는 가능성을 제공합니다.
반도체 페러다임 변화
: GPU를 넘어 NPU로
실시간 소규모 데이터의 빠른 활용
: 실시간 통역, 데이터분석, 문서교정, 쇼핑 등 이미 출시된 삼성갤럭시 S24, 휴메인의 AI Pin등에서 구현되고 있습니다.
잠깐, 실시간 통역? 이게 완벽하게 된다면 저도 지피터스 커뮤니티 매니저 채용에 지원해 볼 수 있지 않을까.. 상상만 해봅니다 ㅎㅎ
AI비서(AI agent)의 등장
빌 게이츠는 온디바이스 AI의 발전이 컴퓨팅 방식을 혁신할 것으로 예상합니다.
미래에는 'AI 에이전트'가 사용자의 명령에 따라 쇼핑 앱을 실행하고, 제품을 선택하고 결제하는 일을 자동으로 처리할 수 있습니다. 현재 단순한 챗봇 기능을 뛰어넘어 개인 비서의 역할을 완벽하게 수행할 수 있죠.
AI 에이전트가 효과적으로 작동하기 위해서는 전자 기기마다 고성능 AI가 필요하며, 개별 사용자의 AI를
최적화하기 위해 개인 데이터 수집이 중요합니다. 온디바이스 AI는 이러한 맞춤형 자동 서비스를 가능하게 합니다.
5. 전망 및 마무리
앞으로는 기존의 클라우드 기반의 ai서비스 + 온디바이스AI를 필요에 따라 적절히 혼합하여
활용하는 하이브리드 방식으로 발전하지 않을까 예상해봅니다.
마무리(1)
사실, 이 주제를 고르면서 고민이 많이 되었습니다.
당장 대기업이나 빅테크 기업이 아닌 개개인들에게 구체적인 직무 임팩트가 없다고 느껴지기 때문에
당장 우리의 돈벌이(?)와는 관계가 없어 보여서요.
그렇지만, 일단 주제 자체가 너무 흥미롭고 재밌어 보여 그냥 지나칠 수 없었습니다.
그리고 무엇보다, 근미래에 우리의 모든 삶을 근본적으로 변화 시킬 가장 큰 임팩트 중에 하나일 것이라고 생각합니다.
마무리(2)
AI라는 엄청난 기술로 인해 없어지는 일자리도 많아지겠지만,
결국에는 한 사람의 노동 생산성이 극적으로 높아질 것으로 예상됩니다.
그렇다면 중요한 것은 무엇일까?
[기획력]
AI에게 기획과 관련한 아이디어를 얻을수는 있지만, 결국 처음 질문을 던져야 하는건 사람.
그 첫 질문이 뭐가 될 것인지는 인간과 우리 사회에 대한 통찰을 바탕으로한 기획력에서 결정될 것이라고 생각해봅니다.
AI를 공부할수록, 기획력과 인간 심리에 대한 이해와 통찰이 중요함을 느낍니다.
레퍼런스
https://www.gatesnotes.com/AI-agents
https://www.youtube.com/watch?v=AN4o7JJgUfU
https://blog.naver.com/PostView.naver?blogId=chief_cho&logNo=223312580156