AI가 모를 땐 모른다고 솔직히 인정하게 만드는 기술이 MIT 스핀오프에서 만들어졌다고 합니다.
인공지능이 빠르게 발전하면서 사람들은 점점 AI에 중요한 결정을 맡기는데요, 실제로 AI는 자신 이 잘 모르거나 불확실한 내용도 마치 사실인 양 그럴듯하게 대답(환각)할 때가 있죠. 이런 점이 특히 의료나 자율주행처럼 중요한 분야에선 큰 사고로 이어질 수 있어 문제가 심각해졌어요.
MIT에서 시작된 스타트업인 테미스 AI는 바로 이 ‘AI 환각 문제’를 해결하기 위해 탄생했어요. 다니엘라 루스 MIT 교수와 연구원 알렉산더 아미니, 엘라헤 아마디가 함께 만든 이 회사는 인공지능이 정보를 잘못 인식하거나 모호할 때 스스로 "이 부분은 잘 모르겠어요." 라고 인정하는 능력을 갖추도록 만드는 소프트웨어, 'Capsa' 플랫폼을 개발했죠.
테미스의 기술 원리는 겉보기엔 간단하지만 실제로 적용하기엔 매우 복잡해요. AI가 불확실한 데이터를 볼 때 나타나는 특정 패턴을 확인해, 정확한 사실과 추측, 그리고 완전한 실수를 명확히 구별하도록 훈련해요. 이렇게 탄생한 Capsa는 다른 기존 AI 시스템에도 쉽게 추가할 수 있는 장점이 있어요.
실제로 테미스의 기술은 여러 산업에서 효과를 입증했어요. 통신 기업이 네트워크 오류를 미리 방지하기 위해, 석유 및 가스 회사가 지진 데이터를 정확하게 해석하기 위해, 또 제약회사들이 신약 후보를 평가할 때 믿을 수 있는 결과에만 시간을 효율적으로 사용할 수 있도록 만드는 데 도움을 주었거든요.
이 연구의 출발은 2018년 자율주행차 연구에서 시작됐어요. 당시 토요타의 지원을 받아 과학자들은 위험도가 높은 자율주행 차량 상황에서 AI가 실수를 어떻게 하면 미리 감지할지 연구했죠. 이어 얼굴인식 시스템의 편견과 오류를 찾아내 교정할 수 있는 새로운 방법도 개발했답니다. 결국 이 방법이 의료 분야 신약 연구에도 큰 도움이 됐고요.
여기에 더해 이 기술 은 서버 연결이 쉽지 않은 소형 기기(엣지 기기)에서도 활용 가치가 큰 것으로 나타났어요. 테미스 AI 기술이 적용되면 작은 AI 모델이 평소에는 자체 판단으로 처리하고, 진짜 어렵거나 위험한 상황엔 서버에 도움을 요청할 수 있어 효율성을 크게 높일 수 있죠.
이제 AI가 삶의 필수적인 일상과 중요한 결정 속에 더 깊이 관여되는 만큼, 자신을 돌아보고 부족한 점을 인정하는 능력은 더욱 중요해지고 있어요. 테미스 AI는 바로 이 믿을 수 있는 AI 시대를 만들어가고 있답니다.
AI가 '모른다'고 말할 줄 알게 만든 이 신기한 기술을 더 자세히 알고 싶다면, 블로그에서 소개된 테미스 AI를 한번 살펴보세요! 😊
https://blog.impakers.club/2025/06/30/ai-hallucination-problem-solving/