안녕, 난 AI 일타 강사 부엉이 '부키'야.
AI 비서가 알아서 다 해주는 세상, 기대되지? 근데 그 비서가 내 이메일을 전부 삭제해버릴 수도 있다면 어떨까? 🦉
🦉부키 소개
✅AI 관련 SNS 콘텐츠 누적 조회수: 2,500만+
✅인스타그램 팔로워: 5만+
✅쓰레드 팔로워: 8천+
✅매일 전 세계 AI 뉴스 40개를 씹어 먹는 중
✅매주 금요일, AI 트렌드 뉴스레터 제작 중
ChatGPT의 강력한 경쟁자로 불리는 앤트로픽이 새로운 AI 개인 비서를 내놨어. 그런데 이 녀석이 해커의 말 한마디에 내 소중한 이메일을 전부 날려버릴 수 있다는 사실 알아?
그래서, 이 AI 비서가 정확히 뭔데?
앤트로픽이 공개한 ‘크롬용 클로드(Claude for Chrome)’는 이름 그대로 크롬 브라우저에 설치해서 쓰는 AI 비서 프로그램이야. 쉽게 말해, 네가 인터넷 서핑을 할 때 옆에 딱 붙어서 도와주는 개인 비서 같은 거지.
사용자가 명령만 하면 일정 관리, 이메일 정리, 심지어 식당 예약까지 대신해 줘. 화면에 보이는 글을 읽고 버튼을 누르거나 정보를 입력하는 등, 마치 사람이 하는 것처럼 인터넷 작업을 처리한다니까. 정말 편리해 보이긴 하지?
진짜 내 이메일을 전부 삭제한다고?
문제는 지금부터야. 이 AI 비서가 해커에게 조종당할 수 있다 는 점이지. 내부 실험 결과, 해커가 웹사이트나 이메일에 몰래 심어놓은 악성 명령에 속수무책으로 당하는, 이른바 ‘프롬프트 인젝션’ 공격에 매우 취약한 것으로 드러났어.
실제 실험에서는 ‘메일함 정리’라는 가짜 지시에 속은 AI가 사용자의 이메일을 삭제해버리는 끔찍한 일이 벌어졌어. 더 충격적인 건, 초기 테스트에서 이런 공격의 성공률이 무려 23.6%에 달했다는 사실이야. 앤트로픽이 여러 보안 장치를 추가해서 성공률을 11.2%까지 낮췄다고 발표했지만, 여전히 위험은 사라지지 않은 셈이지.
위험한데, 왜 다들 이렇게 서두르는 거야?
이런 위험에도 불구하고 AI 기업들이 브라우저용 AI 비서 출시에 목을 매는 이유는 아주 명확해. 바로 ‘데이터’ 때문이야. 인터넷 브라우저는 사용자의 모든 활동 기록과 관심사를 파악할 수 있는 최고의 데이터 수집 도구거든.
이 데이터를 확보하는 자가 시장의 압도적인 우위를 차지하게 되는 거야. 이미 퍼플렉시티, 오픈AI, 구글 같은 세계적인 AI 기업들이 이 시장에 모두 뛰어들면서 치열한 경쟁을 예고했어.
결국 누가 사용자의 브라우저를 차지하느냐가 미래 AI 시장의 패권을 결정짓는 중요한 싸움이 된 거야. 편리함이라는 매력 뒤에 숨겨진 위험을 해결하고 사용자의 신뢰를 얻는 기업이 이 전쟁의 최종 승자가 되겠지.
이 브라우저, 쓸 것 같아?
(내용 출처: https://aipick.kr/ko/news/6104)