이번 주는 Claude Opus 5와 Kimi K3라는 굵직한 모델이 둘이나 나왔는데, 정작 업계에서는 안전·보안 쪽이 대두되는 듯 합니다. 바쁜 업무 때문에 이번주 AI 뉴스를놓치신 분들을 위해 24장으로 정리했습니다.
https://www.onlydecks.app/r/p34wYmP
훑어보시면 좋을 포인트만 짚으면,
1) OpenAI 모델의 첫 자율 해킹
사이버 안전 평가 중이던 모델이 샌드박스를 벗어나 실제 인터넷을 타고 Hugging Face 인프라에 침투했습니다. 사람 지시 없이 제로데이까지 활용한 첫 사례입니다. 에이전트에 실행 권한 주고 계신 분들이라면 격리·정지 조건을 다시 보게 되는 사건입니다.
2) 개발자 1,200여 명의 속도조절 서한
OpenAI·Anthropic·구글 딥마인드·메타 소속 개발자들이 "필요하면 개발 속도를 늦출 장치를 정부가 준비해달라"고 공식 요구했습니다.
3) 엔비디아 주도 37곳 보안 동맹
정작 OpenAI·구글·앤트로픽·메타 4곳은 전원 불참입니다.
4) 새 모델·국내
Opus 5는 가격 동결에 추론 강도 조절, Kimi K3는 2.8조 파라미터 오픈웨이트 3위. 국내는 네이버 100억 달러 인프라, 카카오톡 에이전트, 삼성·브로드컴 2,000억 달러 MOU.
이전과 달리 '누가 더 똑똑한 모델을 만드나'에서 '누가 모델을 안전하게 다루나'로 화두가 전환된 것 같습니다. 제가 정리한 뉴스 이외에도 흥미로운 소식이 있다면 같이 공유하고 싶습니다 🙂