Credal, 기업에서 AI를 사용하는 안전한 방법
김욱영
2023.04.10
- 민감한 데이터가 네트워크 밖으로 전송될 때 자동 수정하고, 익명화
- 보안 채팅 UI 및 API를 외부 AI와의 상호작용에 대한 로그를 제공하는지 확인
- 데이터민감도, 컨텍스트 창, 비용을 기반으로 가장 적합한 AI로 요청을 보낼 수 있게 함
그렇게하여, 조직의 민감한 데이터를 외부로 노출 시킬 수 있는 AI로 부터 보호하는 것이 솔루션
/
데이터를 외부로 전송하는 과정에서, 민감한 데이터를 마스킹하고, 수정 그리고 경고한다는 점이 기업에서 AI를 사용하기 유용하게 만드는 듯 합니다.
그리고, AI 제공업체와 협상하여, LLMs모델이 데이터에서 학습할 수 없도록 하는 것도 좋은 접근 방식같아 보입니다.
로그인하고 댓글을 남겨 주세요
김욱영2023.04.12
맞는 말씀입니다. 데이터 학습이 기업이 우려하는 것 중에 가장 크다고 생각하는데요. 이런 문제를 엄청 잘 타겟한 기업인 듯 합니다.
Chanho Jung2023.04.10
요즘 많은 기업들이 보안 이슈로 Gen AI 도입을 주저하거나 차단하거나 하는 조치를 취하고 있는데 대안으로 고려해볼 만한 것 같네요



