본문으로 건너뛰기
가입했어요

Credal, 기업에서 AI를 사용하는 안전한 방법

김욱영

2023.04.10

credal.ai라는 Ycombinator - W23에서 투자받은 서비스입니다.
Ycombinator에서 소개한 자료를 정리해서 전달드립니다.

/

  • 민감한 데이터가 네트워크 밖으로 전송될 때 자동 수정하고, 익명화
  • 보안 채팅 UI 및 API를 외부 AI와의 상호작용에 대한 로그를 제공하는지 확인
  • 데이터민감도, 컨텍스트 창, 비용을 기반으로 가장 적합한 AI로 요청을 보낼 수 있게 함

그렇게하여, 조직의 민감한 데이터를 외부로 노출 시킬 수 있는 AI로 부터 보호하는 것이 솔루션

/

데이터를 외부로 전송하는 과정에서, 민감한 데이터를 마스킹하고, 수정 그리고 경고한다는 점이 기업에서 AI를 사용하기 유용하게 만드는 듯 합니다.

그리고, AI 제공업체와 협상하여, LLMs모델이 데이터에서 학습할 수 없도록 하는 것도 좋은 접근 방식같아 보입니다.
2

함께 이야기해요 2

로그인하고 댓글을 남겨 주세요

Chanho Jung 프로필 이미지
Chanho Jung2023.04.10
요즘 많은 기업들이 보안 이슈로 Gen AI 도입을 주저하거나 차단하거나 하는 조치를 취하고 있는데 대안으로 고려해볼 만한 것 같네요
김욱영 프로필 이미지
김욱영2023.04.12
 맞는 말씀입니다. 데이터 학습이 기업이 우려하는 것 중에 가장 크다고 생각하는데요. 이런 문제를 엄청 잘 타겟한 기업인 듯 합니다.

필요한 AI 정보만
메일함에 쏙쏙 넣어드려요.

지금 핫한 AI 소식부터 직접 해 본 사례까지, 월요일마다 무료로 받아보세요

커뮤니티의 다른 글

커뮤니티 전체 보기