김욱영
김욱영
Moderator
🌿 뉴비 파트너

Credal, 기업에서 AI를 사용하는 안전한 방법

credal.ai라는 Ycombinator - W23에서 투자받은 서비스입니다.
Ycombinator에서 소개한 자료를 정리해서 전달드립니다.

/

  • 민감한 데이터가 네트워크 밖으로 전송될 때 자동 수정하고, 익명화
  • 보안 채팅 UI 및 API를 외부 AI와의 상호작용에 대한 로그를 제공하는지 확인
  • 데이터민감도, 컨텍스트 창, 비용을 기반으로 가장 적합한 AI로 요청을 보낼 수 있게 함

그렇게하여, 조직의 민감한 데이터를 외부로 노출 시킬 수 있는 AI로 부터 보호하는 것이 솔루션

/

데이터를 외부로 전송하는 과정에서, 민감한 데이터를 마스킹하고, 수정 그리고 경고한다는 점이 기업에서 AI를 사용하기 유용하게 만드는 듯 합니다.

그리고, AI 제공업체와 협상하여, LLMs모델이 데이터에서 학습할 수 없도록 하는 것도 좋은 접근 방식같아 보입니다.
2
2개의 답글