AI에 맡긴 회사기밀, AI기업도 경계한다

생성형 AI에 보고서를 넣으면 금방 요약해 준다. 계약서를 읽고 중요한 조항도 찾아준다. 편리하지만 회사기밀이라면 문제가 달라진다.

회사 안에서만 보아야 할 문서가 외부 AI 서버에 저장될 수 있다. 소비자용 서비스에서는 설정에 따라 학습에 쓰일 수도 있다. 그래서 AI를 잘 아는 기업들조차 다른 회사의 AI를 경계하기 시작했다.

엔비디아도 민감한 업무에는 제한한다

《디인포메이션》의 보도를 인용한 로이터에 따르면, 엔비디아와 팔란티어, 부즈앨런해밀턴 등이 외부 AI 사용을 제한하고 있다.

팔란티어는 앤트로픽의 AI를 자사 프로그램에 넣기 전에 ‘자료를 전혀 보관하지 않는다’는 확실한 보장을 요구했다.

엔비디아는 앤트로픽의 AI를 덜 민감한 작업에만 쓰는 것으로 알려졌다. 중요한 내부 업무에는 자체 개발한 네모트론 모델을 이용한다.

미국의 정보기술·방위산업 자문회사 부즈앨런해밀턴도 회사 고유의 사이버보안 업무에는 앤트로픽의 상용 AI를 쓰지 못하게 했다.

AI 기술과 보안을 잘 아는 회사들이다. 그런 회사들조차 기밀자료를 외부 AI에 맡기는 일은 조심하고 있다.

다만 이는 각 회사의 공식 발표가 아니다. 취재를 통해 알려진 내용이며, 관련 회사들은 로이터의 확인 요청에 즉시 답하지 않았다.

학습하지 않아도 서버에는 남을 수 있다

AI의 자료 처리는 ‘학습’과 ‘보관’을 나누어 보아야 한다.

앤트로픽과 오픈AI는 기업 고객이 입력한 자료를 기본적으로 모델 학습에 쓰지 않는다고 밝히고 있다. 그러나 학습하지 않는다고 곧바로 삭제되는 것은 아니다. 보안점검과 서비스 운영을 위해 일정 기간 서버에 남을 수 있다.

앤트로픽은 특별히 강력한 일부 모델에 들어온 질문과 답변을 30일 동안 보관한다. 반복되는 해킹 시도와 자료 탈취 행동을 찾기 위해서다.

질문 하나만 보아서는 해킹인지 알아내기 어렵다. 비슷한 질문이 수백 번 이어지는 과정을 살펴야 공격을 찾아낼 수 있다는 설명이다.

회사는 자동 보안장치가 위험한 내용을 찾아냈을 때만 제한된 인원이 확인한다고 밝혔다. 30일이 지나면 삭제하는 것이 원칙이다.

그러나 극비자료를 다루는 회사에는 30일도 길다. 누가 읽지 않더라도 외부 서버에 자료가 남는 것 자체가 위험요인이 된다.

개인용과 기업용은 조건이 다르다

같은 AI라도 개인용과 기업용의 자료 처리조건은 다르다. 무료판과 유료판, 기업용 서비스와 API도 각각 다를 수 있다.

따라서 “이 회사는 자료를 학습하지 않는다”는 설명만 믿어서는 안 된다. 지금 쓰는 상품이 무엇인지 확인해야 한다.

대화내용은 얼마나 오래 남는가. 첨부파일도 함께 저장되는가. 학습 이용을 끌 수 있는가. 삭제버튼을 누르면 서버에서도 지워지는가. 이 네 가지를 먼저 살펴보는 것이 좋다.

우리나라 개인정보보호위원회도 생성형 AI를 사용할 때 학습 여부와 대화기록 설정을 확인하라고 권고한다. 주민등록번호와 비밀번호, 인증번호 같은 정보는 입력하지 말라고 안내한다.

가장 안전한 방법은 입력 전에 지우는 것이다

AI 회사가 아무리 보안을 강조해도, 외부로 보낸 자료가 보내지 않은 자료보다 안전할 수는 없다.

계약서 전체가 필요하지 않다면 필요한 조항만 넣는 편이 낫다. 고객 이름과 전화번호, 계좌번호, 거래처명도 지울 수 있으면 먼저 지워야 한다.

회사기밀은 승인된 기업용 AI에서만 처리해야 한다. 외부 전송이 곤란하다면 회사 서버나 개인 컴퓨터에서 작동하는 AI를 이용할 수도 있다.

AI 사용 여부를 가르는 기준은 간단하다. “AI가 좋은 답을 줄까”를 묻기 전에 “이 자료가 밖으로 나가도 될까”부터 물어야 한다.