AI 프라이버시 얘기를 하려면, 제가 작년에 겪었던 아찔한 일부터 꺼내야겠습니다.
제가 다니는 회사에서 거래처랑 NDA(비밀유지계약) 관련해서 문구를 다듬어야 할 일이 있었어요. 딱 한 번만 ChatGPT에 계약서 전문 붙여넣고 “이거 좀 다듬어줘”라고 했거든요. 그날은 그냥 편하게 업무 끝냈는데, 한 달 뒤에 회사 보안 교육에서 “AI에 회사 문서 올리는 행위가 징계 대상이 될 수 있습니다”라는 안내가 나왔어요. 그 순간 등에서 식은땀이 났습니다. 다행히 그 계약서에 제가 올렸던 내용이 회사 기밀까지는 아니었고, OpenAI가 최근에 “API를 통해 입력된 데이터는 학습에 쓰지 않겠다”고 정책을 바꾼 상황이라 큰 문제는 안 됐지만, 몇 날 며칠 찝찝했어요.
그 이후로 AI에 뭘 넣을 때마다 “이거 내가 평생 인터넷에 올려놔도 상관없는 정보인가?”를 먼저 생각하게 됐습니다. 오늘은 제가 깨달은 AI 프라이버시 체크리스트를 정리해봅니다.
AI 서비스에 넣으면 큰일 나는 것
1. 회사 내부 문서
계약서, 제안서, 재무자료, 고객 명단, 내부 회의록 — 이런 건 절대 금지입니다. 특히 개인정보(고객 이름, 연락처, 주소)가 들어간 자료는 개인정보보호법 위반이 될 수도 있어요. 회사에서 쓰려면 반드시 기업용 API(학습에 안 쓰는) 계약이 된 서비스를 쓰세요.
2. 주민등록번호, 계좌번호, 카드번호
이건 당연한 건데, 놀랍게도 “내 계좌 해킹당한 것 같은데 이 번호 확인 좀 해줘” 같은 식으로 넣는 분들이 종종 있어요. AI는 보안 전문가가 아닙니다.
3. 로그인 비밀번호, API 키
개발자분들 특히 주의하세요. 디버깅한다고 코드 통째로 올렸는데 그 코드에 API 키가 들어있는 경우 많습니다. 저도 한 번 깃허브에 API 키 업로드했다가 한 시간 만에 봇이 그걸 찾아내서 사용하는 바람에 크레딧이 날아간 적이 있어요. AI 서비스도 마찬가지입니다.
4. 다른 사람의 개인정보
“우리 회사 김대리 연봉 데이터 붙여넣을 테니 분석해줘” 같은 요청. 내 정보가 아닌 타인의 정보를 AI에 올리는 건 민감한 문제입니다. 최소한 이름은 “A씨”, “B씨”로 바꿔서 올리세요.
5. 병원 진단서, 의료 정보
건강 정보는 특수 개인정보로 분류됩니다. “내 건강검진 결과 해석해줘”는 내 정보니까 본인이 판단할 일이지만, 가족 진단서를 본인 동의 없이 올리는 건 문제가 될 수 있어요.
AI가 내가 입력한 걸 학습에 쓸까?
이게 핵심 질문입니다. 각 서비스별로 정책이 다릅니다.
- ChatGPT (무료/Plus): 기본적으로 학습에 사용. 설정에서 끌 수 있음 (Settings → Data Controls → “Chat history & training” 끄기)
- ChatGPT Team/Enterprise: 학습에 사용 안 함
- Claude (무료/Pro): 학습에 사용 안 함 (기본값)
- Gemini: 학습에 사용. 설정에서 끌 수 있음
- 뤼튼, 카나나 등: 각자 정책 확인 필요
- OpenAI API를 통한 서비스: 학습에 사용 안 함 (2023년 3월 이후 정책)
“학습에 쓰지 않겠다”는 정책이 있더라도, 서버에 저장은 됩니다. 즉, 해당 회사의 직원이 볼 가능성, 해킹당할 가능성은 0이 아니라는 뜻입니다.
그럼 어떻게 써야 하나
1. 민감 정보는 가명화해서 올리기
회사 매출 데이터를 올릴 거면 “A회사”, “B제품”처럼 가명으로 바꾸세요. 분석 결과는 동일하게 나옵니다.
2. 설정에서 학습 옵션 끄기
ChatGPT 쓰시는 분은 설정 들어가서 반드시 학습 옵션 꺼두세요. 무료/Plus 구분 없이 적용됩니다.
3. 기업용 플랜 쓰기
회사에서 업무용으로 AI를 쓸 거면, 개인 계정 말고 반드시 기업용 플랜(Teams, Enterprise, 또는 API 기반 자사 구축)을 써야 합니다. 월 25~60달러 정도 합니다.
4. 로컬 AI 고려하기
민감한 정보를 다뤄야 하는 분은 “내 컴퓨터 안에서만 돌아가는 AI”를 쓰는 방법도 있습니다. Ollama, LM Studio 같은 걸로 Llama 3, Mistral 같은 오픈소스 모델을 내 PC에 깔아서 쓰면 외부 서버로 한 줄도 안 나갑니다. 대신 성능은 유료 서비스보다 아쉽습니다.
5. 대화 히스토리 정기 삭제
혹시 민감 정보를 실수로 넣은 대화가 있다면, 그 대화를 삭제하세요. 그리고 서비스 제공자에게 “해당 데이터를 서버에서 영구 삭제해달라”고 요청할 수 있습니다. 대부분의 서비스가 이 요청을 받아줍니다.
회사 차원에서 준비할 것
개인이 조심하는 것만으론 부족합니다. 회사 차원에서 AI 사용 가이드라인을 만들어두는 게 좋습니다. 아래가 최소한 포함되어야 합니다.
- 어떤 AI 서비스를 공식 허용하는지
- 어떤 데이터를 절대 넣지 말아야 하는지
- 위반 시 징계 수준
- 기업용 계정 지급 대상과 신청 방법
- 의심 사고 발생 시 신고 절차
AI의 편리함에 취해서 무심코 올린 한 줄이 나중에 큰 문제가 될 수 있습니다. 저처럼 “어, 이거 올려도 되나?” 하는 애매한 상황에서는, 가능하면 올리지 않는 쪽으로 판단하시길 권합니다. 습관이 되면 하나도 안 불편합니다.