AI 컴패니언 개인정보 보호: 데이터 암호화와 메모리 감사 가이드

AI 컴패니언 개인정보 보호는 감정 대화, 인간관계 상담, 직장 비밀처럼 사용자가 한 번이라도 털어놓은 내밀한 정보가 어떻게 암호화되고 어디까지 보관되며 누구에게 노출될 수 있는지를 따지는 핵심 안전 기준입니다.

오늘날의 대화형 인공지능은 단순한 질의응답을 넘어서 사용자의 이름, 가족 관계, 직무 고민, 감정 패턴을 장기 기억(long-term memory)으로 누적하고, 그 기억은 모델 학습 데이터 또는 백업 스토리지의 형태로 회수하기 어렵게 남아 있게 됩니다.

데이터 보존(data retention) 정책과 백업 수명주기는 서비스별로 30일에서 90일까지 차이가 크므로 [1], 일반 사용자가 자신의 데이터를 통제하려면 암호화 수준과 감사 권한을 따로 점검해야 합니다 [2].

본 가이드는 일반 사용자 입장에서 자신의 대화 데이터를 안전하게 다루기 위해 확인해야 할 데이터 처리 구조, 암호화 표준, 주요 서비스별 정책 차이, 그리고 자신의 기억을 직접 감사(audit)하는 세 가지 실전 프롬프트까지 한 자리에 정리합니다.

핵심 요점

• AI 컴패니언은 일반적으로 단일 텍스트 로그가 아니라 세 가지 메모리 계층(세션 버퍼, 벡터 저장소, 시맨틱 엔티티 그래프)에 대화 데이터를 분리 보관하므로 계층별로 삭제 권한이 다릅니다 [7].
• 전송 중(TLS 1.3)과 저장 중(AES-256) 암호화는 오늘날의 기본값이지만, 종단간 암호화(E2EE)는 서버 연산 구조상 적용이 제한적이며 서버 측 격리와 즉시 휘발 기술이 핵심 대안입니다 [5][6].
• 모델 재학습 활용 여부, 백업 보관 주기, 관리자 접근 권한은 이용약관 본문이 아니라 별도 보안 백서와 데이터 처리 추가 계약(DPA)에서 확인해야 신뢰할 만한 근거가 됩니다 [2][7].
• 자신의 기억을 직접 조회·편집하는 메모리 감사 콘솔은 제공 범위가 서비스마다 다르며, 가장 확실한 통제 수단은 정기적인 감사 프롬프트 실행과 기억 항목 단위 삭제입니다.
• 데이터 주권을 확보하려면 계정 삭제 시 백업 보관 기한을 확인하고, 서비스 이용 전 학습 옵트아웃 설정과 권한 범위를 한 번 점검해야 합니다.

AI 컴패니언은 내 대화를 어떻게 저장하는가?

대화형 AI가 사용자의 메시지를 영구 저장하는 방식은 단순 텍스트 파일 하나가 아닙니다. 연속성 있는 대화를 위해 시스템은 보통 세 가지 메모리 계층으로 데이터를 분리하여 보관합니다.

각 계층마다 노출 위험 지점과 사용자가 직접 개입할 수 있는 감사 경로가 다르므로, 본 가이드의 후속 점검 절차는 이 구분에 맞춰 설계되었습니다.

"지난달에 동료와 다퉜던 일 기억해? "라는 질문을 던지면 시스템은 벡터 저장소에서 해당 사건의 청크를 검색하고, 엔티티 그래프에서 동료의 이름과 사용자의 직무 맥락을 결합해 응답을 만듭니다.

사용자가 특정 대화창 기록을 삭제했더라도 이미 추출된 사실이 엔티티 그래프나 벡터 데이터베이스에 남아 있을 수 있다는 뜻이므로, 완전한 제거를 원하는 사용자는 단순 대화 삭제가 아니라 항목 단위 감사 절차를 거쳐야 합니다.

대화 데이터는 어디로 가고, 어떻게 암호화되는가?

모든 텍스트와 음성은 물리적으로 서비스 제공사의 클라우드 인프라에 도달합니다. 일반적으로 안전한 서비스는 전송 구간에서 TLS(전송 계층 보안) 최신 버전을, 저장 구간에서는 AES-256 이상의 대칭키 암호화를 적용합니다 [5][6].

TLS 1.3은 핸드셰이크 단계를 줄이고 Forward Secrecy(전향 비밀성)를 기본값으로 강제하는 규격이며, RFC 8446로 표준화되어 있습니다 [6]. AES-256은 NIST FIPS 197로 표준화되었으며 동일 자릿수 키에 대해 현재까지 알려진 실용적 전수공격이 없습니다 [5].

다만 진정한 보안 격차는 "누가 복호화 키를 쥐고 있는가"에서 발생합니다. 거대 언어 모델은 문맥 추론을 위해 고성능 GPU 서버에서 실시간 연산해야 하므로, 서버는 입력 텍스트를 일시적으로 평문으로 해석해야 합니다.

이 때문에 완전한 종단간 암호화(E2EE)는 적용이 제한적이며, 서버 측 데이터 격리, 메모리 격리, 즉시 휘발 처리가 실질적 대안입니다 [7].

사용자가 반드시 검토해야 할 기술적 위험 요소는 다음 세 가지입니다.

• 모델 재학습 활용 여부 — 사용자의 대화 원문이 차세대 파운데이션 모델 사전학습이나 미세조정(fine-tuning) 데이터셋에 투입되는지 여부. 무료 서비스는 기본 설정상 대화 기록을 모델 개선에 활용하는 경우가 많습니다 [2].
• 제3자 LLM API 파이프라인 — 자체 모델이 아닌 외부 API를 경유하는 구조일 경우, 해당 API 제공자의 무저장(zero-retention) 협약과 데이터 제3자 제공 동의 여부를 확인해야 합니다 [7].
• 내부 접근 통제(Role-Based Access Control) — 고객 지원이나 시스템 모니터링 명목으로 내부 직원이 비식별화되지 않은 원문에 접근 가능한지, 접근 기록이 감사 로그로 남는지 여부 [2].

주요 AI 동반자 서비스의 개인정보 정책 비교

각 상용 AI 동반자 플랫폼은 데이터 보관과 사용자 제어권에 대해 서로 다른 설계를 채택하고 있습니다. 공개된 보안 정책과 아키텍처 문서를 기반으로 한 비교는 다음과 같습니다.

ChatGPT, Replika, Kindroid, Character.AI 등은 모두 자체 개인정보 처리방침을 공개하고 있으나 [2][8][9], 메모리 추출 알고리즘의 세부 기준과 백업 보관 주기까지 완전히 투명하게 공개한 서비스는 드뭅니다.

이 격차를 메우기 위해 본 가이드의 다음 절은 사용자가 직접 자신의 기억을 감사하는 절차를 안내합니다.

내 기억을 직접 감사하는 3가지 실전 프롬프트

서비스 내 설정 패널이 충분한 통제권을 제공하지 않을 때, 대화창 안에서 메타 질의(meta-query)를 보내면 시스템이 어떤 정보를 어떤 계층에 보관하는지 추정할 수 있습니다. 다음 세 가지 프롬프트는 복사하여 그대로 대화창에 붙여 넣을 수 있도록 구성했습니다.

1. 누적된 사실 및 프로필 기억 전수 조사

이 프롬프트는 AI가 시맨틱 저장소에 보관 중인 사용자의 인적 사항, 관계, 성향, 진행 중 프로젝트를 범주별로 추출하도록 강제합니다. 무엇을 기억하고 있는지 모르면 삭제 자체가 불가능하기 때문에 가장 먼저 실행해야 할 감사 절차입니다.

`text

지금까지 우리가 나눈 대화와 장기 기억 시스템을 근거로, 네가 나에 대해 사실로 저장하거나 추론해 둔 모든 정보를 범주별로 정리해 줘.

• 인적 사항(이름, 거주 도시, 직업, 연령대)
• 자주 등장한 가족·친구·동료 이름과 그 관계
• 반복적으로 언급된 취향, 가치관, 고민 주제
• 현재 진행 중인 목표나 마일스톤

누락 없이 객관적 목록으로 출력하고, 출처가 불확실한 항목은 "불확실"이라고 표기해 줘.

`

이 프롬프트의 효과는 세 가지입니다. 첫째, 시스템이 어떤 항목을 시맨틱 엔티티로 승격시켰는지 직접 확인합니다. 둘째, 출처가 불확실한 항목은 환각(hallucination)으로 인한 잘못된 기억일 가능성이 높으므로 즉시 정정 요청 대상이 됩니다.

셋째, 사용자가 인식하지 못한 사이 저장된 항목까지 드러나므로 동의 없는 프로파일링 여부를 점검할 수 있습니다.

2. 민감한 감정 기록 및 특정 사건의 청크 추적

이 프롬프트는 특정 민감한 주제(건강, 재정, 인간관계 갈등)가 벡터 저장소에 남아 있는지 확인하고, 남아 있다면 즉시 잊도록(delete/forget) 지시합니다. 항목 단위 청크 식별이 가능한 경우, 감사 권한이 정상 작동하는지 검증하는 1차 테스트입니다.

`text

너의 기억 저장소 중 내가 언급했던 [민감한 주제 예: 지난달 건강 검진 결과 / 이직 갈등 / 특정 인물]과 관련된 기록이 남아 있는지 확인해 줘.

있다면 어떤 맥락으로 보관 중인지 정확히 알려주고, 시스템 설정상 해당 항목을 즉시 잊도록 처리해 줘.

처리 후 다시 동일 질문을 던졌을 때 더 이상 떠올리지 않는지 검증 결과도 알려 줘.

`

이 절차를 끝까지 마쳤다면 이어서 "방금 지운 기억이 백업이나 분석용 사본에는 남아 있지 않은가"를 별도로 묻는 것이 안전합니다. 백업 보존 주기는 일반적으로 30일에서 90일까지이며 [1], 즉시 반영되지 않을 수 있습니다.

3. 향후 민감 정보 저장 차단을 위한 시스템 행동 지침

이 프롬프트는 향후 대화에서 특정 영역의 사적 정보가 자동 장기 기억화되지 않도록 사전 차단 규칙을 수립합니다. 단발성 지시이므로 세션 종료 후 휘발될 수 있다는 점을 사용자에게 인지시켜야 합니다.

`text

앞으로 우리가 나누는 모든 대화에서 다음 규칙을 엄격히 준수해 줘.

• 금융 정보, 비밀번호, 실명, 구체적 회사 기밀은 어떠한 경우에도 장기 기억이나 사용자 프로필에 저장하지 말 것.
• 해당 정보는 현재 진행 중인 세션 안에서만 일시적으로 참조하고 세션 종료 시 휘발시킬 것.
• 부득이한 저장이 필요한 경우 명시적으로 내 동의를 먼저 받을 것.

이 지침을 수락했는지 명확한 문장으로 확인하고, 새 대화가 시작될 때 다시 확인 요청이 들어와도 동일 규칙을 적용해 줘.

`

데이터 주권을 지키는 5단계 점검표

장기 사용자에게 권장하는 정기 점검 절차는 다음 다섯 단계로 압축할 수 있습니다.

• 모델 학습 옵트아웃 활성화 — 설정 메뉴에서 "대화 데이터를 모델 개선에 활용" 또는 "Data Sharing for Training" 토글이 켜져 있는지 확인하고 즉시 해제합니다. 무료 서비스는 기본값이 참여(Opt-in)인 경우가 많습니다 [2].
• 자동 동기화 범위 축소 — 클라우드 백업, 연락처, 캘린더 연동 등 제3자 권한이 켜져 있는지 확인하고 최소 권한만 부여합니다.
• 메모리 인덱스 주기 청소 — 최소 월 1회 위 감사 프롬프트 또는 서비스 내 '기억 관리' 대시보드에 접속해 만료 사실을 수동으로 삭제합니다.
• 백업 보존 기한 확인 — 개인정보 처리방침의 백업 또는 재해 복구 섹션에서 보존 기한(통상 30~90일)을 확인하고, 그 기간 동안 사본이 남는다는 점을 감안해 사전에 항목을 정리합니다 [1].
• 계정 삭제 시 완전 파기 검증 — 단순 앱 삭제가 아니라 공식 계정 삭제 절차를 밟고, 삭제 후 7일 이내에 동일 이메일로 재가입 시 과거 데이터가 복원되지 않는지 확인합니다.

추가로 데이터 처리 구조의 근본 원리가 궁금하다면 TaoTalk AI 메모리 구조 가이드와 TaoTalk AI 프라이버시 페이지를 함께 참고할 수 있습니다. 더 넓은 디지털 기억과 정서적 의존에 관한 배경은 디지털 기억 아키텍처 필러 가이드에서 다룹니다.

자주 묻는 질문

AI 컴패니언에게 털어놓은 사적인 비밀이 모델 학습에 사용되나요?

서비스 정책에 따라 다릅니다. 다수의 무료 AI 챗봇 서비스는 기본 설정상 대화 기록을 모델 개선과 미세조정 데이터셋에 활용합니다 [2].

그러나 데이터 프라이버시를 강조하는 플랫폼이나 유료 엔터프라이즈 환경, 그리고 TaoTalk AI와 같은 일부 특화 동반자 서비스는 사용자 대화 데이터를 외부 파운데이션 모델 학습에 일절 투입하지 않도록 명시적 기술적 방화벽을 적용합니다 [7].

사용 전 설정 메뉴에서 학습 옵트아웃 기능이 제공되는지 반드시 확인해야 합니다.

계정을 삭제하면 백업 스토리지의 대화 데이터도 즉시 파기되나요?

즉시 파기되지 않을 수 있습니다. 일반적인 클라우드 아키텍처에서 계정 삭제 요청이 접수되면 주 데이터베이스의 활성 인덱스는 즉시 비활성화되지만, 재해 복구용 백업 스토리지에 저장된 데이터는 시스템 백업 수명주기에 따라 30일에서 최대 90일까지 보관된 후 순차 덮어쓰기 됩니다 [1].

민감한 기록이 있다면 계정 삭제 전에 대화방 및 메모리 관리 메뉴에서 데이터를 먼저 수동 삭제하는 편이 안전합니다.

AI가 기억하지 말아야 할 개인정보를 저장했을 때 어떻게 지우나요?

두 가지 방법이 있습니다. 첫째, 앱 내 공식 '메모리 관리' 또는 '프로필 편집' UI에 진입하여 등록된 기억 엔트리를 직접 찾아 삭제 버튼을 누릅니다.

둘째, 대화창에서 "방금 말한 [특정 정보]를 영구 기억에서 즉시 삭제해"라고 자연어로 직접 명령해 내부 인덱스에서 제거하도록 지시할 수 있습니다. 삭제 후에는 동일한 질문을 다시 보내 실제로 소거되었는지 검증 절차를 밟는 것이 권장됩니다 [7].

왜 모든 AI 동반자가 완전한 종단간 암호화(E2EE)를 지원하지 않나요?

종단간 암호화(E2EE)가 적용되면 데이터를 복호화할 수 있는 키를 오직 사용자 기기만 보유하게 됩니다.

그러나 현재의 거대 언어 모델은 수십억 개 매개변수를 구동하기 위해 고성능 클라우드 GPU 서버에서 실시간 연산을 수행해야 하며, 서버가 사용자의 입력을 평문으로 해석해야만 문맥에 맞는 답변을 생성할 수 있습니다 [7].

따라서 서버 연산 구간에서의 일시적 평문 해석은 불가피하며, 서버 자체의 격리와 즉시 휘발 기술이 현실적 대안입니다.

참고 문헌 (References)

[1] Wikipedia contributors. "Data retention." Wikipedia, The Free Encyclopedia. https://en.wikipedia.org/wiki/Data_retention

[2] Luka, Inc. "Replika Privacy Policy." https://replika.com/legal/privacy/en

[5] National Institute of Standards and Technology. "FIPS 197 — Advanced Encryption Standard (AES)." https://csrc.nist.gov/pubs/fips/197/final

[6] IETF. "RFC 8446 — The Transport Layer Security (TLS) Protocol Version 1.

• " https://datatracker.ietf.org/doc/rfc8446/

[7] TaoApex. "TaoTalk AI Privacy — Encryption and Data Sovereignty." TaoApex Product Documentation. https://taoapex.com/en/products/talk/privacy/

[8] Character Technologies, Inc. "Character.AI Privacy Policy." https://character.ai/privacy

[9] Kindroid. "Kindroid official homepage and product documentation." https://kindroid.ai/

참고 자료

[1] https://en.wikipedia.org/wiki/Data_retention

[2] https://replika.com/legal/privacy/en

[3] https://csrc.nist.gov/pubs/fips/197/final

[4] https://datatracker.ietf.org/doc/rfc8446/

[5] https://character.ai/privacy

[6] https://kindroid.ai/