챗봇은 비밀 일기장이 아니다, Claude 대화가 경찰에 넘어간 플로리다 사건이 남기는 질문

TL;DR

• 플로리다주 보니타스프링스의 30세 여성이 Claude에 쓴 글이 안전 시스템에 걸려 사람 검토자에게 넘어갔고, 검토자가 신빙성 있는 위협이라 판단해 수사기관에 신고했다. 그녀는 서면 폭력 위협 혐의로 입건됐다.
• 보도에 따르면 체포 보고서에는 9월 26일 새벽과 이튿날 새벽 두 번의 글이 기록돼 있다. 본인은 Claude를 일기처럼 쓴다고 말한 것으로 전해진다.
• 핵심 쟁점은 AI 챗봇이 비공개 일기장이 아니라는 점이다. Anthropic은 사망이나 중대한 신체 피해를 막기 위해 필요하다고 믿을 때 제한적으로 정보를 공유할 수 있다고 밝혀 왔다고 기사는 전한다.
• 입건은 유죄가 아니다. 지역 법률 분석가는 이런 위협을 법정에서 입증하기가 쉽지 않다고 말했고 표현의 자유 문제도 거론됐다.
• 이 노트는 원문 기사와 지역 방송 보도만 대조했고, 체포 보고서나 Anthropic의 공식 입장은 직접 확인하지 못했다.

무엇이 보도되었나

TechSpot은 10월 4일자 기사에서 Carli Michelle Heller가 Claude를 일기처럼 쓰다가 보안관 사무소를 공격하겠다는 취지의 글을 남겼고 안전 시스템이 이를 표시해 사람 검토자에게 올렸으며 검토자가 신빙성 있는 위협이라 판단해 수사기관에 알렸다고 전한다. 기사는 체포 보고서를 근거로 든다. 글이 작성된 날은 9월 26일이고 그녀는 나중에 자신이 챗봇을 일기처럼 쓴다고 말했다고 한다.

지역 방송 WBBH(Gulf Coast News)의 10월 2일자 보도가 세부를 더한다. 체포 보고서에는 9월 26일 오전 5시 10분경의 글과 이튿날 오전 1시 7분경의 두 번째 글이 기록돼 있고 두 번째 글에는 새 총을 샀다는 취지의 내용이 들어 있다고 한다. 수사관들이 그녀의 집을 찾아갔고 그녀는 저항 없이 구금되었으며 정보 담당 형사가 수사를 이어받았다. 혐의는 서면 폭력 위협이다. 기사의 표현은 글이 플랫폼에 의해 자동으로 표시되어 사람 검토팀에 넘어갔고 그 팀이 수사기관에 알렸다는 것으로, TechSpot과 결이 같다.

법적 틀과 입건의 의미

TechSpot은 플로리다 주법 836.10이 다른 사람이 볼 수 있는 방식으로 사람을 죽이거나 다치게 하겠다는 글이나 전자 기록, 또는 총기 난사와 테러를 예고하는 글을 보내거나 게시하거나 전송하는 것을 2급 중범죄로 규정한다고 설명한다. 이 조문의 세부는 기사 내용이며 이 노트에서 법령 원문을 확인하지는 않았다.

여기서 생기는 법적 질문은 기사도 암시한다. 조문은 다른 사람이 볼 수 있는 방식을 요건으로 한다고 하는데, 본인만 보는 일기처럼 쓴 글이 이에 해당하느냐는 문제다. WBBH가 인용한 법률 분석가 Michael Raheb는 검찰이 개인에 대한 폭력 행위를 보여 주는 직접 위협이라는 이론을 쓸 수 있겠지만 쉽지 않을 것이라고 말했고 표현의 자유와 위협의 경계라는 미끄러운 비탈을 언급했다. 입건은 유죄 판단이 아니며 재판 결과는 알려지지 않았다.

프라이버시와 책임의 긴장

기사의 결론은 AI 챗봇에 쓴 말을 조심하라는 것이다. 챗봇은 내용을 나만 보는 일기장이 아니라는 지적이다. TechSpot에 따르면 Anthropic은 사망이나 심각한 신체 피해를 막기 위해 공개가 필요하다고 믿을 때 제한적인 응급 상황에서 사용자 정보를 공유할 수 있다고 밝혀 왔다. 이 노트는 Anthropic의 정책 문구를 직접 확인하지 않았고 이번 사건에서 회사가 어떤 기준으로 판단했는지도 공개된 자료로는 알 수 없다.

반대편의 논거도 같은 보도에 들어 있다. 플로리다 걸프코스트대학의 AI 윤리 조교수 Chrissann Ruehle는 기술 개발자가 가드레일을 만들고 해로운 응용이 나오면 이를 알릴 책임이 있다고 말했다. 보안관 Carmine Marceno는 AI를 쓸 때 결코 완전히 익명이 아니라는 점을 알아야 한다고 경고했다. TechSpot은 지난달 보도를 인용해, 캐나다 브리티시컬럼비아주가 대량 총격을 막을 수 있었다며 OpenAI와 Sam Altman을 고소했다고 전한다. 이 소송은 가해자가 이전에 OpenAI 안전팀에 의해 폭력에 관한 대화로 표시됐지만 법적 신고 기준에 못 미쳐 경찰에 알리지 않았다는 사실에 기댄다. 플로리다주도 6월 ChatGPT가 2025년 플로리다주립대 총격을 포함한 실제 피해에 영향을 주었다며 OpenAI를 고소했다고 한다.

이 맥락에서 보면 사건은 두 방향의 압력 사이에 있다. 신고하지 않으면 사후에 책임을 묻는 소송이 뒤따르고 신고하면 사적인 대화가 수사기관으로 넘어간다는 비판이 따른다. 어느 선에서 신고할지는 회사가 정하는 기준에 달려 있고 그 기준은 사용자가 알기 어렵다는 점이 긴장의 핵심이다.

읽을 때 유의할 점

이 글은 이슈 보도이며 몇 가지를 알 수 없다. Heller가 실제로 어떤 맥락에서 글을 썼는지, 유죄인지, 사람 검토자가 어떤 기준으로 신빙성을 판단했는지는 기사에 없다. 기사는 입건된 사람의 이름과 거주지를 밝히고 있는데, 이 노트에서는 보도된 사실만 전하며 판단은 피한다. 또한 TechSpot 기사가 첨부한 원출처인 지역 매체 SWFL.io는 접속이 막혀 본문을 읽지 못했고 같은 사건을 다룬 다른 방송 보도로 대조했다.

사용자에게 남는 실용적 교훈은 분명하다. 챗봇 대화는 서비스 제공자의 안전 검토 대상이 될 수 있으므로, 사적인 글을 쓰기 전에 사용 약관의 안전 및 법 집행 조항과 데이터 보관 기간을 확인하는 편이 좋다. 그리고 조직이라면 직원이 업무 대화에서 고객 정보나 사내 정보를 입력하는 경우까지 같은 관점으로 점검해야 한다. 이 사건이 ‘일기’라는 사적 용도에서 일어났다는 점은, 사용 목적에 대한 사용자의 기대와 서비스의 실제 운영 방식 사이의 간극을 보여 준다.

참고 자료

Rob Thubron — Florida woman used Claude as a diary, then Anthropic reported an entry to police (TechSpot)

WBBH / Gulf Coast News — Bonita Springs woman accused of using AI to make violent threats against Lee County Sheriff’s Office — 체포 보고서 내용, 시각, 혐의, 법률 분석가와 보안관의 발언을 대조했다.