AI 에이전트가 데이터를 유출하면 누가 책임을 지는가? 2026년 법적 현실

지난 10년간 조직들이 AI에 대해 던졌던 질문은 대체로 운영에 관한 것이었습니다: *이 도구가 우리를 위해 무엇을 할 수 있는가?* 2026년에는 이에 못지않게 중요하지만 훨씬 불편한 두 번째 질문이 등장했습니다: *우리 AI가 회사 데이터로 잘못을 저지르면 누가 책임을 지는가?*

법정과 규제 당국에서 나오고 있는 짧은 답변은 대부분의 팀이 가정하는 것과 다릅니다. 점점 더 많은 경우, 책임을 지는 쪽은 AI를 만든 벤더뿐만 아니라 이를 도입한 기업입니다.

이 글에서는 무엇이 달라졌는지 평이한 언어로 살펴보고, 실질적인 대응 방안이 어떤 모습인지 알아보겠습니다. 이 글은 교육 목적이며 법률 자문이 아닙니다. 귀하의 상황에 맞는 조언이 필요하시면 자체 법률 고문과 상담하시기 바랍니다.

예전의 가정: "그건 벤더의 문제다"

직관적인 사고 모델은 AI 제품을 구매했는데 그것이 잘못 작동하면 제조사가 책임을 진다는 것입니다. 그러나 이 가정은 두 방향에서 동시에 도전받고 있습니다.

첫째, 법원은 AI 시스템을 이를 사용하는 기업의 에이전트(대리인)로 취급하기 시작했습니다. 이는 오랫동안 법이 회사를 대신해 행동하는 직원 및 계약자를 다뤄온 방식과 정확히 같습니다. 둘째, AI 벤더와 체결하는 계약은 점점 더 그들의 책임을 제한하고 귀하에게 면책을 요구하는 방향으로 가고 있습니다. 이 조합은 때로 *책임 압박(liability squeeze)*이라 불립니다. 즉, 책임 범위는 도입 기업 쪽으로 넓어지는 반면, 계약상 위험은 고객에게 다시 전가되는 것입니다.

실질적인 결과는 AI를 도입한 조직이 자신이 설계하지도, 완전히 검사할 수도 없는 행동에 대해 책임을 지게 될 수 있다는 것입니다. 이는 불편한 위치이며, 바로 이 때문에 입증 가능한 거버넌스가 좋은 관행에서 진정한 필수 요건으로 옮겨간 것입니다.

실제 판례가 말하는 것

여기서는 정확성이 중요합니다. AI가 하는 모든 일에 대해 기업이 항상 책임을 진다고 선언한 단일 판결은 없습니다. 최근의 동향이 확립한 것은 더 좁지만 더 지속적인 사실입니다: 도입 기업도 책임을 질 수 있으며, 흔히 쓰이는 회피 수단들은 사람들이 생각하는 것보다 약하다는 것입니다.

Mobley v. Workday (미국). 미국 연방법원은 AI 스크리닝 도구가 이를 사용하는 고용주들의 대리인으로 행동했다는 *에이전시 이론(agency theory)*에 따라 AI 벤더를 상대로 한 고용 차별 소송이 진행되도록 허용했습니다. 2025년 5월, 법원은 전국 단위 집단소송(collective action)의 조건부 인증을 승인했습니다. 여기서 중요한 것은 법적 논리입니다: AI 시스템이 대리인이 될 수 있다면, 이를 도입한 당사자들도 책임 소재의 일부가 됩니다.

OLG 함(Hamm) 고등법원 (독일). 독일의 한 고등지방법원은 AI 챗봇이 고객에게 하는 발언에 대해 누가 책임을 지는지를 다뤘습니다. 모든 도입 기업에게 의미 있는 결론은 이것입니다: "답변은 보증 없이 제공됩니다"라는 일반적인 면책 조항만으로는 귀하의 AI가 사람들에게 말한 내용에 대한 책임 문제가 해결되지 않는다는 것입니다.

EU AI Act 및 제조물 책임 지침(Product Liability Directive). EU AI Act의 고위험 의무 조항은 2026년과 2027년에 걸쳐 단계적으로 시행되며, 위반 시 최대 3,500만 유로 또는 전 세계 연간 매출의 7% 중 더 높은 금액의 벌금이 부과됩니다. 이와 별도로, 개정된 제조물 책임 지침은 소프트웨어와 AI 시스템을 "제품"으로 취급하여 엄격 책임(strict-liability) 원칙을 시장에 이를 공급하는 전체 사슬로 확대합니다. EU 회원국들은 2026년 12월까지 이를 국내법으로 전환해야 합니다.

미국 주(州) 규제. 콜로라도 AI법(Colorado AI Act, 2026년 발효), 뉴욕시의 지방법 144호(Local Law 144), 그리고 약 24개 주에서 채택된 NAIC 모델 공고(NAIC Model Bulletin)는 공시, 영향 평가, 편향 감사, 감사 대응이 가능한 의사결정 로그라는 공통된 기대치로 수렴하고 있습니다.

이 중 어느 것도 파국적인 판결은 아닙니다. 그러나 이들을 종합하면 오해의 여지가 없는 방향성이 드러나며, 그 방향은 도입 기업을 가리키고 있습니다.

면책 조항과 계약이 얇은 보호막인 이유

견고해 보이지만 점점 더 그렇지 않은 두 가지 방어 수단이 있습니다.

면책 조항은 사용자에게 AI에 의존하지 말라고 알립니다. 그러나 OLG 함 사건과 같은 판례에서 법원은 포괄적인 "보증 없음" 고지가 기업이 고객 앞에 내놓기로 선택한 AI에 대한 책임을 면제해주지 않는다는 점을 시사했습니다. 면책 조항은 기대치를 관리할 뿐, 그 자체로는 책임을 관리하지 않습니다.

벤더 계약은 금전적 책임의 소재를 이동시킬 수는 있지만, 외부 세계가 누구에게 책임을 묻는지는 바꾸지 못합니다. 규제 당국과 원고들은 시스템을 도입한 조직을 찾아와 이렇게 묻습니다: 이를 관리하기 위해 무엇을 했습니까? 실질적, 평판적 책임이 여전히 귀하에게 돌아온다면 면책 조항은 작은 위안일 뿐이며, 그것을 근거로 배상을 받는 과정은 느리고 다툼의 여지가 많을 수 있고, 그동안 헤드라인에는 아무 도움도 되지 않습니다.

섀도우 AI의 역할

이 모든 것을 더 어렵게 만드는 복잡한 요인이 있습니다. 대부분의 조직은 이미 자사 데이터에 접근하고 있는 AI를 완전히 파악하지 못하고 있습니다. 설문조사들은 일관되게 대다수의 직원이 IT 승인 없이 AI 도구를 사용하고 있으며, 일반적인 OAuth 권한 부여를 통해 연결된 *섀도우 AI(shadow AI)* — 승인되지 않은 도구 — 가 침해 비용을 실질적으로 높인다는 사실을 보여줍니다. 존재하는지도 몰랐던 통합에 대해서는 이를 거버넌스할 수도, 거버넌스했다는 것을 증명할 수도 없습니다. 이러한 숨겨진 노출 영역을 발견하는 것이 보통 방어 가능한 입장을 갖추기 위한 첫 번째 실질적 단계입니다. 발견 측면에 대해서는 2026년 AI 거버넌스 감사 가이드에서 더 자세히 다루고 있습니다.

결과를 실제로 결정짓는 질문

세부 사항을 걷어내면, 규제 당국이든 감사관이든 고객사의 보안팀이든 상대측 법률 고문이든, 대부분의 AI 책임 시나리오는 하나의 질문으로 귀결됩니다:

귀하는 자사 데이터에 대한 AI의 접근을 관리(governed)했다는 것을 증명할 수 있습니까?

여기서 핵심은 *증명한다(prove)*는 단어입니다. AI 사용이 관리되고 있다고 명시한 정책 문서는 필요하지만 충분하지 않습니다. 중요한 것은 증거입니다. 무엇을 볼 수 있었는지, 무엇을 통제했는지, 그리고 뭔가 잘못되어 보였을 때 어떻게 대응했는지에 대한 기록입니다. 이것이 주의 의무(diligence)를 주장하는 것과 입증하는 것의 차이입니다.

실무에서 "입증 가능한 거버넌스"의 모습

Google Workspace와 같은 플랫폼에 연결된 AI 어시스턴트와 에이전트를 사용하는 기업의 경우, 입증 가능한 거버넌스에는 몇 가지 구체적인 구성 요소가 있습니다:

• 가시성(Visibility). 귀하의 데이터에 접근할 수 있는 모든 AI 에이전트, 서비스 계정, 서드파티 앱에 대한 최신 인벤토리. 본 적도 없는 것은 관리할 수도, 관리했다고 증명할 수도 없습니다.
• 통제(Control). 단순히 관찰만 하는 대시보드가 아니라, 위험한 접근에 실제로 작용하는 문서화된 결정과 규칙. 거버넌스는 동사입니다.
• 증거(Evidence). 시간 경과에 따른 접근 결정 및 변경 사항에 대한 변경 불가능하고 내보낼 수 있는(export 가능한) 로그, 그리고 인식된 통제 프레임워크에 매핑되어 감사관과 검토자가 실제로 요청하는 문서를 생성할 수 있는 능력.
• 대응(Response). AI 관련 위험을 탐지하고 그에 대해 조치를 취했음을 보여주는 기록. 주의 의무는 스냅샷이 아니라 타임라인입니다.

바로 이 역할을 수행하도록 만들어진 것이 8200.dev입니다. 이는 귀하의 Google Workspace에 읽기 전용으로 연결되어, 데이터에 접근할 수 있는 모든 AI 에이전트와 OAuth 권한 부여를 인벤토리화하고, 위험도를 점수화하며, 거버넌스를 시행할 수 있게 하고, 귀하의 주의 의무를 뒷받침하는 감사 대응이 가능한 증거를 생성합니다. 이는 증명 계층이자 기록 시스템(system of record)이지, 법적 방패나 어떤 규정 준수 결과에 대한 보장이 아닙니다. 이것이 귀하에게 제공하는 것은 희망이 아닌 증거로 그 하나의 질문에 답할 수 있는 능력입니다. 전체 기능 목록은 기능 페이지에서 확인하실 수 있습니다.

시작하는 방법

첫걸음을 떼기 위해 거버넌스 프로그램이 필요한 것은 아닙니다. 이미 존재하는 것을 확인하기만 하면 됩니다.

가장 유용한 첫 번째 움직임은 단순히 오늘날 어떤 AI 에이전트와 서드파티 앱이 귀하의 Workspace 데이터에 접근할 수 있는지, 그리고 각각이 무엇에 접근할 수 있는지를 파악하는 것입니다. 그 하나의 산출물 — 명확하고 날짜가 기록된 인벤토리 — 은 운영상의 각성 계기이자 증거 흔적의 시작입니다. 어떤 AI 에이전트가 귀하의 데이터에 접근할 수 있는지 무료로 확인하실 수 있으며, 이 더 큰 흐름에 대해서는 저희의 AI 책임 개요에서 더 읽어보실 수 있습니다.

*이 글은 일반적인 정보 제공만을 목적으로 하며 법률 자문이 아닙니다. 법적 결과는 구체적인 사실관계와 관할권에 따라 달라집니다. 귀하의 의무에 관해서는 자체 법률 고문과 상담하시기 바랍니다.*