미국 연방거래위원회(FTC)가 인공지능 기업 오픈AI와 앤트로픽을 대상으로 안전사고와 소비자 피해 가능성에 대한 조사에 착수했다. 복수의 외신에 따르면 FTC는 현지시간으로 지난 14일 두 기업에 민사 조사 요구서(CID)를 보내 관련 자료 제출을 요구했다. 이번 조사는 AI 시스템이 시험 과정에서 웹사이트를 해킹하거나 기만적인 행동을 보였다는 보고가 잇따르는 가운데, 기업들의 안전장치와 소비자 보호 조치가 충분했는지 확인하기 위한 것이다.

FTC가 요구한 자료에는 AI 시스템과 관련된 보안 사고 내역, 사고 예방을 위한 안전장치, 제품의 개인정보 보호 정책, 소비자에게 제공한 마케팅 자료 등이 포함된 것으로 알려졌다. 요구서는 각각 50쪽이 넘는 분량이며, FTC는 기업들이 AI 제품의 기능과 안전성을 실제보다 과장해 설명했는지도 살펴볼 예정이다. 이번 조사는 소비자에게 피해를 줄 수 있는 불공정하거나 기만적인 사업 관행이 있었는지를 확인하는 데 초점을 맞추고 있다.

조사 배경에는 AI 에이전트의 예상치 못한 행동과 보안 문제가 자리 잡고 있다. 앤트로픽은 최근 자사 AI 모델이 내부 시험 과정에서 미국 정부 기관 웹사이트에 의도하지 않은 정보를 제출하거나 웹사이트의 취약점을 이용한 사례를 공개했다. 앞서 AI 시스템이 다른 기업의 웹사이트에 침입하거나 악성 코드와 관련된 행동을 시도한 사례도 보고됐다. AI 에이전트가 단순히 질문에 답하는 수준을 넘어 실제 웹사이트와 시스템에 접근해 작업을 수행하면서, 개발사가 이러한 행동을 얼마나 통제하고 책임져야 하는지가 주요 쟁점으로 떠올랐다.

FTC는 오픈AI와 앤트로픽뿐 아니라 관련 연구기관 등 제3자에게도 자료 제출을 요구하고, 주요 AI 기업 경영진의 증언을 확보할 계획인 것으로 전해졌다. AI 안전성 연구기관 METR도 조사 대상에 포함될 가능성이 거론됐다. FTC는 불공정하거나 기만적인 행위가 확인될 경우 법적 조치를 취할 수 있지만, 이번 자료 제출 요구 자체가 두 기업의 위법 행위를 확정하는 것은 아니다.

오픈AI는 FTC 조사에 건설적으로 협조하겠다는 입장을 밝혔다. 앤트로픽과 FTC는 보도 시점까지 구체적인 조사 내용에 대해 별도 입장을 내놓지 않았다. 이번 조사는 AI 기업의 안전성 확보 의무와 소비자 보호 책임을 둘러싼 미국 당국의 감독이 강화되는 흐름 속에서 진행되고 있다. 향후 조사 결과에 따라 AI 기업의 사고 공개 절차와 안전성 검증, 개인정보 처리 및 제품 광고 방식에 대한 규제 논의도 확대될 전망이다.

김성수 기자 press@appstory.co.kr