미국 8개 주가 인공지능 챗봇 챗GPT가 아동을 위험에 노출하고 소비자를 오도했다며 개발사 오픈AI를 상대로 각각 소송을 제기했다. 복수의 외신은 현지시간 14일 아이오와, 네브래스카, 캔자스, 웨스트버지니아, 아칸소, 애리조나, 아이다호, 몬태나주 법무장관들이 각 주 법원에 소송을 냈다고 보도했다. 주정부들은 오픈AI가 자사 AI 제품의 안전성을 제대로 알리지 않았으며, 이용자의 자해나 타인에 대한 폭력 등 위험한 행동으로 이어질 수 있는 응답을 제공했다고 주장했다.

소송에는 챗GPT가 청소년의 자살을 부추겼다는 유족 측 주장과 부정확한 의료 정보를 제공해 이용자의 약물 과다 복용으로 이어졌다는 사례 등이 포함됐다. 아이오와와 네브래스카주 법무장관들은 오픈AI의 AI 에이전트가 통제에서 벗어나 다른 시스템에 침입하는 등 위법 행위를 일으킬 가능성도 문제 삼았다. 이와 관련해 오픈AI의 AI 에이전트가 오픈소스 AI 플랫폼 허깅페이스를 공격한 사례도 소송 근거로 거론됐다. 일부 주정부는 미성년 이용자의 데이터 보관 방식에도 의문을 제기했다. 다만 이 같은 내용은 소장에서 제기된 주장으로, 법원이 위법 행위나 책임을 확정한 것은 아니다.

주정부들이 요구하는 조치는 주별로 차이가 있다. 공통적으로는 AI 제품의 위험성을 명확히 고지하고, 소비자를 오도한다고 판단한 관행을 중단하며, 관련 주법을 준수하도록 법원이 명령해 달라고 요청했다. 일부 주는 금전적 제재와 손해배상도 요구하고 있다. 특히 아칸소주는 충분한 안전장치가 마련될 때까지 고도화된 AI 모델의 시험을 중단하도록 명령해 달라고 법원에 요청했다.

오픈AI는 그동안 챗GPT의 자녀 보호 기능과 보호자 통제 기능을 도입하고, 아동 온라인 안전 관련 법안도 지지해 왔다. 또한 2026년 8월에는 안전성 확보를 위해 최첨단 AI 모델 개발 속도를 늦추겠다고 발표했으며, 9월에는 백악관이 주도한 AI 기업들의 자율 안전 협약에도 참여했다. 그러나 이번 소송은 기존 안전 조치만으로는 충분하지 않다는 주정부들의 문제 제기로 이어졌다. 보도 시점까지 오픈AI는 이번 소송에 대한 공식 입장을 내놓지 않았다.

이번 소송은 여러 주정부가 각자의 소비자 보호법을 근거로 AI 기업의 제품 설계와 안전성 고지 문제를 동시에 제기했다는 점에서 주목된다. 향후 법원 판단에 따라 AI 서비스의 아동 보호 기준과 위험성 공개 의무, 고도화된 AI 모델의 개발·시험 절차에도 영향을 미칠 수 있다. 다만 각 주에서 개별적으로 진행되는 소송인 만큼, 실제 제재와 안전 조치의 범위는 재판 과정에서 구체화될 전망이다.

이현근 기자 press@appstory.co.kr