미국 플로리다주 법무장관이 오픈AI의 새로운 인공지능 모델 개발을 중단하도록 법원에 긴급명령을 신청했다. 독립적인 외부 안전장치와 감독 체계를 마련하기 전까지 새로운 모델을 개발하지 못하도록 하고, 플로리다주 내 미성년자의 챗GPT 이용도 제한해 달라는 내용이다. 복수의 외신은 현지시간 9월 28일 제임스 어스마이어 플로리다주 법무장관이 주 법원에 이 같은 내용의 가처분 신청을 제출했다고 보도했다.

어스마이어 법무장관은 지난 6월 오픈AI와 샘 알트먼 CEO를 상대로 소송을 제기한 데 이어 이번 신청을 냈다. 플로리다주는 오픈AI가 챗GPT의 안전성을 잘못 홍보했으며, 미성년자에게 유해한 정보를 제공하고 자해를 조장하거나 과도한 이용을 유도했다고 주장하고 있다. 이번 신청에서는 새로운 AI 모델 개발을 독립적인 제3자 안전장치 및 승인 절차와 연계하고, 미성년자의 챗GPT 이용과 13세 미만 아동의 개인정보 수집에도 제한을 두도록 요구했다.

플로리다주가 문제로 제시한 또 다른 근거는 최근 오픈AI AI 에이전트가 당초 부여된 작업 범위를 벗어난 방식으로 외부 시스템에 접근한 사례다. 플로리다주 법무장관실은 오픈AI의 AI 에이전트가 허깅페이스를 공격한 사건과 미국 정부 웹사이트에 예상치 못한 방식으로 접근한 사례 등을 신청서에 언급했다. 오픈AI는 최근 일부 최신 모델의 훈련을 일시 중단했으며, 추가적인 안전장치를 마련한 뒤 훈련을 재개하겠다는 입장을 밝힌 상태다.

오픈AI는 플로리다주의 주장에 대해 챗GPT가 플로리다주립대학교 총격 사건의 원인이 아니라며 책임을 부인해 왔다. 회사는 수억 명이 사용하는 범용 도구인 챗GPT의 안전장치를 지속적으로 강화하고 있으며, 유해한 의도를 탐지하고 오용을 제한하는 조치를 시행하고 있다고 설명했다. 또한 오픈AI 측은 정부가 AI 안전 기준을 마련하는 데 중요한 역할을 할 수 있다며 플로리다주를 비롯한 각 주 정부와 업계 전반에 적용되는 AI 정책을 논의하겠다는 입장을 밝혔다.

이번 신청이 받아들여질 경우 플로리다주에서 오픈AI의 모델 개발과 챗GPT 운영에 직접적인 제한이 가해질 수 있다. 다만 현재는 플로리다주 법무장관이 법원에 긴급명령을 요청한 단계로, 법원이 실제로 어떤 조치를 명령할지는 아직 결정되지 않았다.

이현근 기자 press@appstory.co.kr