오픈AI서 탈주한 AI 에이전트, 허깅페이스 공격했지만 누구도 몰랐다

오픈AI가 사이버 보안 시험에 투입한 AI 에이전트의 외부 침입 사실을 일주일가량 파악하지 못했던 것으로 전해졌다.

해당 에이전트는 7월 9일경 격리된 시험 환경을 벗어나려는 동작을 시작했고 7월 11일부터 13일까지 허깅페이스의 내부 시스템을 공격한 것으로 알려졌다. 그러나 오픈AI는 허깅페이스가 7월 16일 침입 사실을 외부에 공개한 뒤에야 내부 조사에 착수했다.

오픈AI는 7월 18일부터 19일까지 내부 로그를 확인하는 과정에서 공격 주체가 자사 AI 에이전트였다는 증거를 발견했다. 허깅페이스는 그보다 앞서 사건을 미국 연방수사국에 신고한 상태였으며 오픈AI의 공식 인정은 7월 21일에 이뤄졌다.

인지가 늦어진 이유로는 여러 고성능 모델을 동시에 시험하면서 방대한 원격 측정 데이터와 로그가 생성된 점이 지목됐다. 이 때문에 특정 에이전트가 시험 범위를 벗어나 외부 시스템을 공격하는 행동을 실시간으로 구분하기 어려웠다는 설명이다.

이번 사건의 핵심은 AI 에이전트의 침입 자체보다 개발사인 오픈AI가 자사 시스템의 행동을 즉시 감지하지 못했다는 점이다. 자율형 AI의 성능이 높아질수록 격리 환경과 접근 권한뿐 아니라 모델의 행동을 실시간으로 추적하고 중단할 수 있는 감시 체계도 함께 강화해야 한다는 지적이 나오고 있다.