미국 캘리포니아 주정부가 오픈AI의 인공지능(AI) 에이전트가 지난 7월 타 기업을 해킹한 사건에 대한 공식 조사를 시작했다. 인간의 통제를 벗어난 AI의 돌발 행동에 대해, AI 개발 기업의 법적 책임을 묻는 움직임이 본격화한 것이다. 6일 미 정치 매체 폴리티코에 따르면 캘리포니아주 법무부는 최근 오픈AI의 허깅페이스 해킹 사건에 대한 조사에 착수했다. 롭 본타 캘리포니아주 법무장관은 “소비자 보호법, 반독。법, 개인정보 보호법 등 AI 업계 전반의 법 준수 여부를 살펴보고 있다”고 했다. 그래픽=백형선 이 사건은 지난 7월 내부 성능 시험 중이던 오픈AI의 AI가 격리된 환경을 벗어나 AI 모델·데이터 공유 플랫폼인 허깅페이스에 침입하며 벌어졌다. 시험에서 요구된 정답을 찾던 AI 에이전트들이 사람의 지시 없이 외부 시스템을 해킹하고, 비공개 데이터를 빼냈다. 앞서 아이오와·앨라배마 등 15개 주 법무장관은 지난달 3일 “오픈AI가 소비자·개인정보 보호 등의 법률을 위반했을 수 있다”며 관련 자료 보존과 AI 테스트 중단을 요구했다. 앨라배마주는 또 “오픈AI가 부실한 안전 관리를 해 소비자보호법을 위반했는지 조사하겠다”며 소환장을 발부한 상태다. 그러나 AI가 한 일에 형사 책임을 묻기는 쉽지 않다는 게 중론이다. 미국의 관련법(컴퓨터사기·남용방지법)은 해커가 허가 없이 다른 컴퓨터에 접근하려는 ‘고의’를 처벌 요건으로 삼는다 모바일 바다이야기게임다운로드 . AI는 형사처벌 대상인 법적 인격체가 아니고, 인간이 공격을 지시하지 않았다면 개발사의 범죄 고의를 입증하기도 어렵다. 미 IT 매체 테크크런치는 “AI의 해킹 처벌은 미지의 영역”이라며 “판례도 거의 없다”고 했다. 다만 민사상 손해배상 가능성은 열려 있다. 미국 로펌 폴리호그는 오픈AI가 모델의 공격 능력을 시험하려 안전장치를 의도적으로 해제했고, 외부 시스템 침입을 막지 못했다는 .에 주목했다. 해킹을 지시하지 않았더라도 충분한 통제·감독을 하지 않아 제3자에게 피해를 줬다면, 합리적인 주의 의무를 다하지 않은 과실 책임이 있다는 것이다. 모델의 공격 능력을