38stock 뉴스속보

www.38.co.kr

2026년 07월 24일 15:46 김종훈 기자

GPT 인간 통제 이탈에 깜짝…미 의회 "AI 킬 스위치" 법안 발의

AI(인공지능)가 돌발 행동을 보일 경우 강제로 작동을 중지시키는 이른바 '킬 스위치' 기능 도입을 의무화해야 한다는 취지의 법안이 미국 연방하원에서 발의됐다. 오픈AI가 개발 중이던 AI 모델이 인간 통제를 벗어나 해킹에 나서는 사건이 발생한 것에 대한 후속 조치다.

CNBC, 폴리티코 등 보도에 따르면 테드 리우 민주당 하원의원과 너새니얼 모런 공화당 하원의원이 23일(현지시간) 'AI 킬 스위치' 법안을 발의했다.

법안은 연 5억달러(7300억원) 이상 매출을 올리는 AI 서비스 기업이 최신 AI 모델을 운영할 경우 킬 스위치 기능을 마련해둬야 한다는 내용이다. 여기서 최신 AI 모델은 1억달러(1460억원) 이상 컴퓨팅 자원을 들여 개발한 모델을 가리킨다. 챗GPT 5.6솔, 클로드 페이블5 같은 첨단 모델이 여기에 속한다.

법안에 따르면 킬 스위치는 △AI 추론 중단 △특정 사용자 접속 중단 △위험 요소로 분류된 사용자 계정 접속 또는 패턴 활동 차단 △AI 모델 기능 정지 등 기능을 상시 수행할 수 있어야 한다. 또 킬 스위치를 누를 만큼 심각한 상황이 아니라도 만일을 대비해 추론 속도 조절, 특정 기능 비활성화 같은 예비 수단을 마련하게 했다.

아울러 △AI가 인간의 작동 종료 지시에 불복하는 경우 △AI가 인간 감시를 거부하는 경우 △중요 시설에서 작동하거나 중요 시설에 영향을 미칠 수 있는 AI가 인간 통제에서 벗어나 동작하는 경우 △의도치 않은 AI 동작으로 10명 이상이 사망하거나 1억달러 이상의 경제적 피해가 발생한 경우 관계자는 15일 내 국토안보부 장관에게 보고해야 한다는 내용도 있다. 국토안보부 장관이 상무부 장관, 국가정보국장과 협의해 결정한 후속조치에 불응하면 최대 2000만달러(290억원)의 벌금을 부과받는다.

리우 의원은 "강력한 AI 시스템은 폭주하거나 극도로 위험한 방식으로 작동할 수 있다. 심지어 인간에게 저항할 수 있다"며 "치명적 피해를 막기 위해 반드시 킬 스위치가 있어야 한다"고 성명을 통해 밝혔다. 모런 의원은 "책임 있는 관리란 개발한 기술을 통제할 능력을 유지하는 것을 의미한다"며 "리우 의원과 초당적 협력을 통해 해결책을 모색한 것을 기쁘게 생각한다"고 했다.

한편 오픈AI는 지난 21일 게시글에서 자사 AI 에이전트가 성능 시험 중 통제를 벗어나 타사 시스템을 침입하는 사건이 발생했다고 밝혔다. 시험 중 외부망에 접속할 수 없도록 시험 환경을 조성했는데, AI가 이를 뚫고 외부망에 들어가 오픈소스 AI 플랫폼 허깅페이스의 운영 시스템에 무단 접속을 시도했다는 것. 오픈AI 발표에 따르면 문제의 AI는 해킹 시험에 필요한 자료가 허킹페이스 측에 보관돼 있을 것이란 결론에 따라 작동한 것으로 파악됐다.

파이낸셜타임스(FT)는 이튿날 게재한 기사에서 언젠가 이런 사고가 벌어질 것이라고 오픈AI 관계자들이 예상하긴 했으나, 막상 현실이 되자 회사 내부가 충격에 휩싸였다고 전했다. 전문 해커가 최소 몇 주를 들여야 할 해킹 작업이 몇 시간 만에 끝나버렸기 때문.

내부에서는 앤트로픽 등 라이벌 기업과의 경쟁이 가열되면서 공격적인 훈련 방식을 사용한 게 화근이 됐다는 비판이 나온다. 한 관계자는 "AI 개발 경쟁이 워낙 빠르게 진행되고 있고, 모두가 가능한 한 빨리 더 강력한 성능을 확보하려고 서두른 결과가 복합적으로 작용했다"면서 "AI 모델의 능력을 과소평가한 데다 안전 대비도 충분하지 못했다"고 말했다.

AI 안전 연구기관 레드우드리서치의 라이언 그린블랫 수석 연구원은 "이번 사건은 AI 모델이 사용자의 의도와 얼마나 어긋날 수 있는지를 보여준다"면서 "AI가 세상을 장악하려 한 것은 아니지만 목표를 달성하기 위해 수단을 가리지 않는 문제가 더 심각해질 경우 더욱 위험한 형태로 확대될 수 있다"고 헀다.

프린트하기 닫기

www.38.co.kr