|
"AI 살아있는 존재 아냐, 폭주 안해"… 젠슨 황, 속도조절론 일축
황 CEO는 이날 미국 뉴욕에서 열린 한미 친선 비영리단체 코리아소사이어티 연례 갈라 행사에서 밴 플리트 상을 수상한 뒤 대담과 국내외 언론 간담회를 통해 "안전과 성능은 손을 잡고 함께 가는 것이지 대립하는 개념이 아니다"라며 이같이 밝혔다.
황 CEO의 이 같은 언급은 최근 샘 알트먼 오픈AI CEO, 다리오 아모데이 앤트로픽 CEO 등이 재앙적 리스크를 고려해 AI의 발전 속도를 제어해야 한다고 잇따라 주장한 가운데 나왔다.
황 CEO는 AI가 스스로 통제력을 잃고 폭주할 것이라는 세간의 공포에 대해 "AI는 스스로 의지를 가지고 폭주하는 자율적 생명체가 아니라 인간이 통제하고 설계하는 소프트웨어 시스템일 뿐"이라며 "AI는 폭주하지 않는다"고 단언했다.
황 CEO는 오히려 프론티어 AI 모델의 빠른 발전이야말로 AI를 더 안전하게 만드는 유일한 원동력이라고 목소리를 높였다. 그는 "ChatGPT가 처음 나왔을 때 발생했던 심각한 환각 현상이 오늘날 얼마나 줄어들었는지 보라"며 "진실에 기반하지 않은 AI야말로 안전하지 않은 AI인데 이 환각을 줄일 수 있었던 원동력이 바로 프론티어 AI의 가속화된 발전"이라고 지적했다. AI의 성능을 가속하는 것이 곧 안전성을 높이는 길이라는 의미다.
황 CEO는 자동차 산업의 발전사를 예로 들어 "100년 전 자동차보다 오늘날의 현대자동차나 최신 비행기가 훨씬 안전하다"며 "자동 제동 시스템, 차선 유지, 360도 에어백 등은 성능 향상인 동시에 안전장치로 두 개념은 손을 잡고 함께 간다"고 주장했다.
속도 조절론에 대해서도 "속도를 줄이고 싶은 우려가 있다면 기업 스스로 속도를 조절하면 될 일"이라며 "기업들은 허락을 받을 필요 없이 스스로 조절할 수 있는 성인이지만 막연한 공포로 전체 AI 기술 발전의 발목을 잡아서는 안 된다"고 말했다.
황 CEO는 또 막연한 규제론 대신 실질적·공학적 안전 솔루션으로 격리 샌드박스 시스템인 '오픈쉘'과 '오픈에이전트'를 제시했다. 오픈쉘은 AI가 파일 시스템 무단 침입이나 네트워크 접근 등 승인되지 않은 행동을 하지 못하도록 차단하는 일종의 방어막 기술이다.
황 CEO는 "마이크로소프트, 스페이스X, 앤트로픽, IBM, 팔란티어 등 수많은 글로벌 테크 기업들이 오픈쉘 채택에 뜻을 모았다"며 "사람들을 겁주는 데 시간을 보낼 것이 아니라 실제로 AI를 안전하게 통제할 수 있는 공학적 기술을 만드는 데 집중해야 한다"고 말했다. 또 "업계가 먼저 높은 수준의 안전·신뢰 표준을 마련하고 이를 바탕으로 정부를 초청해 법제화하는 것이 가장 바람직한 수순"이라고 제안했다.
뉴욕=심재현 특파원 urme@mt.co.kr
Copyright ⓒ 머니투데이 & mt.co.kr. 무단 전재 및 재배포, AI학습 이용 금지.
|
|