38stock 뉴스속보

www.38.co.kr

2025년 09월 16일 16:18 이찬종 기자

"에이전트 AI, 침습적 권한 요구"…"항아리 속 뇌"라던 휘태커, 재경고

"에이전트 AI는 사용자의 기기에 침습적인 권한을 요구합니다. 사용자가 명시적으로 허락하지 않아도 데이터를 수집합니다."

16일 서울 용산구 그랜드 하얏트 호텔에서 메레디스 휘태커 시그널 재단 회장은 기자단과의 인터뷰에서 에이전트 AI(인공지능)의 위험성을 경고했다. 그는 지난 3월 텍사스에서 있었던 SXSW 컨퍼런스에서도 에이전트 AI가 "항아리 속에 뇌를 넣는 것과 같다"고 말한 바 있다.

메레디스 휘태커는 AI와 개인정보 보호 분야 전문가다. 산업계, 학계 등 기술 분야에서 17년 이상 활동하고 있다. 그는 뉴욕대학교에서 연구 교수를 지내며 'AI나우 인스티튜트'를 창립했으며 10년 이상 구글에서 근무하며 '오픈 리서치 그룹'을 창설했다. 구글 근무 당시 AI 위험성에 대한 회사의 미흡한 대응에 반대했고 구글 파업의 중심으로 활동했다.

휘태커는 "커리어를 처음 시작할 때 네트워킹 레벨에서 데이터를 생성하는 업무를 맡았다"며 "이 업무를 하면서 경각심을 갖게 됐고 이후 AI 연구를 하면서도 놓지 않았다"고 말했다.

휘태커는 에이전트 AI의 장점이 많다는 점을 인정하면서도 개인정보 보호가 우선돼야 한다고 설명했다. 그는 "에이전트 AI는 지금 설계된 것보다 더 유용한 방식으로 사용될 수 있을 것이라고 생각한다"며 "개인정보를 심각하게 훼손하거나 판매하는 방식으로 편의를 취한다면 (유용성이) 의미 없다"고 설명했다.

반대로 소규모 AI의 성공 가능성에 대해서는 긍정적인 시각을 드러냈다. 그는 "AI의 효율성을 측정하는 과정에서 실제 상황 맥락이 평가되지 않는 오류가 있다"며 "예를 들어 의학 AI 모델을 평가한다면 간호사가 병원에서 사용하는 상황을 가정해서 평가해야 하는데 실제로는 이런 현실적 가정이 포함되지 않는 구조적 문제가 있다"고 지적했다.

휘태커는 미국과 중국이 AI 산업을 과점하는 현상에 관한 분석도 공유했다. 그는 "미국은 무역 협정 등을 통해 다른 나라에 자국 기술 활용을 강요하거나 장려하면서 전세계적 우위를 갖고 있고, 중국은 큰 내수시장을 바탕으로 외부 간섭을 허용하지 않아 미국 기술 없이 자체 성장했다"며 "전세계 인프라와 플랫폼 제공자가 된 기업들은 막대한 데이터를 수집할 수 있고 규모의 경제를 누릴 수 있어 다른 기업들이 쉽게 복제하기 어렵다"고 했다.

휘태커는 현재 이용자 기부금이나 후원금으로만 운영되는 메신저 앱 '시그널'을 운영하는 재단에서 회장을 맡고 있다. 시그널은 개인정보 보호와 안보를 최우선 가치로 삼는다. 휘태커는 "시그널 이용자 수는 공개하지 않고 있지만 구글 플레이에서 몇백만회 다운로드됐다"며 "데이터와 디지털 업계가 데이터를 수집해 AI를 키우는 게 답이라고만 생각하는데, 데이터를 무분별하게 수집하지 않고 혁신을 이루는게 더 힘들지만 더 멋진 일이라고 생각한다"며 운영 방침을 설명했다.

이찬종 기자 coldbell@mt.co.kr

키워드림론 최대 4배 주식자금 & 고금리 대환상품 한도 오픈! (1644-6960)

[무료운세] 믿어야 돼 말아야 돼? 종목매수전에 믿고보는 "오늘의 운세"

[파워 인터뷰]

프린트하기 닫기

www.38.co.kr