|
| 제목 : ‘19금’ 챗GPT가 불러온 AI 윤리 문제…한국 도입 시 사전 규제 어려워
|
 |
 |
 |
 |
|
|
| 2025년 10월 16일 16:24 김연진 기자 |
| ‘19금’ 챗GPT가 불러온 AI 윤리 문제…한국 도입 시 사전 규제 어려워 |
오픈AI가 ‘성인용 챗GPT’ 도입으로 유료 구독자 확보를 노리는 가운데 19금 AI를 둘러싼 법적·윤리적 문제가 도마 위에 올랐다. 전문가들은 국내의 AI 성적물에 대한 사전 규제 장치가 부재한 만큼 국내에 성인용 AI가 도입될 때 제도적 공백이 드러날 수 있다고 지적한다.
샘 올트먼 오픈AI 14일(현지 시각) X(옛 트위터)를 통해 “12월부터 연령 제한 기능을 더 완전히 도입하면서 ‘성인 이용자는 성인답게 대하자’는 원칙에 따라 연령이 인증된 성인에게는 성애물 같은 훨씬 더 많은 것을 허용할 것”이라고 밝혔다.
그는 15일 “우리는 세계의 선출된 도덕 경찰이 아니다”라며 “성인 이용자를 성인답게 대하는 원칙도 매우 중시한다”고도 말했다. 그러면서 “AI가 사람들의 삶에서 더 중요한 역할을 하게 됨에 따라 그들이 원하는 방식으로 AI를 사용할 수 있게 많은 자유를 허용하는 것은 우리의 사명에서 중요한 부분”이라고 강조했다.
일론 머스크가 세운 xAI는 이미 7월부터 자사 서비스 그록(Grok)에서 ‘애니(Ani)’ 등 노골적 성 표현이 담긴(sexually explicit) 대화가 가능한 챗봇을 이용할 수 있도록 하고 있다. 8월부턴 자사의 AI 모델 그록 이미지 생성 기능 ‘이매진’에 ‘스파이스 모드’를 추가해 성인용 이미지 생성이 가능해졌다.
최근 청소년 유해성 논란으로 부모 통제 기능을 도입한 오픈AI가 ‘성인용 챗GPT’를 내놓는 건 유료 구독자 수를 확대해 수익을 창출하기 위한 목적이다. 미국의 정치 전문 온라인매체 악시오스는 오픈AI의 이번 조치가 “챗봇 유료 구독자를 늘리는 데에는 도움이 될 수 있다”면서도 “이를 계기로 관련 규제를 법제화하라는 압박이 입법부 의원들에게 가중될 수 있다”고 지적했다.
전문가들은 성인용 AI 챗봇이 범죄에 악용될 우려가 높지만, 한국에서 ‘19금 챗GPT’를 사전 규제할 방도가 없다고 입을 모은다. 김재련 법무법인 온세상 변호사는 “우리 법에서는 ‘통신매체를 이용한 음란행위’를 처벌하고 있는데 이는 행위자가 자연인(사람)인 경우를 전제로 한다”며 “AI 챗봇은 사람으로 볼 수 없어서 형사법 적용을 위해선 관련 규정 검토가 필요하다”고 말했다.
특히 AI 챗봇과의 대화는 현행법상 ‘개인 간 통신’에 해당해 이용자의 직접 신고 없이는 규제 기관이 들여다보기 어렵다. 이성엽 고려대 기술법정책센터장은 “(성인용 챗GPT 도입을) 사전에 심의받는 방식이 아니기 때문에 국내에서 쓰이는 데는 문제가 없을 것”이라며 “정보통신망법상 음란물 유통은 불법이기 때문에 직접 신고 시 방심위가 사후 제재를 할 수 있다”고 말했다.
국내에선 성폭력범죄의 처벌 등에 관한 특례법에 따르면 AI를 이용한 성적 이미지·음성 합성이나 대화 생성 행위 자체를 형사처벌 대상으로 규정하고 있다. 소지·구입을 비롯해 단순 시청이나 저장만으로도 처벌받을 수 있다. 다만 이 조항은 ‘사람의 얼굴·신체 등을 성적으로 합성·가공한 경우’를 전제로 하기 때문에, 실존 인물을 기반으로 한 경우에만 적용된다.
이에 최근 국회에선 비실존 대상 AI 성적물의 사회적 부작용을 고려해 ‘AI 생성물 규제법’ 제정을 검토하고 있다. 허영 더불어민주당 의원은 지난달 11일 실존 여부와 관계없이 AI를 이용해 사람의 신체 또는 사람으로 인식될 수 있는 성적 영상물을 제작·유포할 경우 처벌할 수 있도록 하는 성폭력처벌법 개정안을 대표 발의했다.
연령 인증을 하더라도 성인용과 청소년용을 명확하게 구분할 수 있을지에 대한 의문이 나온다. 최병호 고려대 AI연구소 교수는 “청소년들이 부모의 주민번호 등을 이용하여 성인용으로 접속하는 등 연령 인증을 우회하는 방법은 많다”며 “청소년 버전으로 AI 챗봇을 따로 개발하지 않는 이상 성인 버전을 제약하는 방식에는 한계가 있다”고 말했다.
xAI에 이어 오픈AI까지 가세하면서 ‘성인용 AI 경쟁’이 본격화될 것이란 전망도 있다. 최 교수는 “시기의 문제였을 뿐 성인용 AI는 매출이 보장되기 때문에, 궤도에 올라간 뒤에는 당연히 하는 사업”이라며 “오픈AI는 지금 돈을 많이 써야 하는 상황이며 이용자 수를 급격하게 늘리는 데는 성인물만큼 좋은 게 없다”고 했다.
<저작권자 ⓒ 이투데이 무단전재/재배포 금지>
|
|
| |
|
|
|
‘19금’ 챗GPT가 불러온 AI 윤리 문제…한국 도입 시 사전 규제 어려워
장외시장,비상장시장,장외주식,비상장주식,소액주주,주주동호회,주주게시판,공모,소액공모,장외시황,비상장주식시세,주식차트,주가,비상장주식거래,시세정보,프리보드,장외시장,프리보드시장,장외주식,프리보드주식,소액주주,주주동호회,주주게시판,공모,소액공모,시황,시세,주식차트,주가,3시장,투자전략,종목분석,선물옵션,해외증시,주식시세 등 증권정보,증권정보사이트,증권시세,선물옵션,주가정보,종목토론,전문가,테마주 분석,추천종목,이슈,종목뉴스,차트,시황전략,주식투자,증권 전문 포털사이트,재테크,부동산,창업,카페,주식칼럼,증시브리핑,증시분석,주식투자정보,증권투자정보,금융정보,차트분석,증시일정,소액주주,커뮤니티,매매,주식거래,온라인증권,종목추전
주식,펀드,증시전망,투자포털 사이트,재무분석,주식공모,증시일정,증권사,코스피,코스닥,나스닥,거래소,코넥스,제3주식시장,주가지수,미국증시,일본증시,아시아증시,KOSDAQ,KOSPI,KONEX,KOSCOM,삼성sds,장외투자
|
|
|
.
.
.
비상장(장외) 
광고 문의 : ☎ 1644-3830 (38커뮤니케이션)
