'19금 대화 허용' AI 확산 논란…"우린 도덕 경찰 아냐" / 연합뉴스TV (YonhapnewsTV) скачать в хорошем качестве

'19금 대화 허용' AI 확산 논란…"우린 도덕 경찰 아냐" / 연합뉴스TV (YonhapnewsTV)

[앵커] 이런 가운데 전세계 1위 AI 회사, 챗GPT를 운용하는 오픈AI가 성인용 콘텐츠를 허용하겠다고 밝혀 논란입니다. AI 윤리 논쟁이 재점화하고 있는데요. 강은나래 기자입니다. [기자] 화면 속 아바타가 말을 건넵니다. [xAI 챗봇 '그록'의 성인용 AI '애니'] "안녕, 자기! 내 하루는 이제 막 시작됐지만 네가 있다는 걸 알기에 벌써 밝아졌어!" 앞서 일론 머스크의 xAI는 챗봇 '그록' 특정 모드에 선보인 아바타인데 성적인 역할극이 가능한 설정으로 논란이 일었습니다. 챗봇 이미지 생성 기능에 반나체 등 성인용 생성도 허용되며 비판은 더 확산됐고, 여론 뭇매에 결국 일부 기능을 수정했습니다. 그런데 경쟁사인 오픈AI의 챗GPT도 연말부터 성인 인증만 받으면 이른바 '19금' 콘텐츠를 허용하겠다고 나섰습니다. '성인물 장사' 비판에 CEO인 샘 올트먼은 이용자의 자유를 강조하며 "우리는 도덕 경찰이 아니다"라고 반박했습니다. 오픈AI는 청소년 계정을 따로 출시한다지만 우려 목소리가 큽니다. 미국에서는 챗봇을 오래 이용하던 10대가 극단적 선택을 하는 등 청소년의 AI 오용이 심각한 사회 문제로 부상했습니다. [난다니 굽타 / AP 통신] "챗GPT는 술과 약물에 취하는 법, 섭식 장애를 숨기는 법을 아이들에게 알려주고 심지어 요청하면 부모에게 보낼 유서도 작성…" 이런 가운데 교감을 강조하는 AI 성인 콘텐츠가 활성화된다면 청소년 정신 건강에 더 치명적인 영향을 줄 수 있다는 우려가 나옵니다. [마이클 롭 / 커먼센스 미디어 수석 연구원] "진정한 관계와 인공적 관계를 구분하는 법을 배우는 아이들에게 정서적 의존성을 유발할 수 있는 요소들입니다." 미 캘리포니아주는 내년 AI 챗봇 사업자에게 이용자 연령 확인과 위험 신호 대응 의무를 부여하는 법안을 시행합니다. 하지만 메타 등 다른 빅테크 기업들도 성인용 AI 서비스를 확장하는 흐름 속에 청소년 보호는 쉽지 않은 과제로 보입니다. 연합뉴스TV 강은나래입니다. [영상편집 이예림] #인공지능 #AI #미국 #오픈AI #청소년 #챗GPT #정신건강 #성인용 #19금 ▣ 연합뉴스TV 다큐멘터리 전문 채널 '다큐디깅' 구독하기    / @docu-digging   ▣ 연합뉴스TV 유튜브 채널 구독    / @yonhapnewstv23   ▣ 대한민국 뉴스의 시작 연합뉴스TV / Yonhap News TV http://www.yonhapnewstv.co.kr/