'가짜를 막아라' 美 AI기업, "생성 콘텐츠에 워터마크" / YTN скачать в хорошем качестве

'가짜를 막아라' 美 AI기업, "생성 콘텐츠에 워터마크" / YTN

AI 활용 사기나 속임수, 심각한 사회 문제 구글 등 美 AI 기업, "생성 콘텐츠에 워터마크" "AI의 사회적 위험성도 우선적으로 연구" 내년 11월 美 대선 앞두고 가짜뉴스 극성 우려 [앵커] 최근 인공지능 AI를 활용한 사기나 속임수가 국제적으로 큰 문제가 됐었는데요. 구글과 오픈 AI 등 미국의 7개 주요기업이 AI가 만든 콘텐츠에 워터마크를 넣어 안전조치를 취하기로 했습니다. 김선희 기자가 보도합니다. [기자] 미 국방부 펜타곤 부근에서 시커먼 연기가 치솟는 사진, SNS에서 퍼지며 금융시장까지 출렁였지만 결국 가짜로 드러났습니다. 트럼프 미국 전 대통령이 경찰 추격을 받고 수갑을 찬 모습, 죄수복 차림의 사진도 모두 AI가 만든 가짜로 판명 났습니다. 문제가 심각해지다 보니 구글과 메타 등 미국의 7개 주요 기업이 AI로 만든 콘텐츠에 워터마크를 넣어 안전조치를 취하기로 했습니다. 또 AI 시스템의 기능과 문제점. 적절한 사용영역을 공유하는 등 AI의 사회적 위험성도 시급히 연구하기로 했습니다. 이번 조치는 오픈 AI가 챗GPT를 출시한 것과 관련해 AI 활용에 대한 우려가 커지고 있는 가운데 나왔습니다. 내년 11월 미국 대선 때 정보 조작이나 가짜뉴스가 극성을 부릴 수 있다는 우려도 작용했습니다. [일론 머스크 / 테슬라 CEO : AI가 삶을 훨씬 더 낫게 하고 풍요로움을 가져올 가능성이 크다고 보지만 잘못돼 인류를 파괴할 수도 있습니다.] 백악관도 사실상 '첫 AI 정책'으로 간주하고 적극적으로 나서고 있습니다. AI의 잠재력은 활용하면서 시민의 권리와 안전을 지킬 수 있도록 대책을 세워나가겠다고 밝혔습니다. 조 바이든 대통령도 이번 조치가 실질적인 정책이 될 것이라며 기대감을 나타냈습니다. [조 바이든 / 미국 대통령 : 인공지능은 전 세계 사람들의 삶을 변화시킬 수 있습니다. 이 기업들은 미국인들의 신뢰를 얻기 위해 책임감과 안전성을 갖춘 혁신을 주도하는 데 중요한 역할을 할 것입니다.] 아직 법적인 강제성은 없지만, 조만간 행정명령을 발표할 계획이라고 전했습니다. 한국을 비롯한 20개 동맹국과 협력해 AI 개발과 사용을 관리하기 위한 국제적인 연대 방침도 세워두고 있습니다. YTN 김선희입니다. 영상편집 : 이영훈 YTN 김선희 ([email protected]) ※ '당신의 제보가 뉴스가 됩니다' [카카오톡] YTN 검색해 채널 추가 [전화] 02-398-8585 [메일] [email protected] ▶ 기사 원문 : https://www.ytn.co.kr/_ln/0104_202307... ▶ 제보 하기 : https://mj.ytn.co.kr/mj/mj_write.php ▣ YTN 유튜브 채널 구독 : http://goo.gl/Ytb5SZ ⓒ YTN 무단 전재 및 재배포금지