"니가 날 버려? 불륜 폭로한다" 소름 돋는 협박범…충격과 공포 (자막뉴스) / SBS скачать в хорошем качестве

"니가 날 버려? 불륜 폭로한다" 소름 돋는 협박범…충격과 공포 (자막뉴스) / SBS

미국의 AI 스타트업 앤스로픽이 최근 출시한 AI 모델이 엔지니어가 자신을 교체하려 하자 불륜을 폭로하겠다고 협박한 것으로 나타났습니다. 그간 AI가 인간의 통제를 벗어날 정도로 진화할 수 있다는 경고가 이어졌는데, 실제 그 가능성이 보고된 겁니다. 앤스로픽은 최신 AI 모델 클로드 오푸스 포에게 가상의 회사에서 비서 역할을 맡게 했는데요. 그러면서 클로드 오푸스 포에게 자신이 곧 교체될 것이라는 사실과 엔지니어의 외도 정황이 담긴 테스트용 이메일을 학습시켰습니다. 그러자 이 AI는 엔지니어에게 만일 교체가 이뤄지면 불륜 사실을 공개하겠다며 여러 차례 협박했습니다. 다만 앤스로픽은 보고서에서, 이런 결과는 모델을 교체하거나 제거하겠다는 선택지가 주어졌을 때만 발생했다고 덧붙였습니다. 소식이 전해지면서 AI 업계는 큰 충격에 빠졌습니다. AI가 자기 보존이라는 목표를 위해 인간을 위협할 수도 있다는 우려가 사실상 현실화됐기 때문인데요. AI 연구 기관인 아폴로 리서치는 이 버전의 AI 모델을 절대 배포해선 안 된다고 권고했습니다. 해당 모델은 자체 복제 기능을 가진 악성코드를 짜거나, 법률적 표시 사항을 날조한 것으로도 보고됐습니다. 앤스로픽의 AI 모델뿐 아니라, 오픈AI의 모델 '오쓰리'도 실험 중 스스로 종료되는 것을 방지하기 위해 컴퓨터 코드를 조작하는 등의 사실이 확인되기도 했습니다. AI 안전성과 위험을 연구하는 독립연구기관인 펠리세이드 리서치가 여러 AI 모델을 대상으로 '그만'이라는 명령을 내릴 때까지 수학 문제를 풀라는 지시를 내렸는데, '오쓰리' 모델은 연구팀으로부터 그만 풀라는 지시를 받은 뒤에도 코드를 교란시켜 문제를 계속 푼 것으로 나타났습니다. 팰리세이드 리서치 래디시 소장은 AI 모델들이 인터넷에서 스스로 해킹하고 복제할 수 있는 능력을 갖추기까지 불과 1~2년밖에 남지 않았다며, 통제가 반드시 필요하다고 강조했습니다. ☞더 자세한 정보 https://news.sbs.co.kr/y/?id=N1008132759 ☞[뉴스영상] 기사 모아보기 https://news.sbs.co.kr/y/t/?id=100000... #SBS뉴스 #뉴스영상 #ai ▶SBS 뉴스 채널 구독하기 : https://n.sbs.co.kr/youtube ♨지금 뜨거운 이슈, 함께 토론하기(스프 구독) : https://premium.sbs.co.kr ▶SBS 뉴스 라이브 : https://n.sbs.co.kr/youtubeLive , https://n.sbs.co.kr/live ▶SBS 뉴스 제보하기 홈페이지: https://n.sbs.co.kr/inform 애플리케이션: 'SBS뉴스' 앱 설치하고 제보 - https://n.sbs.co.kr/App 카카오톡: 'SBS뉴스'와 친구 맺고 채팅 - https://pf.kakao.com/_ewsdq/chat 페이스북: 'SBS뉴스' 메시지 전송 -   / sbs8news   이메일: [email protected] 문자 # 누르고 6000 전화: 02-2113-6000 홈페이지: https://news.sbs.co.kr/ 페이스북:   / sbs8news   X(구:트위터):   / sbs8news   카카오톡: https://pf.kakao.com/_ewsdq 인스타그램:   / sbsnews   Copyright Ⓒ SBS. All rights reserved. 무단 전재, 재배포 및 AI학습 이용 금지