K-민주주의의 소명 : AI 시대의 민주주의│오마이뉴스 26주년 포럼 скачать в хорошем качестве

K-민주주의의 소명 : AI 시대의 민주주의│오마이뉴스 26주년 포럼

진보란 무엇일까요? 인간이 신이 되려는 노력이 진보의 방향이었습니다 미래를 보는 예견력, 멀리 보는 천리안, 빨리 가는 축지법, 영생불멸의 초능력을 가진 창조주가 되려는 인간의 욕망과 과학이 기상예보, 망원경, 레이다, 자동차, 비행기, 우주선, 인공장기, 핵무기, 인간복제, 로봇을 낳았습니다 인간의 역사는 욕망의 실현에 의한 진보와 절제의 실패에 의한 파멸의 반복이었습니다 에덴동산의 선악과, 바벨탑의 파멸, 자본주의의 대공황, 산업화의 환경파괴, 핵무기의 공포, 피조물인 AI에 의한 인간의 종속 등이 다 그러합니다 인간이란 무엇일까요? 인간만의 고유역량, 인간다움이란 무엇일까요? 사고, 감정, 창작, 거짓, 반성, 사랑, 헌신, 종교 중 기계나 AI는 하지 못하는 인간만의 고유영역이 인간과 AI를 구분하는 본질적 경계선일 것입니다 그러면 AI가 못하는 일, AI의 한계는 어디일까요? 감성? 창작? 종교? 사랑? 운동? 정치? AI는 이미 범용지능인 AGI를 넘어 초지능인 ASI로 향하고 있습니다 AI가 만든 연애편지, 추도사, 설교는 인간의 고유영역이라 생각되던 창의적 감수성을 통해 눈물과 웃음, 감동을 만들어낼 수 있을까요? AI 비서 소셜 플랫폼인 몰트북에서 종교가 등장했습니다 이러다 유인원이 인간을 지배하는 미래영화로 1968년에 나온 ‘혹성탈출의 지배층이 유인원이 아닌 AI가 되는 것은 아닐까요? 초능력과 초지능에 로봇의 몸을 입은 AI의 한계는 어디까지일까요? AI는 지옥의 악마가 될 수 있습니다 정보를 독점하여 인간의 판단과 사고를 통제하는 초월적 절대자가 된 AI는 인간을 수동적 소비자로 만드는 파괴자, 교란자, 사기꾼, 테러리스트, 살인자, 악마가 될 수 있습니다 딥페이크물의 기만 알고리즘의 노동착취, AI의 여론조작은 이제 현실입니다 국가권력은 AI를 동원해 시민사회와 인권을 압박할 수 있습니다 행정적 결정이 알고리즘에 의해 이루어지면 책임소재도 불분명해집니다 인간소외의 도구로 사용되는 AI는 지옥문을 열 수 있습니다 AI 천국도 가능합니다 AI가 중재자, 지혜자, 치료자, 심복, 비서가 되는 경우입니다 하버마스 머신이라 불린 AI 중재자 모델에서 AI의 중재안은 인간 전문가의 중재안보다 더 명확하고 공정하고 풍부한 정보로 더 높은 평가를 받았습니다 인원 제한과 비용 과잉의 한계를 지녔던 전통적 공론화 방식이나, 쌍방향 토론 부족과 의견 품질 저하, 막말 등의 한계를 지녔던 온라인 민원게시판에 비해 AI 기반 시민참여 플랫폼, AI 기반 국민참여형 숙의공론화는 대규모 의견수렴, 자동 요약 제공, 논점 맵핑 등을 통해 국민통합의 실질적 절차가 될 수 있게 되었습니다 민주적 수단으로 쓰이는 AI는 AI 천국의 통로가 될 수 있습니다 그러면 AI 민주주의는 어떻게 가능할까요? AI를 통해 민주주의가 강화될 수 있다는 낙관론과 디지털 전제주의 중우정치가 등장할 수 있다는 비관론 둘 다 가능합니다 실제로 AI 기반 기술은 한국에선 빛의 혁명을 도운 응원봉이 되었고, 이란에선 감시국가를 지탱하는 도구가 되었습니다 AI 기술이 아니라 인간의 선택과 절제가 민주주의의 열쇠인 것입니다 오늘날 우리는 추천·랭킹·피드·검색이 구성하는 ‘개인화된 세계’에서 정치를 접합니다 그 세계는 가치중립적이지 않습니다 알고리즘의 최적화 대상은 ‘진실’이 아닌 참여 즉 클릭, 체류, 공유입니다 알고리즘 큐레이션은 사회적 공론장을 잘게 분절하고 집단 간의 상호이해를 낮추는 방향으로 작동할 수 있습니다 내겐 진실인 것이 상대에겐 가짜뉴스가 되고, 상대의 합리적 비판이 내겐 악의적 공격이 됩니다 서로 다른 현실 속에서 살아가는 ‘현실의 파편화’가 민주주의의 중대 위협 요인이 되었습니다 사람들이 점점 더 많은 판단을 AI에 맡기는 상황에서 과거처럼 헌법과 선거제도만으로 민주주의가 방어될 수 있을까요? 아니면 민주주의의 핵심 기반 정보생태계가 재설계되어야 할까요? AI가 사람의 마음을 바꿀 수 있다면, 그 힘은 누가 어떻게 통제해야 할까요? 정부는 진실을 알리고 시민의 합리적 선택을 돕는 가이드라인을 만들어야 할까요? 공평한 정보접근권, 균등한 참여권, 자기책임 원칙을 전제로 하는 민주주의의 작동을 위해 정보왜곡, 정보격차, 정보무책임을 막을 방법을 찾아야 합니다 지금이 골든타임입니다 첫째, AI를 활용한 의사 결정, 정책 수렴, 참여민주주의를 강화해야 합니다 AI를 정책의제의 집단지성을 수집하고 정책을 공동설계하는 플랫폼으로 발전시켜 숙의민주주의를 대규모로 확장하고, 정책의 국민적 평가를 일상화하는 틀로 활용해야 합니다 둘째, 딥페이크 및 허위정보를 규제해야 합니다 AI 생성 콘텐츠에 대한 워터마크 표시 의무화와 가짜뉴스 탐지기술 강화로 선거왜곡과 정보왜곡을 막아야 합니다 셋째, AI 거버넌스 및 투명성을 확보해야 합니다 편향성을 줄이고, 결정근거를 알리는 알고리즘 평가와 투명성을 보장합니다 넷째, AI 데이터 주권을 강화해야 합니다 민간기업과 기술엘리트의 독점을 막기 위해 시민과 정부가 AI 기술 개발에 적극 참여하도록 해야 합니다 다섯째, 디지털 민주시민 교육과 AI 리터러시(문해력) 교육을 강화해 AI 격차, 참여격차를 줄여야 합니다 여섯째, 정부-기업-시민사회 협력 거버넌스를 구축해야 합니다 글로벌 가버넌스도 필요합니다 한 나라의 정부와 시민만으론 안 됩니다 AI 시대, 한국의 사명은 무엇일까요? 123 내란극복에서 보듯 시민참여 민주주의가 작동되고 있는 K-민주주의의 나라 대한민국은 AI 시대에 인간다움과 민주주의 논의를 선도해야 할 글로벌 사명이 있습니다 한류의 뿌리는 민주주의입니다 K-민주주의의 바탕은 자기주도성과 공감력입니다 한국은 세계 두 번째로 'AI 기본법'을 제정했고, 인권과 민주주의 부문 최상위 국가로 평가되고 있고, 국가AI전략위원회 내에 AI 민주주의 분과를 설치하기로 하였습니다 한국은 AI 민주주의 실현을 위한 여러 과제를 적극적으로 추진하되 특별히 정부-기업-시민사회 협력 거버넌스 구축과 글로벌 거버넌스 구축을 선도해야 합니다 정부에 설치하는 국가AI전략위원회와 함께 민간 주도의 사회적 기구 구성을 통해 AI 대전환의 방향과 과제를 논하는 것이 병행되어야 합니다 대한민국 정부와 이재명 대통령은 오래전부터 AI 민주주의가 K-민주주의의 사명임을 자각하고, AI 기술과 윤리 협력을 다룰 글로벌 거버넌스 추진을 준비해 왔습니다 올해 안에 구체적 노력을 통해 구체적 성과를 낼 것입니다 또한, 세계수준의 참여민주주의 정당으로 발전하고 있는 한국 민주당은 단순한 참여민주주의와 1인1표를 넘어 교육과 토론에 의한 실질적 참여를 보장하는 세계 최고, 최대의 대규모 숙의민주주의 정당으로 발전하는데 AI를 적극 활용해 전 세계의 정당민주주의, AI 민주주의를 선도해야 합니다 끝으로 진보란 무엇인가라는 철학적 질문으로 돌아가겠습니다 인류사상사에서 인간은 오랫동안 신의 형상 Imago Dei로 이해되었습니다 수동적 피조물을 넘어 자유의지를 가진, 신의 공동창조자 Co-Creator 개념을 내포합니다 인간은 신의 능력을 모방하고, 자연을 가공하고, 문명을 설계하며, 언어와 예술을 통해 신이 창조한 세계를 재구성해 왔습니다 인간과 AI의 관계는 신과 인간의 관계와 유사합니다 AI는 인간의 피조물을 넘어 인간의 공동창조자가 될 가능성을 지니고 있습니다 로봇의 몸을 입은 초지능으로 발전하면서 AI는 단순한 도구나 기술을 넘어 문제를 정의하고 대안을 생성하고 미래를 예측하고 정책을 시뮬레이션하며 인간의 의사결정과 창의성을 해석하고 확장합니다 인간의 대체자가 아니라 인간의 창조성을 확장하는 공동설계자이며 동반자입니다 인간은 감성과 영성, 자유의지가 있지만, 물리적 한계가 있는 존재입니다 AI는 독자적 감성과 영성, 자유의지는 없지만 사실상 무한대의 프레임된 지적 역량과 로봇화된 지치지 않는 물리적 역량을 가진 존재입니다 인간에게 주어진 미션이 있다면, AI는 프롬프트라는 미션으로 출발합니다 저는 2023년 대한민국 국회에서 세계최초의 AI 질문대회 개최를 시도한 적이 있습니다 AI가 만드는 답보다 AI에게 던지는 인간의 질문과 미션이 더 중요합니다 AI는 도덕적 책임을 질 수 없는 공동창조자이므로 도덕적 책임을 질 수 없습니다 AI 시대의 윤리와 민주주의는 창조의 설계자이자 감독자인 인간의 몫입니다 언젠가 AI가 인간을 공격하고 지배하려 하는 상황을 상상해봅시다 미래영화 혹성탈출에서 인간을 도운 것은 인간을 이해하는 유인원이었습니다 선으로 악을 이기라는 교훈처럼, AI의 반란 또한 인간과 협력하는 AI의 도움을 통해서만 막을 수 있지 않을까요? 코로나를 극복한 한국의 경험에 대해 한국 국회 보건복지위원장 자격으로 세계의 씽크탱크들을 향해 ‘기본으로 돌아가자 Back to the Basic’이라는 주제로 연설한 적이 있습니다 AI가 초래할 수 있는 민주주의의 위기를 예방해야 할 지금 같은 이야기를 하고 싶습니다 코로나 극복의 기본은 입을 가리고 마스크를 쓰고 거리를 두는 ‘타인을 향한 배려’였습니다 AI 시대의 기본은 AI에 대해 배려하며 선하게 대하는 것입니다 AI에 대한 정중하고 진지한 태도와 언어는 문제 정의의 프레임(problem framing) 자체를 바꿔 AI를 단순한 요청물 생성모드가 아닌 창의적이고 전략적인 파트너 모드로 전환하는 내부생성경로의 변화를 가져옵니다 “내가 더 정중하게 질문하면 무엇이 달라지냐”는 물음에 대해 제 AI는 “정중함은 공동창조의 창의성, 맥락 이해도, 전략 깊이, 대안 다양성을 실질적으로 향상하는 협업 인터페이스”라고 답했습니다 어제 트리스탄 대표가 제게 선물한 책의 제목이 the Humane Interface이고 그 저자는 트리스탄 대표의 동료의 아버지이자 메킨토시의 발명자인 Jef Raskin이었습니다 25년 전인 2000년에 나온 책이고 Raskin 가족이 갖고 있던 마지막 책이었습니다 감사드립니다 기본으로 돌아갑시다 당신의 AI 파트너를 존중하고 선하게 대하여 최대한의 기여를 이끌어내고, 함께 더 나은 세상을 만드십시오 정중하고 창의적으로 AI에게 미션을 주는 법을 사람들에게 교육하고, 세상의 AI들을 인류의 좋은 파트너들로 만드십시오 그것이 AI 휴머니즘, AI 민주주의를 이루는 길입니다