HERI 뉴스
인공지능 챗GPT 영향 어디까지

미 의원, 챗GPT로 AI규제법안 작성
메시지 작성등 로비스트 대체 가능성

약자의 입법도구 되면 민주주의 활력
권력기관 활용하면 로비가 투표 압도
제21대 국회의원선거가 치러졌던 2020년 4월15일 한 유권자가 투표하고 있다. 연합뉴스
제21대 국회의원선거가 치러졌던 2020년 4월15일 한 유권자가 투표하고 있다. 연합뉴스

대화형 인공지능 서비스 챗지피티(ChatGPT) 돌풍이 거세다. 예술, 교육, 심지어 정치까지 챗지피티의 활용사례가 알려지며 태풍으로 번지고 있다. 챗지피티는 시나 에세이, 수학문제 풀이 수준을 넘어 법안 초안도 만든다. 머잖아 정치과정에서 인간이 수행해온 로비 역할까지 대체할 것이라는 전망이 나온다. 인공지능은 이미 민주주의 과정 전반을 흔들고 있다.

지난달 25일 미국 <워싱턴포스트>는 매사추세츠주 상원의원 배리 파인골드가 챗지피티를 활용해 개인정보 보호 관련 법안 초안을 만들었다고 보도했다. 개인정보 보호와 지적재산권 보호를 위해 인공지능 기업이 알고리즘에 대한 정보를 공개하고 정기적으로 위험성을 점검하는 등의 조처를 시행해야 한다는 내용이다.

챗지피티는 어떻게 법안 초안을 만들 수 있었을까? 법안 작성은 챗지피티가 대화형 인공지능 서비스라는 특성을 고려해 사용자가 법안과 관련해 특정 질문을 던지면 이에 대해 챗지피티가 답변하는 방식으로 이루어졌다. “매사추세츠주 법 스타일로 법안 초안을 작성하라”라고 요청했을 때 처음에는 챗지피티가 “법안 초안을 작성할 수 없다”며 거절했지만, 여러 차례 시행착오 끝에 ‘70퍼센트’ 수준의 초안을 만들었다고 파인골드 의원은 말했다. 사용자가 풍부한 아이디어를 가지고 이를 구현할 수 있게 구체적으로 요청할 때 결과도 유용했다. “챗지피티는 비식별화 문제, 데이터 보안과 같은 일부 주제에 대해서는 합리적 아이디어도 제시하는 등 독창적 기여도 했다”고 파인골드 의원은 평가했다.

민주주의에서 법안 작성은 고도의 정치적 행위다. 법은 갈등하고 충돌하는 여러 이해관계가 경합하는 장이며 이를 조정해 구속력있는 문서로 만드는 과정이다. 이처럼 인간 사회를 규율하는 제도, 법 제정 등 인간에게 고유한 고도의 정치과정에 인공지능이 개입하면서 민주주의 근간이 흔들리고 있다. 전문가들은 입법과정에서 요구되는 문서 요약, 자료 및 법안의 비교 등을 위해 챗지피티를 사용할 수 있지만 인간의 감독이 필요하다고 말한다. 즉, “법안 작성 등과 같은 정치과정에서 챗지피티가 인간을 대체할 수 없으며 노동력을 절약하는 장치로써만 활용되어야 한다”는 것이다.

챗지피티는 여론 형성과 정책 개입 등 로비 과정에도 활용될 수 있다. 지난달 15일 미국 <뉴욕타임스>에 실린 데이터 과학자 네이선 샌더스와 보안 전문가 브루스 슈나이더의 공동 기고문 ‘챗지피티는 어떻게 민주주의를 탈취하는가’에 따르면, 챗지피티는 특정 정책에 대한 의견 작성, 지역신문에 기고할 편지 작성, 소셜 미디어 게시물 작성, 뉴스 기사에 대량의 댓글 달기 등의 방식으로 여론에 개입할 수 있다. 정책에 영향을 미치는 핵심 정치인, 또는 여론주도층을 선별해 이들에게 정확한 메시지를 작성·전달하는 것이 유능한 로비스트의 역할이다. 챗지피티는 아직 핵심 정치인을 찾아내는 데는 이르지는 못하지만 빠르고 정확한 메시지 작성에서는 놀라운 능력을 보인다. 머잖아 챗지피티의 자동 메시지 작성 기능과 정치 네트워크를 이해해 핵심 정치인을 타겟팅할 수 있는 시스템이 결합한다면 파괴력은 상당할 것이다. 챗지피티가 기업의 법인세, 국방예산 등과 같은 특정 정책 영역에서 가장 큰 영향력을 가진 의원을 스스로 찾아내어 이들에게 정확한 메시지를 직접 작성·전달하는 ‘원스탑 로비’도 가능해질 수 있다는 의미다.

민주주의에서 여론은 목소리를 낼 수 없던 보통의 시민들이 정치에 참여하고 영향을 미칠 수 있는 핵심 무기다. 여론 조작은 민주주의를 위협하는 중대한 범죄로 간주한다. 러시아가 2016년, 2020년 트럼프의 당선을 돕기 위해 소셜 미디어에 유령 계정들을 자동 생성하는 ‘봇(bots)’ 프로그램을 심거나 사이버 댓글부대를 운영하는 방식으로 여론조작을 시도한 것이 대표적 사례다. 2017년 한국 대선에서도 매크로 프로그램을 이용해 포털사이트 기사 댓글의 공감·비공감 클릭 수를 조작하는 방식으로 여론조작을 시도해 문제가 됐다.

민주주의는 부유하건 가난하건 누구나 한 표씩만 행사할 수 있는 평등한 체제다. 민주주의의 대가로 불리는 정치학자 로버트 달은 민주주의인가 아닌가를 구분하는 것은 “공적 논의와 결정의 과정에 평등한 영향을 미칠 수 있는 절차적 조건”이라고 말했다. 이를 위해서는 시민 모두가 의견을 가지고 표출할 수 있는 권리가 보장되어야 한다. 챗지피티를 이용해 댓글과 같은 정치 메시지를 대거 생산해 유포하는 것은 참여와 의견을 조작해 민주주의를 위협한다.

한편 챗지피티는 누구나 접근가능하기에 힘없는 약자들도 정책에 영향을 미치기 위해 로비를 시도할 수 있어 민주주의에 활력을 부여할 것이라는 기대감도 있다. 하지만 강력한 힘을 지닌 기관일수록 ‘인간 로비스트’는 물론 ‘인공지능 로비스트’도 적극 활용할 가능성이 크다. 누구나 챗지피티를 이용할 수 있다지만 결국 아이디어와 경험이 많은 전문가, 그리고 자금력이 뒷받침될 때 로비의 효과도 극대화된다. 이들이 챗지피티를 이용해 조직적 로비를 펼칠 때 보통의 시민이 정치에 영향을 미칠 수 있는 권한인 ‘투표’는 무력해질 수 있다.

한귀영 사람과디지털연구소 연구위원 hgy4215@hani.co.kr


한겨레에서 보기 : https://www.hani.co.kr/arti/science/future/1078416.html

서비스 선택
댓글
로그인해주세요.
profile image
powered by SocialXE
List of Articles

세종대왕이 맥북을 던져?…챗GPT의 ‘환각’에 속지 않으려면

[챗지피티와 AI 윤리 과제] 감쪽같은 거짓말 쏟아내는 챗봇 ‘환각’ 현상 AI 분야 최대 과제 빌 게이츠 마이크로소프트 공동 창업자는 챗지피티에 대해 “과거 인터넷 발명만큼 중대한 발명이 될 수 있으며, 우리의 세상을...

  • HERI
  • 2023.03.06
  • 조회수 998

800만 회원 사회적경제연대회의 ‘연대강화 공동행동’ 결의

올해 정기총회서 ‘SE로운 공동행동’ 캠페인 추진 시민체감도 높이고 중장기 전략 부설연구소 설립도 지난 24일 서울 중구 공간채비에서 열린 한국사회적경제연대회의 2023년 정기총회에 참석한 회원들이 구호를 외치고 있다. 한국...

  • HERI
  • 2023.02.27
  • 조회수 497

기후 위기 공익 활동에도 ‘보상’을…“기후행동보상제 필요”

소비자기후행동 전국 15개 지부 발대식 탄소중립예산·기업 탄소세 등 기금 통합해 기후행동 보상할 ‘기후행동보상기금’ 설치 제안 소비자기후행동 회원 150여명이 23일 서울 동작구 스페이스살림 다목적홀에서 전국 15개 지부의 ...

  • HERI
  • 2023.02.27
  • 조회수 460

경제교육단체협의회 2기 출범…경제교육 활성화 재시동

경제교육단체협의회 회장에 박재완 전 기재부 장관 취임 “민간 경제교육기관 및 정부·지역 등 유기적 협업 다짐” 21일 서울 중구 한국프레스센터 19층 매화홀에서 열린 경제교육단체협의회 ‘2023년 1차 정기총회 및 우수사례 ...

  • HERI
  • 2023.02.22
  • 조회수 495

‘챗GPT 활용’ 적발기술도 잇따라…‘변형 사용’땐 무용지물

오픈AI, GPT제로, 턴잇인 등 인공지능 활용 개발시도 활발 출력물에 워터마크 표시할 수도 문장 짧거나 작성자가 손질하면 적발도구 제기능 못할 가능성 워터마크는 선의의 이용도 차단 챗GPT는 출시 두달여 만에 1억 사용자를...

  • HERI
  • 2023.02.20
  • 조회수 582

‘2023 국제사회적경제포럼’ 아프리카 대륙에서 열린다

5월1~6일 세네갈 수도 다카르에서 개최 5개 대륙·37개국 참가…연대 방안 등 논의 2023 다카르 국제사회적경제포럼(GSEF 2023 Dakar Forum)이 오는 5월1일부터 6일까지 아프리카 세네갈의 수도 다카르에서 열린다. 2023 다카르 국제...

  • HERI
  • 2023.02.17
  • 조회수 550

사회적기업 ‘인증제' 한계, ‘등록제'로 뛰어넘을 수 있을까

2일 ‘윤석열 정부 사회적기업 정책수립 국회 토론회’ 국무조정실, 사회적기업 인증제 폐지·등록제 전환 예고 “등록제 전환은 사회적기업 육성과 발전을 전제로 인증제 한계 극복하고 현장 혼선 등 우려 해소해야” 지난 2일 ...

  • HERI
  • 2023.02.06
  • 조회수 610

챗GPT, ‘법안’도 만들었다…민주주의 체제는 무사할까

인공지능 챗GPT 영향 어디까지 미 의원, 챗GPT로 AI규제법안 작성 메시지 작성등 로비스트 대체 가능성 약자의 입법도구 되면 민주주의 활력 권력기관 활용하면 로비가 투표 압도 제21대 국회의원선거가 치러졌던 2020년 4월15...

  • HERI
  • 2023.02.06
  • 조회수 508

“한반도 평화·인권 신장이 지속가능발전의 전제조건”

‘제2회 서스테이너블 피스빌딩’ 컨퍼런스 개최 지속가능 평화 구축 위한 청년 공동성명 발표 “전쟁 방지·인권 신장에 청년 참여 보장돼야” 지난 27일 서울 여의도 국회의원회관에서 열린 ‘제2회 서스테이너블 피스빌딩 컨퍼런...

  • HERI
  • 2023.02.01
  • 조회수 505

택시협동조합, 택시산업 위기의 돌파구 될까?

택시협동조합 3년새 18개→ 74개로 급증 운행률 기준 10% 비중…대구는 40% 웃돌아 “조합 노동자 특수성 반영한 제도개선 필요” 지난해 대구택시협동조합 사례를 학습하기 위해 협동조합을 방문한 견학생들이 본관 앞에서 기념사...

  • HERI
  • 2023.01.26
  • 조회수 719

국민 행복위한 정부 역할 구체화할까

‘국민총행복증진법’ 제정 위한 국회대토론회 “국민행복은 개인 영역으로 치부될 수 없어 국가 정책 역량 배분의 의지에 달려” “선진국 중심으로 국민행복 목표·관리 추세 예산과 전담부서 등 구체적 실행안 필요” 19일 국회...

  • HERI
  • 2023.01.20
  • 조회수 593

이미지인식 AI, 검색 재발명, 로봇택시 나온다

2023년 정보기술 트렌드 전망 거대언어모델 인공지능 GPT4 상반기 등장…멀티모달 AI 예상 딥마인드 공개한 알파폴드 활용 의약·생물학 분야 결과물 예고 미국, 반도체 본토 제조 정책강화 유럽·미국, IT 규제 고삐 죌듯 미국...

  • HERI
  • 2023.01.09
  • 조회수 966

예술, 요리, 논문…인공지능, 인간의 성역 ‘창작’ 파고든다

인공지능 자연어처리모델 발달 문장 입력하면 그림·동영상 척척 새로운 요리법등 활용 무제한 예술가와 창작자 문턱 낮아져 모두가 예술가인 세상 오나? AI가 만든 요리와 과학논문 그럴듯해 보여도 ‘결정적 결함’ 사실-허구 ...

  • HERI
  • 2022.12.26
  • 조회수 700

기초생활보장수급자, ‘공제’로 경제자립 꿈꾼다

20일 원주 상지대서 ‘협동조합 공제’ 토론회 열려 금융기관 이용 어려운 취약계층 위한 자조기금 절실 협동조합 공제, 금융부터 지역 공동체 생활 지원까지 가능 20일 강원도 원주 상지대학교에서 협동조합 공제와 상호부조 공...

  • HERI
  • 2022.12.22
  • 조회수 544

‘경북형 일자리’…미래차로 일자리 만든다

고용부 ‘노사상생형 지역일자리 컨설팅 지원사업’ 활용 노사민정 사회적 대화 기반 ‘경북형 일자리 모델’ 개발 6일. 경북 ‘미래차 부품산업 수퍼클러스터’ 조성 공식화 지역기업 5880억원 이상 투자…약 800명 고용 창출 기...

  • HERI
  • 2022.12.22
  • 조회수 543

“지구적 위기 속 대안적 실천운동…협동조합이 있다”

‘인(iN)라이프케어 정책토크쇼’ 개최 기후변화·지역소멸·만성질환 겪는 지구적 위기 소비·생산·의료 협동조합 간 협동과 연대로 협동조합운동의 역할과 새로운 전환 모색 13일 서울 중구 동국대 혜화관에서 ‘기후위기·지역소멸·만성...

  • HERI
  • 2022.12.16
  • 조회수 773

사회적경제 활동가 대회…“연령·직급·업종 넘어 소통해야”

9~10일 충주서 100여명 종사자 한자리에 “현실의 한계 넘어 공동의 전망·연대 구축” 지난 9일 충청북도 충주의 한국자활연수원에서 열린 ‘2022 사회적경제 활동가 대회’에서 이경란 공동육아와공동체교육 교육연구원 부원장이 ‘...

  • HERI
  • 2022.12.12
  • 조회수 597

‘브레인 칩’ 실험하다 1500마리 숨져…머스크, 동물학대 논란

미 당국, 뉴럴링크 조사 나서 뇌에 컴퓨터칩 심는 동물실험 중 “6개월내 인체시험, 나도 칩 이식” 머스크, 공언불구 개발차질 전망 일론 머스크가 설립한 뉴럴링크가 2021년 4월 공개한 뇌-컴퓨터 연결 연구의 성과로, 뇌에 ...

  • HERI
  • 2022.12.12
  • 조회수 754

사회연대경제 지방정부협의회 출범…“유엔 결의안 채택 환영”

신임 회장에 김미경 서울 은평구청장 등 선임 “유엔 ‘사회적 경제 활성화 결의안’ 동참 촉구” 7일 국회에서 열린 ‘2022 전국 사회연대경제 지방정부협의회 출범식’에서 참가자들이 기념촬영을 하고 있다 7일 국회에서 여야 ...

  • HERI
  • 2022.12.08
  • 조회수 620

10만원까지 전액 공제 ‘고향사랑기부제’ 균형발전 밑거름 될까

‘제19회 사회적경제 정책포럼’ 개최 내년 1월 고향사랑기부제 본격 시행 예정 희망 지자체 기부하면 세제혜택과 답례품 기부금은 주민복지 및 지역활성화에 활용 지난 6일 서울 마포구 한겨레신문사 청암홀에서 ‘고향사랑기부제'...

  • HERI
  • 2022.12.08
  • 조회수 637