HERI 뉴스
인공지능챗봇 척척박사 비결은 사람이 만든 콘텐츠 학습
저작권자들, AI기업에 잇단소송…‘이용 vs 보상’ 합의필요
2022년 9월 미국 콜로라도 주립박람회 미술경연대회에서 디지털예술/디지털이미지사진 부문 1등을 차지한 게임제작자 제이슨 앨런의 인공지능(AI) 그림 <스페이스 오페라극장>. 제이슨 앨런 트위터
2022년 9월 미국 콜로라도 주립박람회 미술경연대회에서 디지털예술/디지털이미지사진 부문 1등을 차지한 게임제작자 제이슨 앨런의 인공지능(AI) 그림 <스페이스 오페라극장>. 제이슨 앨런 트위터

인공지능 학습데이터의 저작권 공방

인공지능이 인터넷 정보를 학습해 모든 질문에 대해 척척박사처럼 답변을 내놓는 서비스는 저작권자의 권리를 침해한 것인가? 인공지능 서비스가 늘어나면서 인공지능의 학습 과정에서 사용된 정보에 대한 저작권 침해 문제가 불거지고 있다.

■ 음악·사진·소설·코딩 분야 잇단 소송

오픈에이아이 출신 개발자들이 설립한 인공지능기업 앤스로픽의 챗봇 클로드가 음반사들로부터 저작권 침해 소송을 당했다. 지난 18일 ‘로이터’에 따르면, 유니버셜뮤직·콩코드퍼블리싱 등 글로벌 음반사들은 앤스로픽이 비욘세·롤링스톤 등 유명 가수의 노래 최소 500여곡의 가사를 클로드 학습에 무단으로 사용했다며, 미 테네시 연방법원에 저작권 침해 소송을 제기했다.

소송 내용에 따르면, 클로드는 록뮤지션 버디 홀리의 죽음에 관한 노래를 써달라는 요청을 받으면 돈 매클린이 1971년 그를 추억하며 만든 노래인 ‘아메리칸 파이’ 관련 가사를 제공한다. 유니버셜 등은 클로드가 노래를 허가없이 학습해 챗봇 답변에 이용하는 등 저작권자의 권리를 침해했다고 주장했다.

인공지능 서비스에 대한 저작권 소송은 음악·이미지·출판·코딩 등 각 분야로 계속 늘어나고 있다. 올 1월 미국 최대 이미지서비스 업체인 게티이미지는 인공지능 학습에 자사 이미지를 무단학습했다며 이미지생성 서비스인 스테이블 디퓨전을 개발한 영국의 스태빌리티AI를 상대로 거액의 소송을 제기했다.

지난해 11월 오픈소스 코드공유 플랫폼인 깃허브 이용자들은 마이크로소프트의 인공지능 코딩도구인 코파일럿이 수많은 개발자들이 올려놓은 오픈소스 코드를 무단으로 학습, 활용했다며 미 샌프란시스코 연방법원에 집단소송을 제기한 상태다. 지난 7월 세라 실버먼 등 미국 작가들은 오픈AI와 메타를 상대로 “챗지피티가 출판데이터 세트와 7185권 넘는 책을 불법학습했다”며 저작권 침해 집단소송을 제기했다.

시카고대 벤 자오 교수 연구진이 공개한 ‘나이트셰이드’를 이미지 생성AI 스테이블 디퓨전에 테스트한 결과, 이미지에 독성 물질을 주입한 양에 따라 생성 결과물이 변형되고 전혀 다른 결과가 만들어졌다. 개 이미지에 50개의 독을 넣었을 때는 다리가 여럿인 괴물을, 300개 넣었을 때는 아예 고양이를 만들어냈다. 자동차, 핸드백, 모자 등도 유사하게 변형된 결과물을 만들어내며 인공지능 모델의 신뢰도를 훼손했다. 벤 자오 교수 제공
시카고대 벤 자오 교수 연구진이 공개한 ‘나이트셰이드’를 이미지 생성AI 스테이블 디퓨전에 테스트한 결과, 이미지에 독성 물질을 주입한 양에 따라 생성 결과물이 변형되고 전혀 다른 결과가 만들어졌다. 개 이미지에 50개의 독을 넣었을 때는 다리가 여럿인 괴물을, 300개 넣었을 때는 아예 고양이를 만들어냈다. 자동차, 핸드백, 모자 등도 유사하게 변형된 결과물을 만들어내며 인공지능 모델의 신뢰도를 훼손했다. 벤 자오 교수 제공

■ 워터마크·봇 차단…다양한 기술 등장

저작권 보호 기술도 다양해지고 있다. 인공지능 콘텐츠를 식별하는 기술과 워터마크를 입히는 방법이 대표적이다. 구글 딥마인드는 지난 8월 클라우드컨퍼런스에서 인공지능 이미지용 워터마크(신스ID)를 공개했다. 일반적인 워터마크와는 달리 눈에 보이지 않아 원본 이미지를 훼손하지 않으며, 인공지능만 식별할 수 있는 투명한 워터마크다. 오픈에이아이도 인공지능이 만든 이미지를 99% 정확도로 식별할 수 있는 기술을 개발중이라고 밝혔다. 정보를 긁어오는 인공지능 봇을 차단하는 기술(Originality.AI)이 개발됐고, 로이터통신·뉴욕타임스·블룸버그 등 언론사들은 인공지능 봇의 정보수집을 차단한다고 밝혔다.

하지만 샘 올트먼 오픈에이아이 최고경영자는 지난 23일 ‘월스트리트저널’ 인터뷰에서 “워터마킹에 대한 의견이 다양하며 모든 콘텐츠에 워터마킹을 적용할 수 있는 것도 아니다”라며 “이미지엔 워터마킹을 할 수 있지만 짧은 텍스트엔 할 수 없을 수 있다”며 워터마크는 ‘흑백논쟁’이 아니라고 말했다.

■ AI 학습 취약점 이용한 ‘독 품은 창작물’

인공지능이 창작자의 허가없이 접근해 정보를 학습할 경우 인공지능 모델의 신뢰도와 정확성이 치명적 손상을 입게 되는, 새로운 저작권 보호 도구도 개발됐다. 지난 23일 ‘엠아이티(MIT) 테크놀로지 리뷰’에 따르면, 시카고대 벤 자오 교수는 예술가가 창작물에 눈에 보이지 않는 ‘디지털 독’을 첨가할 수 있는 ‘나이트셰이드’를 개발했다.

나이트셰이드는 방대한 양의 데이터를 수집해 학습하는 생성 인공지능 모델의 보안 취약점을 이용하는 구조다. 창작자가 작품을 온라인에 공개하면서 나이트셰이드를 이용해 독성 코드를 심으면, 해당 데이터를 수집한 인공지능 모델 안에서 독이 나머지 데이터로 퍼져나가 전체 모델이 오염되는 방식이다. 한번 오염된 데이터는 삭제하기 매우 어렵기 때문에 인공지능 모델은 치명적 손상을 입게 된다. 연구진은 스테이블 디퓨전을 대상으로 테스트한 결과를 공개했다. 개 이미지에 독을 심어 공개한 뒤 이를 학습한 인공지능에게 “개 이미지를 만들라”라고 요구했더니, 팔다리가 많은 괴물같은 생물을 만들어내고 더 많은 독을 주입했더니 고양이를 그려냈다. 저작권 보호 기능과 함께 인공지능 모델을 붕괴시킬 위험성을 안고 있는 기술의 등장이다.

김윤명 디지털정책연구소장은 “저작권법은 사람의 이용을 전제로 만들어졌기 때문에 인공지능의 이용을 저작권 침해로 규정하기 어려운 면이 있다”며 “공정이용과 저작권자의 보상청구권 범위 등에 대한 사회적 합의가 필요하다”고 말했다.

구본권 사람과디지털연구소장 starry9@hani.co.kr


한겨레에서 보기 : https://www.hani.co.kr/arti/economy/it/1114108.html

서비스 선택
댓글
로그인해주세요.
profile image
powered by SocialXE
List of Articles

사회적경제가 경기도 사회문제 해결의 열쇠가 될 수 있을까?

지난 7일 ‘모두의 사회적경제×ESG 콘퍼런스’ 개막 부대행사로 ‘경기도사회적경제원 사업성과 공유회’ 지난 7일 경기 고양시 킨텍스에서 열린 ‘모두의 사회적경제×ESG 콘퍼런스’의 부대행사로 ‘경기도사회적경제원 사업성과 공유...

  • HERI
  • 2023.12.08
  • 조회수 63

“사회적 경제, 지역 불평등 해소 위해 연결 강화해야”

경기도 ‘모두의 사회적경제 x ESG 콘퍼런스’ 경기도사회적경제원이 주최·주관한 ‘경기도에서 먼저 만나는 미래, 모두의 사회적경제×ESG 콘퍼런스’가 12월 7~8일 이틀간 경기도 고양시 킨텍스 제1전시장에서 진행됐다. 경기도사회...

  • HERI
  • 2023.12.08
  • 조회수 61

제14회 ‘학현학술상’ 후보자 추천받습니다

한겨레·서울사회경제연구소·경제발전학회 공동주관 경제학·한국경제 연구 기여자 선정…내년 5월 시상 변형윤 선생의 경제학 발전·경제민주화 공로 기려 한겨레신문사, 서울사회경제연구소, 한국경제발전학회가 ‘제 14회 학현학술상 ’ ...

  • HERI
  • 2023.12.06
  • 조회수 75

‘기업거버넌스’ 대상 조정호 회장·곽정수 기자 등 10명 수상

5일 서울 여의도 콘래드호텔에서 열린 제2회 한국기업거버넌스 대상 시상식에서 곽정수 한겨레경제사회연구원 선임기자가 언론부문 대상을 수상하고 있다. 사진 류이근 한겨레경제사회연구원 선임기자 (사)한국기업거버넌스포럼(회장 김...

  • HERI
  • 2023.12.05
  • 조회수 92

생각 다른 사람 1대 1 매칭 대화…“이해·공감할 수 있었다”

한겨레 주최 두번째 ‘한국의 대화’ 11월15일 오후 서울 종로구 노무현시민센터에서 ‘2023 민주주의랩 컨퍼런스’의 세션행사로 두 번째 ‘한국의 대화·Korea Talks’가 열렸다. 같은 언어와 문화 속에 살지만 우리 각자의 세계는...

  • HERI
  • 2023.11.17
  • 조회수 203

국제 흐름 거부하는 오세훈 서울시, 사회적경제 고사시키나

서울사회적경제네트워크 기자회견…통합 사회적경제센터 예산·인원 감축 철회 요구 14일 오후 서울시청 앞에서 ‘서울시 사회적경제지원센터 신규 민간위탁 예산 및 정원 대폭 삭감 반대’ 기자회견이 열렸다. (사)서울사회적경제네트워...

  • HERI
  • 2023.11.14
  • 조회수 330

급물살 탄 AI규제 국제 협력...“새 모델 출시 전, 위험성 검증”

영국 인공지능 안전성 정상회의 미국 행정명령 발효 잇따라 내년 미대선 앞두고 딥페이크 피해 등 우려 “군수물자처럼 출시 전 철저히 검증”ᅳ 한국은 기업 경쟁력 명분 ‘우선허용 사후규제’ 원칙 예측가능성 낮춰 혁신 저...

  • admin
  • 2023.11.13
  • 조회수 321

안팎 위기에 맞서 사회적경제를 다시 성찰하다

8일 ‘제21회 사회적경제 정책포럼’ 개최 지난 8일, 서울 중구 명동 온드림 소사이어티에서 ‘소셜 임팩트 토크쇼: 사회적경제를 다시 생각한다’를 주제로 제21회 사회적경제 정책포럼이 열렸다. 왼쪽부터 도현명 임팩트스퀘어 대...

  • HERI
  • 2023.11.10
  • 조회수 305

콘텐츠 바다에 ‘저작권 독물’ 살포…AI는 개 대신 고양이를 그렸다

인공지능챗봇 척척박사 비결은 사람이 만든 콘텐츠 학습 저작권자들, AI기업에 잇단소송…‘이용 vs 보상’ 합의필요 2022년 9월 미국 콜로라도 주립박람회 미술경연대회에서 디지털예술/디지털이미지사진 부문 1등을 차지한 게임제작...

  • HERI
  • 2023.10.30
  • 조회수 582

여성·남성 모두 불안정 노동의 피해자…연대해야 불평등 깰 수 있어

소셜코리아-HERI 공동기획(3) 성불평등과 사회경제적 불평등 불평등은 한국사회를 설명하는 핵심 열쇳말이다. 우리 앞에 놓인 많은 난제들, 고통, 불안의 기저에 불평등이 있다. 소득과 자산 등 전통적 의미의 불평등이 여전한 가...

  • HERI
  • 2023.10.26
  • 조회수 654

수소경제 생태계 구축 위한 토론회 내달 2일 개최한다

<한겨레> 주최 제4회 에너지정의 포럼에서 김재경 애경연 박사, 국내 현황과 정책과제 주제발표 학계·경제계·시민사회·공기업 등 각계 대표 토론 예정 <한겨레>가 11월2일 오후 2시부터 서울 마포구 공덕동 한겨레신문사 3층 청암홀...

  • HERI
  • 2023.10.26
  • 조회수 558

“서로를 돌보며 함께 다시 시작”…‘시대의 책사’ 고 정태인 1주기 추모

20일 오후, 80여명 시민들 참여 속 한겨레신문서 열려 떠난 자리 그리워하며, 희망으로 이어갈 방안 모색 기후위기·불평등·평화·청년 등 고인의 화두 이어 청년 독립연구자들, 추모 학술포럼에서 연구·발제 고 정태인 박사가 201...

  • HERI
  • 2023.10.23
  • 조회수 596

예산 최대 91% 삭감에 뿔난 ‘사회적 경제’… 원상복구 투쟁 나서

사회적경제 예산 원상복구를 위한 공동대책위원회 출범 전국 각지에서 84개 단체, 400여명 사회적경제인 참석 전국에서 1인당 1일 이상 1인 시위 예산 확정 때까지 18일 오후 국회 본청 앞 계단에서 ‘사회적경제 예산 원상복구...

  • HERI
  • 2023.10.19
  • 조회수 617

‘지식권력’ 외국어 진입장벽 낮춘 AI 번역…영어 지배력은 확대

실용단계 들어선 AI번역 봉준호 감독의 영화 ‘설국열차’에서 기차의 보안설계자 남궁민수(송강호)는 통역기를 이용해 외국인과 대화한다. 주머니에서 둥그런 물체를 꺼내 입에 대고 한국말을 하면 영어가 나오는 식이다. 영화 속...

  • HERI
  • 2023.10.16
  • 조회수 627

“정치적 양극화 풀려면 더 많은 ‘자유 사용재’ 필요”

‘다중위기 시대: 공존의 길을 찾아’ 아시아미래포럼 개막 맨스브리지 ‘민주주의 위기의 근원’ 기조강연서 강조 제인 맨스브리지 미국 하버드대 케네디스쿨 교수가 11일 서울 중구 대한상공회의소 국제회의장에서 열린 제14회 아...

  • HERI
  • 2023.10.16
  • 조회수 568

“18세기 만들어진 민주주의 재설계해야…한국 혁신 가능”

‘다중위기 시대: 공존의 길을 찾아’ 아시아미래포럼 개막 맨스브리지 ‘민주주의 위기의 근원’ 기조강연서 강조 제인 맨스브리지 미국 하버드대 케네디스쿨 교수가 11일 서울 중구 대한상공회의소 국제회의장에서 열린 제14회 아...

  • HERI
  • 2023.10.16
  • 조회수 508

“자본에 최저세율 매기자” 세계는 합의할 수 있을까

2023 아시아미래포럼 기조세션 강연 경제학자 쥐크만 UC버클리 교수 “현재 과세정책, 부의 불평등 해소 못 해” 가브리엘 쥐크만 유시(UC)버클리대 교수가 11일 서울 중구 대한상공회의소 국제회의장에서 열린 제14회 아시아미래포...

  • HERI
  • 2023.10.16
  • 조회수 514

“기후위기는 사고다발지역 교통사고처럼 구조적 접근해야”

한겨레 주최 ‘2023 아시아미래포럼’ 방송인 타일러 라쉬 특별강연 방송인 타일러 라쉬가 11일 서울 중구 대한상공회의소 국제회의장에서 열린 제14회 아시아미래포럼에서 ‘기후위기 - 3가지 착각, 3가지 행동’을 주제로 강연하고...

  • HERI
  • 2023.10.16
  • 조회수 507

“아시아, 상부상조 전통 넘어 사회연대경제 도전자로”

‘2023 아시아미래포럼’ 분과세션1 ‘공존의 미래, 사회연대경제에서 길을 찾다’ 패널들이 11일 서울 중구 대한상공회의소 국제회의장에서 열린 제14회 아시아미래포럼 분과세션1 라운드테이블 ‘공존의 미래, 사회연대경제에서 길을 ...

  • HERI
  • 2023.10.16
  • 조회수 496

“ESG 시대, 진짜 지속가능 기업은?…유엔 지표가 대안 제시”

‘2023 아시아미래포럼’ 분과세션3 ESG 워싱을 넘어, 새로운 지속가능보고 제안 아시아미래포럼 분과세션3 ‘ESG워싱을 넘어, 새로운 지속가능보고 제안’에서 ‘글로벌200+ 기업의 지속가능성 성과, 최근 동향 및 중요 이슈’를 ...

  • HERI
  • 2023.10.16
  • 조회수 555