HERI 뉴스
“구독 50명 넘어야 모바일 중계”
유튜브 등 폭력표현 단속강화에
규제 적은 게임전문 플랫폼 활용
범행 전에 커뮤니티에 ‘계획’ 알려

트위치, ‘2분 만에 삭제’ 빨랐지만
복제 통한 타 플랫폼 공유 못막아
소셜미디어 더 적극적 역할 필요

지난 15일(현지시각) 미국 뉴욕주 버팔로의 흑인 밀집지역 슈퍼마켓에서 총격 사건이 발생해 10명이 숨지고 3명이 부상했다. 범인 페이튼 젠드런은 소셜미디어에 범행 계획을 예고하고 총격 장면을 헬멧 카메라를 통해 인터넷으로 생중계해 충격을 줬다. 참사뒤 시민들이 현장 인근에서 기도하고 있다. 버팔로/AP 연합뉴스
지난 15일(현지시각) 미국 뉴욕주 버팔로의 흑인 밀집지역 슈퍼마켓에서 총격 사건이 발생해 10명이 숨지고 3명이 부상했다. 범인 페이튼 젠드런은 소셜미디어에 범행 계획을 예고하고 총격 장면을 헬멧 카메라를 통해 인터넷으로 생중계해 충격을 줬다. 참사뒤 시민들이 현장 인근에서 기도하고 있다. 버팔로/AP 연합뉴스

지난 14일 미국 뉴욕주 버펄로 흑인 밀집지역의 슈퍼마켓에서 흑인들을 겨냥한 무차별 총기난사로 10명이 사망한 사건을 계기로 소셜미디어 역할에 대한 새로운 논의가 일고 있다. 백인우월주의를 믿는 18살 남성 페이튼 젠드런은 사전에 범행 동기와 계획을 극우 음모론 웹사이트에 올려 범행을 예고하고, 방탄모에 장착한 고프로 카메라를 통해 범행 장면을 인터넷으로 생중계했다는 점에서 충격을 안겼다.

범인은 사전에 “공격을 실시간 중계 (라이브 스트리밍) 하면 사람들이 나를 응원할 것이라는 사실이 동기를 부여한다”며 배경을 밝혔다. 3년 전 뉴질랜드 크라이스트처치 테러를 모방한 범죄다. 2019년 3월 15일 뉴질랜드 크라이스트처치에 있는 이슬람 모스크에서 인종 혐오에 사로잡힌 오스트레일리아 출신 남성 브렌튼 태런트(28)가 무차별 총격을 가해 51명이 숨지고 50명이 다치는 사건이 발생했다. 당시 범인은 사전에 페이스북에 범행계획과 실시간 중계를 예고하고, 페이스북에서는 잔혹한 범행 장면이 생중계됐다. 테러 이후 소셜미디어 책임론이 불거지고, 다양한 기술적 장치가 도입됐지만 왜 유사한 범행이 재연된 것일까.

왜 트위치 선택했나

이번 범행은 혐오 범죄 확산에 악용되는 소셜미디어의 취약점을 드러냈다. 젠드런이 범행 생중계를 위해 선택한 플랫폼은 트위치다. 미국 샌프란시스코에 본사를 둔 트위치는 2011년 개설된 실시간 개인방송 플랫폼으로, 온라인 게임 위주의 콘텐츠로 사용자가 1억명에 이른다. 14살 이상이면 가입가능하고, 2014년 아마존에 인수됐다.

2019년 크라이스트처치 테러 이후 대표적 소셜미디어들이 폭력 콘텐츠 정책을 강화한 것도 범인이 트위치를 선택한 배경이다. 젠드런은 범행 전에 “실시간 스트리밍은 무료이고 인터넷에서 누구나 시청하고 기록할 수 있다”며 트위치 선택 이유를 공개했다. 유튜브는 계정을 인증하고 구독자 50명을 확보한 이후부터 모바일 생중계가 가능하지만, 트위치는 이런 제한이 없어 누구나 생중계를 할 수 있다. 트위치는 생중계 2분 만에 삭제했으며 범인의 트위치 스트리밍을 시청한 사람은 22명에 불과했다고 발표했다.

<뉴욕타임스> 에 따르면, 전문가들은 크라이스트처치 테러 때 페이스북에서 17분 동안 실시간 중계가 이뤄진 것과 비교하면 2분 만의 삭제는 매우 빠른 대응이라고 평가했다. 하지만 인터넷에서 2분은 복제와 확산에 충분한 시간이다. 트위치에서 삭제된 영상은 복제되어 다수의 사이트에서 빠르게 번져나갔고 한 사이트 (streamable)에서만 삭제되기 전에 300만건 이상 조회가 이뤄지고 해당 링크를 제공하는 페이스북과 트위터 게시물은 수백번 넘게 공유됐으며 일부는 10시간이 지나도록 남아 있었다. 젠드런은 범행 전에 메신저 (디스코드)와 웹사이트 (4chan)에 총격 계획을 공유해, 초기 시청자들이 복제와 공유에 나서도록 했다. 18살 범인이 소셜미디어의 폭력 대응 취약점을 노렸다는 것을 보여준다.

인터넷 반테러 국제연대의 과제

크라이스트처치 테러 두달 뒤인 2019년 5월 저신다 아던 뉴질랜드 총리와 에마뉘엘 마크롱 프랑스 대통령이 주도하는 국제적 연대 ‘크라이스트처치 선언’이 출범했다. 온라인에서 증오표현과 폭력 선동을 콘텐츠를 규제하기 위한 이 조직에 유튜브·페이스북·트위터·아마존 등 정보기술 기업들과 50여국이 참여했다. 참여 기업들은 소셜미디어에서 극단적 폭력이나 증오 표현의 확산을 막을 인공지능과 알고리즘을 개발하고 공동으로 데이터베이스를 구축하고 활용하기로 했다.

크라이스트처치 선언 이전인 2017년 6 월 구글· 마이크로소프트·페이스북·트위터 등 주요 인터넷 기업은 ‘ 테러리즘 대응을 위한 국제 인터넷 포럼 (GIFCT)’ 이라는 자율규제 기구를 설립한 바 있다 .

크라이스트처치 선언은 테러와 극단주의 콘텐츠에 대한 구체적 대응방안도 제시했다. 그중에는 소규모 온라인 서비스업체들이 자유롭게 활용할 수 있는 도구와 기준을 제공하는 방안과 언론이 극단주의 콘텐츠를 증폭하지 않아야 한다는 점도 포함돼 있다. <뉴욕타임스>는 플랫폼 업체가 비극적 사건에 대해 검색을 차단하는 일은 매우 간단한 일이라며 페이스북이 한때 버펄로 총기난사 동영상을 ‘인기 동영상’으로 추천했다는 사실을 지적했다.

<워싱턴포스트>는 총기난사 생중계가 두 가지 과제를 제시했다고 지적했다. 하나는 중계 영상을 감지·제거하는 문제이고, 다른 하나는 사건 이후에 확산되는 영상과 공유를 차단하고 제거하는 문제다. 경찰이나 군인의 잔혹행위 영상 등은 소셜미디어에서 모든 폭력을 제거하는 쉬운 해결책이 없다는 걸 알려준다. <뉴욕타임스>와의 회견에서 컬럼비아대 이블린 두어크 연구원은 “이런 공격은 소셜미디어를 기반으로 하는 측면이 있는데 앞으로 계속될 것이며 막기 어려울 것”이라고 말했다. 소셜미디어와 실시간 방송 플랫폼의 취약점이 혐오와 잔혹 범죄에 악용되는 상황에 대한 더 깊은 논의와 대응이 절실해지고 있다.

구본권 사람과디지털연구소장 starry9@hani.co.kr


한겨레에서 보기: https://www.hani.co.kr/arti/economy/it/1044880.html

서비스 선택
댓글
로그인해주세요.
profile image
powered by SocialXE
List of Articles

“스케치 못해도 예술 가능”… 창작환경 지각변동 오나

AI 창작도구의 예술계 영향 ‘컴퓨터하는 이집트 동물신’ ‘쇼핑하는 기린’ 등 글쓰면 인공지능이 이미지샘플 제시 월 15달러에 460개 사용가능 삽화 등 상업적 활용도 가능 디자이너 ‘AI 활용능력’ 중요 인공지능이 문장에...

  • HERI
  • 2022.07.26
  • 조회수 1443

“더 나은 사회를 만드는 일…더 나은 내가 되는 일”

사회적 기업가이자 싱가포르 국회의원 캐리 탄 기획 국내 여성운동·사회혁신 활동가 위한 워크숍 열어 “내적 성숙이 이끄는 공동체와 사회문제 해결” 강조 지난 15일 서울 성수동 메리히어(Merry Here) 지하 2층에서 싱가포르...

  • HERI
  • 2022.07.19
  • 조회수 1020

“협동조합 연합해 유통플랫폼 ‘더쎈’ 구축하겠다”

사회적경제 상호거래 플랫폼 ‘더쎈’ 설명회 ‘함께하는’ 협동조합 비즈니스 생태계 모색 15일 서울시 마포구 ‘청년문화공간JU동교동’에서 열린 사회적경제 상호거래 플랫폼 설명회에 160여명의 협동조합 관계자가 참석했다. 신효진...

  • HERI
  • 2022.07.19
  • 조회수 1058

“팬데믹, 전쟁 등 글로벌 위기에 기부 역할 더 커졌죠”

[짬] 세계공동모금회 윌리엄스 회장 안젤라 윌리엄스(왼쪽) 세계공동모금회 회장이 12일 사랑의열매 회관에서 인터뷰를 하고 있다. 오른쪽은 조흥식 사회복지공동모금회 회장이다. 김정효 기자 hyopd@hani.co.kr “나는 인간 내면의 ...

  • HERI
  • 2022.07.14
  • 조회수 1905

협동조합기본법 시행 10년…‘지속가능한 도약’ 가능할까

9일 ‘제4회 사회적경제 박람회’서 협동조합기본법 평가 현장선 협동조합 법제도·정책의 효과성 체감 미미 “2032년 협동조합 도약 위해 ‘지원’에서 ‘진흥’으로, 중앙 주도에서 지역 중심으로 정책 설계 필요” 지난 9일 경북...

  • HERI
  • 2022.07.12
  • 조회수 1070

전통 리조트로 되살아난 고택…지역 중심 사회적경제가 ‘지방시대’ 이끈다

‘제4회 대한민국 사회적경제박람회’ 사회적경제 기반, 다양한 지역발전 사례 쏟아져 정책포럼·광역지원센터협의회 발족 등 눈길 지난 8일 오후 경북 경주시 보문로 경북화백컨벤션센터에서 열린 ‘지역발전과 사회적경제’ 심포지엄...

  • HERI
  • 2022.07.12
  • 조회수 1032

'경주 최부자집’ 나눔 정신과 만난 사회적경제

8~10일 경주에서 제4회 사회적경제 박람회 열려 연대와 혁신 추구…시민 등 3만여명 한 자리에 기재부, 새 정부 사회적경제 4대 정책방향 발표 지난 8일 오후 경북 경주시 보문로 경주화백컨벤션센터 3층 컨벤션홀에서 열린 ‘제...

  • HERI
  • 2022.07.12
  • 조회수 937

“사회적경제, 진보-보수 경계 없이 사회서비스 혁신 견인해야”

‘제18회 사회적경제 정책포럼’ 개최 사회서비스 건강한 공급 주체로 사회적경제 호명 공공성과 혁신성 도전 지원하는 정책 제안 쏟아져 지난 1일 서울 마포구 한겨레신문사 청암홀에서 ‘사회서비스 분야 사회적경제’의 역할과 ...

  • HERI
  • 2022.07.05
  • 조회수 944

“죽음 두려워요”…감정 AI 논쟁에 숨어든 빅테크의 속임수

인공지능 람다와 대화 공개한 구글 개발자 징계, 정직 처분 사람 고유의 특성으로 여겨온 ‘지각하는 존재 생각하는 동물’ 언어모델 발달로 인공지능도 모방 지난 11일 구글의 수석엔지니어 르모인은 대화형 인공지능 ‘람다’가...

  • HERI
  • 2022.06.27
  • 조회수 781

“명확한 비즈니스 모델 뒷받침 없는 메타버스는 ‘거품’에 불과”

제1회 한겨레 사람과디지털 포럼 특별대담 메타버스, 인터넷의 미래인가 환상인가 23일 오후 경기 성남시 분당구 그래비티서울판교호텔에서 제1회 한겨레 '사람과디지털포럼' 이 열려, 패널들이 '메타버스, 인터넷의 미래인가?환상인...

  • HERI
  • 2022.06.24
  • 조회수 983

김초엽 작가 “기술 발전이 가져올 변화…휩쓸리기만 해선 안 돼”

<한겨레> 사람과디지털 포럼 특강 김초엽 작가가 `당신의 우주정거장을 상상해보세요’ 주제로 특강을 하고 있다.강창광 선임기자 chang@hani.co.kr “아무리 첨단 기술이라도 방향성을 고민하지 않는다면 결국 누군가를 배제할 수밖...

  • HERI
  • 2022.06.24
  • 조회수 880

“빅테크 은밀한 차별 규제해야” vs “규제 둑은 생태계 파괴 우려”

제 1회 사람과 디지털 포럼 원탁회의 빅테크 전문가·기업인, 규제 두고 논쟁 “디지털 시대 노동 변화·실업 대비해야” 23일 경기 성남시 판교 그래비티 호텔에서 열린 제1회 한겨레 사람과 디지털 포럼에서 국내외 패널들이 ‘...

  • HERI
  • 2022.06.24
  • 조회수 871

“빅테크 알고리즘이 인종·성별 ‘은밀한 차별’ 부른다”

제1회 한겨레 사람과디지털 포럼 ‘함께 가는 디지털의 혁신과 책임’ 23일 경기도 성남시 판교그래비티호텔에서 열린 ‘제1회 한겨레 사람과디지털포럼’ 개회식 참석자들이 단상에 올라 기념사진을 찍고 있다. 신소영 기자 viaot...

  • HERI
  • 2022.06.24
  • 조회수 644

[포토] 모두를 위한 ‘디지털 권력’ 될 수 있나

제1회 사람과디지털포럼 현장 23일 오전 경기 성남시 분당구 그래비티서울판교호텔에서 제1회 한겨레 ‘사람과디지털포럼’이 열려 패널들이 ‘거대한 디지털 권력, 모두를 위한 도구의 조건’을 주제로 원탁토론을 하고 있다. 왼쪽부...

  • HERI
  • 2022.06.24
  • 조회수 743

제7회 ‘김기원 학술상’ 후보자 공모

통일경제·재벌·노동 등 한국경제 연구 분야 신진 연구자 대상…10월14일까지 접수 고 김기원 한국방송통신대 교수. 김봉규 기자 bong9@hani.co.kr 대표적인 진보경제학자였던 고 김기원 전 한국방송통신대학교 교수의 유지를 잇기 ...

  • HERI
  • 2022.06.22
  • 조회수 884

촉각 디스플레이, 시각장애인에게 새로운 세상을

휴먼테크놀로지 어워드 2022 특별 부문 최우수상 | 소셜벤처 닷 소셜벤처 ‘닷’은 시각장애인을 위한 제품과 서비스를 개발하는 스타트업이다. 시각장애인은 촉각과 소리로 세상을 인식하는데, 닷은 촉각디스플레이 등 베리어프리(무...

  • HERI
  • 2022.06.21
  • 조회수 701

코로나 속 ‘한시적’ 비대면진료 ‘가치’ 증명

휴먼테크놀로지 어워드 2022 이용자 부문 최우수상 | 닥터나우 ’닥터나우’는 국내 최초로 비대면 진료와 처방약 배달 서비스를 제공하는 원격의료 플랫폼이다. 코로나19로 인한 사회적 거리두기 상황에서 의료시스템의 공백을 메우...

  • HERI
  • 2022.06.21
  • 조회수 689

정치인 발언 ‘팩트체크’로 여론·이슈 파악한다

휴먼테크놀로지 어워드 2022 사회공공부문 최우수상 | 스피치로그 ’스피치로그’는 정치인들의 발언을 기록하고 데이터베이스로 만들어 팩트체크와 여론 분석, 평판 관리를 하는 기업이다. “사람의 생각은 세상을 바꾼다”는 믿음으...

  • HERI
  • 2022.06.21
  • 조회수 604

사투리도 척척 AI, 혼자 사는 노인과 온종일 보낸다

휴먼테크놀로지 어워드 2022 대상 | 네이버 클로바 케어콜 네이버 ‘클로바 케어콜’ 네이버 ‘클로바 케어콜’은 돌봄이 필요한 대상에게 일상을 주제로 자연스러운 대화를 나눌 수 있도록 지원하는 인공지능(AI) 기반 돌봄 서비...

  • HERI
  • 2022.06.21
  • 조회수 849

거리두기에 고령화까지… 그 빈틈 채우는 ‘살가운 기술’

휴먼테크놀로지 어워드 2022 ‘코로나시대와 저출생 고령화’ 여성사회활동위한 육아 앱 장애인 이동권 돕는 서비스 정치인 말 DB화해 ‘신뢰’ 추구 한시 허용된 원격의료 앱 주목 “저출생 고령화로 인한 인구 저감현상, 여성 ...

  • HERI
  • 2022.06.21
  • 조회수 944