HERI 뉴스
“시민안전 충돌때 어김없이 이윤추구”
전 제품관리자 하우건 내부자료 폭로

내부고발·비판불구 성장세 변함없어
거대플랫폼 특성상 다양한 측면 불가피
비밀주의와 취약층 공격 알고리즘 문제
시민사회·입법통한 규제 찬반 엇갈려
페이스북, 내부고발 ‘일파만파’

페이스북에서 제품관리자로 근무해오다 퇴직한 내부고발자 프랜시스 하우건은 2021년 10월 5일 미 상원 청문회에 출석해 “페이스북이 시민 안전보다 기업 이윤을 우선시하는 알고리즘을 작동시켜왔다”고 증언했다. 워싱턴DC/AP 연합뉴스
페이스북에서 제품관리자로 근무해오다 퇴직한 내부고발자 프랜시스 하우건은 2021년 10월 5일 미 상원 청문회에 출석해 “페이스북이 시민 안전보다 기업 이윤을 우선시하는 알고리즘을 작동시켜왔다”고 증언했다. 워싱턴DC/AP 연합뉴스

세계 최대 소셜미디어이자 어느 국가 인구보다 많은 가입자 29억명의 ‘사이버 제국’ 페이스북이 전에 없는 위기에 처했다. “페이스북은 청소년들에게 직접적 해를 끼치고 사회 분열을 조장하며 민주주의를 위협하는 플랫폼이다”라는 내부고발자의 폭로 파장이 점점 번지고 있다. 페이스북에서 2019년부터 올해 5월까지 제품 관리자를 지낸 프랜시스 하우건은 최근 페이스북 내부자료를 미국 <월스트리트저널>에 제보해 대대적 보도를 이끌어내고, 지난 5일 상원 청문회에 출석해 페이스북이 반사회적 행위를 수익모델로 삼는 기업이라고 주장했다. 폭로 이후, 페이스북 주가는 15% 가까이 폭락했고 이용자 불신과 비판 여론이 높아지면서 규제가 필요하다는 주장이 확산되고 있다. 페이스북은 전에 없이 거센 비판의 파고를 넘어설 수 있을까? 아니면 페이스북은 이미 항공모함처럼 웬만한 파도에는 흔들리지 않을 보편적이고 필수적인 플랫폼의 자리에 올라선 것일까?

■ 내부고발자의 폭로


하우건은 2006년부터 구글, 핀터레스트 등에서 추천알고리즘을 개발해온 정보기술 전문가로, 페이스북에 대한 기대를 품고 입사해 가짜뉴스 알고리즘 관련 프러덕트 매니저로 일했으나 페이스북 경영진이 이용자 안전보다 돈벌이를 우선하는 태도에 분노해 내부고발자로 나섰다고 지난 3일 <시비에스(CBS)>의 탐사보도 프로그램 ‘60분’에서 밝혔다. <월스트리트저널>은 하우건의 제보를 토대로 지난달 14일 페이스북의 자회사인 인스타그램이 10대의 정신건강에 악영향을 끼치고 특히 10대 소녀들이 자신의 몸에 대해 불만과 비참함을 느끼도록 만든다는 조사결과를 알면서도 이를 조장하는 알고리즘을 방치했다고 보도했다. 자살 충동을 느낀 10대중 영국 사용자의 13%, 미국 사용자의 6%가 자살 충동 원인으로 인스타그램을 지목했다는 연구결과를 비롯해 페이스북과 인스타그램의 반사회적 영향이 지난해 마크 저커버그 최고경영자 등 페이스북 경영진에게 보고됐다는 사실도 공개됐다. <엠아이티(MIT) 테크놀로지 리뷰>에 따르면, 하우건은 페이스북에 근무하면서 직원용 소셜미디어인 ‘페이스북 워크플레이스’를 뒤져 방대한 내부보고서와 연구자료를 찾아냈고 페이스북이 문제를 알면서도 방치해온 사실을 제보했다. 하우건은 상원 청문회에서 “기업 이윤과 시민의 안전이 충돌할 때마다 페이스북은 어김없이 돈벌이와 성장을 선택했다”며 “페이스북은 의회와 시민사회의 개입없이 스스로 문제를 해결할 수 없을 것”이라고 말했다.

■ 기존의 폭로와 차이

페이스북을 향한 비판과 내부고발은 처음이 아니다. 데이터업체인 케임브리지 애널리티카를 통해 이용자 8700만명의 정보가 유출돼 2016년 미국 대통령선거 운동에 활용된 게 문제가 되어 2018년 저커버그가 공식 사과하고 의회 청문회에서 질타당한 바 있다. 페이스북 초기에 입사해 성장을 이끌며 부사장을 지낸 차마트 팔리하피티야는 2017년 11월 스탠퍼드대 강연에서 페이스북을 “도파민에 의해 작동하는 단기 피드백 순환고리”라고 규정하고 페이스북은 사회가 작동하는 방식을 파괴하는 도구라고 고백했다. 페이스북에서 데이터 과학자로 일했던 소피 장도 지난해 9월 수천만원의 퇴직금을 포기하면서까지 페이스북이 가짜 계정과 가짜 ‘좋아요’를 방치하며 페이스북내 여론 조작에 눈감아온 사실을 <버즈피드>에 공개한 바 있다.

내부 고발이 터져나올 때마다 탈퇴 캠페인과 비판 보도가 이어지고 의회 청문회와 저커버그의 사과가 잇따랐다. 그럼에도 페이스북은 실질적 타격을 받지 않았고, 이용자 규모는 변함없이 증가세를 유지했다. 하지만 이번 하우건의 폭로는 어느 때보다 구체적 자료를 갖고 이뤄진 내부고발이라는 점, 바이든 미 행정부와 의회가 빅테크 기업 규제에 대해 강경한 태도를 보인다는 점에서 그동안의 문제 제기와 구별된다. 유명 주식해설가 짐 크레이머는 지난 4일 <시엔비시(CNBC)>에 출연해 “전에도 페이스북 비판이 나왔고 그때마다 주가에 악재였지만 중장기적으론 큰 문제가 되지 않았다. 그러나 이번엔 충격의 강도가 다르다”고 말했다.

■ ‘이용자 참여 극대화’ 알고리즘의 비밀

페이스북은 하우건의 폭로와 의회 증언에 대해 “회사 의사결정에 참여한 적 없는 인물”이며 오해로 점철돼 있다고 반박했지만, 하우건은 페이스북 문제의 핵심엔 알고리즘이 있다고 구체적 사례와 작동구조를 제시했다. 하우건은 페이스북 알고리즘이 머신러닝을 통해 댓글, 공유, ‘화나요’ 버튼 등 이용자 참여를 극대화하도록 설계됐고, 그 결과 이용자에게 극단주의와 가짜정보를 더 많이 노출시켜 클릭을 유도했다고 고발했다. 사람들은 소셜미디어에서 사실보다 자극적인 콘텐츠를 선호하는데, 페이스북의 참여 유도 추천알고리즘이 기름을 붓는 구조다. <엠아이티 테크놀로지 리뷰> 최신호는 페이스북 내부 조사결과 이용자 참여 극대화 알고리즘이 정치적 양극화를 조장하는 게 확인됐지만, 양극화를 줄일 경우 이용자 참여도가 낮아질 것을 우려해 개선 제안이 채택되지 않았다는 사실을 보도했다.

이러한 사실은 이용자의 적극적인 참여 활동이 바람직하다는 페이스북의 기존 주장과 배치된다. 2017년 예일대·미시건대 연구진 등은 페이스북을 오랜 시간 이용하거나 ‘좋아요’를 많이 누를 경우 우울감이 높아진다는 연구결과를 발표해 소셜미디어가 정신건강에 끼치는 악영향이 불거졌다. 당시 페이스북은 회사 블로그에 “소셜미디어에서 시간을 보내는 것은 나쁜가?”라는 글을 올리고 페이스북이 정신건강에 안좋다는 연구결과를 인정하며 대안을 제시했다. 페이스북은 대안으로 페이스북에서 단순 읽기나 ‘좋아요’ 클릭같은 수동적 이용대신 친구와 메시지나 의견을 교환하며 적극적으로 상호작용하는 것은 오히려 정신건강에 좋다고 주장했다. 하지만 이번 폭로로 페이스북이 추천한 적극적 참여가 정신건강 대신 극단주의와 가짜뉴스, 사회 분열을 불러왔고 기업의 돈벌이 수단으로 활용되었다는 게 드러난 셈이다.

마크 저커버그 페이스북 최고경영자(CEO)는 2018년 4월10일 미국 상원 법사위원회와 상무위원회의 합동 청문회에 출석해, 페이스북 개인정보 무단 유출 파문에 대해 증언했다.   워싱턴DC /AP 연합뉴스
마크 저커버그 페이스북 최고경영자(CEO)는 2018년 4월10일 미국 상원 법사위원회와 상무위원회의 합동 청문회에 출석해, 페이스북 개인정보 무단 유출 파문에 대해 증언했다. 워싱턴DC /AP 연합뉴스

■ 문제 해결의 복잡성

잇단 내부고발과 여론의 비판에 불구하고 페이스북의 문제가 개선되지 않는데는 알고리즘의 비밀주의와 복잡함이 있다. <생각을 빼앗긴 세계>의 저자 프랭클린 포어는 “페이스북은 10만개 넘는 시그널을 이용해 이용자가 무엇을 볼지 결정한다”며 “6000만줄 넘는 페이스북 코드는 페이스북조차 그 복잡한 알고리즘을 이해하지 못할 수 있으며 해독불가능한 고대문서처럼 되었다”고 지적한다. 페이스북이 실제 어떻게 운영되는지 확인할 수 없는 상황에서 규제 당국과 시민사회의 대책과 요구는 제한적일 수밖에 없다. 하우건도 의회 청문회에서 “페이스북은 어떻게든 이 문제를 풀 길이 없는 복잡하고 어려운 문제로 그려내려 하고, 엉뚱한 선택지를 내밀어 대중을 오도하려 할 것이다”라고 증언했다.

페이스북처럼 거대하고 복잡한 플랫폼은 수많은 이용자들이 자발적 동의 아래 다양한 용도로 활용하고 경제적 수단으로 이용하는 특성으로 인해, 문제가 발생해도 진단과 해결이 어렵다. 최근 페이스북과 인스타그램에서 불거진 문제는 내부의 극소수만이 알고 있는 비밀스런 알고리즘에 기인하고, 10대 소녀처럼 취약층에게 더큰 악영향을 끼친다는 점에서 심각하다.

페이스북과 같은 거대 소셜미디어 플랫폼의 사회적 유해성을 바로잡을 방안으로는 시민사회의 감시와 의회에서 입법을 통한 규제, 그리고 이를 가능하게 하는 투명성이 제시된다. 하우건은 상원 청문회에서 “게임 규칙을 바꾸면 페이스북이 일으킨 많은 피해를 줄일 수 있다”며 입법을 통한 규제를 요청했지만 반론도 있다. 저커버그도 페이스북에 대한 정부 규제를 요청한 바 있으며, 규제는 유해한 수익모델을 합법화하는 수단이 된다는 비판이다.

저커버그는 2019년 3월 <워싱턴포스트> 기고에서 유해콘텐츠에 대한 유럽연합의 가이드라인과 같은 정부 규제를 요청하며, 자사 플랫폼으로 인한 문제에 대한 책임을 정부에 떠넘겼다. <컬럼비아 저널리즘 리뷰>는 지난 13일 “페이스북의 유해한 수익모델은 규제를 통해 합법화하기보다 근본적으로 제거해야 할 대상이다”는 주장을 실었다. 하우건은 청문회에서 페이스북 플랫폼 자체가 문제가 아니라 돈벌이를 우선하는 인센티브 시스템이 문제라며 시민사회와 의회의 개입을 통해 “모두를 위한 더 나은 소셜미디어를 얼마든지 만들 수 있다”고 주장했다.

구본권 사람과디지털연구소장 starry9@hani.co.kr
두근거리는 미래를 후원해주세요
소외 없이 함께 행복한 세상을 위해 노력하겠습니다.
여러분의 후원이 평등하고 자유로운 사회를 만듭니다.



한겨레에서 보기: “극단주의 조장” 사악한 SNS 알고리즘 고칠 수 있을까 : 경제일반 : 경제 : 뉴스 : 한겨레 (hani.co.kr)

서비스 선택
댓글
로그인해주세요.
profile image
powered by SocialXE
List of Articles

“수도권 쏠림 막으려면 단일 행정구역 넘어 초광역적 협력해야”

제2회 ‘대한민국도시포럼’ 유엔해비타트·한겨레 공동개최 ‘메가시티 리전’ 주제로 균형발전과 자치분권 모색 “수도권 일극집중 체제 한계, 다극 거점형 공간 구축 필요” 25일 서울 용산구 드래곤시티 호텔에서 제2회 대한민국...

  • HERI
  • 2021.11.26
  • 조회수 44

“기록적인 ‘수도권 쏠림현상’ 지속가능한 해법 함께 찾아야죠”

[짬] 유엔해비타트 한국위원회 최기록 회장 최기록 회장이 지난 11일 서울 여의도 사무실에서 도시와 청년의 범주에서 유엔해비타트 한국위원회의 역할에 대해 설명하고 있다. 사진 김슬아 한겨레경제사회연구원 보조연구원 “우리...

  • HERI
  • 2021.11.25
  • 조회수 105

“메타버스는 인터넷의 미래” 저커버그 ‘도박’ 성공할까

페이스북, ‘메타버스 기업’ 선언 PC통신→인터넷→모바일 진화처럼…“메타버스는 다음 단계” 새로운 인터넷 기대에 페이스북의 ‘곤경탈출 수법’ 비난도 마크 저커버그는 2021년 10월28일 ‘페이스북 커넥트’ 행사에서 홍보 영상...

  • HERI
  • 2021.11.15
  • 조회수 431

중고차판매 ‘생계형 적합업종’ 판단 2년째 ‘낮잠’

자동차산업연합회 포럼 동반위 “부적합” 의견…중기부 처리시한 넘겨 소비자단체 “하루 217건, 1억1천만원 사기피해” 소비자 피해상담도 연평균 6천건 이상 쏟아져 소비자-판매상-완성차-부품사 ‘4자 상생안’ 필요 중고차 판매장 ...

  • HERI
  • 2021.11.08
  • 조회수 652

문장 입력하면 ‘그림 완성’ 인공지능 신세계 연다

AI 이미지처리 비약적 발전 사진·동영상에 자동 자막, 설명 텍스트 입력하면 이미지로 구현 인간 수준의 ‘이해’ 도달에 성큼 검색 고도화, 창작 활성화 기대 “경제적·윤리적 영향 연구 필요” AI, 텍스트-그림 교차인식 오픈...

  • HERI
  • 2021.11.08
  • 조회수 534

진보 학자들 “선진국보다 낮은 보유세 높여야” 윤석열·홍준표 ‘보유·양도세 인하’ 공약에 반대

29일 서울사회경제연구소 ‘부동산 심포지엄’ 이재명 후보의 ‘국토보유세’ 신설과 일맥상통 선진국보다 높은 거래세는 인하 제안 “기본·청년원가·쿼터주택 공급물량 한계” 전체 무주택자의 주거비용 안정화 필요 “집값 안정은 ...

  • HERI
  • 2021.10.28
  • 조회수 850

“데이터 정보 독점막고 공공재로 활용해야”

<2021 아시아미래포럼> 세션6 플랫폼 노동의 건강권, 데이터 주권 플랫폼 노동자들 질병비율 높아 건강기록 데이터화해 관리 필요 ‘플랫폼 노동의 건강권, 데이터 주권 그리고 경제 주권’ 세션에서 배중철 한국교통안전공단 경남...

  • HERI
  • 2021.10.26
  • 조회수 635

“4차혁명, 코로나 만나 가속화…대도시 밀집 해결해야”

<2021 아시아미래포럼> 세션3 산업환경과 구조변화 지속가능성 갖춘 도시로 전환 필요 탈탄소 시대 지역과 에너지 협력도 21일 서울 중구 대한상공회의소에서 열린 제12회 아시아미래포럼에서 임업 연세대 도시공학과 교수(왼쪽 셋째...

  • HERI
  • 2021.10.26
  • 조회수 613

“사회적 경제 구현하려면, 정부 안에 ‘시민 토론장’ 있어야”

<2021 아시아미래포럼> 세션1 시민과 함께 하는 사회적 경제 참여 민주주의가 사회적 경제 강화 이를 체화할수 있는 교육과정 필요 서울 성북구·도봉구 등에서 주민 참여 경제생태계 구축했지만 사회적 기업 영세성 등 한계도 정...

  • HERI
  • 2021.10.26
  • 조회수 595

“기후위기, 고용에도 영향…불평등 완화 대책을”

<2021 아시아미래포럼> 세션5 탈탄소시대와 노동 탈탄소 논의에서 노조는 배제돼 노동자 위한 교섭구조 재편 필요 제12회 아시아미래포럼 둘째날 열린 ‘탈탄소시대와 노동’ 세션에서 참석자들이 토론을 하고 있다. 강창광 선임기자...

  • HERI
  • 2021.10.26
  • 조회수 382

“ESG 투자·경영 관점서 바라보면, ‘그린워싱’ 함정에 빠져”

<2021 아시아미래포럼> 세션 4 사람 중심 ESG, HESG는 가능한가 파타고니아 임원 빈센트 스탠리 “사회적 가치 기업문화에 확립때 이윤을 위협하는 상황 극복해야 직원들 한명한명 동의가 필수적” 지금 통용되는 지표 투자자 ...

  • HERI
  • 2021.10.26
  • 조회수 258

“녹색전환에 맞춘 새로운 복지국가 비전 필요”

<2021 아시아미래포럼> 세션2 정의로운 생태전환과 사회정책의 과제 기후위기, 사회적 약자에 더 공격적 경제·환경·복지 통합과 균형 이뤄야 21일 제12회 아시아미래포럼 둘째날 행사로 열린 ‘정의로운 생태전환과 사회정책의 과제:...

  • HERI
  • 2021.10.26
  • 조회수 296

사회적경제·사람중심 ESG…다양한 ‘공존의 삶’ 제안

<2021 아시아미래포럼> ‘공존을 위한 대전환: 함께 만드는 미래’ 20~21일 이틀 일정 마치고 폐막 21일 오전 서울 중구 대한상공회의소 국제회의장에서 ‘공존을 위한 대전환: 함께 만드는 미래’를 주제로 열린 제12회 아시아미...

  • HERI
  • 2021.10.26
  • 조회수 169

[포토] 시민·정책이 함께 쌓아올린 사회적 경제

<2021 아시아미래포럼> 사진으로 보는 둘째날 일정 사회적 경제, 기후위기 시대의 복지 등 논의 21일 오전 서울 중구 대한상공회의소에서 `공존을 위한 대전환: 함께 만드는 미래'를 주제로 계속된 `제12회 아시아미래포럼' 둘째...

  • HERI
  • 2021.10.21
  • 조회수 218

스티글리츠 “기후위기 오히려 기회…녹색전환으로 일자리 창출”

<2021 아시아미래포럼> 기조세션1 조지프 스티글리츠 미 컬럼비아대 교수 팬데믹·기후위기로 불평등 심각 가난한 이에게 더 부정적 영향 정부, 탄소배출권 가격 인상 등 경제·사회 전반적 변화 끌어내야 녹색전환으로 혁신 촉진·기...

  • HERI
  • 2021.10.21
  • 조회수 216

“인간에겐 공존·협력하려는 본성이 있다”

<2021 아시아미래포럼> 특별강연 뤼트허르 브레흐만 네덜란드 언론인 ‘이기적·탐욕적 본성’ 통념에 반박 낯선 이가 곤경 처하면 90% 도와 뤼트허르 브레흐만 유럽 대안 언론 <코레스폰던트> 창립멤버가 ‘위기, 인류에 내재된 ‘...

  • HERI
  • 2021.10.21
  • 조회수 201

“‘정의로운 친환경 전환’ 핵심은 실직 구제와 정규직 확대”

<2021 아시아미래포럼> 특별세션 섀런 버로 국제노조연합 사무총장 그라파코스 녹색성장기구 수석 “저소득국 화석연료 탈피 보상 필요” 산디프 파이 전략국제문제연 책임자 “단기에 전환 안돼…장기적 계획 중요” 김현우 에너지기...

  • HERI
  • 2021.10.21
  • 조회수 181

마이클 샌델 “백신·교육에서 ‘능력주의 함정’ 작동”

<2021 아시아미래포럼> 기조세션2 마이클 샌델 미 하버드대 교수 연구개발비 충당 가능한 선진국이 백신의 과실 독식하면 공동선 붕괴 마이클 샌델 미국 하버드대 교수(왼쪽)가 김선욱 숭실대 학사부총장(가운데), 김은미 이화여대 ...

  • HERI
  • 2021.10.21
  • 조회수 189

“기존 청년담론, 일부 집단 과잉대표…약자층 포함해야”

<2021 아시아미래포럼> 청년포럼 천주희 문화연구자, 논의 한계 지적 변재원 장애인권 활동가 경험 발표 “변화, 과거부정보다 현실에서 시작” 제12회 아시아미래포럼 첫째 날 행사로 ‘청년들이 만드는 균열, 연결 그리고 상상력...

  • HERI
  • 2021.10.21
  • 조회수 378

<정의란 무엇인가> 저자 “백신 불평등…특허권 당장 멈추자”

2021 아시아미래포럼 개막 첫날 마이클 샌델 하버드대 교수 기조강연 조지프 스티글리츠 “녹색경제 전환, 일자리 창출” 20일 서울 중구 대한상공회의소에서 열린 ‘2021 아시아미래포럼’에서 주요 참석자들이 기념사진을 찍고 있...

  • HERI
  • 2021.10.21
  • 조회수 171