HERI 뉴스
[인터뷰] 스튜어트 러셀 UC버클리 교수
전세계 대학이 배우는 AI교과서 저자

“지금까지 AI개발 표준모델은 사람이 부여한 목표 달성에 최적화”
“사람보다 뛰어난 지능 달성하라” AI에 잘못된 목표 부여하면 ‘파국’ 경고

러셀, 새 저서에서 AI가 사람 학습하도록 하는 새 모델 제시
“인간에 대한 깊은 과학적 이해 필요, 인문학과 인간학은 인류미래에 핵심”

최근 <어떻게 인간과 공존하는 인공지능을 만들 것인가>를 펴낸 스튜어트 러셀 버클리대 교수. 페그 스코핀스키 제공
최근 <어떻게 인간과 공존하는 인공지능을 만들 것인가>를 펴낸 스튜어트 러셀 버클리대 교수. 페그 스코핀스키 제공

인공지능의 발달이 당장은 유익을 가져와도 종국엔 인류 생존을 위협하는 결과로 이어질 수 있다는 논쟁이 진행형이다 . 저명인사와 관련 기업가 등 인공지능 비전문가들의 우려일 뿐이라는 지적이 있는 가운데 , 이 분야 최고의 전문가가 논쟁 속으로 뛰어들었다 . 13 개 언어로 번역돼 118 개국의 1500 여 대학에서 교재로 쓰이고 있는 < 인공지능: 현대적 접근방식 > 의 저자 스튜어트 러셀 미국 버클리대 컴퓨터공학 교수다 .

러셀 교수는 최근 국내에서 < 어떻게 인간과 공존하는 인공지능을 만들 것인가 >( 원제: 휴먼 컴패티블 ) 를 펴내 , 인공지능의 위협을 인정하고 새로운 인공지능 개발 모델을 제시했다 . 기존 저서가 공학도와 전공자들을 위한 ‘ 인공지능 교과서 ’ 였다면 , 이번 책은 인공지능이 불러온 다양한 문제들에 관심이 있는 일반 독자를 위한 책이다 . 그는 인공지능에게 인간보다 더 지적인 존재가 되라는 잘못된 목적을 부여한다면 기계는 그 목적을 달성할 것이고 인간은 패배하는 파국이 올 것이라고 경고한다. 지난 4 일 러셀 교수를 화상과 전자우편을 통해 인터뷰했다 .

스튜어트 러셀이 최근 국내에서 발간한 책 &lt;어떻게 인간과 공존하는 인공지능을 만들 것인가&gt;(원제: 휴먼 컴패티블).
스튜어트 러셀이 최근 국내에서 발간한 책 <어떻게 인간과 공존하는 인공지능을 만들 것인가>(원제: 휴먼 컴패티블).

— 당신은 책에서 기존의 인공지능은 사람이 부여한 목표를 달성하도록 최적화한 ‘표준모델’이라는 점을 지적하고 , ‘인간의 선호를 학습하도록 하는 새로운 모델’을 제시했다 . 그런데 인간도 자신의 목표를 모르고 끊임없이 변해가지 않는가? 기계가 이러한 인간의 불확실성을 학습할 수 있는가? 이러한 인간을 학습하도록 하는 것은 기계가 예측 불가능하게 되어 인간의 통제를 벗어나는 위험한 상황이 되지 않을까?

“ 불확실성은 두 가지다 . 첫째는 인간의 목표에 대한 기계의 불확실성이다 . 기계가 처음엔 사람의 선호를 모른 채 시작해도 시간이 지나며 많은 것을 배우게 된다 . 둘째 , 사람이 자신의 미래에 대해 무엇을 원하는지 모르는 인간 스스로의 불확실성이다 . 두가지 불확실성은 결합해 기계가 인간을 돕는 것을 어렵게 만들지만 , 기계는 장기적 관찰과 학습을 통해 인간의 선호를 만족시키는 제안을 할 수 있다 . 길게 보면 사람이 명시한 고정목표를 추구하는 표준모델에 비해 한결 예측가능해질 것이다 .”

— 현실에서 인간의 선호와 의도는 다양해 수렴되기 어려운데 , 기계가 다양한 사람들의 서로 다른 선호 ( 욕구 ) 를 충족시킬 수 있나?

“ 인간 전체가 갖는 ‘하나의 선호’ 는 존재할 수 없기에 책에서 이런 선호를 학습하게 하겠다는 제안을 하지 않았다 . 개인마다 , 문화마다 가치체계가 다르다는 게 기계의 문제는 아니다 . 기계가 자기 나름의 올바른 가치체계를 지니기를 바라는 것도 아니다 . 그저 기계가 사람들의 선호를 예측하기 원할 따름이다 . 채식 가정의 로봇이 채식주의자의 성향을 택할 것이라는 것은 잘못된 논리다 . 로봇은 그저 채식주의자가 어떤 식성을 지니는지 잘 예측하는 법을 배우기만 하면 된다 .”

— ‘ 특이점 ’ 으로 불리는 인간 수준의 범용 인공지능 개발이 뇌의 복잡성 때문에 어렵다고 해도 , 인공지능의 지능폭발은 가능하지 않나 ?

“ 어빙 굿이 말한 ‘지능 폭발’ 은 기계가 자신의 소프트웨어와 하드웨어의 발전된 버전을 스스로 설계할 수 있을 정도로 충분히 똑똑해질 때 어떤 일이 일어날지를 지칭한다 . 이 과정은 기계가 스스로의 소프트웨어와 하드웨어를 유의미한 방식으로 발전시킬 능력이 없다면 시작될 수 없다 . 현재 기계는 여러 개의 작고 무작위적인 변화를 만드는 과정을 빠르게 반복해 좀 더 좋은 버전이 나타나는지 보며 인간 설계자를 도울 수 있지만 , 질적인 변화를 탐구할 수는 없다 . 예시로 , 현재의 기계 중 어느 것도 양자 컴퓨팅의 개념을 고전적인 컴퓨터에 대한 가능성 있는 대체재로서 발명해낼 수 없었을 것이고 , 현재의 기계 중 어느 것도 지식과 학습을 결합하는 새로운 접근 방법을 개발할 수 없었을 것이다 .”

스튜어트 러셀과 피터 노빅이 함께 쓴 &lt;인공지능 : 현대적 접근방식&gt;은 전세계 1500여 대학에서 AI 교재로 사용하고 있는, 이 분야의 교과서다.
스튜어트 러셀과 피터 노빅이 함께 쓴 <인공지능 : 현대적 접근방식>은 전세계 1500여 대학에서 AI 교재로 사용하고 있는, 이 분야의 교과서다.

— 인공지능의 멈춤없는 학습능력과 기하급수적인 연산 능력 상승은 인간 뇌 수준에 도달하지 않아도 범용 인공지능의 개발로 이어질 수 있는데 , 불가능하다고 보는 이유는 무엇인가 ?

“ 기계를 빠르게 만드는 것은 그냥 잘못된 답을 더 빠르게 얻는 방법이다 . 우리가 가진 방법들이 본질적으로 불충분하다면 , 이 부족함을 가리기 위해 거대한 양의 자원과 데이터와 계산을 바치는 것은 끔찍한 접근법이다 . 이런 방법은 자원을 낭비하고 , 연구자를 낭비하고 , 투자자와 정부를 잘못 이끈다 . ‘ 인공 일반 지능 (AGI)’ 는 인간이 잘 수행할 수 있는 임무라면 인공지능 역시 높은 수준에서 수행하는 법을 빠르게 배울 수 있어야 한다는 것을 뜻한다 . 우리가 ‘ 인공 일반 지능 ’ 을 만들기엔 부족한 부분이 많고 새로운 아이디어 없이는 채워질 수 없다 .

— 많은 인공지능 기업들이 ‘ 이로운 인공지능 ’ 협의체를 만들고 인공지능 윤리에 관한 국제협약이 있어도 독재국가나 사악한 집단은 인공지능을 핵무기처럼 파괴적 도구로 사용할 우려가 있는데?

“ 중대한 걱정이고 , 인공지능을 악용하려는 시도는 해결이 어려운 문제다 . 안전성을 담보하는 인공지능 시스템 설계가 나온다면 , 인터넷의 통신규약 (TCP/IP) 처럼 모든 서비스와 시스템에 법적으로 요구될 것으로 본다 . 하지만 안전하지 않은 인공지능을 예방하는 것과 사이버범죄 예방은 차이가 있다 . 첫째 , 사이버범죄는 인터넷의 설계구조상 보안 취약에서 발생한다 . 둘째 , 일부 국가는 사이버 범죄를 보호하고 심지어 권장하기 때문에 성행한다 . 범용 인공지능이 등장하게 되면 , 무제한적 부와 서비스를 제공할 수 있기 때문에 국가간 경쟁의 원천이 사라지겠지만 그 이전까지는 ( 국가간 ) 경쟁이 존재할 것이다 .”

— 국제적으로 핵확산 금지 조약이 있어도 이를 위반하는 시도를 막을 수 없다 . 기술개발 분야에서 국제적 윤리원칙이 실질적으로 작동할 수 있다고 보나?

“ 어렵다는 데 동의하지만 , 필요하다 . 살인이 발생하지만 살인을 반대하는 법이 필요하듯 말이다 . 인간배아 복제시험 금지와 화학무기 금지 등 국제적 합의중에서 성공적인 사례들도 많이 있다 .”.

— 당신은 “사람 닮은 로봇을 만들지 말라”는 앨런 튜링의 경고를 인용하며 휴머노이드 로봇에 반대했지만 , 인간형 로봇과 섹스로봇 개발경쟁은 진행중이다 . 재난 상황을 대비한 다르파 (DARPA) 로봇챌린지에도 휴보와 같은 인간형 로봇이 출전한 바 있는데?

“ 휴머노이드 로봇의 문제는 그 모습 때문에 우리가 인간의 특성을 부여하도록 속인다는 점이다 . 이걸 빼면 휴머노이드의 장점은 없다 . 인간을 흉내내는 로봇을 허용할지는 불가피함이 아니라 우리에게 달린 문제다 . 휴보는 사람으로 착각하게 만드는 휴머노이드라기보다 터미네이터형 로봇이다 .”

— 인공지능 전문가로 당신은 교육제도와 과학탐구를 물질세계보다 인간에 초점을 맞추는 방향으로 근본적 재검토해야 한다고 말하는데 , 구체적 개선법은?

“ 이런 제안을 하는 이유는 미래에는 지적 노동이건 , 물리적 노동이건 반복적 업무는 기계의 일이 되기 때문이다 . 사람들의 가장 큰 경제적 역할은 인간 삶에 대한 이해를 바탕으로 다른 사람들의 삶을 개선시켜주는 직접적인 인간 관계 기반의 직무일 것이기 때문이다 . 과학을 기반으로 현재보다 훨씬 깊은 인간에 대한 이해가 필요하다 . 그렇기에 이러한 과학과 이와 결부된 모든 교육과정과 직업을 발전시켜야 한다 . 오랜 시간이 걸려도 말이다 .”

8월4일(한국시각) 미 캘리포니아에 있는 스튜어트 러셀 교수와 화상 연결을 통해 인터뷰가 진행됐다.
8월4일(한국시각) 미 캘리포니아에 있는 스튜어트 러셀 교수와 화상 연결을 통해 인터뷰가 진행됐다.

— 인공지능이 일자리를 줄이는 상황에 개인과 사회가 대처하려면?

“ 기계가 더 많은 일을 하게 될 때 , 사람이 가장 잘 할 수 있는 일이 무엇인지 또 사람이 하는 것을 선호할 일이 무엇인지 질문해야 한다 . 이러한 직업 다수는 ‘ 돌봄 ’ 직무다 . 어린이나 노인 돌봄 , 심리상담만이 아니라 , 경영지도사 , 진로 멘토링 전문가 , 인테리어 디자이너 등의 직업들도 모두 고객과 소통하며 개인의 삶을 발전시킨다 . 친구도 마찬가지다 . 인문학과 인간학은 인류의 미래에 핵심적일 것이다 .”

— 자율주행차의 트롤리 딜레마와 같은 인공지능 윤리 논의가 인공지능 산업의 발달을 저해한다는 주장이 있다 . 기술 발전에 따라 자연히 해결될 문제라는 주장인데?

“ 아무도 문제를 인식하지 않거나 얘기하지 않는데 문제가 해결될 것이라는 생각은 내게 이해되지 않는다 . 체르노빌 핵발전소의 문제는 알려져 있었지만 , 설계자들이 언급하는 게 금지되어 있었다 . 그럼에도 문제는 자연스럽게 해결되지 않았고 발전소는 폭발했다 . 연구자들이 문제를 솔직하게 논의하는 게 필수적이다 . 우리가 문제를 의도적으로 숨긴다면 사람들이 어떻게 우리를 신뢰할 수 있겠는가 . 우리는 인공지능의 위험성을 해결하지 못하는 한 인공지능의 혜택을 누릴 수 없다 . 내가 제안한 새로운 인공지능 모델은 인공지능이 우리보다 훨씬 능력이 뛰어날 때에도 인간이 통제권을 잃는 상황을 방지할 수 있다고 믿는다 .”

구본권 사람과디지털연구소장 starry9@hani.co.kr
서비스 선택
댓글
로그인해주세요.
profile image
powered by SocialXE
List of Articles

“극단주의 조장” 사악한 SNS 알고리즘 고칠 수 있을까

“시민안전 충돌때 어김없이 이윤추구” 전 제품관리자 하우건 내부자료 폭로 내부고발·비판불구 성장세 변함없어 거대플랫폼 특성상 다양한 측면 불가피 비밀주의와 취약층 공격 알고리즘 문제 시민사회·입법통한 규제 찬반 엇갈려...

  • HERI
  • 2021.10.18
  • 조회수 239

“유용하고 오래 쓰는 제품을 만드는 것, 그것이 지구 살리는 길”

<2021 아시아미래포럼> 미리 만나보는 주요 연사 ⑤ 빈센트 스탠리 2016년 가을 한국을 찾은 빈센트 스탠리가 서울 강남구 파타고니아코리아 사무실에서 화분을 들고 경영 철학에 대해 이야기하고 있다. 파타고니아 제공 “우리는...

  • HERI
  • 2021.10.18
  • 조회수 236

섀런 버로 “노동자 낙오 없는 탈탄소 경제를 설계하자”

<2021 아시아미래포럼> 미리 만나보는 주요 연사 ④ 섀런 버로 국제노동조합연합(ITUC) 사무총장 “기후변화 따른 산업 전환의 길 발전·화학 등 업종엔 일자리 위기 지구와 사람을 함께 중심에 둔 ‘정의로운 전환’ 유일한 대안...

  • HERI
  • 2021.10.18
  • 조회수 220

스마트도시 넘어 포용도시는 어떻게 가능할까

<2021 아시아미래포럼> 세션3: 산업환경과 구조변화, 전환과 재편 사이 기술혁신 내달려온 산업구조 코로나 이후 일터·삶터 대전환 양극화 줄이고 삶의 질 높여줄 도시의 역할과 산업 재편 논의 2년 가까이 지속되고 있는 코로나...

  • HERI
  • 2021.10.13
  • 조회수 382

우리는 지구를 되살리려 사업을 한다

<2021 아시아미래포럼> 특별강연: 빈센트 스탠리 파타고니아 철학담당 유기농 목화 사용·‘지구세’ 기부 등 이윤 추구보다 사회적 가치 중점 관행 탈피 행보에 고객 충성도 상승 빈센트 스탠리. 파타고니아 제공 미국 아웃도어 ...

  • HERI
  • 2021.10.13
  • 조회수 323

ESG경영의 진화 ‘사람 중심 ESG’를 소개합니다

<2021 아시아미래포럼> 세션4: 사람 중심 ESG, HESG는 가능한가 투자자들의 기업평가 지표에서 ‘사회책임경영’ 기업가치로 발전 한겨레·시민사회 함께 연구해 온 ‘HESG’ 새로운 개념 소개하고 주주 중심 자본주의에서 이해관...

  • HERI
  • 2021.10.13
  • 조회수 363

탈탄소로의 전환, 같이 가야 할 ‘일자리의 전환’

2021 아시아미래포럼 세션5: 탈산소시대와 노동 탄소감축 더 늦출 수 없지만 탄소집약 산업 타격 불가피 노동·환경 제로섬게임 아닌 서로 ‘윈윈’할 새 정책구도 점검 인천평화복지연대가 전환사회시민행동, 인천도시농업네트워크 ...

  • HERI
  • 2021.10.13
  • 조회수 311

시민·정책이 함께 쌓아올린 사회적 경제 ‘10년 공든탑’

<2021 아시아미래포럼> 세션1: ‘시민과 함께하는 사회적 경제’ 공공·민간 협력 거버넌스가 사회적 경제 생태계 동력으로 캐나다 퀘벡주 사례부터 서울 마을공동체 사업까지 다양한 정책 경험 공유하고 앞으로 10년 성장방안 모색...

  • HERI
  • 2021.10.13
  • 조회수 261

기후위기 시대, 자연의 눈으로 복지를 재설계하라

<2021 아시아미래포럼> 세션2: 왜 녹색복지국가인가 기후변화로 경제 발목잡히고 생태 파괴와 전염병 위기 도래 경제성장→분배→복지 지속 못해 인간·자연 공존하는 방향 찾아야 코로나 팬데믹은 세계 곳곳에서 일상화되고 있는 폭...

  • HERI
  • 2021.10.13
  • 조회수 368

화력발전 멈추는 날 노동자들은?…‘정의로운 녹색전환’ 모색

2021 아시아미래포럼 특별세션: 소외·차별 없는 대전환을 위하여 노동·환경에 통합적 접근 나서고 약자 낙오 없는 새 전환모델만이 불평등·기후위기 동시해결 가능 ‘모두를 위한 전환’ 보편화시켜야 중국 안후이성 하이난에 있는...

  • HERI
  • 2021.10.13
  • 조회수 286

주류 권력 중심의 ‘청년담론’ 그 바깥의 생생한 목소리들

<2021 아시아미래포럼> 청년포럼/ 청년들이 만드는 균열, 연결, 그리고 상상력 기성세대의 담론에 균열 내며 플랫폼 독립·소수자 문제 등 열정과 문제의식으로 삶 개척 남성·대학생·수도권만이 아닌 각양각색 ‘청년들’ 담아낼 예정...

  • HERI
  • 2021.10.13
  • 조회수 291

인간의 선함 믿는다면, 코로나는 혁명적 전환점 될 것

<2021 아시아미래포럼> 인류에 내재된 ‘협력의 스위치’를 켜라 특별강연: 뤼트허르 브레흐만 홉스의 성악설, 인류 역사와 달라 대부분이 자발적 공존·공감 택해 ‘문명’ 이후 권력자·언론의 선전 탓 왜곡돼온 인간 본성 ‘분출’...

  • HERI
  • 2021.10.13
  • 조회수 240

공정을 가장한 능력주의는 불평등을 고착시킨다

2021 아시아미래포럼 능력주의와 공정, 그리고 정의 기조강연: 마이클 샌델 “출발선의 격차 외면한 채 능력주의는 공정하다 착각 노동의 존엄성 회복하며 사회적 연대 끈 다시 매야” “한국형 능력주의 굴곡 이해못해” 비판도 ...

  • HERI
  • 2021.10.13
  • 조회수 292

스티글리츠 “친환경 인프라 투자하면 일자리 늘고 양극화 완화”

<2021 아시아미래포럼> 기후위기 시대, 불평등 넘어 공존으로 기조·특별강연: 조지프 스티글리츠 “정보 비대칭 탓 시장 불완전 국가·정치가 통제해야 공정 불평등·기후위기 심각 상황 팬데믹은 경제 재편할 기회 부유세·탄소세 부...

  • HERI
  • 2021.10.13
  • 조회수 252

코로나로 더 벌어진 격차…‘함께’에 답이 있다

<2021 아시아미래포럼> 공존을 위한 대전환: 함께 만드는 미래 코로나로 소득 양극화 작년 기아 1억1800만명 증가 대부분 아프리카·아시아·중남미 미국·유럽은 국가 부 10%나 늘어 기후위기 난제 더해져 환경문제 방치 땐 양극화...

  • HERI
  • 2021.10.13
  • 조회수 365

센델 “능력주의 오만, 공동선에 대한 책임 망각하게 해”

2021 아시아미래포럼 미리 만나보는 주요 연사 ② 마이클 샌델 마이클 샌델이 2010년 2월 미국 롱비치에서 열린 테드(TED) 강연회에서 ‘민주적 토론’을 주제로 강연하고 있다. <한겨레> 자료사진 제12회 아시아미래포럼에서 기조...

  • HERI
  • 2021.10.13
  • 조회수 393

스티글리츠 “코로나 팬데믹, 불평등·기후위기 잡을 적기”

<2021 아시아미래포럼> 미리 만나보는 주요 연사 ① 조지프 스티글리츠 “1990년대 개도국 금융 위기는 신자유주의적 세계화가 그 주범 상위 1% 위한 시장만능 자본주의 국가·정치가 적극적으로 나서야” “자본주의 또 다른 결과...

  • HERI
  • 2021.10.12
  • 조회수 391

공존을 위한 대전환: 함께 만드는 미래

더 나은 사회와 지속가능한 발전을 모색해온 ‘한겨레 아시아미래포럼’이 10월20~21일 열립니다. 12회째인 올해 주제는 ‘공존을 위한 대전환: 함께 만드는 미래’입니다. 인류가 직면한 기후위기와 불평등의 골은 코로나19 팬데믹...

  • HERI
  • 2021.10.11
  • 조회수 316

“삶터와 일터에서 지속가능한 미래, 시민이 만들어갑니다”

대한민국 지속가능발전 공모전 14개 우수사례 선정 도시문제 해결 위해 민·관 손잡은 화성시 ‘대통령상’ 수상 전남 순천 덕연동 마을계획과 지속가능발전 목표 연계 쓰레기 줍고 조깅하는 ‘플로깅’ 실천 ‘와이퍼스’ 사례 눈...

  • HERI
  • 2021.09.28
  • 조회수 464

“환경-복지-혁신이 선순환 이루는 새로운 성장 전략 마련을”

‘참성장의 시대를 열자’ LAB2050-한겨레경제사회연구원 공동기획 사람·기술·환경이 함께 하는 ‘참성장포럼’…매달 토론회 개최 GDP 중심의 성장만능주의 대체할 새로운 경제비전과 대응 전략 모색 지난 9월15일 열린 ‘참성장포...

  • HERI
  • 2021.09.23
  • 조회수 591