HERI 뉴스
[인터뷰] 스튜어트 러셀 UC버클리 교수
전세계 대학이 배우는 AI교과서 저자

“지금까지 AI개발 표준모델은 사람이 부여한 목표 달성에 최적화”
“사람보다 뛰어난 지능 달성하라” AI에 잘못된 목표 부여하면 ‘파국’ 경고

러셀, 새 저서에서 AI가 사람 학습하도록 하는 새 모델 제시
“인간에 대한 깊은 과학적 이해 필요, 인문학과 인간학은 인류미래에 핵심”

최근 <어떻게 인간과 공존하는 인공지능을 만들 것인가>를 펴낸 스튜어트 러셀 버클리대 교수. 페그 스코핀스키 제공
최근 <어떻게 인간과 공존하는 인공지능을 만들 것인가>를 펴낸 스튜어트 러셀 버클리대 교수. 페그 스코핀스키 제공

인공지능의 발달이 당장은 유익을 가져와도 종국엔 인류 생존을 위협하는 결과로 이어질 수 있다는 논쟁이 진행형이다 . 저명인사와 관련 기업가 등 인공지능 비전문가들의 우려일 뿐이라는 지적이 있는 가운데 , 이 분야 최고의 전문가가 논쟁 속으로 뛰어들었다 . 13 개 언어로 번역돼 118 개국의 1500 여 대학에서 교재로 쓰이고 있는 < 인공지능: 현대적 접근방식 > 의 저자 스튜어트 러셀 미국 버클리대 컴퓨터공학 교수다 .

러셀 교수는 최근 국내에서 < 어떻게 인간과 공존하는 인공지능을 만들 것인가 >( 원제: 휴먼 컴패티블 ) 를 펴내 , 인공지능의 위협을 인정하고 새로운 인공지능 개발 모델을 제시했다 . 기존 저서가 공학도와 전공자들을 위한 ‘ 인공지능 교과서 ’ 였다면 , 이번 책은 인공지능이 불러온 다양한 문제들에 관심이 있는 일반 독자를 위한 책이다 . 그는 인공지능에게 인간보다 더 지적인 존재가 되라는 잘못된 목적을 부여한다면 기계는 그 목적을 달성할 것이고 인간은 패배하는 파국이 올 것이라고 경고한다. 지난 4 일 러셀 교수를 화상과 전자우편을 통해 인터뷰했다 .

스튜어트 러셀이 최근 국내에서 발간한 책 &lt;어떻게 인간과 공존하는 인공지능을 만들 것인가&gt;(원제: 휴먼 컴패티블).
스튜어트 러셀이 최근 국내에서 발간한 책 <어떻게 인간과 공존하는 인공지능을 만들 것인가>(원제: 휴먼 컴패티블).

— 당신은 책에서 기존의 인공지능은 사람이 부여한 목표를 달성하도록 최적화한 ‘표준모델’이라는 점을 지적하고 , ‘인간의 선호를 학습하도록 하는 새로운 모델’을 제시했다 . 그런데 인간도 자신의 목표를 모르고 끊임없이 변해가지 않는가? 기계가 이러한 인간의 불확실성을 학습할 수 있는가? 이러한 인간을 학습하도록 하는 것은 기계가 예측 불가능하게 되어 인간의 통제를 벗어나는 위험한 상황이 되지 않을까?

“ 불확실성은 두 가지다 . 첫째는 인간의 목표에 대한 기계의 불확실성이다 . 기계가 처음엔 사람의 선호를 모른 채 시작해도 시간이 지나며 많은 것을 배우게 된다 . 둘째 , 사람이 자신의 미래에 대해 무엇을 원하는지 모르는 인간 스스로의 불확실성이다 . 두가지 불확실성은 결합해 기계가 인간을 돕는 것을 어렵게 만들지만 , 기계는 장기적 관찰과 학습을 통해 인간의 선호를 만족시키는 제안을 할 수 있다 . 길게 보면 사람이 명시한 고정목표를 추구하는 표준모델에 비해 한결 예측가능해질 것이다 .”

— 현실에서 인간의 선호와 의도는 다양해 수렴되기 어려운데 , 기계가 다양한 사람들의 서로 다른 선호 ( 욕구 ) 를 충족시킬 수 있나?

“ 인간 전체가 갖는 ‘하나의 선호’ 는 존재할 수 없기에 책에서 이런 선호를 학습하게 하겠다는 제안을 하지 않았다 . 개인마다 , 문화마다 가치체계가 다르다는 게 기계의 문제는 아니다 . 기계가 자기 나름의 올바른 가치체계를 지니기를 바라는 것도 아니다 . 그저 기계가 사람들의 선호를 예측하기 원할 따름이다 . 채식 가정의 로봇이 채식주의자의 성향을 택할 것이라는 것은 잘못된 논리다 . 로봇은 그저 채식주의자가 어떤 식성을 지니는지 잘 예측하는 법을 배우기만 하면 된다 .”

— ‘ 특이점 ’ 으로 불리는 인간 수준의 범용 인공지능 개발이 뇌의 복잡성 때문에 어렵다고 해도 , 인공지능의 지능폭발은 가능하지 않나 ?

“ 어빙 굿이 말한 ‘지능 폭발’ 은 기계가 자신의 소프트웨어와 하드웨어의 발전된 버전을 스스로 설계할 수 있을 정도로 충분히 똑똑해질 때 어떤 일이 일어날지를 지칭한다 . 이 과정은 기계가 스스로의 소프트웨어와 하드웨어를 유의미한 방식으로 발전시킬 능력이 없다면 시작될 수 없다 . 현재 기계는 여러 개의 작고 무작위적인 변화를 만드는 과정을 빠르게 반복해 좀 더 좋은 버전이 나타나는지 보며 인간 설계자를 도울 수 있지만 , 질적인 변화를 탐구할 수는 없다 . 예시로 , 현재의 기계 중 어느 것도 양자 컴퓨팅의 개념을 고전적인 컴퓨터에 대한 가능성 있는 대체재로서 발명해낼 수 없었을 것이고 , 현재의 기계 중 어느 것도 지식과 학습을 결합하는 새로운 접근 방법을 개발할 수 없었을 것이다 .”

스튜어트 러셀과 피터 노빅이 함께 쓴 &lt;인공지능 : 현대적 접근방식&gt;은 전세계 1500여 대학에서 AI 교재로 사용하고 있는, 이 분야의 교과서다.
스튜어트 러셀과 피터 노빅이 함께 쓴 <인공지능 : 현대적 접근방식>은 전세계 1500여 대학에서 AI 교재로 사용하고 있는, 이 분야의 교과서다.

— 인공지능의 멈춤없는 학습능력과 기하급수적인 연산 능력 상승은 인간 뇌 수준에 도달하지 않아도 범용 인공지능의 개발로 이어질 수 있는데 , 불가능하다고 보는 이유는 무엇인가 ?

“ 기계를 빠르게 만드는 것은 그냥 잘못된 답을 더 빠르게 얻는 방법이다 . 우리가 가진 방법들이 본질적으로 불충분하다면 , 이 부족함을 가리기 위해 거대한 양의 자원과 데이터와 계산을 바치는 것은 끔찍한 접근법이다 . 이런 방법은 자원을 낭비하고 , 연구자를 낭비하고 , 투자자와 정부를 잘못 이끈다 . ‘ 인공 일반 지능 (AGI)’ 는 인간이 잘 수행할 수 있는 임무라면 인공지능 역시 높은 수준에서 수행하는 법을 빠르게 배울 수 있어야 한다는 것을 뜻한다 . 우리가 ‘ 인공 일반 지능 ’ 을 만들기엔 부족한 부분이 많고 새로운 아이디어 없이는 채워질 수 없다 .

— 많은 인공지능 기업들이 ‘ 이로운 인공지능 ’ 협의체를 만들고 인공지능 윤리에 관한 국제협약이 있어도 독재국가나 사악한 집단은 인공지능을 핵무기처럼 파괴적 도구로 사용할 우려가 있는데?

“ 중대한 걱정이고 , 인공지능을 악용하려는 시도는 해결이 어려운 문제다 . 안전성을 담보하는 인공지능 시스템 설계가 나온다면 , 인터넷의 통신규약 (TCP/IP) 처럼 모든 서비스와 시스템에 법적으로 요구될 것으로 본다 . 하지만 안전하지 않은 인공지능을 예방하는 것과 사이버범죄 예방은 차이가 있다 . 첫째 , 사이버범죄는 인터넷의 설계구조상 보안 취약에서 발생한다 . 둘째 , 일부 국가는 사이버 범죄를 보호하고 심지어 권장하기 때문에 성행한다 . 범용 인공지능이 등장하게 되면 , 무제한적 부와 서비스를 제공할 수 있기 때문에 국가간 경쟁의 원천이 사라지겠지만 그 이전까지는 ( 국가간 ) 경쟁이 존재할 것이다 .”

— 국제적으로 핵확산 금지 조약이 있어도 이를 위반하는 시도를 막을 수 없다 . 기술개발 분야에서 국제적 윤리원칙이 실질적으로 작동할 수 있다고 보나?

“ 어렵다는 데 동의하지만 , 필요하다 . 살인이 발생하지만 살인을 반대하는 법이 필요하듯 말이다 . 인간배아 복제시험 금지와 화학무기 금지 등 국제적 합의중에서 성공적인 사례들도 많이 있다 .”.

— 당신은 “사람 닮은 로봇을 만들지 말라”는 앨런 튜링의 경고를 인용하며 휴머노이드 로봇에 반대했지만 , 인간형 로봇과 섹스로봇 개발경쟁은 진행중이다 . 재난 상황을 대비한 다르파 (DARPA) 로봇챌린지에도 휴보와 같은 인간형 로봇이 출전한 바 있는데?

“ 휴머노이드 로봇의 문제는 그 모습 때문에 우리가 인간의 특성을 부여하도록 속인다는 점이다 . 이걸 빼면 휴머노이드의 장점은 없다 . 인간을 흉내내는 로봇을 허용할지는 불가피함이 아니라 우리에게 달린 문제다 . 휴보는 사람으로 착각하게 만드는 휴머노이드라기보다 터미네이터형 로봇이다 .”

— 인공지능 전문가로 당신은 교육제도와 과학탐구를 물질세계보다 인간에 초점을 맞추는 방향으로 근본적 재검토해야 한다고 말하는데 , 구체적 개선법은?

“ 이런 제안을 하는 이유는 미래에는 지적 노동이건 , 물리적 노동이건 반복적 업무는 기계의 일이 되기 때문이다 . 사람들의 가장 큰 경제적 역할은 인간 삶에 대한 이해를 바탕으로 다른 사람들의 삶을 개선시켜주는 직접적인 인간 관계 기반의 직무일 것이기 때문이다 . 과학을 기반으로 현재보다 훨씬 깊은 인간에 대한 이해가 필요하다 . 그렇기에 이러한 과학과 이와 결부된 모든 교육과정과 직업을 발전시켜야 한다 . 오랜 시간이 걸려도 말이다 .”

8월4일(한국시각) 미 캘리포니아에 있는 스튜어트 러셀 교수와 화상 연결을 통해 인터뷰가 진행됐다.
8월4일(한국시각) 미 캘리포니아에 있는 스튜어트 러셀 교수와 화상 연결을 통해 인터뷰가 진행됐다.

— 인공지능이 일자리를 줄이는 상황에 개인과 사회가 대처하려면?

“ 기계가 더 많은 일을 하게 될 때 , 사람이 가장 잘 할 수 있는 일이 무엇인지 또 사람이 하는 것을 선호할 일이 무엇인지 질문해야 한다 . 이러한 직업 다수는 ‘ 돌봄 ’ 직무다 . 어린이나 노인 돌봄 , 심리상담만이 아니라 , 경영지도사 , 진로 멘토링 전문가 , 인테리어 디자이너 등의 직업들도 모두 고객과 소통하며 개인의 삶을 발전시킨다 . 친구도 마찬가지다 . 인문학과 인간학은 인류의 미래에 핵심적일 것이다 .”

— 자율주행차의 트롤리 딜레마와 같은 인공지능 윤리 논의가 인공지능 산업의 발달을 저해한다는 주장이 있다 . 기술 발전에 따라 자연히 해결될 문제라는 주장인데?

“ 아무도 문제를 인식하지 않거나 얘기하지 않는데 문제가 해결될 것이라는 생각은 내게 이해되지 않는다 . 체르노빌 핵발전소의 문제는 알려져 있었지만 , 설계자들이 언급하는 게 금지되어 있었다 . 그럼에도 문제는 자연스럽게 해결되지 않았고 발전소는 폭발했다 . 연구자들이 문제를 솔직하게 논의하는 게 필수적이다 . 우리가 문제를 의도적으로 숨긴다면 사람들이 어떻게 우리를 신뢰할 수 있겠는가 . 우리는 인공지능의 위험성을 해결하지 못하는 한 인공지능의 혜택을 누릴 수 없다 . 내가 제안한 새로운 인공지능 모델은 인공지능이 우리보다 훨씬 능력이 뛰어날 때에도 인간이 통제권을 잃는 상황을 방지할 수 있다고 믿는다 .”

구본권 사람과디지털연구소장 starry9@hani.co.kr
서비스 선택
댓글
로그인해주세요.
profile image
powered by SocialXE
List of Articles

“데이터 정보 독점막고 공공재로 활용해야”

<2021 아시아미래포럼> 세션6 플랫폼 노동의 건강권, 데이터 주권 플랫폼 노동자들 질병비율 높아 건강기록 데이터화해 관리 필요 ‘플랫폼 노동의 건강권, 데이터 주권 그리고 경제 주권’ 세션에서 배중철 한국교통안전공단 경남...

  • HERI
  • 2021.10.26
  • 조회수 797

“4차혁명, 코로나 만나 가속화…대도시 밀집 해결해야”

<2021 아시아미래포럼> 세션3 산업환경과 구조변화 지속가능성 갖춘 도시로 전환 필요 탈탄소 시대 지역과 에너지 협력도 21일 서울 중구 대한상공회의소에서 열린 제12회 아시아미래포럼에서 임업 연세대 도시공학과 교수(왼쪽 셋째...

  • HERI
  • 2021.10.26
  • 조회수 773

“사회적 경제 구현하려면, 정부 안에 ‘시민 토론장’ 있어야”

<2021 아시아미래포럼> 세션1 시민과 함께 하는 사회적 경제 참여 민주주의가 사회적 경제 강화 이를 체화할수 있는 교육과정 필요 서울 성북구·도봉구 등에서 주민 참여 경제생태계 구축했지만 사회적 기업 영세성 등 한계도 정...

  • HERI
  • 2021.10.26
  • 조회수 708

“기후위기, 고용에도 영향…불평등 완화 대책을”

<2021 아시아미래포럼> 세션5 탈탄소시대와 노동 탈탄소 논의에서 노조는 배제돼 노동자 위한 교섭구조 재편 필요 제12회 아시아미래포럼 둘째날 열린 ‘탈탄소시대와 노동’ 세션에서 참석자들이 토론을 하고 있다. 강창광 선임기자...

  • HERI
  • 2021.10.26
  • 조회수 493

“ESG 투자·경영 관점서 바라보면, ‘그린워싱’ 함정에 빠져”

<2021 아시아미래포럼> 세션 4 사람 중심 ESG, HESG는 가능한가 파타고니아 임원 빈센트 스탠리 “사회적 가치 기업문화에 확립때 이윤을 위협하는 상황 극복해야 직원들 한명한명 동의가 필수적” 지금 통용되는 지표 투자자 ...

  • HERI
  • 2021.10.26
  • 조회수 381

“녹색전환에 맞춘 새로운 복지국가 비전 필요”

<2021 아시아미래포럼> 세션2 정의로운 생태전환과 사회정책의 과제 기후위기, 사회적 약자에 더 공격적 경제·환경·복지 통합과 균형 이뤄야 21일 제12회 아시아미래포럼 둘째날 행사로 열린 ‘정의로운 생태전환과 사회정책의 과제:...

  • HERI
  • 2021.10.26
  • 조회수 409

사회적경제·사람중심 ESG…다양한 ‘공존의 삶’ 제안

<2021 아시아미래포럼> ‘공존을 위한 대전환: 함께 만드는 미래’ 20~21일 이틀 일정 마치고 폐막 21일 오전 서울 중구 대한상공회의소 국제회의장에서 ‘공존을 위한 대전환: 함께 만드는 미래’를 주제로 열린 제12회 아시아미...

  • HERI
  • 2021.10.26
  • 조회수 297

[포토] 시민·정책이 함께 쌓아올린 사회적 경제

<2021 아시아미래포럼> 사진으로 보는 둘째날 일정 사회적 경제, 기후위기 시대의 복지 등 논의 21일 오전 서울 중구 대한상공회의소에서 `공존을 위한 대전환: 함께 만드는 미래'를 주제로 계속된 `제12회 아시아미래포럼' 둘째...

  • HERI
  • 2021.10.21
  • 조회수 323

스티글리츠 “기후위기 오히려 기회…녹색전환으로 일자리 창출”

<2021 아시아미래포럼> 기조세션1 조지프 스티글리츠 미 컬럼비아대 교수 팬데믹·기후위기로 불평등 심각 가난한 이에게 더 부정적 영향 정부, 탄소배출권 가격 인상 등 경제·사회 전반적 변화 끌어내야 녹색전환으로 혁신 촉진·기...

  • HERI
  • 2021.10.21
  • 조회수 340

“인간에겐 공존·협력하려는 본성이 있다”

<2021 아시아미래포럼> 특별강연 뤼트허르 브레흐만 네덜란드 언론인 ‘이기적·탐욕적 본성’ 통념에 반박 낯선 이가 곤경 처하면 90% 도와 뤼트허르 브레흐만 유럽 대안 언론 <코레스폰던트> 창립멤버가 ‘위기, 인류에 내재된 ‘...

  • HERI
  • 2021.10.21
  • 조회수 311

“‘정의로운 친환경 전환’ 핵심은 실직 구제와 정규직 확대”

<2021 아시아미래포럼> 특별세션 섀런 버로 국제노조연합 사무총장 그라파코스 녹색성장기구 수석 “저소득국 화석연료 탈피 보상 필요” 산디프 파이 전략국제문제연 책임자 “단기에 전환 안돼…장기적 계획 중요” 김현우 에너지기...

  • HERI
  • 2021.10.21
  • 조회수 300

마이클 샌델 “백신·교육에서 ‘능력주의 함정’ 작동”

<2021 아시아미래포럼> 기조세션2 마이클 샌델 미 하버드대 교수 연구개발비 충당 가능한 선진국이 백신의 과실 독식하면 공동선 붕괴 마이클 샌델 미국 하버드대 교수(왼쪽)가 김선욱 숭실대 학사부총장(가운데), 김은미 이화여대 ...

  • HERI
  • 2021.10.21
  • 조회수 330

“기존 청년담론, 일부 집단 과잉대표…약자층 포함해야”

<2021 아시아미래포럼> 청년포럼 천주희 문화연구자, 논의 한계 지적 변재원 장애인권 활동가 경험 발표 “변화, 과거부정보다 현실에서 시작” 제12회 아시아미래포럼 첫째 날 행사로 ‘청년들이 만드는 균열, 연결 그리고 상상력...

  • HERI
  • 2021.10.21
  • 조회수 534

<정의란 무엇인가> 저자 “백신 불평등…특허권 당장 멈추자”

2021 아시아미래포럼 개막 첫날 마이클 샌델 하버드대 교수 기조강연 조지프 스티글리츠 “녹색경제 전환, 일자리 창출” 20일 서울 중구 대한상공회의소에서 열린 ‘2021 아시아미래포럼’에서 주요 참석자들이 기념사진을 찍고 있...

  • HERI
  • 2021.10.21
  • 조회수 301

[포토] 코로나 시대, 함께 살 수 있는 미래는?

제12회 아시아미래포럼 ‘공존을 위한 대전환 : 함께 만드는 미래’ 조지프 스티글리츠, 마이클 샌델 등 온라인으로 ‘공존의 해법’ 논의 20일 오전 서울 중구 대한상공회의소에서 ‘공존을 위한 대전환 : 함께 만드는 미래’를...

  • admin
  • 2021.10.20
  • 조회수 285

[사설] 불평등·기후변화 ‘대전환’ 길 찾는 아시아미래포럼

제12회 아시아미래포럼이 ‘공존을 위한 대전환’을 주제로 20~21일 서울 중구 대한상공회의소에서 열린다. 사진은 지난해 12월2일 열린 제11회 아시아미래포럼 모습. 백소아 기자 thanks@hani.co.kr 한겨레신문사가 주최하는 ‘202...

  • HERI
  • 2021.10.20
  • 조회수 228

“탄소 감축은 기업이 꼭 넘어야 할 장애물 경기와 같다”

이형희 SK수펙스추구협 SV위원장 SK ESG전략 총괄하며 최태원 회장 보좌 “기업 부담 증가 우려는 엄살 아닌 현실 그러나 무섭다고 머뭇거리면 우리만 낙오” 전기료 인상 따른 경쟁력 유지 대책 절실 “원전 정치논쟁 변질…...

  • HERI
  • 2021.10.18
  • 조회수 402

“극단주의 조장” 사악한 SNS 알고리즘 고칠 수 있을까

“시민안전 충돌때 어김없이 이윤추구” 전 제품관리자 하우건 내부자료 폭로 내부고발·비판불구 성장세 변함없어 거대플랫폼 특성상 다양한 측면 불가피 비밀주의와 취약층 공격 알고리즘 문제 시민사회·입법통한 규제 찬반 엇갈려...

  • HERI
  • 2021.10.18
  • 조회수 237

“유용하고 오래 쓰는 제품을 만드는 것, 그것이 지구 살리는 길”

<2021 아시아미래포럼> 미리 만나보는 주요 연사 ⑤ 빈센트 스탠리 2016년 가을 한국을 찾은 빈센트 스탠리가 서울 강남구 파타고니아코리아 사무실에서 화분을 들고 경영 철학에 대해 이야기하고 있다. 파타고니아 제공 “우리는...

  • HERI
  • 2021.10.18
  • 조회수 233

섀런 버로 “노동자 낙오 없는 탈탄소 경제를 설계하자”

<2021 아시아미래포럼> 미리 만나보는 주요 연사 ④ 섀런 버로 국제노동조합연합(ITUC) 사무총장 “기후변화 따른 산업 전환의 길 발전·화학 등 업종엔 일자리 위기 지구와 사람을 함께 중심에 둔 ‘정의로운 전환’ 유일한 대안...

  • HERI
  • 2021.10.18
  • 조회수 216