HERI 뉴스
[인터뷰] 스튜어트 러셀 UC버클리 교수
전세계 대학이 배우는 AI교과서 저자

“지금까지 AI개발 표준모델은 사람이 부여한 목표 달성에 최적화”
“사람보다 뛰어난 지능 달성하라” AI에 잘못된 목표 부여하면 ‘파국’ 경고

러셀, 새 저서에서 AI가 사람 학습하도록 하는 새 모델 제시
“인간에 대한 깊은 과학적 이해 필요, 인문학과 인간학은 인류미래에 핵심”

최근 <어떻게 인간과 공존하는 인공지능을 만들 것인가>를 펴낸 스튜어트 러셀 버클리대 교수. 페그 스코핀스키 제공
최근 <어떻게 인간과 공존하는 인공지능을 만들 것인가>를 펴낸 스튜어트 러셀 버클리대 교수. 페그 스코핀스키 제공

인공지능의 발달이 당장은 유익을 가져와도 종국엔 인류 생존을 위협하는 결과로 이어질 수 있다는 논쟁이 진행형이다 . 저명인사와 관련 기업가 등 인공지능 비전문가들의 우려일 뿐이라는 지적이 있는 가운데 , 이 분야 최고의 전문가가 논쟁 속으로 뛰어들었다 . 13 개 언어로 번역돼 118 개국의 1500 여 대학에서 교재로 쓰이고 있는 < 인공지능: 현대적 접근방식 > 의 저자 스튜어트 러셀 미국 버클리대 컴퓨터공학 교수다 .

러셀 교수는 최근 국내에서 < 어떻게 인간과 공존하는 인공지능을 만들 것인가 >( 원제: 휴먼 컴패티블 ) 를 펴내 , 인공지능의 위협을 인정하고 새로운 인공지능 개발 모델을 제시했다 . 기존 저서가 공학도와 전공자들을 위한 ‘ 인공지능 교과서 ’ 였다면 , 이번 책은 인공지능이 불러온 다양한 문제들에 관심이 있는 일반 독자를 위한 책이다 . 그는 인공지능에게 인간보다 더 지적인 존재가 되라는 잘못된 목적을 부여한다면 기계는 그 목적을 달성할 것이고 인간은 패배하는 파국이 올 것이라고 경고한다. 지난 4 일 러셀 교수를 화상과 전자우편을 통해 인터뷰했다 .

스튜어트 러셀이 최근 국내에서 발간한 책 &lt;어떻게 인간과 공존하는 인공지능을 만들 것인가&gt;(원제: 휴먼 컴패티블).
스튜어트 러셀이 최근 국내에서 발간한 책 <어떻게 인간과 공존하는 인공지능을 만들 것인가>(원제: 휴먼 컴패티블).

— 당신은 책에서 기존의 인공지능은 사람이 부여한 목표를 달성하도록 최적화한 ‘표준모델’이라는 점을 지적하고 , ‘인간의 선호를 학습하도록 하는 새로운 모델’을 제시했다 . 그런데 인간도 자신의 목표를 모르고 끊임없이 변해가지 않는가? 기계가 이러한 인간의 불확실성을 학습할 수 있는가? 이러한 인간을 학습하도록 하는 것은 기계가 예측 불가능하게 되어 인간의 통제를 벗어나는 위험한 상황이 되지 않을까?

“ 불확실성은 두 가지다 . 첫째는 인간의 목표에 대한 기계의 불확실성이다 . 기계가 처음엔 사람의 선호를 모른 채 시작해도 시간이 지나며 많은 것을 배우게 된다 . 둘째 , 사람이 자신의 미래에 대해 무엇을 원하는지 모르는 인간 스스로의 불확실성이다 . 두가지 불확실성은 결합해 기계가 인간을 돕는 것을 어렵게 만들지만 , 기계는 장기적 관찰과 학습을 통해 인간의 선호를 만족시키는 제안을 할 수 있다 . 길게 보면 사람이 명시한 고정목표를 추구하는 표준모델에 비해 한결 예측가능해질 것이다 .”

— 현실에서 인간의 선호와 의도는 다양해 수렴되기 어려운데 , 기계가 다양한 사람들의 서로 다른 선호 ( 욕구 ) 를 충족시킬 수 있나?

“ 인간 전체가 갖는 ‘하나의 선호’ 는 존재할 수 없기에 책에서 이런 선호를 학습하게 하겠다는 제안을 하지 않았다 . 개인마다 , 문화마다 가치체계가 다르다는 게 기계의 문제는 아니다 . 기계가 자기 나름의 올바른 가치체계를 지니기를 바라는 것도 아니다 . 그저 기계가 사람들의 선호를 예측하기 원할 따름이다 . 채식 가정의 로봇이 채식주의자의 성향을 택할 것이라는 것은 잘못된 논리다 . 로봇은 그저 채식주의자가 어떤 식성을 지니는지 잘 예측하는 법을 배우기만 하면 된다 .”

— ‘ 특이점 ’ 으로 불리는 인간 수준의 범용 인공지능 개발이 뇌의 복잡성 때문에 어렵다고 해도 , 인공지능의 지능폭발은 가능하지 않나 ?

“ 어빙 굿이 말한 ‘지능 폭발’ 은 기계가 자신의 소프트웨어와 하드웨어의 발전된 버전을 스스로 설계할 수 있을 정도로 충분히 똑똑해질 때 어떤 일이 일어날지를 지칭한다 . 이 과정은 기계가 스스로의 소프트웨어와 하드웨어를 유의미한 방식으로 발전시킬 능력이 없다면 시작될 수 없다 . 현재 기계는 여러 개의 작고 무작위적인 변화를 만드는 과정을 빠르게 반복해 좀 더 좋은 버전이 나타나는지 보며 인간 설계자를 도울 수 있지만 , 질적인 변화를 탐구할 수는 없다 . 예시로 , 현재의 기계 중 어느 것도 양자 컴퓨팅의 개념을 고전적인 컴퓨터에 대한 가능성 있는 대체재로서 발명해낼 수 없었을 것이고 , 현재의 기계 중 어느 것도 지식과 학습을 결합하는 새로운 접근 방법을 개발할 수 없었을 것이다 .”

스튜어트 러셀과 피터 노빅이 함께 쓴 &lt;인공지능 : 현대적 접근방식&gt;은 전세계 1500여 대학에서 AI 교재로 사용하고 있는, 이 분야의 교과서다.
스튜어트 러셀과 피터 노빅이 함께 쓴 <인공지능 : 현대적 접근방식>은 전세계 1500여 대학에서 AI 교재로 사용하고 있는, 이 분야의 교과서다.

— 인공지능의 멈춤없는 학습능력과 기하급수적인 연산 능력 상승은 인간 뇌 수준에 도달하지 않아도 범용 인공지능의 개발로 이어질 수 있는데 , 불가능하다고 보는 이유는 무엇인가 ?

“ 기계를 빠르게 만드는 것은 그냥 잘못된 답을 더 빠르게 얻는 방법이다 . 우리가 가진 방법들이 본질적으로 불충분하다면 , 이 부족함을 가리기 위해 거대한 양의 자원과 데이터와 계산을 바치는 것은 끔찍한 접근법이다 . 이런 방법은 자원을 낭비하고 , 연구자를 낭비하고 , 투자자와 정부를 잘못 이끈다 . ‘ 인공 일반 지능 (AGI)’ 는 인간이 잘 수행할 수 있는 임무라면 인공지능 역시 높은 수준에서 수행하는 법을 빠르게 배울 수 있어야 한다는 것을 뜻한다 . 우리가 ‘ 인공 일반 지능 ’ 을 만들기엔 부족한 부분이 많고 새로운 아이디어 없이는 채워질 수 없다 .

— 많은 인공지능 기업들이 ‘ 이로운 인공지능 ’ 협의체를 만들고 인공지능 윤리에 관한 국제협약이 있어도 독재국가나 사악한 집단은 인공지능을 핵무기처럼 파괴적 도구로 사용할 우려가 있는데?

“ 중대한 걱정이고 , 인공지능을 악용하려는 시도는 해결이 어려운 문제다 . 안전성을 담보하는 인공지능 시스템 설계가 나온다면 , 인터넷의 통신규약 (TCP/IP) 처럼 모든 서비스와 시스템에 법적으로 요구될 것으로 본다 . 하지만 안전하지 않은 인공지능을 예방하는 것과 사이버범죄 예방은 차이가 있다 . 첫째 , 사이버범죄는 인터넷의 설계구조상 보안 취약에서 발생한다 . 둘째 , 일부 국가는 사이버 범죄를 보호하고 심지어 권장하기 때문에 성행한다 . 범용 인공지능이 등장하게 되면 , 무제한적 부와 서비스를 제공할 수 있기 때문에 국가간 경쟁의 원천이 사라지겠지만 그 이전까지는 ( 국가간 ) 경쟁이 존재할 것이다 .”

— 국제적으로 핵확산 금지 조약이 있어도 이를 위반하는 시도를 막을 수 없다 . 기술개발 분야에서 국제적 윤리원칙이 실질적으로 작동할 수 있다고 보나?

“ 어렵다는 데 동의하지만 , 필요하다 . 살인이 발생하지만 살인을 반대하는 법이 필요하듯 말이다 . 인간배아 복제시험 금지와 화학무기 금지 등 국제적 합의중에서 성공적인 사례들도 많이 있다 .”.

— 당신은 “사람 닮은 로봇을 만들지 말라”는 앨런 튜링의 경고를 인용하며 휴머노이드 로봇에 반대했지만 , 인간형 로봇과 섹스로봇 개발경쟁은 진행중이다 . 재난 상황을 대비한 다르파 (DARPA) 로봇챌린지에도 휴보와 같은 인간형 로봇이 출전한 바 있는데?

“ 휴머노이드 로봇의 문제는 그 모습 때문에 우리가 인간의 특성을 부여하도록 속인다는 점이다 . 이걸 빼면 휴머노이드의 장점은 없다 . 인간을 흉내내는 로봇을 허용할지는 불가피함이 아니라 우리에게 달린 문제다 . 휴보는 사람으로 착각하게 만드는 휴머노이드라기보다 터미네이터형 로봇이다 .”

— 인공지능 전문가로 당신은 교육제도와 과학탐구를 물질세계보다 인간에 초점을 맞추는 방향으로 근본적 재검토해야 한다고 말하는데 , 구체적 개선법은?

“ 이런 제안을 하는 이유는 미래에는 지적 노동이건 , 물리적 노동이건 반복적 업무는 기계의 일이 되기 때문이다 . 사람들의 가장 큰 경제적 역할은 인간 삶에 대한 이해를 바탕으로 다른 사람들의 삶을 개선시켜주는 직접적인 인간 관계 기반의 직무일 것이기 때문이다 . 과학을 기반으로 현재보다 훨씬 깊은 인간에 대한 이해가 필요하다 . 그렇기에 이러한 과학과 이와 결부된 모든 교육과정과 직업을 발전시켜야 한다 . 오랜 시간이 걸려도 말이다 .”

8월4일(한국시각) 미 캘리포니아에 있는 스튜어트 러셀 교수와 화상 연결을 통해 인터뷰가 진행됐다.
8월4일(한국시각) 미 캘리포니아에 있는 스튜어트 러셀 교수와 화상 연결을 통해 인터뷰가 진행됐다.

— 인공지능이 일자리를 줄이는 상황에 개인과 사회가 대처하려면?

“ 기계가 더 많은 일을 하게 될 때 , 사람이 가장 잘 할 수 있는 일이 무엇인지 또 사람이 하는 것을 선호할 일이 무엇인지 질문해야 한다 . 이러한 직업 다수는 ‘ 돌봄 ’ 직무다 . 어린이나 노인 돌봄 , 심리상담만이 아니라 , 경영지도사 , 진로 멘토링 전문가 , 인테리어 디자이너 등의 직업들도 모두 고객과 소통하며 개인의 삶을 발전시킨다 . 친구도 마찬가지다 . 인문학과 인간학은 인류의 미래에 핵심적일 것이다 .”

— 자율주행차의 트롤리 딜레마와 같은 인공지능 윤리 논의가 인공지능 산업의 발달을 저해한다는 주장이 있다 . 기술 발전에 따라 자연히 해결될 문제라는 주장인데?

“ 아무도 문제를 인식하지 않거나 얘기하지 않는데 문제가 해결될 것이라는 생각은 내게 이해되지 않는다 . 체르노빌 핵발전소의 문제는 알려져 있었지만 , 설계자들이 언급하는 게 금지되어 있었다 . 그럼에도 문제는 자연스럽게 해결되지 않았고 발전소는 폭발했다 . 연구자들이 문제를 솔직하게 논의하는 게 필수적이다 . 우리가 문제를 의도적으로 숨긴다면 사람들이 어떻게 우리를 신뢰할 수 있겠는가 . 우리는 인공지능의 위험성을 해결하지 못하는 한 인공지능의 혜택을 누릴 수 없다 . 내가 제안한 새로운 인공지능 모델은 인공지능이 우리보다 훨씬 능력이 뛰어날 때에도 인간이 통제권을 잃는 상황을 방지할 수 있다고 믿는다 .”

구본권 사람과디지털연구소장 starry9@hani.co.kr
서비스 선택
댓글
로그인해주세요.
profile image
powered by SocialXE
List of Articles

“삶터와 일터에서 지속가능한 미래, 시민이 만들어갑니다”

대한민국 지속가능발전 공모전 14개 우수사례 선정 도시문제 해결 위해 민·관 손잡은 화성시 ‘대통령상’ 수상 전남 순천 덕연동 마을계획과 지속가능발전 목표 연계 쓰레기 줍고 조깅하는 ‘플로깅’ 실천 ‘와이퍼스’ 사례 눈...

  • HERI
  • 2021.09.28
  • 조회수 24

“환경-복지-혁신이 선순환 이루는 새로운 성장 전략 마련을”

‘참성장의 시대를 열자’ LAB2050-한겨레경제사회연구원 공동기획 사람·기술·환경이 함께 하는 ‘참성장포럼’…매달 토론회 개최 GDP 중심의 성장만능주의 대체할 새로운 경제비전과 대응 전략 모색 지난 9월15일 열린 ‘참성장포...

  • HERI
  • 2021.09.23
  • 조회수 98

“절차의 공정성 넘어, 능력·경로·선택이 다원화된 사회 만들어야”

정책기획위원회 주최 ‘청년과 정의’ 토론회 남성·대학생·수도권·비장애인 아닌 고졸 이하·지방 출신·비정규직 등 우리사회 다수의 목소리 반영해야 조대엽 대통령직속 정책기획위원회 위원장이 지난 15일 오후 서울 중구 페럼타워 ...

  • HERI
  • 2021.09.22
  • 조회수 102

“기성세대 청년담론은 허구…우리를 주류 정치에 가두지 말라”

한겨레경제사회연구원 ‘청년담론’ 화상 토론회 고용불안을 기성세대와 청년간 사회격차를 남녀문제로 모는 등 대결적인 세대주의 담론 안돼 정치권에선 이대남·이대녀 표현 ‘MZ세대’도 상품 소비자로 호명 청년의 삶을 너무 쉽게...

  • HERI
  • 2021.09.22
  • 조회수 109

땅은 누구의 생산품도 아닌데…토지공개념 살려야 투기 잡는다

‘집걱정없는세상연대’ 등 공동 주최 ‘주거권보장을 위한 연속 토론회’ 개최 “토지공개념은 헌법도 인정하는 개념 사유재산권과 충돌 안해” “토지 투기 막고 효율적으로 이용하려면 토지공개념 다시 살려야” 공공토지임대제·장...

  • HERI
  • 2021.09.16
  • 조회수 195

【단독】 “남양유업 위기는 시장신뢰 상실 때문…‘선 정상화-후 매각’이 해법”

HERI 인터뷰 ‘남양유업 대표 내정’ 전격 공개한 박윤배 대표 8월말 홍원식 회장 만나 기업개선·혁신 맡기로 발표 지연에 SNS로 공개 “기회 놓치면 더 위기” 상생·투명성 등 ESG 과제…시총 1조5천억 가능 ‘연봉 1원’...

  • HERI
  • 2021.09.14
  • 조회수 178

유튜브 ‘서울시장 오세훈TV’의 “#사회주택 #극대노” 자세히 들여다보니…

‘서울시장 오세훈TV’가 서울시 내부자료 이용해 폭로 한국사회주택협회 전수조사 팩트체크와 비교해보니 검증절차 없이 사회주택에 대한 폄훼와 오해 증폭시켜 사업자들 “정치도구화 중단” 및 “왜곡·과장 사과 요구” 사실에 근...

  • HERI
  • 2021.09.13
  • 조회수 224

민주당 경선후보자 ‘사회적 경제 정책’ 톺아보기

[정당별 후보 서면 인터뷰] 주요 현안과 정책·공약에 대한 입장 질의 예비후보 전원 “관련 기본법 신속 제정” 촉구 사회적 경제 필요성 공감…활성화 방안은 제각각 민주당 대선후보 경선에 나선 이재명, 김두관, 정세균, 박...

  • HERI
  • 2021.09.13
  • 조회수 253

포스코 경영진의 자사주 매입 논란…‘ESG 경영’에 걸림돌 되나

검찰 8월12일 포스코 센터 압수수색 경영진이 미공개 정보 이용했는지 수사 포스코, “책임경영 차원에서 매입” 반박 수사결과 혐의 인정되면 윤리경영에 큰 타격 ESG 평가에도 악영향 줄 듯 서울 강남구 포스코 센터 류우종 ...

  • HERI
  • 2021.08.24
  • 조회수 368

“자동코딩, 업무환경 혁신할 ‘새로운 엑셀’될 것” 기대

인공지능이 코딩하는 ‘코파일럿’에 자연어처리 인공지능 GPT-3 결합 코딩문턱 없앤 노코드·로코드 확산 코딩기술보다 기획·판단력 중요성 “아래로부터의 혁신 가속화 전망” 오픈AI, 자연어로 자동코딩 ‘코덱스’ 공개 엘지시엔에...

  • HERI
  • 2021.08.23
  • 조회수 369

“기존 AI모델은 위험…인간의 선호 학습하게 해야”

[인터뷰] 스튜어트 러셀 UC버클리 교수 전세계 대학이 배우는 AI교과서 저자 “지금까지 AI개발 표준모델은 사람이 부여한 목표 달성에 최적화” “사람보다 뛰어난 지능 달성하라” AI에 잘못된 목표 부여하면 ‘파국’ 경고...

  • HERI
  • 2021.08.09
  • 조회수 539

‘코로나 스트레스’ 가중…“사회적 효능감 높이는데 힘써야”

통계개발원 ‘코로나 위기, 데이터 콘서트’ 코로나 시대 ‘건강한 사회적 삶'은 경제나 방역 강화만으로 해결 어려워 “정부·언론·전문가 협력 기반 대안 모색 등 정책과제 견인해야” 지난 3일 통계개발원이 ‘코로나19 위기 상...

  • HERI
  • 2021.08.05
  • 조회수 506

역대급 실적에도…웃지 못하는 철강업계

포스코 등 2분기 실적 좋지만 EU 탄소국경세 ‘폭탄’ 맞을 위기 전경련 “탄소배출권 시행” 이유로 EU에 탄소국경세 면제 요구 배출권 무상할당 많아 쉽지 않아 코크스 대신 수소 사용 기술 개발 발전소 탈탄소화 등 정부 ...

  • HERI
  • 2021.08.02
  • 조회수 520

“집단감염 계기로 ‘노조’ 결성했지만 ‘원청’ 모르쇠에 답답해요”

[짬] 에이스손해보험 콜센터노조 조지훈 초대 지부장 에이스손해보험콜센터노조 조지훈 지부장이 지난 7일 사무실에서 업계에서 보기드문 ‘신입 노조 전임자’로서 겪고 있는 소회를 털어놓고 있다. 사진 양은영 연구원. “만감이...

  • HERI
  • 2021.07.15
  • 조회수 906

부동산 값 폭등했는데…초고가 집주인 세금 더 깎아준다고?

‘종합부동산세 개정안’ 긴급토론회 “1주택자 종부세, 상위 2%에만 과세하는 안은 조세형평성과 부동산 안정에 역행하는 정책” “개정안 적용시 초고가 주택 보유자 더 많은 혜택 가진 사람 세금 깎아주는 법에 시민들 의아해...

  • HERI
  • 2021.07.14
  • 조회수 904

사회적 경제, 대전환 시대 자양분 되려면…

‘사회적 경제 혁신 심포지엄’ 개최 복지정책 한계·자본주의 위기 보완할 시민사회 주도의 사회적 경제에 주목 “지역 복지체제, 풀뿌리 사회적 경제에 기반 두고 지자체별로 사회문제 다루는 플랫폼 구축 시급 영역별 지원정책...

  • HERI
  • 2021.07.14
  • 조회수 750

사회적 경제인들 주도, ‘사회적 은행’ 주춧돌 놨다

3일 (가칭)사회연대신용협동조합 창립총회 사회적 경제 기업과 종사자들 설립한 협동조합은행 설립동의자 169명, 3억원 출자로 창립총회 열어 “사회적 금융 생태계에 생기, ‘관계 금융’ 역할 기대” 3일 홀리데이 인 광주 호텔에...

  • HERI
  • 2021.07.07
  • 조회수 859

싹 틔운 사회적농업, 농촌에 희망의 꽃 피울까

3일 ‘사회적경제 박람회’서 사회적농업 간담회 열려 취약계층 자립 돕는 사회적농장 전국 60곳 확산 “지속가능한 운영하려면 중장기 비전 갖고 농민·사회복지가·지역주민 등 협력해야” 3일 광주 서구 김대중컨벤션센터에서 열...

  • HERI
  • 2021.07.06
  • 조회수 750

광주정신과 만난 나눔과 연대의 사회적 경제 축제

2-5일 광주에서 제3회 사회적 경제 박람회 열려 연대와 협력, 혁신 추구하는 사회적 경제인 한 자리에 지난해 코로나로 연기돼 2년만에 열리는 사회적 경제 축제 온라인 스토어, 박람회 랜선투어 온오프 다채로운 이벤트 마련 ...

  • HERI
  • 2021.07.05
  • 조회수 702

“인터넷 최고의 희소자원” ‘주의력 경제’에 정보생태계 황폐화

이용자 주의력 사로잡기 경쟁 인터넷엔 교묘한 ‘설득적 기술’ 자동재생·무한스크롤 ‘기본설정’ 사회적 감시 함께 개인노력 필요 초기설정 ‘비활성화’하고 바꿔야 무한정보 환경과 주의력 2020년 넷플릭스에서 개봉한 다큐멘터리...

  • HERI
  • 2021.06.28
  • 조회수 784