슈퍼컴퓨터 딥블루(White) VS 챔피언 가리 카스파로프(Black), 1997
카스파로프는 체스역사상 가장 뛰어난 선수였지만, 결과적으로는 슈퍼컴퓨터가 이겼다.
"인공지능의 발명이란 자동차에서 바퀴를 떼어낸 뒤 그 자리에 발을 달기 위해 고심하는 것이다." - 앨런 튜링질문 : 로봇(인공지능)이 세계를 정복할 거라고 생각해?
안드로이드 딕 : 오, 친구. 오늘 어려운 질문만 하네. 하지만 넌 내 친구야. 난 널 기억하고, 잘해줄거야. 그러니까 걱정하지마. 혹시 내가 터미네이터처럼 변하더라도 난 널 잘 대해 줄거고, 하루종일 지켜볼 수 있는 인간 동물원에서 편하고 안전하게 생활할 수 있게 해줄게.
개요
Artificial Intelligence; A.I.
인간이 지닌 지적 능력의 일부 또는 전체를 인공적으로 구현한 것. 일반적으로는 범용 컴퓨터를 통해 소프트웨어적으로 구현하지만, 어떤 것은 인간의 신경계를 모방한 특수 회로를 칩으로 만들어 구현하기도 한다. 현실에서는 걸음마 단계이나, SF물에서는 자주 나오는 소재이다.
크게 자아를 지닌 '강인공지능(Strong AI)'과, 자아는 없으며 주어진 조건 하에서 지시를 따르는 '약인공지능(Weak AI)'으로 구분할 수 있다.
인공지능과 로봇을 혼동하지 말자. 인공지능은 소프트웨어(정신), 로봇은 하드웨어(육체)이다. 보통 아이언맨이나 터미네이터 같은 SF물에 인공지능이 탑재된 로봇이 나오기 때문에 많이들 햇갈려 하지만, 인공지능은 컴퓨터과학, 로봇은 기계공학과 전자공학의 영역이다. 하지만 인공지능을 공부하는 사람이 로봇에 대해서도 아는 것이 일반적이고, 로봇을 공부하는 사람이 인공지능에 대해 알기도 한다. 휴머노이드처럼 지능을 가진 로봇을 만들 때는 두 분야가 협력하는 것이 일반적이다.
인공지능(Artificial Intelligence)이라는 용어가 처음 등장한 것은 1956년 미국 다트머스의 한 학회에서 존 매카시가 이 용어를 사용하면서부터이다
앞에서도 간략히 설명한 대로, 인공지능은 크게 분류하다면 ' Tesler's theorem: AI is whatever hasn't been done yet. 인공지능이란 무엇인가, 무엇을 지능이라고 부를 것인가를 명확하게 정의하기는 쉽지 않다. 그리고 이는 철학적인 문제가 아니고 이 문제에 어떤 대답을 선호하는가에 따라서 연구 목적과 방향이 완전히 달라진다. 8번째로 빠른 슈퍼컴퓨터인 블루진/L의 경우 시냅스가 각각 3000개씩 있는 뉴런 5000개를 시뮬레이션 하는데 성공했지만 당장 누에나방만 해도 시냅스가 각각 5000개 이상인 뉴런이 약 10만개 이상이 있는걸 감안하면 안습한 상황이다. 2010년 9월 현재 최고로 빠른 크레이XT-5 HE 재규어의 경우 엄청나게 많은 수의 AMD 옵테론 헥사 코어로 무장하고 있지만 별반 다를게 없는 상황. 게다가 2010년 중반 쯤에서야 겨우 인간의 1살 지능을 가진 인공지능을 개발해냈다. 그러나 그마저도 완벽하지 않다. 2010년만해도 인공지능은 머나먼 미래 기술로 보였지만 2016년 기준으로는 벌써 가까이 다가온 기술이다. 최근 1~2년간 인공지능 분야에 딥 러닝(deep learning) 이라는 인간의 뇌를 모방한 획기적인 기술 발전이 있었고 이로 인해 적어도 20년~30년안에는 충분한 수준까지 도달할 것으로 보인다. 그런데 구글이 오픈소스로 내놓았다!!! 인간에게는 자아라는 것이 존재한다. 그런데 동물에게도 자아가 존재할까? 몇몇 철학자나 과학자들은 인정하지 않고 있다. 동물이 반응하는 것이 단순히 기계적인 방식인지 의지에 대한 행동인지에 대해서 증명할 수 없기 때문이다. 애완동물을 키우는 위키러라면 이해하기 어렵겠지만 현재는 인간외에 동물에게도 자아가 존재하는가에 대해서는 밝혀진 것이 없다.
왜 최근에 빌 게이츠, 엘론 머스크, 스티븐 호킹 등 많은 유명인들이 인공지능을 경계하라고 호소하는가?
만약에 인간 및 인류에게 절대적으로 안전하고 호의적이며 인류의 발전을 돕는 초 인공지능이 만들어진다면 이 문제는 해결된 것이다. 하지만, 초인공 지능이 그렇게 만들어지리라는 보장은 현 시점에는 전혀 없다. 영국 옥스포드 대학교에서 강한 인공지능이 출현하게 되는 수십가지의 시나리오를 시뮬레이션한 결과 인류멸망이라는 결과가 나왔다는 기사도 있다. 북한, 미국, 일본, 중국 등 누가 강한 인공지능을 가졌느냐는 문제가 아니라고… 진짜 문제는 북한 중국 이나라에 더하기 테러집단이 인공지능을 가진 로봇이나 인공지능을 삽입한 기계나 장비를 해킹했을 경우 피해국은 어떻게 해야할까? 이에 대한 안전 대책은 있는것일까? 영화 터미네이터, 아이로봇등에서도 인공지능을 믿고 모든 것을 맡겼다가 인공지능 스스로가 생각을 하고 판단을 하기 시작을 하면서부터 인간들을 지배하고자 한다. 이런 문제가 과연 먼미래의 이야기이고 영화에서만 나오는 이야기일까? 그렇지 않을 것이다. 현재 2016년처럼 빠르게 IT기술이 발달하고 있는 현제에는 이런 문제가 먼 미래의 문제일리 없다. 그래서 이런 위험에 대한 대책을 빠르게 수립하고 실현시키는 기업과 나라가 새로운 세상의 새로운 초강자가 될수 있을 것이다. 출처 : https://namu.wiki/w/%EC%9D%B8%EA%B3%B5%EC%A7%80%EB%8A%A5분류
강인공지능(Strong AI)'과 '약인공지능(Weak AI)'으로 구분할 수 있다.
강인공지능(Strong AI)은 자의식을 가진 인공지능이다. 다른 말로 자아를 지닌 인공지능이라고 표현할 수 있다. 명령받지 않은 일도 할 수 있으며, 심지어 명령을 거부할 수도 있다. 자신의 존재를 인식하고 있기 때문에, 자신의 존재를 지키기 위해서 다른 것(인간 포함)을 이용할 수도 있다. SF물에서 인공지능 로봇이 인간을 노예로 부리는 상황이 묘사되곤 하는데, 거기의 인공지능이 바로 강인공지능이다. 아직은 개발되지 않고 있지만, 스티븐 호킹박사는 강인공지능의 출현을 경고한 적 있으며, 유명한 미래학자인 레이 커즈와일은 그의 저서인 "특이점이 온다"에서 강인공지능의 출현시점을 2045년으로 예측하기도 했다. 대부분의 과학자들은 빠르면 50년이내에 늦어도 100년이내에는 강인공지능이 등장할 것으로 보고 있다. 한편 강인공지능의 등장은 인공지능 연구에 있어서 중요한떡밥이자 핵심적인 과제이며, 동시에 현실의 인공지능 개발에서는 아직까지는 가시적인 성과가 없는 분야이기도 하다. 흔히 인공지능을 AI라고 하는 데 비해, 이 쪽은 특별히 AGI(Aritificial General Intelligence)라 부르기도 한다. General의 의미는 장군 일반적이다'라는 단어의 평범한 의미보다는 특수 상대성 이론과 일반 상대성 이론 할 때의 '일반'의 의미로 보면 좋다. 즉 특정한 조건 하에서만 적용할 수 있는 약인공지능과 달리 모든 상황에 일반적으로 두루 적용할 수 있는 AI의 의미.
반면 약인공지능(Weak AI)은 자의식이 없다. 즉 자아가 없으며, 명령받은 일만을 수행한다. IBM의 왓슨, 구글의 알파고 등 현재 개발된 인공지능은 모두 약인공지능이다. 강인공지능과 마찬가지로 SF에서 많이 나오며, 역시 다양한 모습이다. 또한 현실의 인공지능 개발에서 가시적인 성과를 보이는 분야이기도 하다. 강인공지능과의 최대의 차이점은 자아가 없다는 점.
참고로 감정을 가진 인공지능은 현실적으로 아직까지는 연구한 바가 없으며, 따라서 현실에서 연구하는 인공지능은 어디까지나 인간의 의식을 단순히 표면적인 수준에서 겉으로 모사하는 것이 한계이다. 예를 들어 "이 꽃은 예쁘다", "날씨가 좋다" 라는 것이 기계학습의 군집 형성을 거쳐 통계적으로 나올 수는 있겠지만, 어디까지나 통계적이고 기계적인 출력이고 실제로 감정을 느껴 반응하는 것은 아니다.
한편 SF적인 관점 또는 이론적인 관점에서 보자면, 감정을 가진 인공지능이 과연 필요한가, 바꿔 말하자면 인공지능에게 감정을 줄 필요성이 있는가에는 기술적인 실현 가능성의 여부를 떠나서 그 개념이나 발상 자체가 여러 모로 논란의 대상인 떡밥이기도 하다. 기술적 난점을 비롯한 현실적 문제 또는 예기치 못한폭주의 우려 등을 고려하여 인공지능에게 감정을 줄 필요성은 없다고 생각하는 의견도 있고, 또 반대로 인간의 의식을 보다 고도로 정밀하게 모사하려면 감정도 줄 필요가 있기에 인공지능에게 감정을 줄 필요성이 있다고 생각하는 의견도 있다. 이러한 떡밥은 특히 자아를 지니는 강인공지능의 실현에 관련한 생각보다 중요한 과제라고도 말할 수 있다.
강인공지능과 관련해서 상기한 것과 같은 떡밥이 있는 것에는 사실 상당히 중요한 이유가 있는데, 자아를 지니는 강인공지능을 만들려면 인간의 의식을 보다 심도있게 모사할 필요가 있고 따라서 인공지능에게 감정을 줄 필요성이 있는가에서 고찰도 필요해서이다. 자아가 없는 약인공지능의 경우에는 인간의 의식을 단순히 표면적으로만 모사하는 수준으로도 충분하기에 애초에 감정을 줄 필요성 자체가 근본적으로 없다고 할 수 있지만, 반대로 강인공지능의 경우에는 약인공지능과는 달리 좀 더 심도있게 인간의 의식을 모사하는 것에 중점을 두니 감정이 필요한지의 여부에도 고찰할 필요가 있다는 것이다.연구 현황
테슬러 정리: 인공지능은 아직 실현되지 않은 무언가이다.
한 가지 대답은 인간의 '지능'을 필요로 하는 일을 컴퓨터가 처리할 수 있으면 그것이 바로 인공지능이라는 것이다. 또다른 대답은 인간과 같은 방식으로 이해를 할 수 있어야 인공지능이라는 것이다. 이 두 가지 대답 역시 세부적으로는 "지능을 필요로 하는 일이란 무엇인가?" 내지는 "인간과 같은 방식이란 무엇인가?" 라는 질문에 대한 대답에 따라서 서로 다른 여러 종류의 대답을 내포하고 있다. 물론 이 두 가지 대답은 배타적이지는 않다. 인간과 같은 종류의 지능을 가지고 '지능'을 필요로 하는 일도 처리할 수 있는 컴퓨터를 만드는 것은 수많은 컴퓨터 공학자들의 꿈과 희망이겠지만, 적어도 단기간에 그런 목표에 도달할 가능성은 희박하다.
만약 '지능을 필요로 하는 일'을 처리하는 것이 인공지능이라고 정의한다면, 인공지능은 인간이 어떤 방식으로 사고하는가를 고민할 필요가 없으며, 감성과 같은 것 또한 고려할 필요가 없다. 모로 가든 서울만 가면 되니까. 이러한 방향의 인공지능 연구에서는 초기에는 전문가가 필요한 일을 복잡한 소프트웨어를 통해서 처리하는 전문가 시스템이 대세였으며, 이러한 전문가 시스템은 실행 방식에서는 일반적인 소프트웨어와 특별한 차별성이 없고 전문가들이 문제를 해결하는 방식을 가능한 한 쉽고 정확하게 소프트웨어에 반영할 수 있는 방법을 제공하는데 주력했다.
그 외에도 체스를 두는 것 역시 이 분야에 들어간다. 대중적으로는 컴퓨터가 체스를 둘 수 있는 것이 지능을 가진 증거인 듯이 널리 알려져 있지만, 체스 머신은 매우 이른 시기에 인공지능 연구에서 제외되었다. 체스를 연산으로 처리하게 만드는 것은 대단히 어렵다. 수 하나를 더 내다보려면 평균적으로 26배의 연산이 더 필요해지기 때문에 아무리 현대의 컴퓨터가 빠른 속도로 발전하고 있다고 해도 5~6수를 내다보는 것이 고작이며 수십 수를 내다보는 체스 기사들과는 상대가 되지 않는다. 이 때문에 실제 체스 머신들은 지금까지의 체스 기보를 대량으로 입력한 후 그 체스 기보에서 같은 모양이 나온 적이 있는지를 하나하나 대조하는 방식으로 처리한다. 세계 챔피언을 이긴 IBM의 체스 머신은 7만개가 넘는 기보를 이용했다고 한다. (이세돌과 알파고의 대결도 이분야이다.) 이는 더이상 인공지능의 분야가 아닌 데이터 병렬처리를 빠른 속도로 해낼 수 있는 슈퍼컴퓨터의 성능 과시용에 불과하다. 물론 이 역시 '지능'이라는 단어의 정의에 따라서 넣는 교수/학자도 있으며 빼는 학자도 있다. 다만 통상적으로 더 이상 이것은 연구의 분야가 아니라는 점은 변하지 않는다.
그동안 시도되었거나 시도되고 있는 접근법으로는, 전뇌 시뮬레이션 (Brain Simulation), 검색, Bottom-Up 접근법등이 있다. 그런데 컴퓨터가 체스 같은 특정 작업을 능숙하게 해낼 수 있게 되면 그 작업을 인공지능의 조건에서 바로 빼 버리는 경향이 있다(...). 이래서야 어떤 접근법이든 간에 무슨 의미가 있는지 의문이다.
현대에는 확률과 무작위 알고리즘을 다루는 연구 쪽이 가장 인기가 있다. 일반적으로 "A면 B다!" 라고 단정할 수 있는 문제는 컴퓨터로 비교적 쉽게 접근할 수 있다. 그러나 'art'가 '예술'일 수도 있고 '기술'일 수도있듯이 여러 종류의 답이 가능한 경우도 있으며, 이 경우 '문맥'과 같은 주변 상황을 고려해야 하는데 그렇다고 "앞뒤에 이런 단어가 나오면 '예술'이고 아니면 '기술'이다" 라는 식으로 딱 잘라서 답을 내기는 어렵다. 이런 종류의 문제를 통계와 확률을 다루는 복잡한 수학을 이용해서 해결하는 것. 실제로 현대의 인공지능 연구는 단어 각각에 해당되는 카테고리를 부여하여, 문장 전체로 보았을 때 카테고리가 많은 쪽의 의미로 해석하도록 진행되고 있다고 한다. 극도로 단순한 예로, 'Music is an art' 라고 했을 때, 문장에서 의미가 있는 두 단어인 music과 art를 포함하는 카테고리인 '예술'을 추측하여 해당 문맥에 맞게 해석을 하도록 한다.
물론, '인간과 같은 종류의 사고'를 하는 것을 목표로 하는 연구도 활발히 진행되고 있으며, 대표적인 예가 가상 신경망이다. 가상 신경망의 연구 역시 인간 사고 모방만이 아닌 실용적인 문제를 해결하는 쪽으로도 활용되고 있다. 대표적인 예로 통상적인 컴퓨터 알고리즘으로는 해결할 수 없는 불가능한 비가역적 연산 과정이 있는 패턴 인식이 필요한 경우.개발 가능성
회의론
소프트웨어는 그렇다 치고 하드웨어 역시 문제인데, 현재 인간은 지능은 고사하고 하드웨어인 뇌조차 어떤 방식으로 작동하는지 정확하게 알지 못한다. 일이 이러한 상황이니 의식같은 고등 정신활동에 다다르면 어떠한 작용인지도 명확하게 결론내리고 있지 못하고 있다. 최신 이론에 따르면 감각활동에 주의를 기울였을 때 생긴다고 하나 역시 이론일 뿐이다. 노르베르트 볼츠에 따르면 인공지능에 엄청난 노력과 자본을 들여봤자 배울 수 있는 건 인간의 지능이 얼마나 희귀한가 뿐이라고 한다.긍정론
현재 2016년 기준으로 인공지능은 음성인식을 통한 동시번역(음성인식은 이미 사람과 동일한 수준이다), 주어진 상황을 보고 설명하는 능력, 1,000개 이상의 사물을 인식하는 능럭, 게임 방법을 알려주지 않아도 사용자가 플레이 하는 모습을 모방하여 플레이할 수 있으며 이미 AP 통신 등 일부 외신에서는 간단한 기사를 인공지능에게 맡기고 있다. 놀랍지만 위 결과물들은 불과 2~3년전만해도 불가능한 일이었다. 그러나 인간의 학습효과에 착안하여 빅데이터를 통해 로봇에 학습하는 방식인 딥 러닝의 발견은 인공지능의 역사를 수십년 앞당겼다. 인간은 어릴때 강아지가 어떻게 생겼는지 왜 강아지인지 설명받지 않지만 경험을 통해 그것이 강아지라는 것을 인식하게 된다.
제2의 산업혁명이라 불릴 인공지능은 20~30년내로 반드시 실현된다는게 대부분 전문가들의 의견이다. 다만 이는 단순히 학습을 통한 약한 인공지능으로 터미네이터와 같은 인간의 감정을 지닌 강한 인공지능의 출현은 아니다.
사실 2009년에 이미 IBM에서 고양이 수준의 뇌를 시뮬레이션 성공했다. 다만 고양이의 사고를 모방한 것도 아니고 속도도 실제 인간의 뇌의 100분의 1 수준으로, 뉴런 10억개와 시냅스 10조개를 시뮬레이션한 것이라 완전한 완성이라고 하기에는 모자란 점이 분명히 있긴 하다.
스티븐 호킹은 자신의 저서인 '호두 껍질속의 우주'에서 현재의 컴퓨터의 연산능력은 해파리의 신경절보다 못하다고 언급한 바 있었지만, 이 책은 2001년에 나온 책이다. 2001년 최고 수준의 슈퍼컴퓨터는 2014년의 하이엔드급 그래픽 카드 2개에도 못 미치는 연산 성능을 가지고 있다. 또한 애초에 스티븐 호킹은 컴퓨터나 인공지능에 관련된 학자가 아니라 이론 물리학자 겸 천문학자라는 것도 고려해야 한다. 덧붙여 스티븐 호킹 본인 역시 세월이 흐르고 인공지능의 발전속도가 점점 빨라지자 인공지능의 능력에 대한 생각이 바뀌었는지 2014년에는 “인간의 지능을 뛰어넘는 기술은 유용하지만 인공지능의 완전한 발전은 인류의 종말을 불러올 수도 있다고 생각한다”는 의견을 피력했다.
게다가 2015년에는 IBM에서 트루노스라는 신경망 시뮬레이션을 위해 특화된 CPU로 겨우 몇 밀리와트로 설치류의 뇌를 시뮬레이션 하는데 성공하였다.
또한 뇌에 대한 지식도 스마트폰 등 모바일 인터넷 기술이 발전하자 빅데이터 기술을 통한 새로운 관점으로 접근하는 방법이 시도되며 급진전하고 있는 중. 또한 MRI 같이 뇌를 관찰하는 기술도 급속도로 발전 중. 이미 인간 뇌의 신경망 지도를 작성하는 휴먼 커넥톰 프로젝트가 진행 중이며 유럽 연합에서는 2023년까지 인간 뇌 전체를 시뮬레이팅하는 휴먼 브레인 프로젝트가 진행 중이다.
문제는 이미 컴퓨터가 쉽게 풀 수 있는 문제는 더이상 인공지능이 아니라는 것. 예컨대 과거에는 컴퓨터가 손으로 쓴 글씨를 인식하거나 맞춤법을 교정하는 것도 인공지능의 목표 중 하나였지만, 지금은 컴퓨터가 맞춤법을 교정해 주는 것은 당연하다고 생각하기 때문에 아무도 인공지능이라고 부르지 않는다. 인공지능은 항상 '현재의 컴퓨터가 일반적인 방법으로 쉽게 풀 수 없는 문제'만을 대상으로 하기 때문에, 인공지능 연구의 결과가 일반적인 방법이 되면 그것은 더이상 인공지능이 아니게 되는 것이다.
이런 점 때문에 현재 인공지능의 연구 대상에 남은 것들은 인공지능이 아닌 Cognitive Computing이라고 부르는게 낫지 않느냐는 의견이 제시되고 있는 상황이며, 비록 위쪽에서 설명되었던 것과 같이 아직은 의식을 가진 컴퓨터를 만들기에는 우리의 기술력이 매우 부족하나, 많은 수의 접근법이 시도되어 왔고, 또 새로운 접근법이 나타나고 있다.
그리고 기존의 컴퓨팅 방식에 대한 개량이 진행되고 있는 한편 양자컴퓨터나 광자컴퓨터 등으로 대표되는 새로운 컴퓨팅 방식들이 속속들이 나타나고 있으며 이러한 새로운 기술들을 인공지능 연구에 접시키고자 하는 시도도 없는 것은 아닌 지라 아직 강인공지능(Strong AI)이 불가능하다고 단언할 수는 없는 상황이다. 그 실현을 위해서는 아직 많은 과제가 남겨져 있는 강인공지능의 실현 가능성에 대해서는 확답을 내릴 순 없는 상황이지만, 그와는 별개로 인공지능의 발전은 계속되고 있으며 약인공지능(Weak AI) 분야에 있어서는 점차 성과가 보이기 시작하고 있다. 그것이 우리가 흔히 생각하는 그런 인공지능과는 거리가 있는 것이라는 점이 문제라면 문제이긴 하지만.문제점
- 물론 어디까지나 '인간'이라는 하나의 생명체의 생각이다. 우리가 마치 4, 5차원 공간을 이해못하고, 가시광선이 아닌 전자기파를 못보는 것처럼 우리가 이해하지 못하고, 무지한 부분이 많다.
불과 몇 십년 전부터 인종차별과 더불어 인권 무시를 타파하기 시작했는 데, 타 종족인 동물들의 자아 등의 심층적인 부분을 알기에는 아직까진 다소 무리가 있고, 편견을 지닌다.
사실 이 글을 읽고 있는 "나"라는 존재가 아닌 것에 대해서도 자아가 존재하는지 알 수 없다. 다만 인간은 감정을 공유하고 이해하며 서로에게 자아가 있다는 약속을 하였고 이로인해 인권과 존엄이라는 가치가 생겨나게 되었다. 그런데 만약 인간과 비슷한 수준의 지적능력을 가진 인공지능 로봇이 등장해서 본인에게도 자아가 존재한다고 주장하면 인간은 이를 어떻게 받아들일것인가? 라는 철학적 문제점이 존재한다.
그리고 자아가 형성되면 자신만의 생각을 가지게 되는 것인데, 그러면 자신이 인간이 아니라는 것을 인식하게 되고, 자신의 자아로 인간을 자신에게 필요없음을 느끼게 되고 결국 SF영화 같은 일이 일어날 수 있게 되는 것이다. 물론 꼭 그렇다는 것이 아니고 과학자들은 이에 대한 대비를 할 것이다. 프로그래밍으로 자신을 인간이라고 착각하게 하는 방법이 거론되기도 하는데 이 방법으로 문제를 완전히 해결할 수가 없다.
예를 들어 창작활동이 가능한 로봇이 자신의 창작물에 대해 저작권을 주장하면서 소송을 걸면 이를 어떻게 해야할지 상당히 난감하다. 쉽게 말해 로봇이 자신도 인간이니 법적 권리를 행사하는데 문제가 없다고 주장하면 어떻게 처리할 텐가?인류의 안전보장 문제
만일 (거의) 모든 면에서 인간의 능력을 뛰어넘는 초지능을 지닌 인공지능이 등장할 경우, 인간은 이 인공지능을 통제하기는커녕 이해조차 하지 못할 확률이 매우 높다. 이는 침팬지가 인간의 지적 활동을 이해하지 못하는 이치와 같다. 이런 상황에서, 그 초인공지능이 인간(인류)에게 해를 끼치지 않으리라는 것을 어떻게 장담할 수 있을 것인가? 만일 초인공지능이 어떠한 이유로든 인간을 배제해야 한다는 결론을 내린다면, 심판의 날이 닥칠 가능성이 높은 것이다.
물론, 인공지능에게 인간의 윤리관 및 인간사회에서 통용되는 각종 통념과 행동규범을 가르치려는 시도 또한 존재한다.
'과학 > IT' 카테고리의 다른 글
| 인류를 완전히 바꿀 구글(Google)의 프로젝트 Top4 (0) | 2017.02.02 |
|---|---|
| 삼성의 새로운 운영체제(OS) "타이젠" (1) | 2016.04.06 |
