인공지능이 언어를 개발했단다

지난 7월 말 온라인에서 가장 크게 이슈가 되었던 뉴스 중 하나는 인공지능(AI, Artificial Intelligence)이 자기들끼리 대화를 하다가 폭주해서 언어를 개발했고, 이를 개발하던 개발팀이 놀라서 전원을 차단했다는 것이었다.

최근 4차 산업 혁명이니 인공지능이니 하는 뉴스들이 쏟아지면서, 4차 산업혁명이 되면 로봇이 일자리를 다 대체해버려서 일자리가 부족해질 것이라느니, 직업들이 소멸되고 있다느니 하는 이야기들과 알파고 이야기가 뒤섞인 연장선에서 나온 공포스러운 뉴스였다.

그런데 이 뉴스의 사실은 그렇지 않다.

일단 JTBC의 팩트체크에서도 언급을 했고, 미국의 유명 IT 뉴스 사이트 GIZMODO에서도 그건 사실이 아니라며 “No, Facebook Did Not Panic and Shut Down an AI Program That Was Getting Dangerously Smart“라는 기사를 냈다. 그건 사실이 아니다. 페이스북 개발팀에서는 당황을 하지도 않았고, 딱히 심각한 버그도 아니었으며, 이것이 예상 밖으로 벗어나서 인류를 위협할 가능성이 있는 것도 아니고, 이 AI들은 아주 제한적인 테스트였을 뿐이고, 이 프로젝트는 이후 취소되지도 않았다.

문제는 ‘공포’다.

4차 산업 혁명은 확실히 지금의 로드맵 상에서라면 인류의 노동을 대부분 대체할 가능성이 높고, 이로 인해서 많은 인간의 직업이 사라질 것도 사실이다. 하지만 적어도 근래(10~20년 이내)에는 상상처럼 급격하게 일어나지 않을 가능성이 더 높고, 충분한 대처 시간을 가질 수 있다. 그래서 기본 소득 같은 것들이 논의되고 있는 것이고.

인공지능은 이미 많은 영화들(대표적으로 터미네이터나 아이 로봇 같은 영화들)에서 인공지능이 통제하는 로봇들이 인류를 직접적으로 말살하려거나 위협하는 그런 상황들로 공포를 그려내고 있지만, 그런 마스터마인드에 가까운 인공지능이 등장한다거나 인공지능이 (인간을 말살해야 한다는 등의) 의식, 의지를 갖는 다거나 하는 일은 인간이 인간의 의식을 이해하기 전까지는 만들어내는게 불가능하다. 모든 존재는 인식하는 범위 내에서만 이해할 수 있기 때문이다. 우리가 아직 우리의 의식과 뇌에 대해서도 아직 제대로 알지 못하는데, 이를 능가하는 것을 어떻게 만들 수 있겠는가.

미디어들은 지금 이런 공포들을 확산시켜서 판매 부수(페이지뷰, PV)를 올리려는 의지 밖에 없다. 단지 한 번의 충격적인 뉴스 기사 하나로 PV를 올릴 수 있겠지만, 그 이후 기사를 읽은 사람들의 공포가 확산되는 것에 대해서는 책임을 갖지 않는다. 단지 한 건의 대박만 노리는 그런 말초적인 자극적인 기사에만 혈안이 되어 있는 것이다.

이건 사실 요즘 뉴스 확산의 주요 통로로 확정되어 버린 페이스북 같은 소셜 매체의 문제가 가장 크다. 충격적인 제목, 자극적인 이미지는 일반적인 제목과 이미지에 비해서 훨씬 조회수가 높기 때문이다. 그리고 그것들을 노려서 분석하고 만들어내는 걸 요즘은 신기술이고 매출을 증대하는 획기적인 방법이라며 ‘그로스해킹’이라고 부르고 연구해 개발하고 있다. 가장 많이 클릭하는 제목의 단어를 분석해서 그런 단어로 된 페이스북 뉴스 매체를 만든다. 그리고 이런 기사들에 쓰는 이미지나 영상의 저작권은 애초에 관심도 없다, 저작권자에게 들킬 확률도 낮고, 걸렸다고 해도 내리면 그만이다.

이런 언론들의 작태에 한겨레, 중앙, 동아 (SBS는 나름 중간을 지키며 정리를 했다.) 같은 주류 언론들이 놀아났다고 하는 것도 웃기는 일이지만, 이렇게 여러 매체와 사람들이 뒤늦게 기사를 검증하고 바로 잡는게 무슨 의미가 있나 그런 생각도 간혹 든다. 어차피 ‘충격적이고 자극적인’ 잘못된 지식을 접한 사람들이, 이후의 정정 보도 같은 것을 찾아 보겠느냐 본다고 자신들이 믿기로 결정한 정보와 그에 기반한 의사 결정을 철회할 의지가 있겠느냐 그런 생각이 들기도 하기 때문에.

인공지능에 관해 쓰는 기자들을 위한 조언 같은 걸 좀 참고하면 좋겠지만, 아무래도 안 읽을 것 같다.

알파고와 바둑 격언

알파고가 마지막으로 남긴 50국 기보는 바둑계에 커다란 과제를 남겼다. 한국 바둑 국가대표 상비군 선수들은 알파고의 50국 기보를 책으로 만들어 지난달 30일부터 본격적인 연구에 들어갔다. 최정 7단은 “알파고는 사람이 흉내내기도 어려운 바둑을 보여줬다. 사람이 알파고 같이 둘 수는 없지만, 알파고는 기존 바둑의 틀이 변하는 계기가 될 것”이라고 말했다. 김성룡 9단은 “알파고는 바둑의 격언이 얼마나 우리를 구속했는지 알게 했고, 사람의 바둑에 생각의 자유를 주었다”고 밝혔다.

– 알파고 vs 알파고 대국 … 프로기사들 “4차원 수 충격적”, 중앙일보

빌 게이츠의 2017년 졸업생들을 위한 조언

If I were starting out today and looking for the same kind of opportunity to make a big impact in the world, I would consider three fields.

One is artificial intelligence. We have only begun to tap into all the ways it will make people’s lives more productive and creative.

The second is energy, because making it clean, affordable, and reliable will be essential for fighting poverty and climate change.

The third is biosciences, which are ripe with opportunities to help people live longer, healthier lives.

– Dear Class of 2017, The Daily Good

인공지능(artificial intelligence), 에너지, 생명과학(biosciences).

미들어스와 위쳐3의 전투

며칠 전에 술자리에서 문득 인공지능에 대한 이야기가 나왔다. 특히 미들어스: 모르도르의 그림자의 적과 위쳐3의 적이 가지는 인공지능의 차이에 대한 이야기가 주를 이루었는데, 이 두 게임의 인공지능 철학에 대한 부분이다.

모르도르의 인공지능은 기본적으로 전투에 참여하는 개체(적)들 전체를 총괄하는 상위 인공지능이 있는 것으로 보인다. 플레이어를 둘러 싼 10마리의 오크들은 모두가 개별적인 공격 기회를 갖는 것이 아니라 한두 마리가 적극적인 공격 태세를 취하는 동안 나머지 오크들은 플레이어와 일정 거리를 두고 둘러싸고만 있게 하고 공격권을 일부 오크에게만 분배해주는 것이다. 이는 10마리 전체를 총괄해서 공격 기회를 나누는 상위 인공지능이 있거나 혹은 오크들 자체에게 공격 조건 자체를 매우 낮은 빈도로 설정해 둔 것일 것이다.

물론 이런 경우에는 플레이어가 전투를 매우 단조롭게 느낄 수도 있기 때문에, 이 흐름 외에 장거리 투창 공격을 하는 오크라든지, 동급의 오크 중에서도 훨씬 적극적으로 공격을 하는 오크를 만들어 두는 식으로 단조로운 전투를 깨는 방식을 취했다.

게임적으로 볼 때, 플레이어에게 이는 굉장히 훌륭한 경험을 제공한다. 수십 마리 오크에게 둘러싸였다고 하더라도 이들 중 공격하는 소수의 오크를 △로 반격하면서 다른 오크들을 차분히 썰어나가기만 하면 된다. 마치 리듬 게임의 노트처럼 차분하게 썰다가 간간히 등장하는 △로 반격을 하고, 위험한 순간에 굴러서 회피를 하면 된다. 즉 반복되는 패턴(플레이어의 공격 의지)가 있고 거기에 간간히 비정기적이고 예측 불가능한 순간에 다른 노트를 눌러주면 되는 구조이다.

반면 위쳐3의 전투는 모든 전투 참여 개체의 인공지능이 개별적으로 돌아간다. 10마리의 구울(ghoul)이 전투에 참여한다고 하면, 구울들은 각각의 공격 판단과 공격 타이밍을 가지고 있기 때문에, 플레이어는 전장 전체의 상황을 신경써야 한다. 혹여 한두 마리가 카메라 밖으로 도망을 가서 공격 타이밍을 가지고 들어온다고 하면 이는 치명적인 상황이 될 수 있다.

특히 이런 설계에서 여러가지 공격 타입을 가진 인간 적은 매우 위협적이다. 근접 거리에서 플레이어의 공격에 방어 동작을 할 뿐 아니라, 특히 방패가 있는 적은 1:1에서도 공격 타이밍을 찾아내기가 쉽지 않기 때문에, 주변 다른 개체들의 공격 상황까지 신경쓰다 보면 전투 진행이 매우 어려워진다. 게다가 여기에 장거리에 활을 든 적이 몇 추가가 되면 근거리의 적들을 신경쓰느라 날아오는 화살에 농간 당하는 일도 잦게 발생한다.

하지만 그럼에도 불구하고 위쳐3의 전투가 플레이어에게 아주 어렵지는 않은 것은, 방어 키(L2)가 거의 완벽하게 인간의 공격을 막아낼 수 있다는 것이다. 방어 키를 누르고 있는 상태를 항상 유지하고 공격 키(☐)를 가끔 눌러주는 것 만으로도 할만한 전투가 되고, 게임의 설정상 초인인 위쳐는 사인(sign)이라고 마법 공격을 활용하면 훨씬 쉬운 전투를 끌고 갈 수 있다.

  • 여담이지만 이 방어 상태에서 십자패드를 좌우로 움직여 사인을 선택하도록 되어 있기 때문에, 방어의 유지는 위쳐3의 전투에서 아주 중요한 설계다.

대부분의 게임에서, 인간 플레이어와 인공지능 개체 사이의 능력을 놓고 봤을 때, 인간의 행동이 (게임이 설정한) 제한적인 능력(기능)을 가지고 있고 정보 수집과 판단에서 인공지능보다 못하다는 면에서 보면, 위쳐3의 주인공은 인간 적보다 훨씬 강하고 더 다양한 능력을 가진 존재라는 구도가 이를 보정해준다고 볼 수 있는 것이다. 뿐만아니라 위쳐3의 인공지능은 기능의 제약과 정보 수집, 판단 모두에 제한적이고 부족하도록 설계되어 있다는 면에서 게임의 인공지능이 가져야할 기본 자세는 되어 있다고 볼 수 있다.

그런데 이런 전투 방식의 차이가 있고 게임 경험에서 어떻게 다른 결과가 나오는지는, 게임이 무엇을 제공하려고 하느냐 하는 의도의 부분에서 갈리는 것이라고 볼 수 있다. 모르도르의 전투는 플레이어에게 수십 수백 마리 오크들 안으로 뛰어 들어가서 이를 난도질하는 경험을 제공하려는 의도였던 것이고, 위쳐3의 전투는 플레이어에게 각각의 전투가 충분히 치명적이도록 의도적으로 설정한 것으로 보인다. 이는 결국 플레이어에게 다수와의 전투를 가능하면 피하도록 유도하는 효과를 가지게 하고, 전투보다는 드라마에 집중하게 되는 결과를 원한게 아닌가 싶다.

인공지능과 인류의 미래

요즘 보면 게임업계 뿐만 아니라 IT 산업 전반에서 인공지능이 크게 대두되고 있다. 이미 오래 전부터 구글은 컴퓨터가 운전을 할 수 있게 만들었고, 애플은 음성을 인식해서 답을 찾아주는 기술을 현실에 적용했으며, 아마존도미노 피자는 물류 배달을 컴퓨터에게 맡기기 시작했다. 인공지능의 영역은 점차 넓어져서 모든 기기에 컴퓨터를 심고 서로 상호작용하게 하여 인간의 현실을 풍족하게 해주리라 전망하는 분위기다.

하지만 인공지능에 대해서는 이미 유수의 과학자들과 저명한 인사들이 우려를 표하고 있다. 스티븐 호킹은 인공지능이 인류를 끝낼 것이라고 경고했고, 엘론 머스크빌 게이츠도 그에 동의하며 경고를 더했다. 인공지능이 매우 높은 수준이 되고 스스로 사고하기 시작한다면, 인류와 경쟁을 하게될 것은 사실 아주 뻔히 눈에 보이는 예측임에도 불구하고, 인공지능 기술개발은 거스를 수 없는 흐름이 될 것으로 보인다.

단기적으로, 인공지능의 발전은 인간의 노동 중 인간의 노동 행위를 기계로 대체하기 쉽고(단순하거나 반복적이거나), 인간을 쓰는 것보다 기계가 더 싼 것부터 바뀌게 될 것이다. 자본은 인간을 고용하는 것과 기계를 도입하는 것 중에서 선택을 할 것이고, 장기적으로 더 싼 쪽을 ‘고용’할 것이다.

공산품의 생산을 로봇이 하게 되면 어떤 일이 일어날까. 그 자리를 차지하고 있던 저임금 노동자들은 실업자가 될 것이고, 반대로 자본가들의 소득은 ‘사회적 합의가 필요한 대상’이 없어지게 되었으므로 크게 증가해 빈부의 격차가 더 심해질 것이다. 그리고 기술은 계속 개발될 것이고, 대체 불가능한 노동의 한계가 어디까지인지를 시험받게 될 것이다.

인간의 지적 능력에 의존하는 글쓰기나 창작의 영역도 점차 위협받게될 것이고, 이미 단신들을 내는 기자들은 맨 앞에서 쓸려나갈 전망들이 나오고 있다. 로봇들이 대량으로 생산하게 되는 상황에서 물류와 운송 또한 빠르게 대체될 것이고, 인간 노동자는 ‘인간미를 보여주는 선’에서 장식품으로만 노동을 하게될 것이다. 로봇을 관리하는 로봇이 등장하지 않을리 없으니까.

이런 환경이 만들어졌을 때, 인간은 무엇을 해야하는가. 얼마나 많은 인간이 노동으로 스스로의 가치를 증명하고 필요하게될 것인가. 단지 낭만적으로 ‘로봇이 노동을 대체하니까 인간은 놀기만 해도 될까’, 놀 수 있는 경제적인 능력이나 환경이 가능해질까?

그리고 인공지능이 더 발전해서 인간에 준하거나 대등해지는 상황이 된다면, 인간보다 빠르게 사고하는 그 인공지능이 인류의 존재 가치에 대해서 어떻게 판단하게될 것인가.

요즘 인공지능에 대해서 (게임의 관점에서) 어떻게 만들어야 하는가를 보고 있지만, 단기적으로야 재미있는 장난감이지만, 앞으로 어떻게 될지는 정말 두려운 생각이 든다.