미래학자는 미래를 예측하는 사람이다. 예언이 아니라 예측이라는 말을 쓰는 이유는 현재의 환경과 앞으로의 발전향을 조합하여 과학적인 근거로 도출한 결론을 제시해야하기 때문이다. 그런데 요즘의 미래학자는 데이터와 분석과 통찰을 조합하는 것보다 뉴스 기사에다 상상으로 스토리를 덧붙이는 경우가 더 많다. 그렇다면 그것은 점쟁이의 입과 크게 다를 바가 없다.
“AI가 인류를 위협할 것이다.” 이 명제는 물론 틀렸다고 할 수 없다. 미래 언젠가 얼마든지 실현될 수 있다. 문제는 그것이 지금의 상태에 변화 방향을 결합해서 나온 결론이냐 하는 것이다. “현재의 기압 분포와 그 진행 방향을 볼 때 조만간 비가 올 것이다.” 이것이 일기예보다. “미래 언젠가 비가 올 것이다.” 이건 인디언 기우제다.
그렇다면 미래학자들의 전망이 왜 예측이 아닌 예언일까. 바로 변화방향성 때문이다. 앞서 말했듯이 AI가 인류를 위협하는 상황은 얼마든지 닥칠 수 있다. 그러나 아직 근거가 수립되지 않은 비과학적인 추정이라는 것이 중요하다. 현재 상황에서 인류를 위협하는 방향으로 나아가는 ‘진행 함수’가 없다는 뜻이다. 경고는 끊임없이 지속되는데 반해 어느 미래학자도 이 시나리오를 완성해낸 적이 없다. 이걸 못하는 건 인공지능 과학자들도 마찬가지다. 정확히 말하면 그러한 미래방향성은 찾아지지 않은 게 아니라 애초에 존재하지 않는다. 이건 현 인공지능 기술의 명백한 이론적 제한점 때문이다.
인공지능에 급진적 발전을 가져다준 것은 딥러닝이다. 인공신경망이 거대한 계산을 할 수 있었기 때문에 우리는 추론을 모사할 수 있게 되었다. 여기서 인공신경망이 의미하는 바가 무엇일까. 우리는 이 과정을 기계학습이라고 부른다. 러닝 즉, 이 과정은 컴퓨터에게 지식을 제공해서 가르치는 행동이다. 컴퓨터가 하는 추론의 결과는 전적으로 입력된 데이터를 따른다는 것이다. 이건 인공신경망의 본질이다.
수많은 상상가들은 컴퓨터가 감정을 가지면 어떻게 될 지를 고민한다. 그러나 그것은 현대의 기술로는 불가능하다. 지금의 인공지능은 수집된 지식의 모사다. 알파고가 아무리 바둑을 많이 배운들 “거참 바둑 뭣같이두네!” 하면서 바둑판을 뒤엎는 감정을 가지지는 않는다. 딥러닝이 추구하는 바는 본질적으로 ‘데이터’의 ‘모사’다. 지금의 기술 컨셉에서 인공지능이 감정을 갖는다면 그건 감정에 대한 데이터를 잔뜩 입력해서 나오는 감정표현의 모사다. 애초에 감정을 느끼는 건 그 모사를 본 인간이다. 컴퓨터가 감정을 갖게 되어서 표현하는 것이 아니다.
그냥 딥러닝의 본질이 그거다. 연구자들은 인공지능의 행동이 사유가 아니라 표현이라는 것을 이미 안다. 그래서 아직은 적대적 인공지능에 대한 두려움이 전혀 없다. 애초부터 인간을 공격할 마음을 갖는 인공지능이라면 완전히 새로운 패러다임의 새로운 기술 개발을 통해 만들어져야 한다. 본질적 사유를 하는 인공지능은 딥러닝의 발전으로 도달할 수 있는 목적지가 아니다. 딥러닝의 발명 목적은 데이터에 대한 모사다. 그러니 미래학자들의 경고가 실현될 방법이 없다. 지금 우리는 인간을 위협할 인공지능을 만들 기술을 가지지 못했다. 솔직히는 많은 사람들이 그 기술이 가지고 싶어하지만, 아직 그 컨셉조차 발명하지 못했다. 인공지능의 위협을 걱정하기에는 우리 기술의 갈 길이 아직 멀었다.
그러나 공격적인 대답을 모사하는 인공지능은 만들어낼 수 있다. 데이터만 넣으면 그대로 나오는 것이 딥러닝이니까. 즉 인간을 위협하겠다는 소리를 자꾸 해대는 인공지능이 생겼다면 그건 기술의 발전 때문이 아니라 자꾸 그런 기사를 쏟아내는 기자와 미래학자들의 글 때문이다. 인공지능은 인간을 위협할 것이라는 문장의 학습데이터 매일 같이 생산해내는 그들 때문에.