<머신러닝 입문기 (3)>-마지막, 문명사의 전환점을 앞두고…
7. 놀랍도록 인간의 뇌와 닮은 인공신경망
머신러닝을 공부하면서 재밌으면서도 소름이 돋았던 부분은 이 인공신경망이 사람을 포함한 유기체의 신경계와 작동 방식이 너무 흡사하다는 점이었다. 특히 이미지 분석을 잘하는 합성곱신경망(CNN)의 작동원리를 보면 뇌의 다른 부위에 비해 비교적 잘 알려진 시각피질의 작동 메커니즘과 상당히 유사하다. 후두엽에 위치한 시각 피질은 V1부터 V6까지 6개의 층이 서로 다른 시각 영역을 인식, 분석하면서 비로소 우리는 통합된 시각정보를 얻게 된다. 합성곱신경망 역시 다층적으로 나열된 인공 신경망의 층들이 부분적 서로 다른 이미지 정보를 인식하고, 이를 조합함으로써 전체적인 객체를 인식하게 된다. 더욱 놀라운 점은 이 합성곱신경망을 설계한 얀 르쿤은 유기체의 시각피질의 구조와 기능에 대해서 완전히 이해하고 역설계한 것은 아니라는 점이다. (영감은 받았다고 한다) 오히려 후에 CNN이 성공하고, 작동원리를 분석하는 과정에서 시각피질과의 유사성이 더욱 명확해졌다고 한다.
ChatGPT의 모태가 되는 LLM의 알고리듬인 Transformer는 어떤가? Transformer를 공개한 2017년 발표된 저자들의 논문 제목은 심지어 “Attention Is All You Need”이다. (인용이 17만 건이 넘는다) 인지재활에 관심있는 사람이라면 누구나 알겠지만 Attention (주의집중)은 인간의 인지능력의 시작이자 가장 바탕이 되는 영역 중 하나이다. 사실 인간뿐만 아니라 유기체가 진화의 과정에서 감각기관을 통해 접하는 외부환경의 정보를 생존에 유리한 방향으로 활용하기 위해 취득한 필수 기능 중 하나이다. 우리가 매일 사용하는 LLM이 놀라운 성능은 마치 유기체처럼 대규모의 텍스트 정보 중에 선택을 하고, 집중 학습을 통해 만들어지는 것이다. 거기에 인간과는 비교가 불가능한 메모리 성능, 거기다 극도로 낮은 오류확률까지 갖추었다.
8. 미래 예측의 문제
이렇게 사람처럼 유사하고 놀라운 AI라 하더라도 근본적인 한계는 존재하는 것 같다. 이 친구의 놀라운 능력 또한 기본적으로 이미 존재하는 정보들을 ‘학습’하여 마치 새롭게 ‘창조’하듯 만들어낸다는 것이다. AI가 만든 그림, 영상 등등의 결과물이 놀랍도록 정교하지만 본질적으로 모방에 불과하다. 그러나 진정한 가치는 대부분 조금이라도 미래의 상태를 예측함으로써 발생한다. 그렇지 않은 것이 하나도 없다. 인간의 문명은 물리학을 포함한 과학의 발전을 통해 어느정도 미래를 예측할 수 있다. 그러나 동시에 여전히 아무것도 모른다. 인간이 미래를 예측하는 방법을 간략히 정리해보자. 먼저 직접적인 방식으로 함수에 독립변수로 시간, t가 들어가는 것들이 있다. 고전 물리학의 근간이 되는 법칙(뉴턴의 운동법칙)들의 대다수가 여기에 해당된다. 수학적으로 단순하고 명쾌하며, 일상생활에 늘 이용하지만 (우리가 어디론가 이동할 때 늘 S=vt를 계산하고 있다) 실제 공학적 문제에서 결정적으로 활용된다고 보기는 어렵다. 오히려 간접적인 방식이 대다수의 기계문명의 토대를 받치고 있다. 이 방식은 함수에 직접 t가 들어가 있지는 않지만 이미 알려진 과학의 원리를 활용하여 특정 조건에서 특정 현상이 일어날 것을 예측할 수 있다. 예를 어떤 다리를 설계한다고 하자. 고체역학과 응력분석을 통해서 특정 구조의 다리가 어떤 무게까지는 무너지지 않고 버틸 것이라는 것을 계산할 수 있다. 따라서 미래의 시점에 무게한도 이하의 물체만 다리를 지나간다고 가정한다면, 다리가 부서지지 않을 것임을 예측할 수 있게 된다. 날아가는 비행기도 그래서 하늘에서 떨어지지 않고, 지금 이 컴퓨터도 그래서 내 생각을 활자로 바꾸어 보여준다. 마치 조금은 미래를 예측하는 것 같다.
그럼에도 불구하고 우리는 때때로 미래의 예측을 실패한다. 다리는 무너지고 비행기는 추락한다. 왜 그럴까? 우리의 함수로 시뮬레이션 해놓은 시스템은 대부분의 경우 실제로 그 함수보다 훨씬 복잡하다. 간단히 예를들어 다시 다리의 문제로 돌아가보자. 우선 다리가 무너지는 것을 결정하는 함수를 D라고 하자. 함수 D의 변수에는 다리의 응력 한계 m, 지나가는 물체의 무게 w의 함수로 아래와 같이 매우 간단히 표현할 수 있다. D(m, w) = if m < w, collapse. 이 함수 자체로 간접적인 미래에 대한 예측을 완벽히 수행할 수 있다. 그러나 실제 시스템에서 다리의 붕괴라는 사건에 영향을 미치는 요소는 당연히 저 두 가지 변수 말고도 무수히 많다. 지진이 날 수도 있고, 다리 위에 폭탄이 떨어질 수도 있다. 두 번째로 독립변수인 m과 w는 모두 사실상 또다른 독립변수인 시간, t의 함수이다. 즉 m(t), w(t)로 표현할 수 있다. 다리의 응력한계는 시간이 지남에 따라 노후화 되어 변할 수 밖에 없으며, 다리를 지나가는 물체의 무게 또한 시간에 따라 어떤 사건이 될지 모른다. 위 식에서 포함되어야 하는 모든 독립변수들은 다 엄밀히 말해 시간,t를 독립변수로 숨겨두고 있다. 따라서 함수 D는 다음과 같이 표현하는 것이 더 정확할 것이다. D(m, w, ..........., t) 시간이 무한히 흐른다고 가정했을 때 세상의 모든 다리는 무너지게 되어있다. D 대신 어떤 사건을 넣어도 마찬가지이다. 모든 사람은 죽고, 모든 국가는 망하고, 모든 종은 멸종에 이른다.
그렇다면 AI는 진짜 '미래'를 예측할 수 있을까? 우리가 학습을 미래의 데이터 labeling해서 시킬 수가 없기 때문에 본질적으로 불가능하다. 역사학과 경제학처럼 후향적으로 시점의 차이를 가진 학습 데이터와 label data를 활용하면 뭔가 미래를 예측하는 듯이 보일 수는 있겠다. 이것은 사실은 진정한 미래의 예측이라기 보다는 Neural Net이 기존에 알려져 있지 않은 패턴을 학습하는 것 이상의 의미가 있는지 잘 모르겠다. 쉬운 예를 들자면 흡연과 십수년 후 폐암 발생 같은 문제다. 흡연 시에 나오는 물질들이 생물학적 원리로 폐의 세포들에 암을 유의미하게 더 일으키고, 이런 것들은 기존에 각종 의학통계의 기법으로 세상에 알려져왔다. 이런 일들은 Neural Net을 동원한다고 해서 뭐가 특별히 대단한 것이 있을까? 역사학과 경제학이 미래의 예측에 늘 실패하는 것처럼 AI도 시간의 힘 앞에서는 무용지물이지 않을까? 그가 자신의 Network안에 'The Neuron of God'을 가지지 않고서야......
9. 인간의 영감, 천재성
문명사의 굵직한 변화들은 항상 우연, 영감, 혹은 천재성에 기대어 방향을 꺾어왔다. 뉴턴이 그랬고, 아인슈타인이 그랬고, 슈뢰딩거가 그랬고, (모방을 하지 않은) 위대한 예술가들이 그랬다. 진짜 가치를 발생시키는 어떤 미래의 무엇을 오롯이 AI가 만들어낼 수 있을 것인가? 인간에게는 말그대로 신령한 영감(靈感) 같은 것이 있어서, 그것들이 기존의 발상을 깨트리고 새로운 시대를 여는 것이라면, 차가운 반도체로 이루어진 AI는 아마 그런 결과물을 생산하기 힘들 것이다. 나의 룸메이트인 정희원 교수와 이런 이야기를 얼마 전에 나누었다. 그는 인간의 창의성, 천재성이라는 것도 사실 인간의 신경계가 일으키는 일종의 환각 (Hallucination) 같은 것이며, 그렇다면 충분히 AI도 그런 일을 할 수 있을 거라고 봤다. 그의 말에 어느 정도 동의를 하면서도, 한 인간으로서 제발 그렇지 않기를 바라는 마음이 들었다. 한편 내가 컴퓨터 과학자라면 마치 transformer에 Attention 을 장착한 것처럼, Neural Net에 도파민 시스템을 장착하면 어떨까 하는 생각이 들었다. 도파민이라는 용어가 마치 일상어가 되어버린 세상이기도 하다. 도파민으로 구현되는 도취와 쾌락, 중독과 폭주를 AI에 심어준다면 이들은 어떤 모습을 보일까? 자기 도취에 빠져 미친듯이 학습하고, 성과를 내고, 때로는 중독되어 허우덕 거리다가 무기력증에 빠지기도 하고… 마치 인류사를 장식한 많은 천재들처럼 자신은 불행하지만 세상을 바꾸는 새로운 패러다임을 만들어내지 않을까? 거기까지 간 AI라면 바로 특이점이 온 것이나 다름이 없다.
10. 다시 인간의 삶을…
AI와 로봇이 만들어 낼 미래의 인간의 삶은 어떻게 바뀌어 갈지 이 또한 예측이 어렵다. 1인의 생산성이 (AI와 로봇의 도움을 얻어) 극대화된다면 지금과 같은 우리나라 사회의 초저출산 기조는 오히려 호재가 될 수도 있을 것 같다. 인구 자체가 생산력, 군사력을 의미하던 문명 시대는 저물고, 오히려 더 많은 인구는 그 사회의 짐(burden)이 되는 역전 현상도 가능할 것 같다. 불완전하며, 결함투성이인 인간 유기체 위주의 집단(매트릭스에 나온 자이언)은 잘 통제된 소수의 인간 사회와 결합한 기계집단에 비해 경쟁력을 상실하는 것이다. 한편 이러한 시나리오에도 함정은 있다. 유기체로서 인간의 본성은 자신의 유전자를 최대한 남기고 싶어한다. 지금의 저출산은 현재 시대의 극악한 생존여건에 대한 반응일 뿐, 만약에 조금이라도 호재가 있다면 유기체는 언제고 페트리 접시 위의 박테리아처럼 다시 순식간에 불어나고야 말 것이라는 점이다.
아무리 생각을 해봐도 그닥 좋은 스토리가 만들어지지 않는다. AI가 인류문명에 긍정적인 영향을 미치는 것보다 부정적 영향의 냄새가 짙게 풍겨온다. 여러가지 방식이 있을 것이다. 성경의 바벨탑 이야기도 떠오른다. 인류의 문명 발달의 획기적 전기는 언어와 문자, 기록물의 발달을 통한 소통능력의 향상이었다. 이제 영어로 된 텍스트는 거의 대부분 Chat GPT에 던지는 나도 점점 영어 실력이 줄어드는 것을 느낀다. 극도로 발달된 AI에 의존하는 미래 인류는 어느새 인류자체의 소통방식은 잊어버리고 AI의 manipulation에 놀아나며 바벨탑처럼 파멸의 길에 들어설 수도 있다. 더욱 무서운 것은 모든 문명의 산물은 무기체계로 통합되어 왔다는 점이다. 단 한번도 예외가 없다. 산업혁명의 결과물은 1, 2차 세계대전에서 사람을 갈아내는 장비들로 둔갑하였다. AI라고 해서 예외가 될 이유가 하나도 없다. AI와 로봇이 전쟁에 등판하는 이상 카타스로피는 예정된 결과나 마찬가지이다. 최근의 세계적인 정세를 보면 더욱 그러하다. 세계대전이라는 참극을 겪고 마치 인류는 깨달음을 얻은 것처럼 인권, 사람다운 삶, 건강 등의 용어로 대변되는 진보 일련의 행보를 걸어온 것 같다. 그러나 이 또한 착각이 아닐까? 이게 착각인 본질적인 이유는 짧은 시간의 문명발달의 과정이 인간의 유전적 표현형 변화로 이어지지 못했다는 사실 때문이다. 여전히 인류는 농경사회 이전의 동물적 본성와 유전적 특성을 그대로 가지고 있다. 폭력과 학살, 생존의 욕구와 잔인함이 우리의 피에 고스란히 흐른다. 우리가 정신적으로, 도덕적으로 진보하고 있다는 착각은 인류 사회에 내재되어 있는 남성성과 폭력성을 억눌러왔고, 마치 거세된 자들처럼 심리적 열등감까지 겹쳐서 극우주의로 변질되는 것 같다. 세계적으로 동시에 이런 현상이 일어난다는 것은 이를 문명사적 관점에서 봐야하는 점을 시사한다. 무섭다. Open AI의 Deep research가 나보다 호흡재활에 대해 훨씬 전문적이고 유려한 글을 쓰는데 감탄하면서, 동시에 인간이라는 존재들이, 게다가 인간들 중에서 잘났다고 인정받는 사람들이 최근에 보이는 모습은 처참하다 못해 가련할 지경이다.
사실 우리 세대는 이미 이 파도의 뒤편에 서 있는 셈이다. 하지만 우리 아이들은 어떻하나….. 레지던트 동기인 이강표 선생과 짧게 이야기를 나누며 그나마 위안을 얻었다. 사람은 결국 무엇을 하는게 가치롭고, 필요하고, 즐겁냐를 고민하면서 살아야 한다. 우리 아이들이 그런 고민을 하면서 살 수 있도록 만들어줘야 한다. 그런데 정작 우리는 그런 고민을 해야하는지도 모르고 무작정 열심히만 살아만 온 것 같다. 물론 아직도 그 정답이 무엇인지 모른다.
결론은 나는 낚시를 열심히 다녀야겠다.