아는 선배를 만났다.
안타깝게도 그 선배는 알츠하이머를 앓고 있다.
예전에 영민한 두뇌의 소유자였던 그는 이제 간단한 내 질문에 답하기도 힘겨워 한다.
식사는 맛있지 않았다.
요사이 인공 지능, Artificial Intelligence (AI)가 화제다.
Open AI의 ChatGPT를 사용하면서 기대 이상의 결과에 놀라고 있다.
질문이 생긴다.
AI는 인간의 지능을 능가할 것인가?
그리고 많은 SF 창작물에서 묘사되었듯이 인간을 지배하려고 할 것인가?
영화 a Space Odyssey에서 우주선 컴퓨터 HAL은 논리 오류를 일으키고 탑승원을 죽여 버리려고 한다.
또 다른 영화 터미네이터에서는 미군의 네트워크인 스카이넷이 자아를 가지게 되고 기계 반란을 일으켜 인간을 몰살한다.
또다른 질문으로 AI로 인간의 뇌를 대체할 수 있을까?
애니메이션 캡틴 하록의 친구 토치로는 그 기억과 인격이 컴퓨터로 옮겨져 있다.
알츠하이머를 앓고 있는 그 선배에게 젊은 시절 그 두뇌를 토치로처럼 되찾아 줄 수 있을까?
뇌와 인공지능의 원리
인공지능의 질문에 대해 답을 구해 보기 위해 현재 인공 지능이 어떻게 움직이는지 알아보았다.
마침 내가 하고 있는 업무도 다소 이와 관련된 것이어서 내용을 접할 수 있었다.
인간의 뇌는 Neuron이라는 신경 세포가 Synapse라는 연결로 이루어져 있다.
그리고 그 연결은 매우 복잡하고 최근 들어서야 그 구조를 조금씩 파악하고 있다.
그 연결 구조는 connectome이라고 부르며 한국계 과학자인 세바스찬 승 교수가 연구를 주도하고 있는 분야이다.
Connectome은 사람 별로 다르고 동일 인물의 connectome도 일생에 걸쳐 변화한다.
https://en.wikipedia.org/wiki/Connectome
AI는 인간의 neuron, synapse 동작과 유사하게 인공 neuron에서 비선형 연산을 기본으로 한다.
그리고 이러한 neuron을 복잡하게 연결하여 계산하는데 그 연결 구조는 여러 가지 형태가 있다.
최근 ChatGPT에 사용된 구조는 Transformer archiecture 라고 한다.
그런데 이 구조가 매우 강력한 성능을 보이며 다른 연결 구조를 제치고 독보적인 위치를 차지하고 있다.
아이러니하게 Transformer architecture는 구글이 2017년 개발한 것으로 남 좋은 일하고 했다는 비아냥을 듣는 계기가 되었다.
Transformer architecture의 특징 중 하나는 attention이라는 기능이며 이는 정확한 설명은 아니나, 대략 input 중에 중요한 정보를 output 근처로 바로 전달해 준다는 것이다.
재미있는 것은 인간의 neuron도 때때로 매우 길게 뇌의 떨어진 부위를 연결한다는 것이다.
어쩌면 매우 긴 neuron은 Transformer architecture의 attention과 같이 중요 정보의 고속도로로 볼 수 있겠다는 생각이 든다.
AI는 인간을 지배하는가?
최근 Elon Musk 등 유명 인사들이 인공지능 개발을 6개월동안 중지하고 그 위험 관리 방안을 도출하자는 서명 운동이 있었다.
현재 AI를 주도하는 open AI 인사들은 서명하지 않고 있어 후속 주자들이 시간을 벌기 위함이 아닌가 하는 얘기도 있지만, 이 캠페인은 AI에 대해 경각심을 불러 일으키고 있다.
https://www.reuters.com/technology/musk-experts-urge-pause-training-ai-systems-that-can-outperform-gpt-4-2023-03-29/
AI 인간 지배 가능성을 판단하기 전에 인간 사회에서는 어떤 경우 한 인간이 다른 인간을 지배 또는 배제하려고 하는지 생각해 보았다.
인간의 경우, 또는 다른 생명체 마찬가지일 것 같은데 생존에 필요한 자원이 제한되는 경우 그 자원을 공유하는 다른 개체를 통제하려는 것 같다.
예를 들면 식량, 배우자가 제한되면 인간은 또는 생명체는 경쟁한다.
인간 사회가 발전하면서 재물과 권력도 제한된 자원의 범주에 넣을 수 있을 것이다.
그러면 AI에게 생존 필요 자원은 무엇일까?
음식과 배우자는 아닐 것이다. 그리고 재물도 제외할 수 있다.
그러면 AI는 권력을 갈망할까? 권력이라는 것은 무엇일까?
권력은 집단 내에서 다른 개체를 통제하여 원하는 자원을 더욱 손 쉽게 얻을 수 있는 자원이라고 정의해 보자.
인간은 권력을 통해 자기가 원하는 것을 적은 쉽게 얻는다.
정치 권력자는 자신의 의지를 정부와 의회에 반영하여 국가와 사회를 바꾼다.
어떻게 보면 권력의 크기는 가용한 에너지 크기와 비례하지 않나 싶다.
정치 권력, 에너지는 증폭되어 여러 사람으로 하여금 땅을 개간하고 바다를 메우게 하고 피라미드도 세울 수 있게 한다.
다소 비약이지만 AI가 더 많은 에너지에 대한 통제를 원한다고 하자.
실제로 AI 운영은 많은 전기를 소모한다.
그럼 AI는 발전소에서 생산되는 전기를 자신에게 쓰기 위해 인간이 사용하는 것을 막으려고 할 것인가?
인공지능과 인간 지능의 차이
AI에 대한 두려움은 AI가 인간의 지능을 넘어설 것이라는 전망에서 나온다. 그런데 과연 그럴까?
인공지능과 인간은 비슷하지만 또 많은 차이가 있다.
의식 Consciousness
우리 말로는 의식이라고 표현되지만 정확히 consciousness에 대응하는 말은 아닌 것 같다.
Consciousness는 정확하지는 않지만 흔히 내가 나라는 것을 인식하는 것으로 정의되고 고대 철학에서부터 중요할 주제였다.
현대 뇌과학에서는 Consciousness는 매우 높은 단계의 지능이고 인간 외에는 돌고래, 침팬지만 가지고 있지 않을까 추측하고 있다.
사실 인간도 영유아 시절에는 의식이 미발전한 것으로 보인다.
예를 들어 아이들이 흔히 자기 자신을 3인칭으로 얘기하는 것도 의식이 충분히 발전하지 않은 것으로 볼 수 있다.
어쩌면 "미운 네 살"이라는 말은 인간이 처음 자의식을 가지게 되어 세상과 불편한 소통을 하는 시작하는 시점이 네 살이라는 것을 반증하는 것일 수도 있다.
또한 성인의 인간도 수면이나 마취 중에는 의식이 없는 것처럼 보인다.
현대 뇌과학에서는 여러 방법으로 뇌를 측정한 결과, 의식은 뇌 전체 부위가 활성화되는 상태가 아닐까하는 조심스러운 가설을 내세운다.
반면 의식이 없는 경우 뇌의 활동은 전체적이지 않고, 뇌 각 부분에 고립되어 있다.
어쩌면 의식은 내 안에 여러 의지를 조정하는 역할을 하는 것일 수도 있다.
예를 들면, 늦은 밤 야참을 먹자는 악마와 내일을 위해 씻고 자라는 천사를 조정하는 것이 의식 활동이라는 것이다.
그러면 AI는 의식을 가질 수 있을까?
AI도 내부에 서로 경쟁하고 통제하는 기능은 있다.
인공신경망 중 생산적 적대 신경망 (Generative Adversarial Network, GAN)이라는 것이 있는데 간단히 비유하면 위조지폐를 생산하는 기능과 위조지폐를 판독하는 기능이 경쟁하여 진짜 같은 위조 지폐를 만들어 내는 architecture이다.
그러나 인간의 의식 활동이라고 믿어지는 것은 이보다 훨씬 복잡한 것으로 보인다.
Multimodal 인지
Multimodal은 우리 말에 적절한 단어가 없는데 시각, 청각 등 여러 감각을 통해 정보를 인지하는 것을 말한다.
인간은 외부 세계의 정보를 항상 multimodal로 인지한다.
예를 들어 바다에 가서, 바다의 푸른색을 눈으로 보고, 파도 소리를 들으며, 시원한 바람을 피부로 느끼고, 바다 내음을 들이 마시며, 짠 바닷물을 맛 본다. 이는 종합하여 후에 동행자와 바닷가에서 즐거운 추억으로 정보를 저장한다.
최근의 인공지능도 글과 그림을 같이 인지하고 해석하기 시작하였다.
아래 그림은 다음 문장을 이용하여 chat-GPT로 그린 그림이다.
A small brown poodle is running on the grass
https://chat-gpt.org/image
아직 시각 외 청각, 촉각, 후각, 미각 등의 인지 방법은 AI에 본격적으로 사용되고 있지는 않다.
이러한 것들까지 적용되면 AI는 인간의 지능에 더욱 필적하게 될 것인가?
정보의 극단적 연결
공감각이라는 것이 있다. 사물을 여러가지 감각으로 동시에 인지하는 현상이다.
예를 들면 푸른 종소리라는 표현이 있다.
시적 표현이라고 생각할 수도 있지만, 어떤 사람은 종소리를 들으면 푸른 색이 보이는 것 같이 느낀다.
또 특정 숫자를 보면 신 맛을 느끼는 사람도 있다.
뇌과학에서 푸른 종소리를 느끼는 사람은 종소리를 듣는 뇌부위와 푸른 색을 느끼는 뇌부위가 연결되어 있다는 것을 발견하였다.
이를 설명하는 가설은 공감각은 뇌의 다른 감각 정보 처리 부위가 연결되어 발생한다는 것이다.
하나의 정보를 다른 부위에서 연결하여 처리하는 공감각과 반대로 같은 부위에서 다른 정보를 처리하는 경우도 있다.
예를 들어 우리는 종종 자신의 아이들의 이름을 헷갈리게 부르거나 어린 아이들을 강아지라고 부르기도 하는데,
이는 양육 대상, 즉 아이와 강아지를 처리하는 뇌의 부위가 비슷하여 발생하는 것 같다.
극단적 정보 연결의 또 다른 흥미로운 사례는 유머 감각이다.
유머는 보통 관련되지 않는 정보를 연결할 때 이루어진다.
다음 처칠의 유머를 보자.
의회에 참석했던 처칠이 급한 볼 일로 화장실에 갔다.
마침 걸핏하면 사사건건 물고 늘어지는
노동당 당수가 먼저 와서 일을 보고 있었다.
처칠은 멀찌감치 떨어져서 일을 보았다.
노동당 당수가
총리, 왜 날 피하시오?" 하고 묻자,
'당신네들은 큰 것만 보면 무조건 국유화해야 한다고 하쟎소?"
여기서 노동당 당수는 국유화 대상을 논의하다 동의하지 않는 처칠에게 짜증이 났을 것이다.
그래서 처칠에게 따졌는데 처칠은 엉뚱하게 신체 부위와 연결하는 toilet humor로 바꾸어 버렸다.
이렇게 일반적인 예상을 뛰어 넘는 정보의 연결은 유머의 중요한 특징인 것 같다.
유머러스한 사람은 앞서 얘기한 Connectome이 잘 발전하여 뇌 구석구석의 정보를 잘 연결하여 사용하는 것 같아 보인다.
이번 Chat-GPT의 최신 version 4.0을 보면 재미있는 사진을 보고 우스운 점을 설명하는 내용이 있다.
https://the-decoder.com/open-ai-gpt-4-announcement/#:~:text=GPT%2D4%20can%20process%20visual%20input
그렇다면 AI는 유머감각을 가질 수 있을까?
뇌 가소성: 변화하는 뇌
뇌는 계속해서 자극을 받게 되면 그 정보를 받은 Neuron과 Synapse가 발달하고 전체 Network인 Connectome도 바꾸게 된다.
앞서 얘기한 Connectome에 대해 세바스찬 승교수는 이러한 현상을 강과 강 바닥으로 묘사하였다.
강의 흐름이 계속되면 강바닥이 변하는 거처럼 자극이 계속되면 Connectome이 바뀌고 그러한 자극을 더 잘 처리할 수 있게 된다.
자전거를 한번 배우면 수십년간 타지 않다 다시 타도 곧바로 탈 수 있다. 수 십년 전 학습으로 connectome이 바뀐 것이라고 설명할 수 있을 것이다.
이러한 뇌의 가소성은 '4R’이라고 부른다.
신경들은 그들 간 연결의 세기를 강화 혹은 약화시키고 (재조정·Reweight), 새 연결을 하거나 헌 연결을 끊고 (재연결·Reconnect), 신경가지가 자라거나 줄어들고 (재배선·Rewire), 오래된 신경은 죽고 새 신경이 생긴다. (재생·Regeneration)
그러면 AI는 가소성이 있을까?
정보를 받아들이며 더 잘 처리할 수 있도록 HW가 변경될 수 있을 것인가?
정보의 습득에 따라 인공 신경망이 변화하기는 하나, 이는 신경망 자체의 변화는 아니고 동일 신경망에서 계산의 가중치 변경의 SW 수준의 조정이다.
AI가 학습을 한다고 HW인 GPU가 더 좋은 것으로 바뀔 수는 없다.
다양하고 유한한 인간
어쩌면 인간의 다양성과 유한함이 AI에 비해 진정 월등한 것이 아닐까 생각한다.
인간은 다양한 개체가 있다.
서로 다른 유전자, 다른 성장 환경은 어느 인간도 동일하지 않게 만들었다.
이러한 다양한 인간은 서로 경쟁하기도 협력하기도 한다.
또 인간은 집단을 이루어 다른 집단과 경쟁하거나 협력할 수도 있다.
이 과정에서 인간은 개인 지능으로는 한계가 있지만 사회 전체적인 지능을 키울 수 있었다.
예를 들어 분업이라는 협력을 통해 인간은 각 분야를 고도화하고 집단 전체와 개인의 이익을 증대하였다.
또한 전쟁이라는 극단적인 경쟁은 오히려 기술의 진보를 가져오기도 하였다.
그러면 AI는 다양한 개체로 존재할 수 있을까?
근 미래에 우리는 사무실에 MS, Google, Apple의 AI를 앞에 두고 다음 분기 marketing 전략에 대해 토론을 시킬 수도 있을 것이다.
그러나 80억이나 되는 인구만큼 AI를 만드는 것은 가능하지 않아 보인다.
그리고 AI끼리 인간 같은 전쟁을 시킬 수도 시켜서도 안 될 것이다.
마지막으로 인간은 유한하다는 사실을 상기하고 싶다.
모든 인간은 언젠가 죽는다.
그러나 정보를 담고 생산한 육체는 유전자의 형태로 자손에게 전달된다.
또한 개체의 경험과 지식은 후세와 사회에 전달될 것이다.
이는 각각 H/W와 S/W의 전달처럼 보인다.
이 과정에서 H/W와 S/W는 copy exactly되지 않는다.
유전자는 배우자와 섞이고 돌연변이로 변경된다.
전달되는 정보는 선별되고 다르게 해석 또는 왜곡되어 전달된다.
후손의 지능은 더 부족할 수 있고 훌륭한 지식은 잊혀질 수 있다.
아니면 더 뛰어난 육체의 후손이 경험과 지식을 더욱 발전 시킬 수 있다.
죽음으로 유한한 인간은 이 과정에서 더 절박하게 몰입할 수 있다.
죽음이 없다면 인류 전체는 여러 세대에 걸쳐 발전할 수 없고 고인 물이 될 것이다.
이 과정은 지구 위 80억 인류에게서 현재도 끊임없이 계속되고 있다.
AI는 인간처럼 재생산을 위해 자기를 파괴하는 유한함이 있을까?
영화 바이센테니얼 맨에서 로봇 앤드류는 인간이 되기 위해 법정 투쟁을 벌인다.
그러나 판사는 인간은 불멸의 인간을 인정하지 않고 다만 시기하고 분노할 것이라 인간으로 인정할 수 없다고 판결을 내린다. 이를 받아들인 앤드류는 자신의 양전자 두뇌에서 조금씩 누전을 일으켜 죽음을 맞이한다. 인류는 이에 감동하고 앤드류를 마침내 인간으로 인정한다.
AI가 인간을 능가하고 지배하려 할지 인간의 뇌를 대체할지 알 수 없다.
그러나 인간은 그 끝이 있어 아름답고 슬픈 것 같다.
서두에 아픈 선배는 내 기억에 계속 살아남을 것이다.
하록 선장은 컴퓨터로 기억과 인격이 옮겨진 친구 토치로에 대해 이렇게 말한다.
"내 친구는 죽었지만 죽지 않았다."
