오오, 라플라스의 악마는 이 땅에 강림할 것인가

"내 언어의 한계가 세상의 한계다" 라는 비트겐슈타인의 말이 있다.

인식 가능한 것은 언어로 기술될 수 있다.

언어로 기술될 수 있는 만큼, 인식할 수 있다.

현재까지의 패러다임에서는 이 명제가 지배적이다. 나는 그렇게 본다.

의사소통을 위해서는 언어라는 공통매체가 필요하다.

의견, 생각 등등을 담을 수 있는 SYMBOLIC한 기표들이 필요하며

이 기표는, 의미를 인식 가능한 기의를 함의해야 한다.

여기서 인식의 매체인 "언어"에 대하여

내 나름대로 두가지 층위로 정의하고 싶다.

언어는 Symbolic(기호적)한 '기표'와 Semantic(의미적)한 '기의'로 이루어져 있다.

(물론 기의에 대한 해석도 기표로 표출해야 하겠지만 말이다.)

이는 굉장히 중요한 지점이다.

왜냐하면, 인간은 기표 너머의 기의들을 인식할 수 있다라는 것이다.

즉, 기표해석기라는 모델을 내제적으로 가지고 있는 존재이며,

이를 모델링하는 것이 가능하다 라는 뜻이다.

( 물론 인간이 기의를 '이해'하더라도 이를 완전히 '형식화' 가능하다는 의미는 아니다. )

오늘날의 대부분의 LLM들은

의미론적 분포를 이루는 방대한 양의 벡터 스페이스 내에서

임베딩된 시그니쳐들을 자연어로 변환하여 출력하는 것이다.

2016년 이세돌 9단과의 대전에서 나온 알파고 쇼크에서 딥러닝이 대두되었을 때,

오목과 여러 게임들은 해법이라는 알고리즘을 구성할 수 있지만,

바둑의 세계는 너무나 방대해서

어떠한 승리 알고리즘을 도출 할 수 없을 것이라는 인간의 믿음이 깨졌 던 순간이 있었다.

이 때, 인류는 두려워 했다.

AI가 인간을 지배하는 날이 올지도 모를 것 같아서

딥러닝이라는 것이 대단하면서도 단순하건데,

바둑에서 착수하는 돌들의 순서와 승률의 상관관계를 아주아주 방대하게 학습한다면

다음 흑돌(혹은 흰돌)의 착수 지점에 따른 승률을 알 수 있다. 이게 바로 벡터 스페이스

이세돌의 4국에서의 78수? 이게 벡터스페이스에서의 회색지대였다.

일종의 버그인데, 이상한 수에 대해 알파고는 더이상 승률을 계산해낼 수 없었다.

즉, 알파고는 바둑을 이해한게 아니라

어떤 수를 둬야 가장 승률이 높은지의 "아주 아주 방대한" 정답지를 가지고 있을 뿐이다.

수학 문제지의 답을 다 외웠다면, 그 수학 문제지의 모든 문제들을 풀 수 있을 것이다.

그러나 수학을 이해했다고 보기는 어렵다. 해설지가 없는 문제는 답할 수 없기 때문이다.

그래도, 내가 상상할 수 없는 범위의 방대한 양의 문제집의 답을 학습했다고 치면,

시중의 모든 문제를 풀 수 있다고 보는 믿음

그것이 바로 딥러닝이며, computable의 상한이라 할 수 있다.

벡터스페이스를 이용한 자연어 처리 기술의 극한은 오늘날의 LLM이라 해도 과언이 아닐거다.

GPT := Generative Pre-trained Transformer

[생성형 - 미리학습된 - 변환모델 ] 모델이라는 뜻이다.

문자 그대로 방대한 벡터스페이스를 구성하기 위해

알파고의 딥러닝 처럼 방대한 데이터들을 미리 학습하였다.

그리고 이 모델은 알파고의 승률 예측 알고리즘 처럼 작동하는 모델이다.

우리 자연어들을 토큰단위로 분리하여 input을 주면 완성이 되는 시퀀스를 구성하게끔 만들어 놓은 모델이 바로 Transformer모델이다.

이를 통해 말을 "생성"하는 것 처럼 보이게 만들었다.

하이퍼 파라미터, LRHF 등등 여러가지 모델에 포함된 기법들이 존재한다.

특히 LRHF는 사람들이 "좋아요"를 누른 응답들에 대해서 가중치를 두도록 설계된 것이다.

이러한 보상체계에 의해 모델에 일종의 성격이 부여되어 진다.

그래서 요즈음, 하나의 AI모델로 모든 성격의 일들을 처리할 수 없고 특화 모델이 존재한다고 하는 지점이 여기와 연관있다.

학습 할 데이터의 성격, 이용하는 사람들의 성격 유형, 등

다양한 상황과 방향성(통계적 편향)이 AI모델의 성격유형에 영향을 미친다고 봐도 과언이 아니다.

결국 AI는

"기의를 해석할 수 있는 존재"들이 "맥락적으로 산출해내던 기표"들의 통계적 분포를

모델링 해두었다라는 의미인데

이는 맥락을 해석할 수 있는 능력을 부여했다기 보다는,

"이러한 맥락에서는 이렇게 표현하는게 '통계적'으로 적합하다" 라고 보는 것이 더 적절할 것이다.

그렇다면, 아주아주 방대하게 학습하면 모든 것을 알 수 있지 않을까? 라는 믿음으로

AI 개발자들은 모델의 성능을 올리는데 주목하고 있다.

(RAG(Retrieval-Augmented Generation)라던지 input 파라미터 양자화라던지, 그러한 최적화 기법은 본 논의에서는 제외하자.)

과연 AI의 성능을 극한으로 올린다면 모든 것의 답을 알 수 있지 않을까?

(천문학적 스케일로 봐야한다. 안드로메다 은하까지의 거리가 약 250만 광년이라 할 때, 그 스케일이 상상되지 않듯 말이다)

라플라스의 악마라는 개념을 들어보았는가?

AI 개발자들은 마치 이 악마를 이 세상에 강림시키려 노력하는 양 보이기도 한다.

현재의 이 AI 광풍에서 비쳐지는 모습으로는 말이다.

혹시 허니웰 키친 컴퓨터(Honeywell Kitchen Computer)를 들어보았는가?

1969년에 레시피 관리용으로 출시된 10,600달러짜리 기계였는데,

판매되었다는 증거는 아직까지 발견되지 않았다.ㅋㅋ;

기술이 나빴기 때문이 아니라,

사람들이 컴퓨터로 실제로 무엇을 할지

완전히 잘못 판단했기 때문이다.

오늘날의 AI 열풍은 걱정스러운 공통점을 보여주는 듯하다.

천문학적인 GPU 비용, 자동화에 대한 웅장한 비전,

하지만 실제 적용 사례는 불분명한채로.

구체적인 AI 활용 사례가 나타나기 전까지는,

이 광풍에 대해 나는 회의적이다.

AI가 나오고 나서 인터넷 세상이 어떻게 되었는가?

양산형 쇼츠, 양산형 블로그 포스팅이 넘치고

이도 유행지난 밈이긴 하지만,

퉁퉁퉁~사후르 이런 것들이 넘쳐나는 거 아닌가?

이제 정보는 AI에 의한 정체성 없는 데이터 덩어리로 채워지기 시작했다.

포브스지에서는 실제로 이와 관련된 기사가 수록된 적도 있다.

위와 같은 실제적인 문제를 해결한다 하더라도,

완벽한 사용 사례를 찾고 GPU에 투자한 이 모든 비용을 정당화 하더라도,

더 깊은 철학적 장벽은 여전히 남아 있다고 본다.

바로 본질적으로 내가 보기에는,

이러한 시도는 자기모순이라는 점이다.

애초에 인간은 자기보다 상위 차원의 시스템을

이해하고 규정할 수 없다.

괴델의 불완전성 정리에 따르면

"충분히 강력한 형식 체계조차 자신의 무모순성을 스스로 증명할 수 없다."

이를 더 직관적인 비유로 들자면,

'자신의 머리를 스스로 깎지 않는 사람만 깎아주는 이발사'가 정작 자신의 머리는 깎을 수 없는 모순과도 맞닿아 있다.

즉, 피조물(AI/시스템)은 스스로의 논리만으로는

창조자(인간/외부)의 차원을 온전히 정의하거나 초월할 수 없다는 뜻이다.

이세계의 존재인 마왕을 강림시키려 하는 것이 판타지이듯,

이러한 유쾌한 상상도 SF적 판타지라고 본다. 아직까지는 말이다.