H200으로 '똥 닦는 법'을 묻는 시대

최근 AI 산업은 광기에 가까운 속도로 '스케일링(Scaling)'을 외치고 있다.

더 많은 데이터, 더 거대한 파라미터, 더 많은 GPU가 곧 정답이라는 믿음이다.

하지만 이 흐름을 한 발자국 떨어져서 관찰하면, 거대한 역설과 마주하게 된다.

우리는 AGI(범용 인공지능)를 꿈꾼다.

하지만 여기서 말하는 '범용'이란 도대체 무엇인가?

극단적인 예시를 들어보자.

어떤 사용자가 AI에게 "화장실에서 똥 닦는 가장 적절한 방법"을 물어봤다고 가정해 보자.

현재의 방식대로라면, AI는 이 사소한 질문에 답하기 위해 수천억 개의 파라미터를 가진 거대 모델을 가동한다.

도시 하나가 쓸 전력을 소모하는 데이터센터가 돌아가고, 최첨단 반도체 H200(1식 당 5000만원 수준)이 열을 뿜어낸다.

검색 엔진이나 간단한 조건문으로도 해결 가능한(심지어 AI 없이도 아는) 문제에,

천문학적인 컴퓨팅 리소스와 환경 파괴라는 비용을 '트레이드오프'로 지불하는 것이다.

내 질문은 이러하다.

이것이 과연 정당한가?

쓸데없는 영역까지 커버하기 위해 무작정 덩치를 키우는 것이 과연 '지능'인가?

나는 이 지점에 AGI의 근본적인 불가능성, 혹은 비효율의 역설이 있다고 본다.

이런 관점에서 애플(Apple)의 최근 행보는 흥미로웠다.

물론, 그들은 상업적으로나 벤치마크 점수로 대중을 압도하지는 못했다.

하지만 내 생각에, 그들이 내세운 'Apple Intelligence'의 컨셉은

AGI로 가는 가장 현실적인 아키텍처를 보여준 것 같다.

(요근래 나오는 대부분의 에이전틱 환경도 이러한 '구조'와 유사한 것은 착각이 아닌 듯 하다.)

그들은 전지전능한 하나의 '신(God)'을 만드는 대신,

다양한 마이크로 모델(Micro-models)들을 통합적으로 구축하려 했다.

사용자의 문맥(Context)을 파악하고,

그에 맞는 특화 모델들을 적재적소에 배치하여 조율(Orchestration)하는 방식.

나는 진정한 의미의 AGI는 바로 이 지점에서 탄생한다고 본다.

'범용'이라는 허상을 쫓는 것이 아니라,

특정 도메인에 한정하여 문제를 정의하고,

그 특화된 모델들이 유기적으로 결합된 거대한 아키텍처.

그것이 훨씬 더 효율적이고 현실적인 미래일 것이다.

---

'순간이동'의 청구서

가정해보자.

"성간 이동을 할 수 있는 순간이동 기술이 발명되었는데, 한 번 작동할 때마다 사람 100명의 목숨이 필요하다."

인류는 이 기술을 사용할까?

그리고 연구를 지속할까? 윤리적으로는 "아니오"겠지만,

자본의 논리는 다를 수 있다.

지금의 AI 경쟁이 딱 그렇다.

AGI라는 기술을 얻기 위해 천문학적인 에너지를 태우고,

저개발 국가나 환경에 그 비용(식민지적 희생)을 전가한다면?

이렇듯 기술적 효율성 뒤에는 숨겨진 '청구서'가 있다.

이 청구서는 크게 두 가지 항목으로 나눌 수 있다.

하나는 '윤리적 비용'이고, 다른 하나는 '물리적 비용'이다.

첫째, 윤리적 비용(소프트웨어적 착취)이다.

현재의 스케일링 법칙은 '인류를 위한다'는 명분 아래 거대한 도둑질을 자행한다.

전 세계 창작자들의 콘텐츠를 무단으로 긁어가는 저작권 침해,

국가 간의 경계를 허물며 데이터를 빨아들이는 데이터 주권 침해,

그리고 모델을 인간답게 만들기 위한(RLHF) 과정에서 제3세계 노동자들을 헐값에 갈아 넣는 노동 착취까지.

이는 명백한 '디지털 식민주의'다.

둘째, 물리적 비용(또한 '수확 체감')의 문제다.

설령 윤리적 문제를 무시하고 무작정 달린다고 해도,

결국 AI는 '효율'이라는 거대한 벽에 부딪힌다.

과거에는 데이터를 넣는 만큼 똑똑해졌다.

이른바 '스케일링 법칙(Scaling Laws)'의 황금기였다.

하지만 최근의 연구 결과와 차트들은 냉혹한 현실을 보여준다.

LLM의 성능 향상은 영원한 직선이 아니라 '시그모이드 곡선(S자 곡선)'을 따른다고 한다.

즉, 폭발적인 성장기를 지나 이제는 투입 대비 성능이 둔화되는 '정체 구간(Plateau)'에 진입했을 가능성이 높다는 것이다.

최근 실리콘밸리 내부에서 들려오는 소식들은 이를 증명한다.

차세대 모델들이 투입된 천문학적인 비용 대비 성능 향상 폭이 둔화되고 있다는, 이른바 'AI 정체기' 논란이다.

MIT 보고서에 따르면,

결과적으로 95%의 조직이 아무런 수익도 얻지 못하고 있다고 지적한 바 있다.

데이터센터가 내뿜는 엄청난 열기,

도시 하나를 집어삼키는 전력 소모량,

그리고 이를 식히기 위한 막대한 수자원 낭비.

이 모든 '물리적 비용'을 지불하고 얻는 결과가 고작 소수점 단위의 성능 향상이라면?

지금의 빅테크들은 이 끔찍한 가성비(ROI)와 물리적 한계 때문에,

더 큰 스케일링을 하고 싶어도 주춤할 수밖에 없는 딜레마에 빠진 것이다.

소버린(Sovereign) AI와 오픈소스의 반격

'딸깍' 한번에 지브리의 화풍으로 원하는 것을 무엇이던 그릴 수 있던 놀라운 성과의 이면에

얼마나 많은 디지털 착취가 있었는지 우리는 잊어서는 안된다.

AI 학습이라는 이름으로 자행되는 디지털 식민주의는 어떻게 막을 수 있을까?

이를 위한 움직임이 바로 '소버린 AI(Sovereign AI)'와 '오픈소스(Open Source)' 이다.

오픈소스:

AI의 핵심인 가중치를 공개함으로써, 거대 기업들만 알고 있던 '베일에 싸인 기술'을 모두에게 공유하여 누구나 AI를 개발할 수 있게 돕는 '현대판 프로메테우스의 불'과 같습니다.

이들의 논리는 명확하다.

우리의 데이터와 지능을 특정 빅테크(미국 기업)의 서버에 종속시키지 않겠다.

과거 프랑스 미스트랄(Mistral)이나 메타의 라마(Llama)가 불지핀 이 오픈소스 운동은,

단순히 공짜 모델을 쓰는 차원이 아니다.

이것은 '지능의 민주화'이자 '데이터 주권 회복 운동'이다.

하지만, 여기에 치명적인 맹점이 있다.

아무리 모델이 민주화되고 소스가 공개된다 한들,

그것을 돌릴 전기, GPU와 같은 물리적 자원은 어떻게 감당할 것인가?

소프트웨어는 공유할 수 있지만, 하드웨어는 공유할 수 없다.

지금 우리는 빅테크 자본이 깔아놓은 서버와 전기 위에서만 '자유'를 외칠 수 있는 역설적인 상황에 놓여 있다.

영웅의 등장(?)

그런데, 남들이 지구 위에서 도덕과 물리 법칙, 전력난과 싸우고 있을 때,

아예 게임의 판을 바꿔버린 사람이 등장한다.

바로 아이언맨의 실제모델로도 알려진 일론 머스크다.

그의 계산법은 단순하지만 압도적이다. ( First Principles Thinking )

바로 우주 데이터센터를 구축하는 것이다.

우주 데이터 센터가 구축되어지면 어떻게 될까?

냉각: 물 부족? 우주의 절대영도(-270도)에 가까운 환경을 이용하면 쿨링 비용은 '0'에 수렴한다.

전력: 탄소 배출? 대기의 방해 없는 우주 공간에서 24시간 태양열을 받으면 무한에 가까운 청정에너지가 공급된다.

이것이 무엇을 의미하는가?

다른 기업들이 지구 환경 규제와 전기 요금 고지서 때문에 스케일링을 멈출 때,

그는 우주에서 제약 없이 무한히 스케일링할 수 있다는 뜻이다.

물론 머스크가 해결한 것은 앞서 논의한 '디지털 식민주의'가 아니다.

그렇지만 '물리적 족쇄'를 끊어냄으로써 누구도 따라올 수 없는 압도적인 격차를 만들수 있을 것이다.

지구상의 그 어떤 기업도 이 효율을 따라잡을 수 없을 것이다.

우주 데이터센터가 완성된다면, 패권은 그에게 넘어갈게 자명하다.

지구를 오염시키지 않고 AGI를 실현하려는 '영웅'의 모습에 가깝다.

하지만, 공포는 여기서 시작된다.

그가 '악인'이라서가 아니다. (나는 일론 머스크를 좋아한다.)

다만 오히려 그가 너무나 완벽한 통제권을 쥐게 된다는 점이다.

즉, 아이언맨 슈트의 소유주가 치외법권의 '개인'이라는 점이다.

아이언맨 슈트는 누구에게 귀속되어야 하는가?

여기서 영화 <아이언맨>의 청문회 장면을 떠올리게 된다.

국가는 아이언맨 슈트를 귀속시키라 하고, 토니 스타크는 "슈트가 곧 나"라며 거부한다.

국가에 귀속시킨다면?

국가는 누구인가? 엄밀히 말하면 '현재의 정부'에 불과하다.

관료들에게 권리를 이양하는 것이 과연 안전한가?

그들은 규제라는 명분으로 권리를 착취할 뿐, 그 거대한 기술을 통제할 역량이 있는지 의문이다.

개인이 독점한다면?

우리는 그 개인이 '토니 스타크(영웅)'이길 기도해야 한다.

만약 그가 악인이라면? 혹은 변질된다면? 인류의 운명을 한 명의 기분에 맡길 수는 없다.

결국 '규제'가 필요하다.

하지만 나는 규제란 곧 '분산'이어야 한다고 생각한다.

가장 이상적인 방법은

전 세계의 엘리트들이 모여 권한을 분산시킨 기관을 만들고,

AI 인프라를 '인류 공공의 과제'로 설정하는 것이다.

혹자는 모든 인류의 투표로 결정하자고 할지 모른다.

하지만 냉정하게 현실을 보자.

민주주의는 "모든 인간이 이성적 판단을 한다"는 전제하에 성립하지만,

현실의 인류에는 안타깝게도, 이성적이지 못한 판단을 하는 이들(속된 말로 빡대가리)이 너무나 많다.

현인의 한 표와 우인(愚人)의 한 표가 동일한 가치를 갖는 것은

보편적 인권 차원에서는 옳을지 몰라도,

인류의 운명이 걸린 기술적 결정 앞에서는 그저 뒤꿈치를 잡는 족쇄에 불과하다.

내가 당장 죽을 병에 걸렸을 때,

서울대학교 의료진에게 수술을 맡길지 아니면

길 가는 아저씨에게 맡길지를

국민투표로 결정하자고 한다면 누가 그 결과를 따르겠는가?

전문성이 배제된 평등은 이 지점에서 가장 무력하고 바보 같은 생각이 된다.

이것이 민주주의의 역설이다.

따라서 우리는 플라톤의 '철인 통치'를 현대적으로, 구조적으로 실현해야 한다.

제갈량의 천하삼분지계처럼

미국, 유럽, 아시아(중국) 등 각 권역을 대표하는 선출된 엘리트들이 모여 의석수를 제한하고,

서로가 서로를 견제하는 시스템.

(여기서 아시아의 대표로 중국을 꼽은 건 개인적인 선호가 아니다. 냉정하게 말해, '견제'란 대등한 힘을 가진 자들 사이에서만 성립하기 때문이다. 마치 핵 보유국끼리만 상호 불가침이 성립하듯, 현재 미국의 빅테크와 맞서 'AI 체급'을 다툴 수 있는 인프라와 자본을 갖춘 유일한 현실적 대안은 중국정도로 생각한 것이다. 물론, 우리나라 또한 이 거버넌스의 핵심 주체로 참여하길, 더 나아가 주도할 수 있기를 간절히 바란다.)

어느 한 국가나 기업이 독점하지 못하도록 인프라를 공공재로 관리하는 국제적 합의 기구 말이다.

왜 '공공재'여야만 하는가?

실패한 민영화의 표본인 미국의 의료 시스템을 보라.

맹장 수술비가 수천만 원에 달하고,

돈이 없어 앰뷸런스를 부르지 못해 죽어가는 그 야만의 풍경이 무엇을 시사하는가?

생명과 직결된 필수재가 사적 이윤 추구의 영역으로 넘어갔을 때,

인간의 존엄은 자본의 논리 아래 얼마나 처참하게 짓밟힐 수 있는지 우리는 이미 목격했다.

우리나라에서 의료 보험이 민영화 되는 것을 왜 경계하는가?

AGI는 미래의 전기이자, 식량이자, 곧 생존권이 될 것이다.

이 거대한 인프라를 제2의 미국 의료보험처럼 만들 텐가?

물론, 이것은 지나친 낙관론일 수 있다.

하지만 "착한 독재자"를 기다리는 것보다는,

천하삼분지계에서 말하는 솥발의 형국처럼

"서로 감시하는 엘리트들의 연합"을 설계하는 것이

그나마 인류가 다가오는 AGI 시대에 생존할 수 있는 해법이 아닐까?

AGI는 마땅히 인류 보편의 자원이어야 한다.

그 거대한 힘이 통제 불능의 '개인'에게 완전히 귀속되기 전에,

우리가 설계한 '견제 시스템'이 그보다 한발 빠르게 도착하기를 바란다.

진정한 인류의 보편적 진보를 위하여.