GPU는 700와트 뇌는 20와트다 - 버너 보겔스가 컴퓨팅에서 가장 오래된 아키텍처를 지목한 이유

GPU는 700와트 뇌는 20와트다

TL;DR

• 첫 질문에 정직하게 답한다. AI가 내 일자리를 가져갈 것이냐는 질문에 답은 아마도인데, 사람들의 허를 찌르지만 산업혁명 이후 모든 기술 전환에 근거를 둔 답이다. 그런데 AI가 나를 쓸모없게 만들 것이냐로 질문을 바꾸면 답은 아니오이며, 당신이 진화한다면이라는 조건이 붙는다.
• 진화하는 방식은 새 도구에 깊이 들어가는 것이다. 진짜 작업을 해 보며 초기의 회의를 확인하거나 반박할 시간이 필요하고, 무엇이 되고 무엇이 안 되는지 정직한 의견을 발전시켜야 한다. 지난 몇 주는 오픈소스 에이전트 작업공간 Kiro Crew와 보냈고, 리서치와 일정 감시, 크론 잡 관리, 회의 준비에 쓰고 있다.
• 에너지 대비가 이 글의 수치인데 2023년 호주 바이오테크 Cortical Labs에서 실험실에서 기른 인간 뉴런을 실리콘 칩에 올린 네트워크가 퐁 게임을 하는 것을 보고 압도됐다. 비교가 선명하다. 고성능 GPU 하나는 700와트를 끌어 쓰고 퐁을 배우는 데 수십만 번의 훈련 반복이 필요한데, 인간의 뇌는 20와트로 몇 번의 시도만 쓴다.
• 관찰은 하나의 명제로 정리되는데, 여러 각도에서 뇌를 역설계하는 컴퓨터 과학자와 칩 설계자, 신경과학자들이 같은 답에 도달하고 있고 뇌가 컴퓨팅에서 가장 오래된 아키텍처라는 것이다. 범위가 넓다. 폰 노이만 구조보다, 주판보다, 수학보다, 언어 자체보다 오래되었고 수억 년의 진화가 구조화된 메모리와 배경 통합, 우아한 감쇠, 예측을 훨씬 적은 에너지로 만들어냈다.
• 핵심 논거는 잊기에 있는데 최근 메모리는 완전한 세부로 남고 오래된 것은 압축되며 중요하지 않은 것은 완전히 잘려 나간다. 그래야 하는 이유가 명확하다. 능동적 잊기가 없으면 경험을 축적하는 어떤 시스템도 결국 유용한 작업을 하기보다 옛 맥락을 뒤지는 데 더 많은 시간을 쓰게 된다.

Source

The oldest architecture in computing — Werner Vogels, 2026년 9월 8일

[allthingsdistributed.com/2026/09/the-oldest-architecture-in-computing.html](https://www.allthingsdistributed.com/2026/09/the-oldest-architecture-in-computing.html)

Knowledge

아마도, 그리고 진화한다면

AI에 대해 고객과 이야기하면 거의 항상 같은 질문이 나온다. AI가 내 일자리를 가져갈 것이냐. 답은 아마도다. 사람들의 허를 찌르는 일이 잦은 정직한 응답이지만 산업혁명 이후 모든 기술 전환에 근거가 있다. 어떤 작업은 자동화되고 어떤 직군은 사라지고 어떤 산업은 통합되며 오늘 우리가 가진 기술 중 일부는 내일 상품이 된다.

그런데 질문을 바꾸면 답이 달라진다. AI가 나를 쓸모없게 만들 것이냐로 다시 틀면 답은 아니오다. 당신이 진화한다면 아니다. AI에서 놀라운 결과를 보고 있지만 그것은 여전히 그저 도구다. 역사 전반에서 봐 왔듯 계속 유의미하게 남는 힘은 적응하는 능력, 가진 도구로 더 좋고 더 빠르게 만드는 능력, 그리고 더 어려운 문제를 푸는 능력에 묶여 있다.

진짜 작업으로 회의를 확인하거나 반박하기

새 도구에 깊이 들어가는 것이 내가 진화하는 방식이다. 그것으로 진짜 작업을 해 보고 초기의 회의를 확인하거나 반박할 시간이 필요하며 무엇이 작동하고 무엇이 작동하지 않는지 정직한 의견을 발전시켜야 한다. 최근 몇 주는 배우려고 따로 떼어 둔 시간을 Kiro Crew와 보냈다. 최근 공개한 오픈소스 에이전트 작업공간이다. Kiro Crew 에이전트로 리서치 작업을 실행하고 내 일정을 감시하고 크론 잡을 관리하며 회의 준비를 돕게 한다.

그중 주의를 사로잡은 것은 Kiro Crew가 여러 독립적 에이전트에 걸쳐 메모리를 관리하는 방식이었다. 무엇을 유지하고 무엇을 버릴지 어떻게 결정하는지, 우리 대화로부터 어떻게 암묵적으로 배우는지, 에이전트들이 시간에 걸쳐 어떻게 스스로 개선되는지가 궁금했다.

700와트와 20와트

이 질문은 사람이 정보를 어떻게 저장하는지로 생각을 끌고 갔다. 2023년 Cortical Labs를 방문한 적이 있다. 실험실에서 기른 인간 뉴런을 실리콘 칩에 올려 컴퓨팅 기질로 쓰는 호주 바이오테크 스타트업이다. 거기서 살아 있는 뉴런으로 만든 네트워크가 퐁 게임을 하는 것을 봤고 압도됐다.

수치가 그 인상을 설명한다. 고성능 GPU 하나는 700와트의 전력을 끌어 쓸 수 있고 퐁을 배우려면 수십만 번의 훈련 반복이 필요하다. 인간의 뇌는 20와트를 쓰고 같은 것을 하는 데 몇 번의 시도만 필요하다.

천 개의 뇌

메모리라는 개념은 연간 기술 예측을 준비하며 해 온 작업과도 이어졌다. 신경과학자 제프 호킨스의 연구를 읽고 있는데, 그는 내 역대 최고 애장 기술 중 하나인 팜파일럿의 창조자이기도 하다. 『천 개의 뇌: 지능의 새로운 이론』은 뇌가 지식을 수천 개의 피질 기둥에 분산시키며 각 기둥이 직접적인 감각 경험으로 자기 모델을 학습한다고 제안한다. 각 기둥은 다음에 무엇을 감각할지 예측하고 예측이 틀렸을 때 갱신한다.

메모리는 배경에서, 수면 중에 통합된다. 그때 원시 경험이 구조화된 장기 지식으로 증류된다. 원리는 두 문장으로 압축된다. 반복되는 것은 강화된다. 반복되지 않는 것은 약해진다.

컴퓨팅에서 가장 오래된 아키텍처

뇌가 어떻게 작동하는지 더 배울수록, 바로 지금 그 답을 찾으려 열심히 일하는 사람을 더 많이 발견한다. 컴퓨터 과학자와 칩 설계자, 신경과학자와 이야기했는데 모두 서로 다른 각도에서 뇌를 역설계하며 같은 답에 도달하고 있다. 그 과정에서 하나의 관찰에 이르렀다. 뇌는 컴퓨팅에서 가장 오래된 아키텍처다.

폰 노이만 구조보다 오래되었고 주판보다 오래되었고 수학보다 오래되었고 언어 자체보다 오래되었다. 수억 년의 진화가 구조화된 메모리와 배경 통합, 우아한 감쇠, 예측, 오류로부터의 학습을 만들어냈다. 그 모두를 우리가 실리콘에서 같은 것을 근사하는 데 쓰는 에너지의 일부로 해낸다.

공학 제약에서 출발했는데 진화와 닮았다

Kiro Crew 내부로 들어가 본 덕에 이 원리들을 소프트웨어에서 구체적으로 볼 기회를 얻었다. 흥미로운 대목은 출발점이다. 소규모 엔지니어 팀이 실용적인 공학 제약에서 출발해 그것을 만들었는데, 그들이 도달한 아키텍처가 진화가 도달한 것과 놀랍도록 비슷해 보인다.

Kiro Crew는 함께 작동하는 여러 구별되는 메모리 유형을 유지한다. 마크다운 파일과 로컬 벡터 데이터베이스, 키-값 인덱스에 걸쳐 메모리를 저장한다. 뇌처럼 어떤 메모리는 시간에 걸쳐 감쇠하므로 회상이 효율적으로 남고 호킨스가 우리 뇌에 대해 가정한 것과 똑같이 이 메모리들의 통합이 배경에서 실행된다.

처리는 층위로 갈린다. 최근 메모리는 완전한 세부로 유지되고 오래된 것은 압축되며 중요하지 않은 것은 완전히 잘려 나간다. 능동적 잊기가 없으면 경험을 축적하는 어떤 시스템도 결국 유용한 작업을 하기보다 옛 맥락을 뒤지는 데 더 많은 시간을 쓴다. 우리 뇌와 다른 점도 하나 있다. Kiro Crew 에이전트가 당신의 대화에 기반해 만드는 모든 메모리에 접근할 수 있고 손으로 편집할 수 있다.

신뢰받는 자율성

메모리는 에이전트가 어디로 향하는지 생각할 때 중요한 다른 무언가도 가능하게 한다. 신뢰받는 자율성이다. Kiro Crew의 에이전트는 원격에서 24시간 실행될 수 있고 서로 상호작용하며 과업을 조율하고 당신 작업의 패턴에서 재사용 가능한 스킬을 생성한다. 뇌에 대한 리서치를 하는 동안 내 에이전트 중 하나는 무엇을 읽었고 다음에 무엇을 읽어야 할지 추적할 독서 대시보드를 만들자고 제안했다.

당신에게서 배우고 당신의 규칙과 선호를 기억하는 에이전트는 지켜보지 않는 상태로 많은 작업을 할 신뢰를 얻는다. 그래도 나는 여전히 그들이 무엇을 하는지, 그것을 하기 위해 어떤 도구를 쓰는지 검토한다. 그럼에도 이 에이전트들과 신뢰가 자라는 것을 느끼는데, 이전에 나온 다른 도구들과는 확립하기 어려웠던 일이다.

가장 오래된 것이 여전히 가장 좋다

컴퓨팅에서 가장 오래된 아키텍처는 여전히 컴퓨팅에서 가장 좋은 아키텍처이고 앞으로도 그럴 것이다. 우리의 다음 도구를 만드는 사람들 중에서, 뇌가 어떻게 작동하는지 깊이 생각하는 데 시간을 쓰는 이들이 가장 큰 돌파를 만들 것이다. 이제, 만들러 가자.

더 생각해보기

• 아마도라는 답이 정직하다면 그 답을 들은 사람은 무엇을 준비해야 하는가.
• 700와트 대 20와트라는 비교는 어떤 조건을 같게 놓았을 때 성립하는가.
• 피질 기둥이 각자 모델을 학습한다는 이론은 현재 에이전트 구조의 어디에 대응하는가.
• 공학 제약에서 출발해 진화와 닮은 구조에 도달했다는 관찰은 우연인가 수렴인가.
• 마크다운 파일과 벡터 데이터베이스, 키-값 인덱스를 나눈 선택은 무엇을 기준으로 갈렸는가.
• 능동적 잊기가 필요하다는 논거는 어떤 종류의 작업에서 위험해지는가.
• 손으로 메모리를 편집할 수 있다는 점은 뇌와의 유사를 강화하는가 약화하는가.
• 검토를 계속하면서도 신뢰가 자란다는 상태는 어떤 지점에서 검토를 줄이게 되는가.
• 이전 도구들과 신뢰를 확립하기 어려웠다는 진술은 무엇이 달라졌기 때문인가.
• 뇌를 깊이 생각하는 사람이 가장 큰 돌파를 만든다는 예측은 반대 사례로 무엇이 있는가.