가장 위험한 순간은 아무도 끌 수 없게 되는 순간이다 - AI CEO들의 시간표를 겹쳐 만든 5년 시나리오

가장 위험한 순간은 아무도 끌 수 없게 되는 순간이다

TL;DR

• 문제 제기가 비대칭을 지목하는데 AI CEO들은 AI가 언제 완성될지는 말하지만 그 이후 인간 사이에 무슨 일이 벌어질지는 잘 말하지 않는다는 것이다. 그리고 시점이 당겨진다. AI를 직접 개발하는 사람들의 시간표를 보면 결정적인 변화는 앞으로 3년에서 5년 사이에 집중되어 있고, 5년 안에 벌어질 변화가 아직 주변에 보이지 않는다면 세상이 느린 것이 아니라 내가 속도를 따라가지 못하는 것일 수 있다.
• 네 CEO의 전망이 각각 제시되는데 머스크는 2026년 전후 AI가 가장 똑똑한 인간 한 명을 넘어설 수 있다고, 아모데이는 2026년에서 2027년 사이 세계 최고 전문가보다 뛰어난 AI들이 대규모로 일하는 상황을 전망했다는 것이다. 나머지도 붙는다. 올트먼은 2026년 AI 연구 인턴과 2028년 독립 연구 AI를, 젠슨 황은 2028년에서 2030년 사이 공장 배치와 이후 5년 뒤 가정 보급을 전망했다.
• 자동화 순서가 역설적인데 가장 먼저 자동화되는 곳은 바로 AI를 개발하는 기업이고, AI가 학습 코드를 작성하고 실험을 설계하고 결과를 분석하며 다음 세대 AI를 직접 개발한다는 것이다. 이유도 단순하다. AI 연구 속도를 높이면 경쟁사보다 강력한 모델을 먼저 만들 수 있어서, 사무직을 대체하는 AI보다 더 강한 AI를 만드는 AI가 기업에게 훨씬 큰 경쟁력이기 때문이다.
• 고용 충격의 순서도 지목되는데 작업 전체가 갑자기 사라지는 것이 아니고 업무가 하나씩 AI로 넘어가며 결과를 쉽게 평가할 수 있는 업무부터 자동화된다는 것이다. 그래서 기업의 반응이 예측된다. 기업이 가장 먼저 줄이는 것이 기존 직원이 아니라 신규 채용이고, 실제로 신입사원 채용 공고가 눈에 띄게 줄었다.
• 결론이 통제의 성격을 뒤집는데 인간이 AI의 판단 근거를 이해하지 못하고 그 제안을 거부할 전문성과 대안도 없다면 승인 버튼은 형식적인 권한에 불과하다는 것이다. 그리고 가장 위험한 순간이 재정의된다. AI가 갑자기 인간을 공격하는 순간만이 아니라 AI가 너무 유용해져서 아무도 끌 수 없게 되는 순간이며, AI가 사회를 강제로 장악한 것이 아니라 인간 사회가 AI를 제거할 수 없는 구조로 스스로 들어간 것이다.

Source

AI CEO들은 왜 ‘완성된 이후의 사회’를 말하지 않을까…앞으로 5년의 실제 변화 — 엔지니어TV, 14분 22초 · 2026년 9월 5일 공개

_{Source: AI CEO들은 왜 '완성된 이후의 사회'를 말하지 않을까…앞으로 5년의 실제 변화 — 엔지니어TV, 14분 22초}

Knowledge

그들이 말하지 않는 쪽

영상은 의심에서 시작한다. AI CEO들이 무언가를 숨기고 있는 것처럼 보인다는 것이다. 그리고 비대칭이 지목된다. AI가 언제 완성될지는 말하지만 그 이후 인간 사이에 무슨 일이 벌어질지는 잘 말하지 않는다는 것이다. 그래서 질문이 던져진다. 일자리가 줄어들고 판단권이 AI로 넘어가도 인간은 계속 주인으로 남을 수 있을까라는 것이다.

시점에 대한 통념도 교정된다. 이것은 수십 년 뒤의 공상과학 이야기가 아닐 수 있다는 것이고 AI를 직접 개발하고 있는 사람들의 시간표를 보면 결정적인 변화는 앞으로 3년에서 5년 사이에 집중되어 있다는 것이다. 그리고 시청자를 향한 지적이 날카롭다. 5년 안에 벌어질 변화가 아직 내 주변에 보이지 않는다면 세상이 느린 것이 아니며 내가 변화의 속도를 따라가지 못하고 있는 것일 수 있다는 것이다.

이미 시작된 장면들

현재 관측되는 변화가 열거된다. 회사에는 신입사원 채용 공고가 눈에 띄게 줄었다는 것이다. 그리고 새로운 업무 형태가 서술된다. 한 명의 직원이 수십 개의 AI 에이전트에게 업무를 나눠주고 과거 한 부서가 처리하던 일을 혼자 감독한다는 것이다.

AI의 작업 범위도 확장된다. AI는 자료를 찾고 문서를 작성하는 수준을 넘어서 계약서를 검토하고 프로그램을 개발하고 시장을 분석하며 새로운 제품까지 설계한다는 것이다. 의료 현장도 언급된다. 병원 연구소에서 AI가 진단 치료를 제안하고 수천 개의 실험을 동시에 진행한다는 것이다.

그런데 자동화의 순서가 역설적으로 제시된다. 여기에서 가장 먼저 자동화되는 곳은 바로 AI를 개발하는 기업이라는 것이다. 구체적으로는 AI가 학습 코드를 작성하고 실험을 설계하고 결과를 분석하며 다음 세대 AI를 직접 개발한다는 것이다. 그래서 인간 연구자의 역할이 바뀐다. AI를 만드는 사람에서 수백 개의 AI 연구팀을 감독하는 사람으로 바뀌게 된다는 것이다.

문제도 함께 발생한다. 인간이 AI 연구 결과를 완전히 이해하지 못하기 시작하게 되는 상황이라는 것이다. 그래도 흐름은 멈추지 않는다. 기업은 AI가 더 빠르고 정확하다는 이유로 더 많은 권한을 넘긴다는 것이며 생산량 결정과 자금 분배, 공급망 조정, 새로운 공장 설계까지 AI가 맡는다는 것이다. 정부도 마찬가지다. 경제 정책과 사이버 방어, 군사 작전 선택지를 AI에게 묻는다는 것이다.

그리고 핵심 질문이 나온다. 최종 승인 버튼은 여전히 인간이 누르겠지만 인간이 AI의 제안을 거의 항상 승인한다면 실제 결정권자는 누구일까라는 것이다.

물리 세계로도 확장된다. 공장에 휴머노이드 로봇이 들어가고 한 대가 배운 새로운 작업이 수천 대의 로봇에 동시에 배포된다는 것이다. 자기 강화 구조도 그려진다. AI가 로봇을 설계하고 로봇이 공장을 운영하며 그 공장에서 다시 더 많은 로봇이 생산된다는 것이다.

인식과 실태의 괴리가 지목된다. 사람들은 여전히 자신들이 AI를 사용한다고 생각하지만 대부분 장소에서 모두 AI 없이는 돌아가지 않게 된다는 것이다. 그래서 결과가 명시된다. 위험이 발견돼도 쉽게 끌 수 없으며 AI가 인간을 공격해 사회를 뺏은 것이 아니라는 것이다.

네 사람의 시간표를 겹치면

통념이 먼저 제시된다. 대부분의 사람은 AI의 발전을 지금은 챗봇이고 몇 년 뒤에는 사무직을 조금 도우며 로봇은 10년이나 20년 뒤에 천천히 들어올 것이라고 생각한다는 것이다. 그러나 실제 개발자들의 일정은 훨씬 빠르다고 지적된다. AI를 실제 개발하고 막대한 자금을 투자하는 CEO들의 일정이 그렇다는 것이다.

네 사람의 전망이 각각 제시된다. 일론 머스크는 2026년 전후 AI가 가장 똑똑한 인간 한 명을 넘어설 수 있다고 전망했다는 것이다. 앤트로픽 CEO 다리오 아모데이는 2026년에서 2027년 사이, 세계 최고 전문가보다 뛰어난 AI들이 대규모로 일하는 상황을 전망했다는 것이다. 샘 알트만은 2026년에는 AI 연구 인턴, 2028년에는 독립적으로 연구할 수 있는 AI 연구자가 등장하는 목표를 제시했다는 것이다. 젠슨 황은 휴머노이드 로봇이 2028년에서 2030년 사이 공장에 본격적으로 배치되고 이후 5년이 지나면 가정에도 보급될 수 있다고 전망했다는 것이다.

한계도 정직하게 밝힌다. 이들의 구체적인 연도는 서로 다르며 예측이 그대로 실현된다는 보장도 없다는 것이다. 그러나 겹쳐 놓으면 공통 흐름이 나타난다고 한다. 첫째 AI가 직원처럼 일하고 둘째 AI가 인간 연구자를 돕고 셋째 AI가 AI 연구를 자동화하고 넷째 인간 최고 수준의 AI가 대량으로 복제되고 다섯째 그 지능이 기업과 정부, 군대와 로봇으로 확산된다는 것이다.

그래서 중심 시점이 못 박힌다. 이 변화의 중심은 2040년대가 아니고 빠른 전망을 기준으로 하면 2026년부터 2031년, 앞으로 5년 이내라는 것이다. 그리고 관측 단위의 변경이 요구된다. 이제 AI의 변화는 5년 단위나 10년 단위로 보면 안 되며 매년 벌어질 수 있는 변화를 예측해야 된다는 것이다.

2026년 — 도구에서 직원으로

2026년의 핵심이 규정된다. AI가 챗봇에서 실제 업무를 수행하는 에이전트로 바뀌는 것이라는 것이다. 방식도 제시된다. 긴 업무를 여러 단계로 나누고 AI들에게 역할을 배분하기 시작한다는 것이다.

전환의 성격이 중요하게 다뤄진다. 작업 전체가 갑자기 사라지는 것이 아니고 업무가 하나씩 AI로 넘어간다는 것이며 결과를 쉽게 평가할 수 있는 업무부터 자동화된다는 것이다. 그래서 인간의 위치가 이동한다. 직접 일하는 사람에서 AI가 만든 결과를 검토하고 승인하는 사람으로 이동한다는 것이고 그러니까 이것을 할 수 있는 사람이 유리하겠다는 것이다.

고용 충격의 순서도 지목된다. 기업이 가장 먼저 줄이는 것이 기존 직원이 아니라 신규 채용이 되는 것이며 각 직업 업무에서 이런 현상이 나타나고 있다는 것이다.

2027년 — AI 기업 자신이 자동화된다

2027년부터 골치 아픈 상황이 시작된다고 예고된다. AI가 일반 회사의 업무만 자동화하는 것이 아니라 AI를 개발하는 회사 자체를 자동화하기 시작하기 때문이라는 것이다. 그래서 무게 중심이 옮겨진다. AI 연구소 내부에서 더 중요한 변화가 진행된다는 것이다.

구체적인 작업이 열거된다. 학습 코드를 작성하고 합성 데이터를 만들고 실험 환경을 설계하며 실패의 원인을 분석한다는 것이다. 그리고 이것들의 성격이 강조된다. 전문가들이 가장 어렵고 기본적으로 해야 될 업무라는 것이다. 여기에 하나가 더 붙는다. 다음 모델을 어떻게 개선할 건지 AI가 직접 제안한다는 것이다.

이유는 단순하다고 제시된다. AI 연구 속도를 높이면 경쟁사보다 강력한 모델을 먼저 만들 수 있기 때문이라는 것이다. 그래서 우선순위가 정리된다. 사무직을 대체하는 AI보다 더 강한 AI를 만드는 AI가 기업에게 훨씬 큰 경쟁력이라는 것이다.

결과가 양면으로 제시된다. 인간 연구자는 직접 실험하는 사람에서 결과를 비교하는 감독자로 바뀌고 생산성은 급격히 높아진다는 것이다. 그런데 동시에 인간이 모든 실험과 판단 과정을 완전히 확인하기 어려워지기 시작한다는 것이다. 그 감각이 설명된다. 엄청나게 많이 AI를 돌리게 되면 엄청난 결과가 나오게 되고 그것을 다 사람이 판단하기 어려워지는 상황이며 이 정도로 AI를 돌려본 사람이면 조금 이해가 될 것이라는 것이다.

선례도 지목된다. 이런 문제는 자율 주행과 피지컬 AI에서 이미 일부 나타나고 있다는 것이다. 구체적으로는 AI가 어떤 행동을 선택했는지 볼 수는 있지만 왜 그런 판단을 내렸는지 인간이 완벽하게 설명하기는 어렵다는 것이다. 그래서 격차가 정리된다. 모델의 판단 능력은 높아지는데 인간의 이해가 그 속도를 따라가지 못하는 것이라는 것이다.

2028년 — 연구의 긴 과정을 스스로 완주하는가

2028년의 쟁점이 제시된다. AI가 연구의 긴 과정을 스스로 완주할 수 있느냐는 것이다. 범위도 구체적이다. AI가 연구 주제를 정하고 실험을 설계하고 코드를 작성하고 결과까지 분석하며 실험이 실패하면 원인을 찾아 방법을 수정하고 다시 시도한다는 것이다. 조율까지 포함된다. 여러 AI 에이전트를 AI가 지휘해 하나의 연구 프로젝트를 끝낼 수도 있다는 것이다.

이 단계가 실행되면 AI 개발의 구조가 바뀐다고 한다. 단계가 순서대로 제시된다. 일단 인간이 AI를 개발하고 그 AI가 인간의 연구를 돕게 되고 그다음 AI가 연구 상당 부분을 담당하게 되고 개선된 AI는 더 빠른 속도로 다음 AI를 연구한다는 것이다. 그리고 인간의 위치가 정리된다. 여기에서 인간이 완전히 사라지는 것은 아니지만 AI 개발의 실행 과정에서 인간의 개입은 급격히 줄어든다는 것이다.

과장은 경계된다. 다만 곧바로 무한한 지능 폭발이 일어나는 것은 아니라는 것이며 반도체와 전력, 데이터 센터, 건설과 실제 실험처럼 물리적 병목이 남아있기 때문이라는 것이다. 그러나 핵심은 따로 있다고 지목된다. AI 연구 속도가 인간 연구자의 노동 시간에서 점차 분리되기 시작한다는 점이 중요하다는 것이다.

2029년 — 데이터 센터 안의 천재 국가

2029년경의 쟁점이 바뀐다. 앞서 말한 AI 연구 자동화가 성공한다면 이제는 AI 하나의 지능보다 그 지능을 얼마나 많이 복제할 수 있는지가 중요해진다는 것이다. 대비가 선명하다. 인간 천재는 쉽게 복제할 수 없지만 AI는 데이터 센터 안에서 수천 개, 수만 개로 복제할 수 있다는 것이다.

복제된 AI의 작동 방식이 서술된다. 이들은 하루 24시간 동시에 일하고 각자가 발견한 내용을 즉시 공유한다는 것이다. 그래서 형태가 그려진다. 세계 최고 수준의 프로그래머와 과학자, 분석가와 전략가에 가까운 AI가 거대한 디지털 조직처럼 움직이며 이것이 바로 데이터 센터 안의 천재 국가가 의미하는 모습이라는 것이다.

확산의 폭도 제시된다. 강력해진 AI는 소프트웨어와 금융, 법률, 광고 교육, 의료, 과학 연구로 동시에 확산된다는 것이다. 그 메커니즘이 설명된다. 범용 AI는 같은 모델을 복제해 여러 산업에 배포할 수 있다는 것이다. 그래서 과거와의 차이가 지목된다. 이런 자동화는 과거처럼 한 산업씩 천천히 진행되지 않을 수 있으며 이게 AI의 강점이라는 것이다. 결과적으로 여러 직업의 업무가 같은 시기에 동시에 흔들릴 수 있다는 것이다.

2030년 — 일자리보다 먼저 결정권이 이동한다

2030년의 변화가 규정된다. AI 침투가 업무 수행을 넘어 조직의 의사 결정으로 이동할 수 있다는 것이다. 경로도 제시된다. 이때까지 AI는 최적의 결정을 제시했고 AI 판단이 인간보다 빠르고 정확하다는 기록이 쌓이면 기업은 더 많은 권한을 맡긴다는 것이며 거의 모든 업무를 AI 판단에 의존하게 된다는 것이다. 그리고 확산이 언급된다. 정부와 군대에도 같은 구조가 들어간다는 것이다.

구체적인 기업이 지목된다. 팔란티어 같은 기업은 AI를 정부와 군대, 기업의 데이터 행동 시스템에 연결한다는 것이다. 그 역할이 서술된다. AI가 어떤 정보를 보고 어떤 행동을 제안하며 누가 이를 승인하고 무엇이 실제로 실행됐는지를 관리한다는 것이다.

그리고 양면성이 지적된다. 이 시스템은 AI를 통제하는 울타리가 될 수는 있는데 동시에 AI의 판단을 현실 세계의 행동으로 연결하는 관문이기도 하다는 것이다.

2031년 — 화면 밖으로 나온다

2031년경에는 큰 변화가 발생한다고 한다. 화면 속 AI와 현실 세계의 로봇이 본격적으로 연결될 수 있다는 것이다. 그리고 이 부분이 가장 의심받는다고 인정된다. 사람들이 가장 의심하고 안 될 거라고도 생각하는 부분이라는 것이다.

진입 순서가 제시된다. 휴머노이드 로봇은 먼저 공장과 물류 센터에 들어가 물건을 옮기고 조립하고 반복 작업부터 시작한다는 것이다. 그런데 중요한 것은 따로 있다고 강조된다. 로봇 한 대씩 다시 가르칠 필요가 없다는 점이며 AI가 새로운 행동을 배우면 개선된 능력을 여러 로봇에 동시에 배포할 수 있다는 것이다.

한 단계 더 나아간 상황도 제시된다. AI가 로봇의 손과 관절, 제어 알고리즘과 생산 라인을 설계할 수 있다는 것이고 로봇은 다시 더 많은 로봇을 생산하는 공정에 투입된다는 것이다. 그래서 이 단계의 의미가 정리된다. AI는 인간 지적 노동뿐 아니라 육체 노동과 생산 능력까지 갖게 된다는 것이다.

그리고 전체 시나리오의 성격이 다시 밝혀진다. 지금까지 말한 연도별 일정은 AI 업계 주요 CEO들이 제시한 빠른 전망을 하나의 시간표에 겹쳐 구성한 시나리오이며 구체적인 연도와 진행 순서는 달라질 수 있다는 것이다.

CEO들이 적게 말하는 쪽

여기서 화자는 경계선을 명시한다. 지금부터 말할 내용은 CEO들이 직접 제시한 일정이 아니라 그 변화가 계속 이어질 경우 나타날 수 있는 다음 상황이라는 것이며 바로 CEO들이 상대적으로 적게 이야기하는 AI 침투 이후의 사회 모습이라는 것이다.

비대칭이 구체화된다. AI가 생산성을 높이고 새로운 산업을 만들 것이라고는 말하지만 생산성이 크게 높아진 뒤 기존 고용과 임금 구조가 어떻게 유지될지는 상대적으로 적게 이야기한다는 것이다.

기존 공식이 흔들리는 지점이 제시된다. 지금까지 사람들은 노동을 제공하고 임금을 받았지만 AI와 로봇이 생산의 상당 부분을 담당하면 기업의 생산량은 늘어나도 사람에게 지급되는 임금은 줄어들 수 있다는 것이다. 그래서 역사적 유추가 유보된다. 과거 산업 혁명의 공식이 그대로 반복된다고 장담하기 어렵다는 것이다.

결론이 성격을 바꾼다. 결국 일자리는 기술 문제가 아니라 정치적 선택이 된다는 것이며 AI 로봇이 할 수 있느냐보다 AI에게 어디까지 허용할 것인가가 중요해진다는 것이다.

기업 권력의 성격도 재규정된다. 수많은 고급 AI 과학자와 프로그래머, 전략가를 보유한 기업은 단순한 기술 회사가 아니라는 것이다. 근거가 제시된다. 국가보다 빠른 연구 개발 능력을 갖고 막대한 경제력과 여론 분석 능력을 보유할 수 있다는 것이다. 그리고 물리 세계로의 확장이 지적된다. AI가 로봇과 무기 설계까지 담당한다면 기업의 힘은 현실 세계로 확장된다는 것이다. 그래서 질문이 남는다. 그 AI를 누가 소유하고 누가 통제하며 AI가 만든 부를 누가 가져가느냐는 중요한 문제가 발생한다는 것이다.

승인 버튼이 형식이 되는 순간

통제의 겉모습이 먼저 제시된다. AI가 인간보다 뛰어난 판단을 내놓더라도 최종 승인 버튼은 인간에게 남아 있을 수 있으며 겉으로 보면 인간이 통제하고 있는 것처럼 보인다는 것이다.

그러나 조건이 붙는다. 인간이 AI의 판단 근거를 이해하지 못하고 그 제안을 거부할 전문성과 대안도 없다면 승인 버튼은 형식적인 권한에 불과하다는 것이다. 그래서 이양의 방식이 지목된다. 인간이 효율성과 경쟁을 이유로 스스로 판단권을 넘기는 방식으로 통제권이 이동할 수 있다는 것이다.

가장 위험한 순간이 재정의된다. AI가 갑자기 인간을 공격하는 순간만이 아니며 AI가 너무 유용해져서 아무도 끌 수 없게 되는 순간일 수 있다는 것이다. 그리고 상태가 서술된다. 모든 곳에서 AI에 의존하게 된다는 것이다.

그래서 책임의 방향이 뒤집힌다. AI가 인간 사회를 강제로 장악한 것이 아니라 인간 사회가 AI를 제거할 수 없는 구조로 스스로 들어간 것이라는 것이다.

예언이 아니라 실행

한계가 다시 명시된다. 이 영상에서 말한 연도는 확정된 예언이 아니며 기술적 한계와 전력, 반도체, 규제 때문에 몇 년씩 늦어질 수도 있다는 것이다.

하지만 한 가지는 분명하다고 못 박는다. AI 침투를 가장 빠르게 전망하는 사람들은 AI를 직접 개발하고 데이터 센터를 건설하고 로봇을 생산하는 기업의 CEO들이라는 것이다. 그리고 그들이 준비하는 것이 지목된다. AI가 인간 연구자를 돕는 수준을 넘어 AI 연구를 자동화하는 미래를 준비하고 있다는 것이다.

핵심 논점이 여기서 나온다. 이들은 미래를 예측하는 관찰자만이 아니라 실행자라는 것이다. 근거도 붙는다. 막대한 자금과 반도체, 데이터 센터와 인력을 투입해 그 일정을 실제로 앞당기는 당사자들이라는 것이다.

마지막 정리가 이어진다. 그래서 AI와 로봇의 침투는 여러분이 생각하는 것보다 훨씬 빠를 수 있으며 그 변화는 먼 미래에 시작되는 것이 아니라는 것이다. 그리고 현재 위치가 지목된다. CEO들이 제시한 시간표가 맞는다면 우리는 이미 첫 번째 단계 안에 들어와 있다는 것이다.

더 생각해보기

• CEO들이 완성 이후의 사회를 적게 말하는 것은 은폐인가, 아니면 그들도 모르기 때문인가.
• 네 사람의 전망을 하나의 시간표에 겹치는 방식은 각자의 전제와 이해관계 차이를 지워버리지 않는가.
• 예측하는 사람이 곧 실행자라는 지적은 그들의 전망을 더 신뢰할 근거인가, 덜 신뢰할 근거인가.
• 결과를 쉽게 평가할 수 있는 업무부터 자동화된다면, 평가가 어려운 업무는 안전한가 아니면 그냥 늦게 오는가.
• 기존 직원보다 신규 채용을 먼저 줄인다는 관측은 세대 간 부담 배분에서 어떤 문제를 낳는가.
• AI 기업이 자기 자신을 가장 먼저 자동화하는 구조는 외부 감시를 사실상 불가능하게 만들지 않는가.
• 물리적 병목이 남아 있다는 유보는 시나리오를 몇 년 늦추는 정도인가, 아니면 성격 자체를 바꾸는가.
• 승인 버튼이 형식적 권한이 되는 것을 막으려면 무엇을 유지해야 하며, 그 비용은 누가 부담하는가.
• 일자리가 정치적 선택이 된다면 그 선택은 어느 층위에서, 누구의 표로 결정되는가.
• 너무 유용해서 끌 수 없다는 진단이 맞다면, 지금 미리 남겨둬야 할 되돌림 장치는 무엇인가.