대화하는 AI에서 호출하는 지능으로 — TypeSafe의 조합 가능한 AI 선언

TL;DR

• TypeSafe는 경제적 가치를 만들 지능이 이미 충분하며 활용 방식이 병목이라고 주장한다. 사람과 대화하는 조수에서 소프트웨어가 호출하는 구성 요소로 AI의 형태를 바꾸자는 제안이다. AGI 달성을 객관적으로 입증한 연구 결과는 아니다.
• AI는 의미와 의도를 판단하고 코드는 정확한 계산을 맡는다. 작은 판단 기능을 검사하고 시험하며 제약할 수 있어야 그 위에 더 복잡한 시스템을 쌓을 수 있다. 조합 자체가 안전을 보장하는 것이 아니라 신뢰성이 조합의 전제다.
• 제시된 순서는 효율적인 기본 모델, 실제 자동화를 위한 신뢰성, 안정적인 상위 추상화다. 경제적 효과와 신뢰성은 앞으로 달성하려는 목표다. 선언문은 구체적인 성능·비용·안전성 검증 결과를 제공하지 않는다.

병목은 더 높은 지능보다 활용하기 어려운 형태에 있다

TypeSafe는 현재 모델이 이미 큰 경제적 가치를 만들 수 있을 만큼 유능하다고 본다. 그럼에도 많은 소프트웨어에 지능이 충분히 스며들지 못한 이유를 모델의 지식 부족보다 기존 시스템 위에 쌓아 올리기 어려운 형태에서 찾는다. 계속 바뀌는 AGI의 정의를 좇기보다 실제 자동화를 가능하게 하는 데 집중하자는 입장이다. 이는 회사가 선택한 문제 정의이며 현재 모델의 능력이나 경제적 성과를 측정해 입증한 결론과는 구별해야 한다.[1]

선언문은 초기 자동차가 마차의 형태를 그대로 따랐다는 비유로 이 문제를 설명한다. 새로운 기술이 기존 사용 방식에 갇히면 고유한 활용 형태를 찾기 어렵다는 뜻이다. 친절하고 유창한 조수는 사람이 상대편에 있을 때는 적절하지만 배경에서 다른 소프트웨어의 일부로 실행되는 지능에는 다른 요구가 생긴다. 대화의 만족도와 사람이 계속 확인하지 않아도 되는 자동화의 신뢰성은 같은 목표가 아니다.[1]

의미 판단은 AI에 맡기고 정확한 계산은 코드에 남긴다

조합 가능한 AI의 핵심은 프로그램이 필요한 순간에 호출하는 작은 판단 기능이다. 일반 코드가 명확한 값과 조건으로 분기하듯 상식과 문맥, 의도에 관한 판단도 시스템 안에서 사용할 수 있게 하자는 구상이다. 계산과 절차를 전부 모델에 넘기기보다 AI가 맡을 의미 판단과 코드가 잘하는 정확한 계산을 구분한다. 부록에서 설명하는 신경망과 기호적 논리의 결합도 이런 역할 분담을 지향한다.[1]

부록은 RLHF가 사람의 선호를, RLVR이 프로그램으로 평가할 수 있는 과제를 최적화한다는 차이도 짚는다. TypeSafe가 문제 삼는 것은 이런 학습 목표를 달성한 모델이 곧바로 안정적인 소프트웨어 구성 요소가 되는 것은 아니라는 점이다. 조합을 위한 인터페이스와 운영상의 예측 가능성은 별도로 다뤄야 한다. 다만 선언문은 구체적인 API나 오류 처리 규약, 검증 도구의 구현까지 설명하지는 않는다.[1]

신뢰할 수 있어야 여러 층 아래에 넣을 수 있다

시스템의 깊은 곳에 의존성을 넣으려면 잘 작동한다는 인상보다 강한 신뢰가 필요하다. TypeSafe는 개발자가 각 구성 요소를 살펴보고 시험하고 제약할 수 있어야 한다고 강조한다. 사람이 매번 확인하는 대신 배경에서 실행하게 하려면 신뢰성이 필요하고 그 결과에 다른 기능을 의존시키려면 그 신뢰를 더 넓은 구조에서도 유지해야 한다. 안전은 조합 뒤에 덧붙이는 성질이 아니라 조합을 시작하기 위한 조건이라는 설명이다.[1]

TypeSafe는 데이터베이스와 인터넷의 기반 기술 위에서 수많은 서비스가 생겨났듯, 지능이 안정적인 기본 기능이 되면 개발자들이 예상하지 못한 제품을 만들어낼 수 있다고 기대한다. 하나의 조직이 최종 응용을 모두 설계하는 방식보다 여러 개발자가 작은 기능을 결합하는 생태계를 지향한다. 하지만 기본 기능을 데이터베이스 쿼리만큼 믿고 호출할 수 있다는 비유는 도달하려는 상태다. 작은 판단 기능을 여러 개 연결했다는 사실만으로 복잡한 시스템의 안전성이 자동 증명된다는 뜻은 아니다.[1]

제품과 경제의 변화는 아직 목표로 제시되어 있다

선언문의 개발 순서는 세 단계다. 먼저 비용 대비 지능이 높은, 시스템 통합에 맞는 새로운 형태의 기본 모델을 제공한다. 다음에는 실제 자동화를 가능하게 할 만큼 신뢰성을 높이고 그 위에서 안정적으로 조합할 수 있는 상위 지능 추상화를 제공한다. 현재 대화형 모델을 묶는 방법만을 소개하는 글보다는 어떤 모델과 소프트웨어 기반을 만들겠다는 회사의 방향 선언에 가깝다.[1]

TypeSafe는 부록에서 경제 혁명을 더 구체적인 목표로 정의한다. 전 세계 총요소생산성(TFP) 증가율이 5년 안에 3%에 도달하고 그 수준을 10년간 유지하는 상태를 선호하는 정의로 제시한다. AI의 이익이 경제 전반에 퍼지기를 바라는 목표이며 이미 관찰된 효과나 검증된 예측과는 구별해야 한다. 이 선언문에서 가져올 설계 원칙은 지능의 크기만 비교하지 않고 어떤 판단을 소프트웨어의 일부로 맡길지와 그 판단을 어떻게 검사하고 제한할지 함께 묻는 데 있다.[1]

참고 자료

[1] https://typesafe.ai/manifesto — Composable AI: Build Prod, Not God — TypeSafe AI