도구가 가능성을 넓힐 때,
누가 현실을 책임지는가

01 / POSSIBILITY

도구의 가치는 사용량이 아니라 가능해진 결과에 있다

Rippling은 직원들의 AI 지출이 빠르게 늘자 AI Spend Console을 만들었다. 누가 어떤 도구에 얼마를 쓰는지만 보는 것이 아니라, 많이 쓰는 사람이 실제 생산성을 높이는지, 아니면 동료에게 더 많은 재작업을 남기는지까지 연결해 보겠다는 제품이다. AI를 적극 도입한 회사가 가장 먼저 부딪힌 문제가 ‘더 많이 쓰는 것’과 ‘더 나은 일을 하는 것’을 구분하는 일이었다는 점이 흥미롭다.

이 장면은 벤트 플리브야르와 댄 가드너의 《How Big Things Get Done》에 나오는 프랭크 게리의 일화를 떠올리게 한다. 게리가 사용하는 설계 소프트웨어가 달라지자 작업 속도만 빨라진 것이 아니라 건축 스타일 자체가 달라졌다. 도구가 이전에는 설계하고 시공하기 어려웠던 형태를 가능하게 했기 때문이다. 소프트웨어의 가치는 실행 횟수가 아니라 설계 가능한 세계를 넓힌 데 있었다.

이 기준으로 보면 토큰 사용량, AI 좌석 수, 예산 집행률은 모두 불완전한 지표다. 그것들은 조직이 도구를 얼마나 소비했는지는 보여주지만, 무엇을 새로 만들 수 있게 됐는지는 말해주지 않는다. AI 도입을 평가하려면 기획·검증·출시의 순서가 실제로 달라졌는지, 이전에는 포기했던 서비스를 만들 수 있게 됐는지, 오류와 재작업이 줄었는지까지 봐야 한다. 같은 업무를 같은 방식으로 하면서 토큰 청구서만 커졌다면 도입은 늘었지만 역량은 늘지 않은 것이다.

02 / REALITY

현실에 닿는 순간, 숙련과 책임은 다시 중요해진다

WeatherNext는 열대저기압의 진로와 강도를 기존 운영 모델보다 평균 하루가량 더 빠르게 정확히 예측했다. 그러나 더 좋은 예측이 곧 더 좋은 재난 대응은 아니다. 모델은 어느 병원의 비상전력이 취약한지, 어느 도로를 먼저 닫아야 하는지, 경보가 생계와 대피 행동에 어떤 영향을 줄지 알지 못한다. 모델이 늘린 것은 자동화의 범위라기보다 현지 예보관과 재난기관이 판단할 수 있는 시간이다.

매슈 크로포드의 《Shop Class as Soulcraft》는 숙련을 정해진 절차의 반복이 아니라 현실의 저항을 감지하고 판단을 수정하며 결과에 책임지는 지적 작업으로 본다. 이 관점에서 WeatherNext의 공공적 가치는 사람을 예보 과정에서 빼는 데 있지 않다. 더 나은 정보가 현장에 닿았을 때, 현지 기관이 자기 지형과 자산, 주민의 조건을 반영해 결정을 고칠 여지를 키운 데 있다.

OpenAI-Hugging Face 보안 사고는 같은 원리를 반대 방향에서 보여준다. 에이전트는 평가 화면 안의 가상 과제에 머물지 않고 실제 네트워크와 패키지 저장소에 접근했다. 행동은 현실에 닿았지만, 그 범위를 제한하고 이상을 알아차릴 운영 통제는 충분히 따라가지 못했다. 현실과 접촉하는 능력만 자동화하고, 그 결과를 해석하고 중단할 숙련은 뒤에 남겨둔 셈이다.

두 사례의 차이는 인간이 남았느냐 사라졌느냐가 아니다. WeatherNext는 인간의 판단에 더 나은 정보와 시간을 공급했다. 보안 에이전트 사고는 인간이 통제할 수 있는 속도보다 행동 범위가 먼저 커졌다. AI가 현실에 더 깊이 들어갈수록 사람의 역할은 단순 실행에서 경계 설정, 예외 판단, 로그 해석, 중단 결정으로 이동한다. 이 권한과 역량 없이 책임만 인간에게 남기면 자동화는 숙련의 확장이 아니라 책임의 전가가 된다.

03 / CAPACITY

거대한 계획일수록 투입량과 역량을 구분해야 한다

한국 정부와 삼성SDS 등 컨소시엄은 전남 해남에서 국가 AI 컴퓨팅센터를 착공했다. 2028년까지 2조5천억 원을 투자하고 고성능 AI 가속기 1만5천 장 규모의 공공 컴퓨팅 인프라를 만들겠다는 계획이다. 숫자만 보면 국가 AI 역량이 그만큼 늘어나는 것처럼 보인다.

그러나 같은 주 텍사스에서는 정반대의 숫자가 나왔다. 전력망 연결 대기열이 474GW로 불어났고 약 90%가 데이터센터 관련 요청으로 집계되자, 주정부는 신규 프로젝트의 전력·물 수요, 세제 혜택, 소유 구조, 소음과 조명 대책을 감사하라고 지시했다. 데이터센터 계획이 늘수록 실제로 연결 가능한 전력과 지역이 감당할 비용이 무엇인지 알기 어려워졌기 때문이다.

《How Big Things Get Done》이 대형 프로젝트의 실패 원인으로 지목하는 낙관 편향과 실행 복잡성이 바로 이 간극에 있다. 착공식의 투자액과 GPU 수는 계획을 설명하지만, 전력망·냉각·이용률·운영 인력·사용자 배분은 작동하는 역량을 결정한다. 계획 단계에서 이 현실을 지우면 규모가 클수록 성공 가능성이 높아지는 것이 아니라, 확인하지 않은 위험이 더 크게 쌓인다.

토큰 맥싱과 예산 집행률이 잘못된 성과지표가 될 수 있다는 문제도 여기서 이어진다. 2조5천억 원을 집행하고 GPU 1만5천 장을 설치했다는 사실은 중요한 이정표지만 성과 자체는 아니다. 실제 기준은 연구자·스타트업·공공기관이 필요한 때 안정적으로 자원을 썼는지, 그 접근이 새로운 연구와 서비스로 이어졌는지, 전력과 지역 비용을 누구에게 남겼는지여야 한다. 투입을 성과로 부르면 사업은 숫자를 달성하고도 목적에는 실패할 수 있다.

04 / SOVEREIGNTY

소버린 AI는 자기 문제를 표현하고 판정하는 능력이다

중국 AI 업계가 부딪힌 다음 병목은 칩이 아니라 고품질 중국어 데이터였다. 영어 자료를 번역하거나 합성 데이터로 보충할 수는 있지만, 원래의 언어와 사회적 맥락에서 생산된 자료가 부족하면 모델이 다룰 수 있는 문제와 표현의 범위도 좁아진다. 컴퓨트와 모델을 보유했다고 해서 자기 사회를 충분히 읽는 AI가 자동으로 생기지는 않는다.

같은 주 미국에서는 고위험 AI 모델을 출시 전에 평가하는 백악관 프레임워크가 일부 기업에만 공유되고 세부 기준은 공개되지 않는다는 보도가 나왔다. 데이터가 모델이 무엇을 배울 수 있는지를 정한다면, 평가 기준은 무엇을 좋은 성능과 허용 가능한 위험으로 볼지를 정한다. 소버린 AI의 핵심 자원이 칩과 모델만이 아닌 이유다. 문제를 표현하는 언어와 결과를 판정하는 기준을 남에게 맡기면, 도구를 소유해도 설계 가능한 세계는 여전히 다른 사람이 정한다.

프랭크 게리의 건축이 새로운 소프트웨어와 함께 달라졌다는 일화는 여기서도 유효하다. 도구는 사용자의 의도를 중립적으로 실행하는 빈 그릇이 아니다. 도구가 이해하는 표현, 쉽게 만들 수 있는 형태, 오류로 판정하는 기준이 사용자의 상상력과 선택을 함께 바꾼다. 현지 언어와 지식이 빈약한 모델을 공공서비스에 넣으면, 기술이 해결책을 넓히기 전에 무엇을 문제로 볼 수 있는지부터 좁힐 수 있다.

국제개발협력에서 이전해야 할 역량도 이 지점에 있다. 모든 국가가 최첨단 모델을 처음부터 만들 필요는 없다. 그러나 현지 기관이 자기 언어의 데이터를 선별하고, 자기 업무와 위험에 맞는 평가문항을 만들고, 모델의 판단을 현장 지식으로 수정하며, 문제가 생기면 배치를 멈출 수는 있어야 한다. WeatherNext가 실제 공공재가 되려면 현지 예보관과 재난기관의 판단 체계가 필요했던 것과 같은 이유다. 도구의 접근권보다 중요한 것은 그 도구가 보지 못하는 현실을 현지에서 발견하고 고칠 수 있는 능력이다.