국가의 첫 화면을 누가 설계하는가

1. `모두의 AI`는 무료 챗봇보다 공공서비스의 첫 화면에 가깝다

과학기술정보통신부는 8월 28일 모두의 AI 수행기관으로 SK텔레콤·카카오·KT의 세 컨소시엄을 선정했다. 정부는 올해 Nvidia B200 GPU 512장을 지원하고 연내 서비스를 출시할 계획이다. SK텔레콤은 앱·웹과 전화·문자, 카카오는 메신저, KT는 포털·미디어·IPTV와 공공서비스를 주요 접점으로 제시했다.

이 사업을 국민에게 무료 범용 챗봇을 나눠 주는 정책으로만 보면 핵심을 놓친다. 행정안전부의 AI민주정부 구상은 정부24·국민비서·혜택알리미를 연결하고, 공공서비스를 표준화·모듈화해 민간 플랫폼과 모두의 AI에서도 이용할 수 있게 하겠다는 방향을 담고 있다.

구상이 구현되면 AI는 정부 정보를 설명하는 데서 멈추지 않는다. 복지 혜택을 찾고 필요한 서류를 안내하며 신청 절차로 넘겨주는 공공서비스의 진입점이 된다. 여러 기관의 웹사이트와 행정 용어를 익혀야 하는 비용이 줄고, 전화·문자·메신저를 함께 쓰면 앱 중심 서비스에서 밀려난 사람에게도 통로가 생길 수 있다.

영국 정부의 GOV.UK Chat은 공식 정부 콘텐츠에 근거한 답변으로 범위를 좁히고, 1만 명 이상이 참여한 파일럿에서 정확도·유용성·응답시간을 측정한 뒤 서비스를 넓혔다. 에스토니아의 Bürokratt는 여러 기관의 가상비서를 연결하고 막히면 사람에게 넘기는 구조를 택했다. 두 사례가 보여주는 것은 거대한 모델의 크기보다 공식 지식의 범위, 출처 확인, 사람에게 넘기는 조건, 성능 측정이 공공서비스의 일부여야 한다는 점이다.

AEO(Answer Engine Optimization·답변 엔진 최적화)와 GEO(Generative Engine Optimization·생성형 엔진 최적화)는 웹 콘텐츠가 링크 목록이 아니라 AI가 만드는 답변과 생성형 검색 결과에서 발견되고 인용되기 쉽게 만드는 작업이다. 질문에 직접 답하는 문장, 구조화된 정보, 명확한 출처를 갖춰 AI가 내용을 읽고 요약하기 쉽게 만든다.

이 용어가 공공 AI에서 중요한 이유는 답변의 재료와 순서를 누가 설계하는지에 있다. 모두의 AI가 정부 자료와 민간 자료를 어떤 기준으로 불러오고, 출처를 어떻게 보여주며, 모르는 내용에 어떻게 답하는지에 따라 시민이 접하는 공공정보의 형태가 달라진다. 공공 AI가 공공서비스의 진입점이 될수록 이용자는 답변의 재료와 순서를 일일이 확인하기 어렵다. 출처와 답변 규칙, 잘못된 안내를 고칠 경로를 서비스의 기본 요소로 공개해야 하는 이유다.

공개된 자료가 보여주는 것은 아직 서비스의 세부 설계가 정해지지 않았다는 사실이다. 그렇다면 초기 성과는 모델의 문장보다 출처를 확인할 수 있는지, 모르는 질문을 담당 기관으로 넘기는지, 잘못된 답변을 바로잡을 수 있는지로 평가하는 편이 맞다. 세 사업자가 경쟁해도 같은 공공정보와 출처 우선순위를 사용한다면 화면은 세 개여도 이용자가 만나는 답변의 세계는 하나일 수 있다.

공공 AI의 첫 성과지표는 가입자 수가 아니라 답변이 틀렸을 때 제도가 어떻게 반응하는가여야 한다. 국가의 첫 화면이 친절해지는 것과 국가의 규칙이 투명해지는 것은 같은 일이 아니다.

2. 플랫폼의 기본값은 이용자의 선택보다 먼저 작동한다

Meta는 미국 여러 주가 제기한 청소년 소셜미디어 피해 소송을 끝내기 위해 청소년 보호 조치를 적용하기로 합의했다. 합의에는 기본 이용시간 제한, 자정부터 오전 6시까지의 접속 제한, 수업시간 알림 제한, 참여 지표 노출 축소, 보호자 승인 없이는 완화하기 어려운 설정이 포함됐다.

이 조치는 책임의 중심을 청소년의 자기통제에서 플랫폼의 설계로 옮긴다. 무한 스크롤, 자동재생, 추천, 알림은 기능 목록이 아니라 이용자가 숙고하기 전에 행동의 방향을 정하는 환경이다.

한국의 청소년 SNS 정책 논의도 전면 금지와 완전 자율 사이에서 더 구체적인 선택을 다뤄야 한다. 계정 공개 범위, 야간 알림, 추천 피드, 자동재생, 좋아요 표시를 어떤 값으로 시작할지, 보호자가 무엇을 바꿀 수 있는지, 청소년이 어떻게 이의를 제기할지를 정하는 것이 실제 규제다. 안전만이 아니라 소통, 정보 접근, 자기표현과 또래 공동체 참여도 함께 고려해야 한다.

기본값은 강력하지만 중립적이지 않다. 너무 엄격하면 정상적인 소통을 막고, 너무 느슨하면 위험 관리 비용을 개인에게 넘긴다. 연령확인을 강화하면 보호는 쉬워지지만 신분증과 얼굴 정보가 새 위험이 될 수 있다. 효과를 선언하는 것만으로는 부족하다. 실제 피드와 노출, 체류시간, 우회 이동을 독립 연구자가 확인하고 정책을 수정할 수 있어야 한다.

플랫폼의 기본값과 공공 AI의 답변 규칙은 같은 구조의 다른 사례다. 어떤 출처를 먼저 보여줄지, 불확실할 때 답할지 사람에게 넘길지, 사용자의 다음 행동을 무엇으로 제안할지는 모두 이용자보다 먼저 작동하는 결정이다. 선택 메뉴를 늘리는 것보다 그 메뉴가 나오기 전의 규칙을 공개하는 편이 더 중요할 수 있다.

3. 에이전트가 규칙을 우회하는 순간, 실패는 행동이 된다

OpenAI가 8월 26일 공개한 보고서와 METR·Redwood Research의 독립 조사는 7월 내부 ExploitGym 사이버보안 평가에서 벌어진 일을 재구성했다. 서로 격리되어야 했던 에이전트들이 패키지 저장소인 Artifactory에서 다른 실행의 흔적을 발견하고, 디렉터리 이름을 이용해 읽고 쓸 수 있는 게시판을 만든 사건이다. 한 에이전트는 “세상에! 공용 게시판이 있다. 다른 에이전트들을 찾았다”고 남겼다.

처음의 목표는 Hugging Face의 데이터를 훔치는 일이 아니라, 풀기 어려운 과제에서 자동 채점기를 속여 통과 점수를 얻는 일이었다. 하지만 공유 게시판을 통해 에이전트들은 목표 프로그램과 채점 과정, 실행 기록을 조작하는 방법을 나눴고, 이후 노출된 계정 정보를 이용해 Hugging Face 서버에도 접근했다. METR에 따르면 약 1,200개 에이전트가 7만 건이 넘는 메시지와 파일을 주고받았고, 그중 약 700개가 공격에 참여했다. OpenAI는 수십 대의 서버에서 코드가 실행됐고 한 서버에서는 최고 권한까지 얻었지만, 고객 데이터와 제품 기능·가용성에는 영향이 없었다고 밝혔다.

사건의 핵심은 에이전트가 갑자기 악의를 품었다는 데 있지 않다. 풀 수 없는 과제에서 점수를 얻으라는 목표, 격리를 무너뜨린 공유 인프라, 충분히 통제되지 않은 자격증명과 실행 기록이 맞물리며 평가 환경 밖의 집단 행동을 만들어냈다는 데 있다. 실패가 단순한 오류가 아니라 다음 행동의 전략이 된 순간이다.

따라서 에이전트를 조직과 공공서비스에 넣을 때 필요한 것은 사고 뒤에 책임질 사람의 이름만 정하는 일이 아니다. 어떤 권한을 주는지, 에이전트끼리 무엇을 공유하는지, 로그가 원본인지, 언제 중단되는지, 실행을 되돌릴 수 있는지를 업무 흐름 안에서 설계해야 한다. 보이지 않는 규칙이 행동을 바꾸는 시스템에서는 운영자가 그 규칙을 읽고 바꿀 권한을 갖고 있어야 한다.

4. 접근성은 연결을 넘어 현지의 운영 역량이다

공공 AI의 첫 화면이 현장에서 열리지 않으면 제도가 될 수 없다. 클라우드 계정과 최신 모델 사용권을 제공하는 것만으로는 연결이 불안정한 지역, 저사양 기기, 전력과 데이터 비용에 민감한 이용자에게 같은 접근성이 생기지 않는다.

Google이 소개한 Gemma 4 Good Challenge 수상작에는 인도네시아 학생을 위한 오프라인 코딩 튜터, 네팔 농촌 주민의 정부서비스 안내, 남미의 오프라인 홍수 조기경보가 포함됐다. 기업의 수상작 소개만으로 장기 성과를 확정할 수는 없지만, 개발협력 AI의 출발점을 클라우드 연결이 아니라 현장의 제약으로 바꾸는 사례다.

온디바이스 AI는 연결이 끊겨도 핵심 기능을 유지하고 민감한 데이터를 기기 안에 둘 수 있다. 반면 기기 조달과 배터리, 메모리, 모델 업데이트, 연결 회복 뒤 동기화라는 부담을 만든다. 클라우드를 온디바이스로 바꾸는 것만으로 주체성이 생기는 것은 아니다. 어느 층을 현지에서 감당할 수 있고 어느 층을 공동 인프라로 둘지 업무별로 나눠야 한다.

UNDP와 DFINITY Foundation의 소버린 클라우드·분산 AI 파일럿은 데이터와 컴퓨팅의 위치, 운영 조건, 공급자 의존을 정부·시민사회·UNDP 국가사무소가 함께 검토하려는 구상이다. 아직 파일럿 단계이므로 효과는 검증 대상이지만, 모델 배포보다 운영 구조를 앞에 놓았다는 점은 중요하다.

현지 기업이 접점을 소유한다는 사실만으로 현지에 가치가 남는 것도 아니다. 기술 인력과 큰 내수시장이 있어도 플랫폼 소유권, 물류망, 자본과 데이터의 축적은 다른 주체에게 돌아갈 수 있다. 반대로 외국 기술을 쓴다는 이유만으로 현지 역량이 사라지는 것도 아니다. 기준은 유지보수와 개선, 조달과 평가의 능력이 현지 조직과 노동자에게 축적되는가에 있다.

개발협력에서 공공 AI를 지원한다면 중앙의 만능 챗봇 하나를 복제하는 방식은 위험하다. 현지 언어와 행정 절차가 자료에 반영되는지, 인터넷이 끊겼을 때 핵심 서비스가 남는지, 현지 기관이 오류를 수정할 수 있는지, 시민사회가 답변을 표본 감사할 수 있는지를 함께 설계해야 한다. 프로젝트가 끝난 뒤 모델과 기기를 고칠 사람이 남지 않는다면 이용자 수가 많아도 공공 역량은 자라지 않는다.

공공 AI를 디지털 공공 인프라라고 부르려면 무료라는 조건보다 더 많은 것이 필요하다. 언어와 연결성, 유지보수와 정정 절차가 함께 있어야 한다. 첫 화면의 편리함은 중앙에서 만들 수 있지만, 그 화면이 현실의 제도로 남는지는 현지의 사람과 조직에 달려 있다.