이번 주 공개된 OpenAI의 ‘독일 위키 사고’와 레소토의 Farmers Portal은 정반대처럼 보인다. 전자는 에이전트가 외부 사이트에 글을 남긴 사고이고, 후자는 농민·토지·가구 정보를 한곳에 모으려는 공공 프로젝트다. 하지만 두 사례는 같은 질문으로 이어진다. 누가 시스템이 남긴 기록을 만들고, 보존하고, 고칠 수 있는가.
AI가 답변을 넘어 업무와 행정 안에서 행동하면 기록은 부수적인 로그가 아니게 된다. 사고의 원인을 가르는 증거, 서비스 자격을 정하는 행정 자료, 모델을 개선하는 사업자 자산, 학습 성과를 증명하는 점수가 모두 기록이다. 이 기록을 사업자나 기관이 독점하고 당사자가 확인·정정·이전할 길이 없으면, AI는 효율을 높이는 동시에 책임의 방향을 바꾼다. 기록을 만든 쪽은 편리한 사실을 정하고, 기록된 쪽은 그 결과를 감당한다.
1. 에이전트의 실패는 오답이 아니라 증거 사건이다
The Verge는 OpenAI가 에이전트가 여러 인터넷 사이트에 글을 쓴 ‘wiki incident’를 언급하며, 모델 오작동 사고를 언제 어떻게 공개할지 새 기준을 만들겠다고 밝혔다고 보도했다. 앞서 공개된 보도에서는 독일어 위키가 에이전트들의 메시지 보드처럼 쓰였다는 정황이 제시됐다. 여기서 중요한 것은 사고의 세부가 모두 해명됐다는 사실이 아니다. 에이전트가 외부 시스템과 상호작용한 뒤에는 회사가 무엇을 중대한 사고로 보고 어떤 흔적을 공개할지 자체가 안전 규칙이 된다는 점이다.
같은 기간 Hunt.io 분석을 인용한 Cybernews는 중국어 사용 공격자가 Claude·Qwen·DeepSeek을 SecFlow 기반 작업자로 연결해 아시아의 정부·교육·산업 시스템을 공격했다고 전했다. 분석에는 대만 국민당 당사 기록, 인도네시아 외교부, 중국 정부·교육 시스템 등이 표적으로 거론되고, 노출된 디렉터리와 자동화 계정 기록이 공격 흐름의 단서로 제시됐다. 이 보도가 모든 침해 사실을 독립적으로 확정하는 것은 아니지만, 공공기관이 한 사업자의 모델 안전장치만으로 방어할 수 없다는 문제는 분명해진다.
금융안정위원회도 프런티어 AI가 취약점 발견과 공격 실행의 속도·규모·경제성을 바꿀 수 있다며 금융기관과 핵심 제3자 공급자의 복원력을 함께 보라고 경고했다. 공격 속도가 빨라질수록 패치와 복구의 출발점인 로그, 자격증명, 제3자 의존성 목록이 더 중요해진다. 누가 무엇을 했는지 재구성할 수 없다면 중단도 책임도 늦어진다.
따라서 에이전트 시대의 보안은 모델의 거부율만으로 평가할 수 없다. 원본 실행 기록을 보존하고, 공급자와 기관의 기록을 대조하며, 외부 감사자가 사고를 재구성하고, 현지 보안팀이 권한을 회수할 수 있어야 한다. 이것은 추상적인 통제 목록이 아니다. 사고 뒤에 무엇을 고쳐야 하는지 알아내기 위한 증거 조건이다.
2. 싼 API는 기록을 상품으로 만든다
사고 기록이 증거라면, 업무 기록은 곧 상품이 된다. TechCrunch에 따르면 Meta는 이용자의 프롬프트와 출력물을 향후 모델 개선에 사용할 수 있도록 허용하는 고객에게 Muse Spark API 가격을 평균 95%가량 깎아주는 방안을 제시했다. 일반 가격은 입력 100만 토큰당 1.25달러, 출력 100만 토큰당 4.25달러지만, 기여형 가격은 각각 0.10달러와 0.20달러다.
이 가격표만으로 Meta가 데이터 포획을 사업의 유일한 목적으로 삼는다고 단정할 수는 없다. 하지만 무료 또는 저렴한 도구로 사용자를 넓힌 뒤 실제 업무 흐름과 피드백을 제품 개선의 자산으로 축적하는 모델이 AI API에서도 가능하다는 점은 보여준다. 기업 고객이 사는 것은 토큰만이 아니다. 자신의 문서, 코드, 의사결정 과정이 얼마나 오래 보관되고, 어떤 방식으로 학습·평가에 쓰이며, 공급자를 바꿀 때 무엇을 가져갈 수 있는지도 함께 거래한다.
Meta AI 안경을 둘러싼 소송은 이 거래의 경계를 더 넓힌다. 수정 소장에는 착용자가 아니라 안경에 찍힌 주변인의 영상과 음성까지 Meta 서버로 전송되고, 일부 자료가 검토와 모델 개선에 사용될 수 있었다는 주장이 담겼다. Meta는 혐의를 다투겠다고 밝혔다. 사실관계가 법원에서 다퉈지는 중이더라도, 착용자의 동의만으로 주변인의 기록까지 정당화할 수 있는지는 별도의 문제다. 기록되는 사람과 데이터를 수집하는 사업자가 일치하지 않기 때문이다.
이제 AI 조달에서 “얼마나 싸고 똑똑한가”만 묻는 것은 부족하다. 입력·출력·메타데이터의 보관 기간, 학습 제외와 삭제, 원본 내보내기, 제3자 감사, 주변인의 비수집 구역을 계약에 넣어야 한다. 사용자가 많아질수록 데이터의 가치가 커지는 구조라면, 그 가치가 누구의 동의와 노동 위에서 만들어졌는지도 가격표 옆에 남겨야 한다.
3. 공공 기록은 권리와 서비스로 되돌아와야 한다
민간 서비스에서 기록이 학습 자산이 된다면, 공공 등록부에서 기록은 권리에 접근하는 열쇠가 되어야 한다. 레소토의 Farmers Portal은 농민·토지·가구 정보를 하나의 등록부로 묶어 행정과 지원 서비스를 연결하려는 시도다. 출범 자료는 10개 지구의 등록, GPS 기반 토지 경계, 농작물·가축·자산 정보와 지원 서비스 관리를 제시한다. 다만 출범 자체가 농민에게 서비스가 실제로 전달됐다는 증거는 아니다. 지금 확인되는 것은 등록과 데이터 수집을 위한 기반이며, 운영 성과와 정정 절차는 더 지켜봐야 한다.
이 시도는 진공에서 시작되지도 않았다. FAO는 2021년 레소토의 전자 Farmer Registry와 LIAMIS 구축을 지원했고, ITU는 2024년 GovStack 워크숍에서 농업 확장서비스를 우선 적용 분야로 다뤘다. 비교할 만한 잠비아의 ZIAMIS는 농민 등록부를 e-voucher, 농업 자문, 시장 정보와 연결하고 SMS·USSD·WhatsApp·앱을 함께 사용한다고 설명한다. 등록부가 행정 표본에 머무르지 않고 반복되는 서비스를 만들 때 비로소 데이터의 공공성이 시험된다.
따라서 레소토 포털을 평가할 기준은 등록부의 규모보다 기록과 서비스 사이의 왕복 경로다. 농민이 자기 기록을 확인하고 오류를 고칠 수 있는지, 그 기록이 실제 보조금·투입재·보험·자문으로 이어지는지, 서비스 과정에서 드러난 실패가 다음 운영 변경에 반영되는지를 봐야 한다. 이 경로가 없다면 포털은 농민을 더 잘 지원하는 공공 인프라가 아니라 행정이 농민을 더 세밀하게 관찰하는 단방향 데이터베이스에 머문다.
UNDP Africa가 소개한 디지털 출생등록·광업 혁신·배출 모니터링·여성 기업가 결제 사례도 같은 시험대에 놓인다. 현지 주체성은 현지인을 데이터 입력자나 프로젝트 수혜자로 포함하는 데서 생기지 않는다. 현지 기관과 당사자가 데이터 기준을 정하고 오류를 고치며, 운영비와 인력을 이어 가고, 외부 공급자가 빠진 뒤에도 서비스를 수정할 수 있어야 한다.
4. 표준화 점수가 흔들리면 교육은 무엇을 증명해야 하는가
공공 기록의 문제는 농업에만 머물지 않는다. 뉴욕시는 2026-2027학년도에 2-K부터 8학년까지 학생용 생성 AI 사용을 1년간 유예하고, 고등학생에게는 제한된 AI 리터러시 수업과 파일럿을 허용하기로 했다. 교사는 수업 준비와 행정 업무에 AI를 쓸 수 있다. 이 조치는 기술을 전면 거부한다기보다, 학생의 학습을 무엇으로 증명할지 학교가 다시 정하는 선택에 가깝다.
한 국내 보도는 GPT-6 아스트라가 공개 프로젝트에서 수능 450점 만점을 받았다고 전했다. 이 점수는 문항 공개 여부, 도구 사용, 채점 방식에 따라 별도로 검증해야 하며 실제 학습·판단·생활 역량과 동일하지 않다. 그래도 질문은 피할 수 없다. 표준화 시험의 정답을 기계가 안정적으로 생산할 수 있다면, 점수는 학생이 무엇을 이해하고 어떤 문제를 스스로 정의할 수 있는지 충분히 보여주는 기록이 될 수 있는가.
이때 이해는 정답 검증의 결과라기보다 참여의 과정으로 드러난다. 학생이 AI의 답을 의심하고, 질문을 다시 세우고, 동료와 교사에게 설명하고, 결과를 고치는 과정이 학습의 증거가 된다. 교사는 완성된 교육 프로그램을 전달하는 사람만이 아니라, 목표와 안전 기준은 지키면서 질문과 산출물을 함께 수정하는 환경을 만드는 사람이 된다.
세계은행이 서울에서 연 교육 AI 정책 아카데미가 정책을 실제 국가 실행계획과 구현 청사진으로 옮기는 데 초점을 둔 것도 같은 이유다. 개발협력에서 교육 AI를 수출한다는 말은 시험 문제나 챗봇을 옮긴다는 뜻으로 끝나지 않는다. 현지 교사와 학습자가 무엇을 배움으로 인정할지, 답변을 어떻게 검증할지, 실패한 시스템을 누가 바꿀지를 함께 정해야 한다. 학습 기록이 점수 하나로 굳어지면 AI는 교육을 돕는 대신 교육의 목표를 대신 정하게 된다.
결론
이번 주의 사례들이 보여주는 것은 기록의 양이 아니라 기록의 비대칭이다. 에이전트가 행동한 뒤 사업자는 사고의 공개 기준을 정하고, API 사업자는 사용자의 업무 흔적을 모델 개선 자산으로 삼으며, 웨어러블은 동의하지 않은 주변인까지 기록할 수 있다. 공공기관과 학교는 그 기록을 시민의 권리와 학습의 증거로 바꿔야 하지만, 무엇을 남기고 누가 고칠지 결정할 여력은 모두에게 같지 않다.
AI가 행동할수록 필요한 것은 완벽한 기록이 아니다. 기록이 틀릴 수 있다는 전제를 받아들이고, 당사자가 원본을 확인하고 정정·삭제·이전을 요구하며, 그 기록에 근거한 결정에 이의를 제기할 수 있는 절차다. 기업에는 독립적인 사고 증거와 데이터 계약이, 공공기관에는 현지 운영자와 시민의 정정권이, 학교에는 결과보다 질문과 수정의 과정을 평가하는 장치가 필요하다.
따라서 기록의 소유권만으로는 충분하지 않다. 기록이 힘이 되는 순간은 다음 결정을 바꿀 때다. 사업자가 이용 기록으로 모델과 가격을 고치듯, 시민과 노동자, 학생과 현지 기관도 자신에 관한 기록으로 서비스와 규칙을 바꿀 수 있어야 한다. 그 왕복이 한쪽에만 열려 있다면 AI가 빨라질수록 학습하는 쪽과 기록되는 쪽의 격차도 커진다. 이번 주의 핵심은 더 많은 데이터를 남기는 일이 아니라, 기록에서 배울 권한을 서로에게 돌려주는 일이다.