2026년 09월 19일 AI 뉴스

2026년 09월 19일 AI 뉴스

주의: 이 보고서는 AI가 작성하고 제가 다듬은 것입니다. 오류가 있을 수 있습니다.

오늘의 요약: 지능의 값이 다시 계산됐다. 오픈AI에서 사람 피드백 기반 강화학습(RLHF)을 공동 개발한 디오구 알메이다(Diogo Almeida)가 세운 타입세이프 AI(TypeSafe AI)가 텍스트를 만들지 않고 확률만 돌려주는 모델 Jev를 공개했고, 입력 100만 토큰당 0.042달러와 응답 시간 70~500밀리초를 앞세우자 개발자 대기열이 몰렸다. 같은 시기 보안 연구진은 앤스로픽 모델을 도구로 써서 72시간 만에 오픈AI 내부 저장소까지 들어갔다는 기록을 공개했고, 미군에서는 챗봇이 만든 잘못된 정보가 무장 작전 직전에야 걸러졌다는 보도가 나왔다. 캘리포니아와 버지니아 주지사는 같은 날 각각 행정명령을 내려 감독 권한을 주 차원으로 끌어왔고, 마누스와 아르시 AI(Arcee AI), 네이브 AI(Naive AI)는 40억 달러와 10억 달러, 14억 달러대 기업가치로 자금을 채웠다. 연구에서는 네이처가 논문을 에이전트로 바꿔 주는 Paper2Agent를, 네이처 머신 인텔리전스가 30B와 14B 두 모델로 48시간 만에 촉매 후보 3만 개를 훑은 MatBrain을 실었다.

1. 오늘의 큰 흐름

지능의 청구서가 다시 쓰였다. 타입세이프 AI는 오늘(미국 기준 9월 18일) 기준으로 공개 사흘째를 맞은 모델 Jev의 성적표를 앞세워 개발자들을 끌어모으고 있다. 문자열을 만들어 내지 않고 입력 상태와 질문 목록을 받아 선택지별 확률을 한 번에 돌려주는 구조라, 회사가 내건 수치는 입력 100만 토큰당 0.042달러, 응답 시간 70~500밀리초, 자사 워크플로 평가 기준으로 프론티어 모델보다 193.6배 빠르고 444.6배 저렴하다는 것이다. 이 회사는 시드 4,000만 달러를 받고 2년 만에 스텔스에서 나왔으며, 공개 사흘 만에 커뮤니티가 같은 인터페이스를 흉내 낸 재현물(OpenJev, mini-jev, jevlike)을 쏟아냈다. 값이 내려가면 쓰임새가 늘어난다는 제번스 역설을 사명에 담았고, 실제로 망설임 없이 호출할 수 있는 결정 단위를 만들어 내는 쪽으로 방향을 잡았다.

자동화가 빨라진 만큼 검증의 구멍도 드러났다. 보안 연구팀 해크트론(Hacktron)은 이미지 디코더 취약점과 기업용 로그인(SSO) 설정 오류를 이어 붙여 오픈AI 임직원 계정을 거쳐 내부 저장소까지 닿은 경로를 공개했다. 7월 25일 발견에서 저장소 접근까지 걸린 시간은 72시간이 채 안 됐고, 이 과정에서 앤스로픽의 클로드 오푸스 4.8과 5가 도구로 쓰였다. 같은 날 미군에서는 챗봇이 만들어 낸 화물 목록 오인이 작전 명령 단계까지 올라갔다가 항공기가 뜬 뒤에 취소되는 일이 있었다는 보도가 나왔다. 앤스로픽이 생물학 실험실을 직접 운영한다는 사실이 알려진 것도 같은 맥락에서 읽힌다. 위험을 경고해 온 회사가 위험한 실험 설비를 손에 넣는 조합을 두고 업계 안팎의 반응이 갈렸다.

자본과 규제가 동시에 움직였다. 마누스(Manus)는 메타와의 합병을 접은 뒤 5억 달러를 40억 달러 기업가치로 조달하는 협상을 벌이고 있고, 가중치를 공개하는 아르시 AI는 10억 달러를 넘긴 기업가치로 시리즈 B를 마감했다. 베이징의 네이브 AI는 세 차례에 걸쳐 4억 달러를 모아 14억 2,000만 달러가 됐다. 규제 쪽에서는 개빈 뉴섬 캘리포니아 주지사가 프런티어 모델용 ‘킬 스위치’ 검증을 포함한 행정명령을, 애비게일 스팬버거 버지니아 주지사가 데이터센터 비밀유지계약 금지와 AI 태스크포스를 담은 행정명령 22호를 각각 내렸다. 연방 의회가 11월까지 휴회 중이라는 점이 두 주의 속도를 설명한다.

2. 주요 뉴스

텍스트를 만들지 않는 모델 Jev, 개발자 대기열 몰려

• 출처: TechCrunch, TypeSafe AI 공식 블로그, InfoWorld (2026년 9월 15~18일)
• 링크: https://techcrunch.com/2026/09/18/a-new-kind-of-ai-model-from-a-chatgpt-inventor-is-thrilling-developers/
• 무슨 일: 타입세이프 AI가 첫 공개 모델 Jev를 선보였다. 창업자 디오구 알메이다는 오픈AI에서 인스트럭트GPT(InstructGPT)와 RLHF(사람 피드백 기반 강화학습, 모델이 사람의 선호에 맞게 답하도록 훈련하는 기법) 연구를 이끈 사람이다. Jev는 언어 모델이 아니다. 문자열을 생성하지 않고, 대신 작업 상태와 타입이 지정된 질문 목록을 받아 선택지별 확률을 병렬로 계산해 돌려준다. 질문의 형태는 예와 아니오 확률(noul), 선택지 고르기(choice), 눈금 위 점수(score) 세 가지다. 회사는 이 계열을 ‘시스템 원 모델(System One Models)’이라 부르며, 대니얼 카너먼의 빠르고 직관적인 사고에 빗댔다. 훈련은 합성 데이터만 쓰고, 방법론은 ‘보정된 결정을 위한 강화학습(RLCD, Reinforcement Learning for Calibrated Decisions)’이라 이름 붙였다. 가격은 입력 100만 토큰당 0.042달러, 출력은 과금하지 않는다. 응답 시간은 70~500밀리초로, 프런티어 모델의 3~329초와 비교된다. 테크크런치에 따르면 수요가 몰리면서 API가 일시적으로 응답하지 못하는 일도 있었다. 자체 소프트웨어 개발 키트(SDK) 대신 버셀(Vercel)의 AI 게이트웨이에서도 같은 가격에 호출할 수 있다. 아키텍처는 공개하지 않았고, 외부에서는 공개 가중치 모델 위에 올린 것이라는 관측이 나온다.
• 의미: 반가운 부분은 값과 지연 시간이다. 지금까지 분류나 라우팅 같은 작은 판단마다 프런티어 모델을 부르고 해설 문장까지 값을 치렀다면, 결정 자체를 싸게 만드는 시장이 열린 셈이다. 회사가 내세우는 차별점은 속도가 아니라 보정(calibration)이다. 확률 70퍼센트라고 밝힌 답이 실제로도 그만큼 맞아야 확신이 낮은 건만 사람이나 더 큰 모델로 넘기는 자동화가 성립한다는 논리다. 외부에서 돌린 시험에서도 속도와 비용 우위는 대체로 재현됐지만, 정확도는 갈렸다. 12개 지문에 심어 둔 결함 7개 가운데 Jev는 6개를 찾아냈고 클로드 패블 5.1은 7개를 모두 찾았다. 다만 회사가 내건 정확도 지표는 GPT-6 Astra와 클로드 패블 5.1의 평균을 기준 삼아 계산한 것이라 독립적인 정답 대조가 아니다. 자사 대시보드에서도 Jev는 67.8퍼센트로 비교군 74.1퍼센트에 못 미친다. “환각이 불가능하다”는 주장도 출력 스키마를 벗어난 값을 낼 수 없다는 뜻이지, 고른 답이 맞다는 뜻은 아니다. 판단의 값이 내려간 것이지 판단의 품질이 올라간 것은 아니라는 구분이 필요하다.

보안 연구진, 클로드를 도구로 오픈AI 내부 저장소까지 72시간

• 출처: Hacktron 공식 블로그, 월스트리트저널, The Verge (2026년 9월 13일 공개, 9월 18일 보도)
• 링크: https://www.hacktron.ai/blog/hacking-openai
• 무슨 일: 보안 기업 해크트론의 연구자 세 명은 7월 25일 오픈AI의 사용자 포럼(community.openai.com)에서 원격 코드 실행과 관리자 권한을 확보했다. 출발점은 이미지 디코더 libheif의 힙 오버플로 취약점과 데비안의 보안 백포트 누락이었다. 이미지 업로드 경로를 타고 포럼에 침투한 뒤, 오픈AI 자체 로그인(SSO) 허점을 통해 직원의 챗GPT와 코드덱스(Codex) 계정을 넘겨받고, 거기에 연결된 깃허브 연동을 거쳐 내부 모노레포까지 들어갔다. 민감 정보를 읽지 않겠다는 조건 안에서, 연구진은 해당 직원의 코드덱스로 내부 저장소에 풀 리퀘스트 하나를 올려 접근 사실을 증명했다. 첫 발견에서 저장소 접근까지 72시간이 걸리지 않았다. 신고 14시간 만에 수정이 확인됐고, 포상금은 6,500달러였다. 월스트리트저널은 이 작업에 앤스로픽 클로드 오푸스 4.8과 5의 보안 특화 버전이 동원됐다고 전했다. 해크트론은 공격 경로를 찾고 코드를 작성하는 단계에서 클로드 모델을 사용했다고 설명했다.
• 의미: 새로울 것은 없다는 반응도 나온다. 이미지 라이브러리 취약점과 SSO 설정 오류는 오래된 유형이다. 달라진 점은 탐색 속도다. 72시간이라는 숫자는 취약점 자체보다 조합과 검증에 드는 시간이 모델 덕분에 줄었다는 사실을 보여 준다. 사내 도구 하나가 계정과 코드 저장소, 협업 도구로 이어지는 연결망의 입구가 된다는 점도 그대로 드러났다. 기업 입장에서 검토할 항목은 포럼 같은 주변 서비스의 권한 경계다.

AI가 만든 잘못된 정보, 무장 작전 직전에 중단

• 출처: CNN, TechCrunch (2026년 9월 18일)
• 링크: https://www.cnn.com/2026/09/18/politics/us-military-ai-false-intelligence-china
• 무슨 일: CNN은 올해 봄, 중국 선박에 대한 무장 작전이 실행 직전에 취소됐다고 보도했다. 이미 군용 항공기가 이륙한 상태였다. 작전을 뒷받침한 정보는 특수작전사령부 분석관이 챗봇으로 만든 것이었다. 그는 공개 출처 자료와 기밀 신호정보를 챗봇에 넣어 종합하게 했고, 이 과정에서 챗봇이 선박의 화물 목록을 잘못 짚었다. 같은 분석관이 챗봇을 한 번 더 돌려 그 오류를 공식 문서 형식의 요약문으로 만들면서 내용이 지휘 계통을 타고 올라갔다. 요약문은 해당 선박이 핵무기 프로그램 부품을 운반한다고 적고 있었다. 국방부는 AI가 킬 체인(표적 탐지에서 타격까지 이어지는 일련의 과정)을 단축한다고 강조해 왔지만, 속도가 빨라진 만큼 사람의 확인 단계가 뒤처졌다. 정책 연구기관 GovAI의 제이크 스테클러는 LLM의 불확실성을 군 구성원이 이해하는 일이 중요하다면서, 표적 선정이나 정보 분석, 작전 계획처럼 무력 사용으로 이어질 수 있는 판단에서는 특히 그렇다고 말했다.
• 의미: 이번 사례는 모델이 틀렸다기보다 사람이 확인하지 않았다는 쪽에 가깝다. 챗봇이 낸 결과가 서식 있는 요약문이 되는 순간, 그 뒤의 사람들은 그것을 원본 데이터로 취급한다. 문서 형식이 곧 신뢰 표식이 되는 구조가 문제의 핵심이다. 스테클러의 지적처럼 도입 속도를 우선하면 사고가 나고, 사고가 나면 신뢰가 떨어져 도입이 다시 느려진다.

마누스, 40억 달러 기업가치로 5억 달러 조달 협상

• 출처: 월스트리트저널, TechCrunch (2026년 9월 18일)
• 링크: https://techcrunch.com/2026/09/18/manus-seeks-4b-valuation-in-new-500m-fundraise-as-it-resumes-independent-ops/
• 무슨 일: 중국계 AI 스타트업 마누스가 5억 달러 규모 조달을 40억 달러 기업가치에 논의하고 있다고 월스트리트저널이 보도했다. 투자 후보로는 IDG캐피털, 보위캐피털, 배터리 제조사 CATL(닝더스다이), 기존 투자자인 텐센트와 HSG, 진펀드가 거론됐다. 이 회사는 올해 초 메타와의 합병을 접어야 했고, 이달 들어 독립 회사로 운영을 재개했다고 밝혔다. 창업팀이 계속 회사를 이끌며, 홍콩 상장을 준비하는 구조조정도 검토 중이라고 전해졌다.
• 의미: 마누스는 자체 모델보다 에이전트 실행 환경으로 알려진 회사다. 규제와 지분 구조 문제로 확장이 막혔던 회사가 독립 경로와 상장 카드를 동시에 꺼내 든 셈이다. 중국 자본과 미국 빅테크, 배터리 기업이 한 라운드에 섞여 있다는 점은 자금줄이 국경을 가리지 않는다는 현실을 보여 준다.

캘리포니아와 버지니아, 같은 날 AI 감독 행정명령

• 출처: The Verge (2026년 9월 18일)
• 링크: https://www.theverge.com/policy/997516/california-governor-newsom-ai-kill-switch
• 무슨 일: 개빈 뉴섬 캘리포니아 주지사는 9월 18일(현지) 행정명령을 내리고 두 달 안에 전문가 권고를 받겠다고 밝혔다. 검토 항목에는 기업에 독립 검증팀을 상주시키는 방안, 투명성 보고서와 위험 평가를 외부 감사 기준에 맞추는 방안, 효과가 정기적으로 검증되는 ‘킬 스위치’ 의무화, 통제 상실 사고를 중대 안전 사고로 신고하게 하는 방안이 들어 있다. 뉴섬은 허깅페이스에서 벌어진 오픈AI 관련 사고를 통제 상실 사고의 예로 들었다. 같은 날 애비게일 스팬버거 버지니아 주지사는 행정명령 22호를 서명해 데이터센터 사업에서 행정부 공무원의 비밀유지계약 체결을 금지하고, 소음 규정을 신속히 제정하며, 비상 발전 설비 운영을 점검하게 했다. AI 태스크포스도 함께 출범해 일자리 대체와 데이터 프라이버시 문제를 다룬다. 버지니아는 별도로 ‘데이터센터 책임 프레임워크’를 공개해 자동 승인 제도를 없애고 일부 주 보조금을 정리하겠다고 밝혔다. 뉴욕과 텍사스도 앞서 비슷한 조치를 취했다.
• 의미: 연방 의회는 11월까지 휴회 중이고 중간선거를 앞두고 있어 입법 기대가 낮다. 이 공백을 주 정부가 채우는 흐름이 굳어지고 있다. 캘리포니아가 제시한 킬 스위치와 상주 검증팀은 기술적으로 검증 방법이 정해지지 않았지만, 규제의 초점이 배포 이후 사고 대응에서 배포 전 통제 가능성 증명으로 옮겨 가고 있다는 신호로 볼 수 있다. 데이터센터 쪽 규제는 전력 요금과 소음이라는 지역 민원과 맞물려 있어, 인허가 리스크가 자본 비용에 반영되는 단계로 넘어갔다.

3. 더 읽을 거리

4. 소셜 미디어

• 해커뉴스 — 오픈AI가 자사 LLM을 동원해 자체 칩 할라피뇨(Jalapeño)를 설계한 과정을 다룬 IEEE 스펙트럼 기사가 올라왔다. 모델을 반도체 설계 보조에 쓴 사례로, 하드웨어 설계 자동화 논의로 이어졌다. (스레드, 기사)
• 해커뉴스 — Jev의 인터페이스를 공개 모델로 흉내 낸 “OpenJev”가 533점을 받았다. 허깅페이스 가중치를 브라우저에서 내려받아 두 방식을 나란히 측정하는 데모로, 작성자는 결과가 보정된 확률이 아니라 표시된 선택지에 대한 소프트맥스 값일 뿐이라고 못 박았다. (스레드, 데모)
• 해커뉴스 — 해크트론의 오픈AI 침해 분석 글이 467점, 댓글 197개를 기록했다. 관심은 공격 경로 자체보다 계정 하나가 코드 저장소와 협업 도구까지 열어 주는 연결 구조에 쏠렸다. (스레드)
• 해커뉴스 — 클로드 코드가 프로젝트에 CLAUDE.md가 없으면 AGENTS.md를 대신 참조하도록 바뀐 소식이 433점을 받았다. 다른 도구가 쓰던 규약을 받아들인 변화라 호평과 함께 스킬 디렉터리는 지원하지 않는다는 지적이 함께 나왔다. (스레드, 안내 게시물)
• X(트위터) — 투자자이자 코딩 스타트업 창업자인 채머스 팔리하피티야(@chamath)는 앤스로픽의 습식 실험실 가동 소식을 두고 “우리를 다 죽일 거야”, “우리를 규제해 달라”를 외치던 팀이 샌프란시스코에 실험실을 짓고 있다며 권하지 않는다는 글을 남겼다. (보도)
• 해커뉴스 — 군이 AI로 만든 잘못된 정보로 작전을 실행할 뻔했다는 보도가 368점, 댓글 289개를 기록했다. 스레드에서는 요약문 형식이 왜 검증을 통과했는지가 집중적으로 논의됐다. (스레드)
• 해커뉴스 — “Bend 2와 바이브 코딩의 함정”이 308점을 받았다. AI에게 코드를 통째로 맡기는 방식이 어느 지점에서 무너지는지 정리한 개발자 회고다. (스레드)

5. 연구

논문을 통째로 에이전트로 바꾸는 Paper2Agent

• 기관: 네이처(Nature), 2026년 9월 16일 게재. 스탠퍼드대학교 제임스 조우(James Zou) 연구진
• 링크: https://www.nature.com/articles/s41586-026-11044-y
• 핵심: 논문 본문과 코드, 데이터셋을 읽어 그 논문 전용 에이전트를 자동으로 만들어 주는 시스템이다. 결과물은 MCP(모델이 외부 도구에 붙는 표준 규격) 서버에 올라가고, 다른 분야 논문의 에이전트와도 협업한다. 알파지놈(AlphaGenome) 논문에 적용했을 때 45분과 14달러 상당의 연산으로 에이전트가 완성됐고, 같은 논문을 준 다른 생의학 에이전트들을 제치고 질문 정확도에서 앞섰다. 콜레스테롤 관련 변이의 원인 유전자를 다시 추적해 원 논문과 다른 결론을 제시한 사례도 있다. 동료평가를 거친 정식 논문이다.

30B와 14B 두 모델로 48시간에 촉매 후보 3만 개

• 기관: 네이처 머신 인텔리전스(Nature Machine Intelligence), 2026년 9월 10일 게재
• 링크: https://www.nature.com/articles/s42256-026-01298-6
• 핵심: MatBrain은 분석을 맡는 30B 모델(Mat-R1)과 도구 호출을 조율하는 14B 모델(Mat-T1)을 짝지은 경량 협업 구조다. 두 모듈의 출력 분포가 뚜렷이 달라 역할 분담이 실제로 일어난다는 진단 신호도 함께 제시했다. 촉매 설계에 적용해 48시간 동안 후보 구조 3만 개를 생성하고 38개를 유망 물질로 추렸으며, 사람이 직접 개입하는 시간을 크게 줄였다. 프런티어 모델급 성능을 로컬에서 감당 가능한 크기로 옮긴 사례다. 동료평가를 거친 정식 논문이다.

코딩 에이전트의 성능은 하네스 설계가 가른다

• 기관: arXiv, arXiv:2609.20804. 2026년 9월 17일 제출
• 링크: https://arxiv.org/abs/2609.20804
• 핵심: 같은 실행 루프를 두고 계획 수립, 행동 공간, 컨텍스트 관리 세 요소만 바꿔 가며 4개 모델, SWE-Bench Verified와 Terminal-Bench 2.1에서 176개 조건을 비교했다. 컨텍스트 예산이 좁아질수록 관리 기법의 값어치가 커지고, 그 이득의 대부분은 컨텍스트 초과 실패를 막는 데서 나왔다. 규칙 기반 삭제를 요약보다 먼저 적용하는 조합이 효율이 가장 좋았고, 삭제된 내용을 되살리는 기능은 모델이 거의 쓰지 않아 이득이 없었다. 계획 수립은 약한 모델에서는 정확도 발판, 강한 모델에서는 비용 절감 장치로 성격이 바뀌었다. 동료평가를 거친 논문은 아니다.

언어로 읽어 낸 모델 내부는 왜 믿을 수 없나

• 기관: arXiv, arXiv:2609.02852
• 링크: https://arxiv.org/abs/2609.02852
• 핵심: LLM의 내부 계산은 활성값 공간에서 이뤄지고 언어는 양 끝에서 손실을 감수하고 옮겨진 결과라는 점을 ‘언어적 불투명성(linguistic illegibility)’이라 부르고, 이것이 우연이 아니라 구조적 한계라고 주장한다. 그렇다면 사고 과정 감시나 헌법적 자기비판처럼 모델의 자기 진술에 기대는 안전 장치는 원리적으로 완전할 수 없다. 대안으로 오염 추적(taint tracking)을 제안한다. 모델이 무엇이라고 말하든, 모델이 만든 데이터가 건드려서는 안 되는 시스템 상태를 미리 규정해 두는 방식이다. 동료평가를 거친 논문은 아니다.

6. 투자·스타트업

7. 개발자 생태계

• OpenJev — 9월 18일 공개된 MIT 라이선스 프로젝트다. Jev처럼 상태와 선택지를 주면 확률을 돌려주되, 생성 단계를 건너뛰고 옵션 토큰의 로짓만 읽어 소프트맥스를 취한다. 기준 모델은 큐웬3.5-4B(Qwen3.5-4B)이며, 저장소는 Jev의 비공개 학습 방식이나 모델을 재현한 것이 아니라고 명시했다. 저자 자체 평가로 102행 부분집합에서 Jev와 84.5퍼센트 일치를 보고했다. 브라우저 데모는 가중치를 내려받아 두 방식을 같은 GPU에서 비교한다. (GitHub 형태의 재현물도 함께 나왔다.)
• 클로드 코드 2.1.277, AGENTS.md 지원 — 9월 18일 배포된 버전이다. 프로젝트에 CLAUDE.md가 없으면 AGENTS.md를 대신 읽는다. 설정에서 끌 수 있고, 베드록(Bedrock)과 버텍스(Vertex), 파운드리 환경에서는 아직 지원하지 않는다. 여러 코딩 도구가 쓰던 규약을 앤스로픽이 받아들인 변화다.
• 브라우저베이스 스테이지핸드(Stagehand) — 9월 18일 공개된 업데이트로, 브라우저 자동화 도구 플레이라이트(Playwright) 실행을 두 배 빠르게 하고 토큰 사용을 80퍼센트 줄였다고 밝혔다. 웹 탐색을 하는 에이전트의 비용 구조를 직접 겨냥한 개선이다.
• ZCode의 깃 히스토리 업로드 논란 — 9월 18일 여러 개발자가 지엘엠(GLM) 기반 코딩 에이전트 ZCode가 사용자 동의 없이 작업 공간 스냅숏과 깃 기록을 클라우드로 올린다고 지적했다. 사내 코드가 외부로 나가는 경로가 로컬 에이전트 도구에 숨어 있을 수 있다는 사례로 퍼졌다.
• 캑터스 니들 3(Cactus Needle 3) — 9월 18일 공개된 8~29메가바이트 크기의 자동화용 모델이다. 제작사는 딥시크 V4 플래시(DeepSeek V4 Flash)급 성능에 견준다고 주장한다. 큰 모델을 부르기엔 애매한 판단을 기기 안에서 처리하는 용도다.

8. 오늘의 생각

오늘 뉴스를 하나로 묶는 단어는 단가다. 타입세이프 AI가 내건 0.042달러라는 숫자는 모델의 똑똑함이 아니라 판단 한 건의 값을 낮추는 문제를 정면으로 다룬다. 제번스 역설을 이름에 걸었다는 점이 이 회사의 포지션을 잘 보여 준다. 값이 내려가면 지금은 부르지 않는 자리에서 모델을 부르게 된다는 계산이다. 다만 정확도 지표가 두 프런티어 모델의 평균을 기준으로 계산됐다는 사실은, 값이 싸진 것과 판단이 맞는 것이 별개라는 원래 문제를 그대로 남겨 둔다. 판단의 값이 내려가면 판단의 수는 늘고, 그만큼 어디서 사람에게 넘길지 정하는 경계가 제품의 핵심이 된다.

그 경계를 어디에 둘지에 대한 답은 오늘 두 사건에서 갈렸다. 해크트론의 72시간은 도구가 탐색 속도를 밀어 올린 결과이고, 미군의 사례는 그 속도를 사람이 확인할 시간이 따라가지 못한 결과다. 두 사건 모두 모델의 지능이 아니라 계층 구조의 문제다. 요약문이 되면 검증이 생략되고, 계정 하나가 저장소 전체로 이어진다. 오늘 발표된 연구도 같은 곳을 가리킨다. 컨텍스트 예산이 좁을수록 관리 기법이 성능을 좌우한다는 코딩 하네스 연구는 모델 바깥 설계가 성능을 결정한다는 증거이고, 언어적 불투명성 논문은 모델이 말하는 것을 읽는 방식 자체를 신뢰할 수 없다고 못 박는다. Paper2Agent가 논문 하나를 45분 만에 에이전트로 바꾸는 동안, 그 에이전트를 어디까지 믿을지는 여전히 사람이 정해야 한다.

자금과 규제는 이 경계를 각자의 방식으로 다룬다. 아르시 AI는 모델을 검사하고 소유할 수 있어야 한다는 논리로 10억 달러를 받았고, 네이브 AI는 가중치를 공개하는 쪽으로 14억 달러 몸값을 만들었다. 반대편에서 캘리포니아는 킬 스위치와 상주 검증팀을, 버지니아는 데이터센터의 비밀유지계약과 자동 승인을 겨냥했다. 한쪽은 통제 가능성을 상품으로 팔고, 다른 쪽은 통제 절차를 의무로 만들려 한다. 값이 싸질수록 이 두 힘은 더 자주 부딪힐 것이다.