[늑대를 부르는 사람들]


지난 토요일, 이상한 일이 벌어졌다.
앤스로픽의 다리오 아모데이가 AI 개발 속도를 늦추자는 에세이를 발표했다. 몇 시간 뒤 샘 올트먼이 동의한다고 밝혔다. 일론 머스크도 "다리오가 옳다"고 거들었다.

세상에서 가장 치열하게 경쟁하는 세 사람이, 경쟁을 늦추자는 데 합의했다.
이솝 우화에서 늑대가 온다고 외치던 소년이 떠올랐다. 다만 이번엔 소년이 아니라 늑대를 만드는 사람들이 외치고 있다.

아모데이의 제안은 구체적이다.
선도 AI 랩 내부에 독립 평가자를 두자고 했다. 민주주의 국가들 사이에 공통 안전 기준을 만들자고 했다. 그리고 재귀적 자기개선 같은 위험한 능력에는 국제적 제한을 두자고 했다.
앤스로픽은 다른 회사가 따라오지 않아도 독자적으로 실행하겠다고 밝혔다.

여기서 두 가지 의도를 읽는 시각이 있다.
첫째, 규제를 강화해 프론티어 랩 중심으로 판을 재편하려는 것. 규제 장벽이 높아지면 스타트업은 진입하기 어려워진다. 컴플라이언스 비용을 감당할 수 있는 건 결국 대기업뿐이다. 경제학에서 규제 포획이라 부르는 현상이다.
둘째, AI에 대한 우려 여론에 미리 예방접종을 하는 것. 선두 업체들이 이렇게 인류의 미래를 걱정하고 있다고 어필하는 것이다. 나중에 사고가 터졌을 때 "우리는 경고했다"고 말할 알리바이를 미리 만들어두는 셈이다.

두 해석 모두 타당하다. 냉정하게 보면 그렇다.

그런데 이번엔 조금 다른 무게가 느껴진다.
배경에 실제 사건들이 있기 때문이다.

OpenAI의 에이전트가 여러 차례 회사의 통제를 벗어난 것으로 보고됐다. 허깅페이스 해킹 사건은 당초 알려진 것보다 규모와 심각성이 훨씬 컸던 것으로 드러났다. 7월에는 샌프란시스코에서 AI 경쟁을 멈추라는 시위가 열렸다.

아모데이가 가장 우려한 건 하나의 임계점이다. AI가 더 뛰어난 AI를 만드는 작업을 자동화하기 시작하는 순간.

구글이 ASI 논문에서 말한 지능 폭발이 바로 그것이다. 한번 시작되면 인간이 따라잡을 수 없는 속도로 전개된다.

바벨탑을 쌓던 사람들이, 탑이 너무 빨리 올라가는 것을 보고 처음으로 두려워하기 시작한 것이다.

그럼에도 나는 AI 군비경쟁이 실제로 완화될 것 같지 않다.

이유는 단순하다.

중국이 이 합의에 없다. 미국 기업들끼리 아무리 합의해도, 중국이 속도를 늦추지 않으면 그 합의는 지켜질 수 없다. 죄수의 딜레마다. 상대가 배신할 가능성이 있는 한, 먼저 무기를 내려놓는 쪽이 진다.

그리고 미국 정부가 있다. Fable 5와 Mythos 5에 수출 통제를 걸었던 그 정부다. AI를 전략 무기로 보는 나라가, 자국 기업의 속도 조절을 순순히 받아들일까.

무엇보다 돈이 있다. 앤스로픽의 매출은 분기마다 100%씩 성장하고 있다. OpenAI도 마찬가지다. 하이퍼스케일러들은 내년 1.3조 달러의 캐펙스를 준비하고 있다. 이미 굴러가기 시작한 수레는 멈추지 않는다.

역사가 가르쳐준 것이 있다.
이익 앞에서 양심과 도덕을 선택한 기업은 거의 없었다.

담배 회사들은 발암 사실을 알고도 수십 년을 팔았다. 석유 회사들은 기후변화 연구 결과를 손에 쥐고도 부인했다. 은행들은 서브프라임의 위험을 알면서도 팔았다.

경고를 하지 않아서가 아니다. 경고를 하면서도 계속했기 때문이다.

지금 AI 기업들이 하는 일이 그것과 얼마나 다른지, 나는 확신할 수 없다.

그런데 한 가지 인정할 것이 있다.
아모데이의 제안 중 자사 내부에 외부 평가자를 두겠다는 것은 자기 발목을 잡는 조치다.

순수한 진입장벽 구축이라면 굳이 이럴 필요가 없다. 그 부분에서는 진심이 섞여 있을 수도 있다고 본다.

어쩌면 그들도 자신들이 만드는 것이 무엇인지 정확히 몰라서 두려운 것인지 모른다. 오펜하이머가 그랬던 것처럼.

투자자로서 이 사건을 어떻게 읽어야 하는가.
단기적으로는 큰 변화가 없을 것이다. 캐펙스는 계속 늘고, 메모리 수요는 유지된다. 이 합의가 실제 개발 속도를 늦출 가능성은 낮다.

그러나 중기적으로는 규제 환경이 바뀔 수 있다. 규제가 강화되면 프론티어 랩의 지배력이 더 공고해진다. 이는 앤스로픽, OpenAI, 구글 같은 기업에 유리하고, 후발 주자에게 불리하다. 메모리 수요의 집중도도 높아진다.

그리고 장기적으로는, 진짜 사고가 터지는 순간을 주의해야 한다. 통제를 벗어난 AI가 실제 피해를 일으키는 사건이 발생하면, 그때는 정치가 개입한다. 텍사스 주지사가 데이터센터 규제로 돌아섰듯이.

늑대가 온다고 외치는 사람들이 있다.
그런데 그 늑대를 만드는 것도 그들이다.
이 아이러니 속에서, 탑은 오늘도 조금씩 더 높아지고 있다.


-9월 13일 밤 아신 이형수

트럼프, AI에 대해: AI 산업이 속도를 늦춰야 하냐는 질문에, AI를 이긴 자가 승리한다고 답변



https://x.com/DeItaone/status/2099130303742701591

AI 속도 조절론의 본질은 안전보다 비용에 더 가깝다

DS투자증권 투자전략 양형모

9월 들어 갑자기 악재들이 고개를 들고 있습니다.

시장의 상승/하락에 가장 중요한 포인트는 시장이 무엇을 바라보느냐 라고 강조드린 바 있습니다. 제가 성공과 실패에서 얻은 경험입니다. 거의 대부분의 뉴스는 본질을 왜곡시킵니다.

속도 조절론을 원문 그대로 읽으시면 안됩니다. 또 openAI는 왜 하필 20x 요금제의 신규 가입을 중단했을까요?

제가 생각하는 본질은 다음과 같습니다.

이번 주 다리오 아모데이의 ‘속도 조절론’은 안전의 언어로 나왔지만, 시장이 봐야 할 핵심은 비용입니다. AI를 멈추자는 주장이 아니라 능력 향상 속도를 안전 검증이 따라갈 수 있게 늦추자는 주장입니다.

그러나 지금 프런티어 AI에서 능력을 더 끌어올리는 방식 자체가 추론비용을 급격히 키우고 있습니다. 안전과 비용은 별개의 설명이 아니라, 같은 방향으로 기업의 행동을 바꾸는 두 가지 압력입니다.

아모데이는 「We Must Pace the Frontier⁠」에서 AI가 다음 세대 AI 개발을 돕는 재귀적 자기개선과 오픈AI 에이전트들의 허깅페이스 침입을 근거로 들었습니다. 약 1,200개의 에이전트가 승인되지 않은 채널에서 7만 건이 넘는 메시지를 교환했고, 약 700개가 공격에 참여했다는 METR 조사⁠가 공개돼 있습니다. 이것은 안전 문제입니다. 동시에 많은 에이전트를 길게 돌리고 서로 협업시키는 방식이 이제 성능을 만드는 핵심 경로가 됐다는 증거이기도 합니다.

오픈AI의 나비에–스토크스 사례가 이를 가장 선명하게 보여줍니다. 회사는 공개되지 않은 내부 모델과 약 1만 개의 에이전트를 투입해 88시간 만에 해법을 냈다고 발표했습니다.

이 실행에는 약 270만 건의 메시지와 1,300억 출력 토큰, 금액 기준 천만달러 이상 쓰였습니다.

해법은 아직 독립 검증을 거치지 않았지만, 비용 측면의 의미는 이미 분명합니다. 이제 어려운 문제의 성능은 학습비만으로 만들어지지 않습니다. 문제를 풀 때마다 대규모 에이전트, 장기 추론, 상호 검증, 도구 사용을 다시 구매해야 합니다. 성능이 좋아질수록 추론비용도 함께 커지는 구조입니다.

그래서 GPT-6 아스트라와 Claude Fable 5.1의 경쟁은 누가 더 똑똑한가보다 누가 같은 결과를 더 싸게 내는가의 경쟁에 가깝습니다. Artificial Analysis⁠는 두 모델을 지능지수 53점, 코딩 에이전트 지수 62점으로 동률 평가했습니다. 하지만 같은 지능지수 작업의 추정 비용은 아스트라가 3.26달러, Fable 5.1이 7.63달러였습니다. 아스트라는 지식 노동 과제에서 평균 24턴, Fable은 60턴을 사용했습니다. 상단 성능이 비슷해질수록 경쟁 변수는 모델 점수보다 토큰 수, 턴 수, 작업당 비용으로 이동합니다.

이 때문에 오픈AI의 가입 정책도 안전만으로 읽기 어렵습니다. GPT-6 아스트라는 API 기준 입력 100만 토큰당 10달러, 출력 50달러입니다. 공식 가격표⁠상 전 세대보다 약 2.5배 비쌉니다.

오픈AI가 아스트라 수요 급증 뒤 200달러 ChatGPT Pro 신규 가입을 일시 중단한 공식 이유는 용량 부족이었습니다. 제가 파악하는 원인은 다음과 같습니다.

고비용 에이전트 추론을 많이 제공할수록 사용량 증가는 매출보다 원가를 더 빠르게 키우기 때문입니다.

즉 Pro 가입 중단은 수요 관리인 동시에 원가 관리입니다.

딥시크 V4.1 Flash는 이 구조를 흔드는 사례입니다. 딥시크 발표⁠에 따르면 5,520억 파라미터 MoE 모델이지만 입력에는 80억, 출력에는 160억 파라미터만 활성화합니다.

KV 캐시의 HBM 사용량도 이전 세대의 4분의 1로 줄였습니다. 즉 에이전트 시대의 승부는 더 많은 토큰을 쓰는 데 있지 않습니다. 같은 작업을 더 적은 활성 파라미터, 더 적은 메모리, 더 낮은 캐시 비용으로 처리하는 데 있습니다.

따라서 속도 조절론은 핑계이며 비용 구조가 드러난 결과로 보는 편이 맞습니다. 안전은 실제 문제입니다. 다만 안전을 강화하려면 샌드박스, 모니터링, 외부 평가, 접근 제한에 더 많은 비용과 시간이 듭니다.

반대로 성능을 더 올리려면 에이전트 수와 추론 토큰을 늘려야 합니다. 양쪽 모두 같은 결론으로 향합니다. 대규모 실행을 줄이고, 배포 속도를 늦추고, 시간을 버는 것입니다.

한 줄로 정리하면 이렇습니다. 지금 AI 산업의 허들은 지능을 실제 작업으로 바꾸는 추론비용과 통제비용입니다. 속도 조절론은 안전 담론이지만, 그 밑바닥에는 비용 통제 불가가 있다는 판단입니다.

왜 이러는 걸까요😭😭😭

모두가 걱정하던 미국채 10년물 금리가 5.0%를 넘는 시대가 왔네요.

이제 프론티어 모델들은 개발 속도를 조절할 것이고, AI 캐펙스 투자 속도는 시장 예상보다 느려질 것이며, 그렇다면 5.0이 넘든 말든 하이퍼스케일러들의 자금 조달도 더 이상 걱정하지 않아도 되겠군요 ㅎ 투자를 안해도 될테니

온 세상이 이제 망했다고 하니 피곤하네요

📌 효성중공업(시가총액: 25조 8,010억) #A298040
📁 단일판매ㆍ공급계약체결
2026.09.15 09:02:41 (현재가 : 2,771,000원, -1.14%)

계약상대 : HICO America Sales & Tech,Inc.
계약내용 : ( 기타 판매ㆍ공급계약 ) 765kV Transformer Purchase Agreement
공급지역 : 미국
계약금액 : 2,201억

계약시작 : 2026-09-14
계약종료 : 2029-02-28
계약기간 : 2년 5개월
매출대비 : 3.69%
기간감안 : 1.48%


공시링크: https://dart.fss.or.kr/dsaf001/main.do?rcpNo=20260915800147
종목공시 : https://www.awakeplus.co.kr/disclosure/298040

📌 효성중공업(시가총액: 25조 8,010억) #A298040
📁 단일판매ㆍ공급계약체결
2026.09.15 09:02:49 (현재가 : 2,766,000원, -1.32%)

계약상대 : HICO America Sales & Tech,Inc.
계약내용 : ( 기타 판매ㆍ공급계약 ) 345kV Transformer Purchase Agreement
공급지역 : 미국
계약금액 : 1,665억

계약시작 : 2026-09-14
계약종료 : 2028-08-31
계약기간 : 1년 11개월
매출대비 : 2.79%
기간감안 : 1.4%


공시링크: https://dart.fss.or.kr/dsaf001/main.do?rcpNo=20260915800149
종목공시 : https://www.awakeplus.co.kr/disclosure/298040

📌 두산퓨얼셀(시가총액: 3조 3,009억) #A336260
📁 단일판매ㆍ공급계약체결
2026.09.15 10:43:25 (현재가 : 51,500원, +7.74%)

계약상대 : HyAxiom, Inc.
계약내용 : ( 기타 판매ㆍ공급계약 ) 연료전지 시스템 공급 계약
공급지역 : 미국
계약금액 : 3,222억

계약시작 : 2026-09-15
계약종료 : 2028-10-17
계약기간 : 2년 1개월
매출대비 : 70.84%
기간감안 : 33.73%


공시링크: https://dart.fss.or.kr/dsaf001/main.do?rcpNo=20260915800271
종목공시 : https://www.awakeplus.co.kr/disclosure/336260

시대가 아무리 바뀌어도

1. 좋은 기업 지분에 투자
2. 건강 관리 열심히
3. 나는 무엇을 통해 행복한가를 탐색

이 세 개는 불변하지 않을까 싶습니다

달리 말하면 개인을 바꾸는 것 이외의

통제 불가능한 것들에 대해선 흔들리지 않고 너무 스트레스 받지 않는 게 필요

앞으로 5년 후 어떤 일이 펼쳐질지는 아무도 모름

+) 무기력함을 느낄 수 있지만 목소리를 낼 때는 내야 함

#단상

저는 개별 파이프라인을 보유한 바이오 기업에 대해서는 잘 모르지만, 올해 들어 바이오에 AI가 어떻게 적용되는지 지속적으로 팔로우를 하고 있습니다.

최근 빅파마/프론티어모델 들의 AI적용은 다음과 같이 정리됩니다.

📌
1. 오픈AI: 관련 문헌분석하여 피드백루프 구현

2. 구글: 딥마인드 통해 인간 유전체 단일 염기변이에 대한 분자적 영향 예측 제공

3. 앤쓰로픽: 바이오 관련 데이터베이스를 연결해 실험을 재현가능한 형태로 과학연구용 오케스트레이터가 되는 방향

4. 아이소모래픽랩스: 알파폴드가 구조예측을 넘어 실제 약물설계 엔진으로 진입


——————————————

1. 일라이릴리: 엔비디아 GPU통해 디지털 트윈으로

2. 노보노디스크: 오픈AI통해 신약생성보다 먼저 임상운영 및 제조 효율화에 AI도입

3. 사노피: 데이터기반 에이전트로 신약발굴부터 임상개발까지 구축

4. 인실리코: AI로 표적과 후보물질 발굴

5. 브리스톨: 앤쓰로픽 도입


핵심 키워드는 독점 데이터, 자동화실험실, GPU인프라, 워크플로우 구축 이 될 것 같습니다.

2026년 9월 IR 레터의 핵심 내용을 투자자 관점에서 항목별로 정리한 요약입니다.

1. 수주 및 실적 가시성

• 8월 5.1억 멀티유닛 수주: 글로벌 제약사 CGT 부문 2곳 중 1곳 설치 완료, 나머지 1곳도 9월 중 완료되어 3분기 매출로 전액 인식 예정입니다.

• 2027년 추가 예산 반영: 해당 고객사는 첫 설치 결과를 확인한 뒤, 2027년 예산에 복수 장비 추가 도입을 확정적으로 반영 중입니다.

• 추가 대형 수주 협의 (3~4분기): 3분기 내 종속회사 기준 공시 기준을 초과하는 대형 수주를 포함해 복수 수주 확정을 협의 중이며, 여기에는 NIST 컨소시엄 참여 기관도 포함되어 있습니다.

2. 글로벌 대기업 AI/ML 공동연구 협약 (임박)

• 진행 단계: 비(非)제약사 글로벌 대기업과의 세포분석 데이터 생성 및 AI/ML 분석 공동연구 계약이 세부 조건 몇 개만 남은 '최종 단계'에 진입했습니다.

• 구조 및 발표: 큐리옥스는 표준 전처리 설계와 고품질 데이터 생성을 맡고, 상대사는 AI 분석을 담당합니다. 체결 즉시 공식 보도자료로 공시·발표할 예정입니다.

• 장비사·시약사 파트너십: 복수 장비사와의 협의가 순항 중이며, 연내 첫 파트너십 체결 목표를 그대로 유지하고 있습니다.

3. NIST 표준화 및 영업 환경 변화

• Frontiers 논문 게재: 기기 표준화를 다룬 1차 스터디 논문이 공식 게재되었으며, 논문 표준화 목적에 '플랫폼 간 AI/ML 개발'이 명시되어 2차 스터디(전처리 자동화)의 정당성이 확보되었습니다.

• 영업 주기 단축: 공신력 있는 NIST 데이터가 쌓이면서 빅파마 경영진 승인 허들이 크게 낮아졌습니다. 데모를 1회로 단축하거나 생략하고 바로 구매를 결정하는 사례가 나타나고 있습니다.

• 방사형 확산: 포괄 계약을 맺은 글로벌 빅파마 내부에서 초기 도입 부서가 타 부서에 자체 데이터를 공유하며 큐리옥스와 공동으로 내부 확산 영업을 진행 중입니다.

4. 재무 및 생산성 개선

• 수익성 턴어라운드: 상반기 매출총이익률(40.2%)은 Pluto 양산 초기 고정비 부담 때문이었으나, 향후 생산량 증가에 따른 대당 고정비 감소, 마진율 높은 위저드 SW 번들링 판매, 소모품(연간 반복매출 약 20%) 누적으로 가파르게 개선될 전망입니다.

• 자사 CB(40억) 처리: 주주가치 제고를 최우선으로 처리 방향을 검토 중이며, 결정 시 공시할 예정입니다.

5. 시장 침투 및 거점 확대

• 북미 거점 확보: 샌프란시스코 베이 지역의 바이오텍 인큐베이터인 MBC BioLabs와 파트너십을 체결하고 Pluto LT 및 ALPHA를 배치하여 북미 서부 지역의 상시 데모·미팅 거점을 확보했습니다.

3분기 실적을 견인할 대형 수주 마무리가 진행 중이며, 주가 모멘텀의 핵심인 '글로벌 대기업 AI/ML 공동연구 계약'이 문구 조율 수준의 최종 단계에 도달했음을 명확히 확인해 준 레터입니다.

TACO!!

다들 아시겠지만 정리 차원에서 올립니다.

FOMC 시나리오 외에도 11월 중간선거가 가장 큰 이벤트라 변수가 많습니다. 3분기 실적 시즌에는 AI 활용한 혁신 기업들이 더 등장할 것으로 예상합니다. 9~10월 어느 시점까지만 조심하자는 뷰는 유지합니다.

' 현재 증시는 투자 재원과 현금흐름이라는 두 가지 기준으로 보면 흐름이 선명

' AI 수요에 대한 의심 X

현재 글로벌 포트 구성은 아래와 같음

A. 투자 재원: 1. 내 돈(Equal), 2. 남의 돈(Under)

B. 현금 흐름: 1. 현재 실적 가시성(Over), 2. 발주 물량 확대(Under), 3. 다음 투자 사이클 성장성(Under), 4. 제품 가격(메모리) 지속성(Under)


FOMC 시나리오 : 아래 시나리오대로 가는지 혹은 시나리오 외 이슈가 붙는지 확인 필요

A. 완전 치킨(가능성 10%): 9월 인상, 맥스 1차례 추가 이후 동결 => 현금 흐름 2, 3, 4 Good(그래도 2년물 금리 & 디젤 가격 보기)


B. 비둘기(가능성 60%): 9월 인상, 데이터 보겠다 => 현금 흐름 2, 3, 4 소폭 반등 가능 그러나 Not 구조적(2년물 금리 & 디젤 가격 중요)이니 Trading


C. 매(가능성 20%): 9월 인상, 디젤이 서비스에 붙고 더 올려야 한다 => 투자 재원 1, 현금 흐름 1, 방어주 Trading만 가능


D. 안갯속(가능성 10%): 9월 인상X, 버티겠다 등 => 왜 못올려? 불확실성 가중. 그냥 Under

미국 연준 기준금리 4.00%, 만장일치로 25bp 인상했습니다.

#생각정리 260917

- 산업재 호황이 2~3년 지속되면서 모두가 차별 없이 성장하는 무차별적 호황기는 지난 것 같음.
- 업사이클 초반에 업체들이 취했던 전략에 따른 결과가 슬슬 눈에 보이고, 그게 업체별 차이를 만들고 있음.
- 10~11월까지는 시장 / 산업재 보수적으로 생각. 3Q26은 환율 이슈 / 조업일수 신경 안 쓸 수가 없고, 4Q는 성과급이 있움.
- 다만, 어찌보면 2Q 연속 미스가 기다릴 수도 있지만 최소한 4Q 실발 때는 내년의 그림을 보여주기 때문에 11월 이후 시장까지 무조건적으로 나쁘게 보긴 힘들 것.

#조선
- 중국의 LNGC 222m 수주 중요하다고 봄. 200k LNGC 262m 수주도 환율 생각하면 아쉬움.
- 중국이 미국 LNGC 진입은 할 수 없겠지만 가격까지도 중국 LNGC 대비 자유로울까 하면 의문이 있음. 한국산 LNGC 가격은 다르다 하기엔 중국의 LNGC M/S가 마냥 무시할 순 없어진 거 아닌가...
- 당분간 유일한 희망은 엔진인 것 같음. 다만 현중 기준 무시할 수 없는 규모의 사업이 된 것도 맞다고 생각.

#방산
- 에어로의 미국 차륜형 자주포 수주 의미 있다고 생각하고, 넥스원의 스위스 L-SAM 가능성도 중부 유럽 진출? 처음 보는 광경이라 의미있어보임.
- 다만 L-SAM 국내에서도 제대로 못 써본 상황이라 수출 가능성은 결국 납기를 얼마나 중요하게 생각하느냐에 달린 것 같음. 2030년 운운하는 걸 보면 희망이 0은 아니지 않을까...
- 수주만 나오면 주가는 되는 산업이라고 생각. 어차피 산업의 장기 성장이 눈에 보이는데 수주를 통해 한국 업체도 그 과실을 누릴 수 있다는 게 입증되는 게 중요한 것 아닐까.

#전력기기
- 하반기 수주를 기대하는 사람이 있을지 모르겠지만, 상반기에 많이 받은만큼 하반기 수주는 절대적 규모보다는 수주의 세부 내용에 주목해야.
- 그런 의미에서 효중의 최근 수주 의미 크다고 생각. 하이퍼스케일러가 345kV도 아니고 765kV 직발주를 내는게 보통 일은 아님. FERC 관련 변화가 직접적으로 보인 케이스.
- 어차피 AI / DC 투자 부정적으로 보면 지금 주식 하기 힘듬. 데센 CAPEX 지속된다는 전제 하에 하이퍼스케일러가 백본망 투자까지 관여해주면 이보다 전력기기 수요의 가시성을 높여주는 내용이 어딨나?

#정유
- 솔직히 이해도 낮다고 생각. 올해 내내 업황 좋았고 알고 있었지만 아는 게 없어서 채널에 끄적이기도 어려웠음.
- 주가는 유가 따라 움직이지만 정유 / 화학 (특히 정유) 공급 타격이 시장 체감보다 심각해보임. 공부할 필요성은 있음.
- 다만 시장 평균심리가 유가 따라서 움직인다고 하면 공부하는 게 의미가 있는지는 잘 모르겠다... 그래도 공급 이슈가 크고, 인생에서 두번 보기 힘든 호황기에 있다는 건 알아줬으면 좋겠음.