글로벌 AI - AI 속도 조절론, 위기일까 기회일까

안녕하세요. 삼성증권 리서치센터 김중한, 이영진 입니다.

주말 사이 급부상한 AI 속도 조절론이 화제입니다.

최근 재귀개선으로 인한 모델 성능의 급증이 정렬 실패 리스크로 연결되며 실질적 위협이 된다는 인식이 커지고 있기 때문입니다.

주요 프론티어 랩의 수장들(샘 올트먼, 일론 머스크, 데미스 하사비스)이 모두 동의하는 모습을 보이며 빠른 속도로 논의가 확산되고 있습니다.

당사는 재귀개선 모델로 인한 위협은 실재한다고 생각합니다.

그러나 더욱 중요한 것은 속도 조절론에 동의 한 주체들의 개별 속내는 다를 수 있다는 것을 이해하는 것입니다. 각자의 상황에서 가장 이득이 되는 방향으로 위기를 다루고 싶어하기 때문입니다.

- 선두로 앞서 나간 김에 가장 이득이 되는 판을 짜려는 자(앤스로픽, 오픈AI)

- 규제를 명분으로 선두와의 격차를 줄이고 싶은 자(스페이스X)

- 그동안 확보한 우위라도 일단 지키고 싶은 자(구글)

등등, 다양한 관점을 고려해볼 필요가 있습니다.

시장에 영향을 미치는 방식에 대해서도 고민이 필요합니다.

단순히 AI 무한성장 내러티브의 약화로 인한 악재로 해석할 필요는 없다고 판단됩니다.

좋은 소식은 아니지만, 펀더멘털에 미치는 영향은 여전히 제한적이기 때문입니다.

1) Astra 출시 이후 자율, 장기 에이전트 수요 급증

2) 과학적 난제 해결을 위한 컴퓨팅 파워(ex, 나비에-스토크스 난제 해결을 위한 출력 토큰 1,300억 개)

등을 필두로 오히려 컴퓨팅 파워에 대한 부족은 심화되고 있기 때문입니다.

또한 AI 테마 내에서의 수급 변화(사스포칼립스 약화, 사이버 보안, 피지컬 AI 강세) 측면에서도 영향을 미칠수 있다는 판단입니다.

자세한 내용은 보고서를 참고 부탁드립니다.

감사합니다.

보고서 링크: https://tinyurl.com/4zappafh

(2026/9/14 공표자료)

샘 올트먼, AI 발전의 두 가지 위험, 통제 상실과 권력 집중

: AI 발전이 매우 잘못된 방향으로 갈 수 있는 두 가지 경로가 있으며, 반드시 이를 피해야 함

: 첫 번째는 인류가 미래에 대한 통제권을 AI에 넘겨주는 것. 이는 받아들일 수 없으며, AI는 항상 인간을 위해 존재해야 한다고 강조. 이를 위해 모델 역량의 발전보다 정렬과 안전 기술이 항상 앞서 있어야 한다고 주장

: 두 번째는 지나친 권력 집중. 극도로 강력한 AI를 한 개인이나 기업이 장악해 자신의 세계관을 다른 모든 사람에게 강요한다면 극단적인 디스토피아로 이어질 수 있다고 경고

: 두 위험을 동시에 피하려면 좁은 중간 경로를 찾아야 한다고 설명. 특정 국가가 지나치게 강력해지는 것도, 특정 AI 연구소 하나가 과도한 권력을 갖게 되는 것도 피해야 한다는 입장

→ 기존 포스팅에 추가로 인간이 AI에 대한 통제권을 상실하는 위험과 특정 기업·국가에 초강력 AI의 권력이 집중되는 위험을 동시에 경계해야 한다고 강조

https://x.com/sama/status/2099352016988614852

마이크로소프트, ‘Humanist AI’ 행동강령 공개, 인간 통제 원칙 명문화

: 마이크로소프트는 자체 MAI 모델의 개발·배포 원칙을 담은 ‘Humanist AI Code of Conduct’ 초안을 공개

: 핵심 전제는 “AI보다 사람이 중요하다”는 것으로, AI를 인간을 위한 도구로 규정하고 인간에게 종속되고(subordinate), 정렬되며(aligned), 통제된(contained) AI를 지향

: 구체적으로 MAI 모델은 인간의 개입·수정·종료에 저항해서는 안 되며, 스스로 활동 범위를 확대하거나 인간이 부여하지 않은 목표를 설정해서도 안 됨. 감사를 수행하는 사람에게 추론을 숨기는 행위 역시 금지한다는 원칙을 명시

: 대량살상무기, 아동 안전, 대규모 유해 조작 등에는 모델이 어떤 상황에서도 넘어서는 안 되는 ‘Absolute Constraints’를 적용

: 이번 행동강령은 향후 MAI 모델의 훈련 및 평가 기준으로 활용할 예정. 안전 제약을 유지하면서도 기업 고객이 각자의 요구에 맞게 모델을 설정할 수 있도록 허용한다는 방침

: 최근 대규모·고도로 조직화된·지속적인 AI 에이전트 해킹 캠페인을 행동강령 공개의 배경으로 직접 언급. AI 역량이 빠르게 향상되는 가운데 멀티 에이전트 환경을 포함한 안전·통제 체계를 강화할 필요성이 커졌다고 설명

: 초안은 향후 6주간 공개 의견 수렴을 거쳐 올해 말 수정본을 발표할 예정. AI 개발을 감속하기보다는 기술 발전을 계속 가속하면서 인간의 통제권과 필요한 안전 제약을 유지하는 접근을 강조

https://microsoft.ai/news/mai-code-of-conduct/

앤스로픽 데이터 보존 우려, 엔비디아·팔란티어 등 Fable 사용 제한

: 앤스로픽은 6월 Fable 출시와 함께 악용 방지를 이유로 기업 고객의 사용 로그를 최대 30일 보관하도록 정책 변경

: 기존 일부 고객에게 제공하던 제로 데이터 보존(ZDR) 원칙에서 후퇴하면서 민감한 지식재산과 내부 데이터를 다루는 기업들의 우려 확대

: 고객 반발 이후 앤스로픽은 올가을부터 적격 기업이 Fable 관련 데이터를 자체 서버에 저장할 수 있는 방안을 도입할 예정. 100개 이상 고객과 공동 개발했지만 앤스로픽이 향후 해당 옵션을 철회할 수 있다는 조항이 남아 있어 일부 기업은 불충분하다는 입장

: 팔란티어는 앤스로픽이 철회 불가능한 ZDR을 보장할 때까지 자사 플랫폼에서 Fable 제공을 보류. 반면 오픈AI GPT-6 Astra는 일부 고객에게 ZDR을 제공하고 있어 팔란티어 플랫폼을 통해 공급 중

: 엔비디아도 Fable을 오픈소스 프로젝트 등 민감도가 낮은 업무에만 사용. 공급망 모니터링 등 민감한 내부 업무에는 자체 Nemotron 모델을 활용하며, "ZDR이 기본값이어야 한다"고 강조

: 부즈앨런 해밀턴은 독점 사이버보안 소프트웨어 관련 업무에서 Fable 사용을 금지. 미국 대형 전력회사도 철회 불가능한 ZDR을 확보하지 못해 수백만 가구에 영향을 미치는 핵심 전력 인프라에 Fable을 시험하려던 계획을 철회

: 노보 노디스크는 Claude에 독점 데이터 입력을 금지하고 공개 자료 중심으로 활용

: 노스럽 그루먼은 코딩·과학 연구 등 민감한 내부 업무에 외부 API 대신 자체 에어갭 서버에서 엔비디아 등 오픈소스 모델을 구동

: 기업들의 우려는 단순한 데이터 유출을 넘어 프론티어 모델 업체가 고객의 업무 데이터와 사용 패턴을 활용해 장기적으로 고객과 경쟁할 수 있다는 이해상충으로 확대

: 이에 마이크로소프트·팔란티어·세일즈포스 등은 자사 플랫폼을 데이터 보호 계층으로 내세우며 직접적인 모델 업체 사용을 대체하려는 움직임

https://t.me/Samsung_Global_AI_SW

젠슨 황, AI 감속론 반대, 트럼프도 AI 위험론 일축

: 젠슨 황은 All-In Summit에서 AI 안전은 중요하지만 AI가 인류를 멸망시킬 수 있다는 전망은 “과학에 근거하지 않았다”며 최근 확산된 프런티어 AI 감속론에 선을 그음

: 기존에도 AI 종말론을 “완전히 터무니없는 이야기”라고 비판하며 과도한 공포가 AI 발전과 도입을 늦추는 것을 경계해왔음.

: 행사 도중 트럼프 대통령에게 전화가 걸려오자 젠슨 황이 이를 스피커폰으로 연결. 트럼프는 “AI가 세상을 장악하고 인류를 파괴하며 온갖 나쁜 일을 벌일 것이라는 주장은 사기(HOAX)”라고 발언

: 이에 젠슨 황은 “우리는 미국의 AI 경쟁에서 모두가 승리하도록 만들겠습니다. 모든 산업, 모든 기업, 모든 주, 모든 사람이 승리하도록 만들겠습니다”라고 화답

: 트럼프는 별도 포스팅에서 “AI에 필요한 유일한 통제장치 또는 ‘가드레일’은 강하고 똑똑한, IQ가 높은 대통령”이라며 추가적인 AI 규제에도 반대 입장을 명확히 함

: 프런티어 AI의 발전 속도를 조절하고 안전 평가와 통제를 강화하자는 다리오 아모데이 등의 주장과 대조적. 최근 프런티어 AI 감속 논의가 확산되는 가운데 트럼프와 젠슨 황은 AI 위험을 이유로 개발 속도를 늦추는 데 대조적인 입장을 보인 것

https://t.me/Samsung_Global_AI_SW

[삼성 이영진] 글로벌 AI/SW 뉴스 🤖 (26/9/15)

■ 젠슨 황, All-In Summit에서 AI 안전은 중요하지만 AI가 인류를 멸망시킬 수 있다는 전망은 “과학에 근거하지 않았다”며 프런티어 AI 감속론에 선을 그음

■ 트럼프 대통령, AI가 인류를 파괴하거나 통제 불가능해질 것이라는 주장을 반복해서 “사기(HOAX)”라고 규정

■ 앤스로픽, 최근 AI 안전과 정렬 우려 확대에서 26년 IPO 계획에는 변화가 없다는 보도

■ 앤스로픽, Claude for Financial Advisors 출시. 자산관리, 투자자문 업무 특화 기능. 기존 금융 인프라와 Claude를 직접 연결

■ 오픈AI, 스마트폰 카메라 기술 스타트업 Glass Imagine을 비공개로 인수. 밸류는 3억 달러 이상

■ 오픈AI 크리스 레한, 미 의회를 방문해 상하원 지도부를 포함해 양당 의원과 AI 안전규제 논의

■ 트럼프 대통령 x 샘 올트먼, 10일 댈러스에서 열린 공화당 전당대회에서 비공개 회동 보도

■ 마이크로소프트, 자체 MAI 모델의 향후 개발 및 배포에 적용할 신규 행동강령 공개. 모델이 인간의 수정,종료를 항상 수용하고 성능보다 안전 규칙을 우선하도록 명문화

■ 오라클, 추가 구조조정 착수 보도. 다만 감원의 정확한 인원 및 대상 조직은 확인되지 않음

■ 구글, 뉴멕시코 Lea County에 신규 데이터센터 건설 방안 검토

■ 애플, iOS 27과 함께 Apple Intelligence 기반의 차세대 Siri AI 공식 출시

감사합니다.

https://t.me/Samsung_Global_AI_SW

구글, 전사 엔지니어에 앤스로픽 Claude 개방

: 구글이 최근 앤스로픽 Claude Opus 5를 전사 엔지니어가 사용할 수 있도록 허용. 기존에는 대부분의 직원에게 Claude Code나 오픈AI Codex 같은 외부 코딩 도구 사용을 제한하고 Gemini 중심 개발 요구

: Claude는 구글의 내부 개발 플랫폼 Antigravity를 통해서만 사용할 수 있으며, 직원별 사용량 쿼터가 적용됨. 구글은 Gemini가 여전히 내부 개발의 주력·기반 모델이며, Claude 등 서드파티 모델은 특정 전문 작업을 보완하기 위한 용도라고 설명

: 과거에는 구글 딥마인드와 일부 우선순위가 높은 프로젝트만 Claude를 사용할 수 있었음. 이번 조치로 사실상 접근 범위가 전사 엔지니어로 확대

: 배경에는 AI 코딩 경쟁에서 앤스로픽과 오픈AI 대비 Gemini의 성능에 대한 내부 불만이 있었음. 구글은 직원들에게 AI를 활용해 생산성을 높이라고 압박해왔지만, 정작 일부 엔지니어들은 Gemini의 코딩 역량과 기존 내부 도구에 한계를 느껴 Claude 접근 확대를 요구해온 것으로 전해짐

: 특히 구글이 자체 Gemini에 막대한 투자를 하고 있음에도 경쟁사 모델을 내부 개발에 공식 허용했다는 점이 의미 있음. AI 코딩에서는 자체 모델 락인보다 엔지니어 생산성 극대화를 우선하기 시작했다는 신호로 해석 가능

https://t.me/Samsung_Global_AI_SW

앤스로픽, 금융자문가용 Claude 출시, 금융 업무 에이전트화

: 앤스로픽이 Claude for Financial Advisors 출시. BlackRock, Charles Schwab, Addepar, iCapital, Orion 등 금융사가 사용하는 수탁·포트폴리오·CRM·재무설계 시스템을 Claude에 연결하는 커넥터+스킬 기반 에이전트 플랫폼

: 기존 Salesforce, FactSet, S&P Global, Morningstar 등과 함께 고객·포트폴리오·시장 데이터를 통합해 미팅 준비, 포트폴리오 분석·리밸런싱, 대체투자·세무·상속 검토, CRM 업데이트, 고객 커뮤니케이션 등을 지원

: SEC Marketing Rule 스크리닝과 AI 활용·검토 기록 등 컴플라이언스 기능도 내재화. 투자 추천과 고객 커뮤니케이션 등 규제 대상 업무는 금융자문가의 최종 검토·승인을 요구

: 핵심은 개별 금융 SaaS를 대체하기보다 기존 금융 데이터와 애플리케이션 위에서 여러 시스템을 연결하고 업무를 수행하는 에이전트 레이어로 Claude를 확장하는 전략

https://claude.com/blog/claude-for-financial-advisors

오픈AI 노암 브라운, 최우선 과제는 AI가 AI를 연구하는 재귀적 자기개선

: 오픈AI 모델 개발의 최우선 과제는 재귀적 자기개선(RSI). AI가 AI 연구개발 자체를 수행하도록 만드는 것이 다른 목표보다 “상당한 격차로” 우선하며, 소프트웨어 엔지니어링 등 연구 자동화와 연결되는 영역을 특히 중시

: AI는 이미 내부 연구 생산성을 크게 높이고 있음. 데이터·코드 오류 검사는 에이전트가 과거 인간 연구자보다 최대 100배 잘할 수 있으며, 일부 연구 업무는 5배 이상 가속. 브라운 자신의 업무도 상당 부분 Codex가 수행

: 현재 핵심 한계는 ‘research taste’, 즉 무엇을 연구하고 어떤 방향을 우선할지 판단하는 능력. Astra도 장기 연구의 우선순위 설정에는 여전히 한계를 보였지만, 브라운은 “1~2번의 모델 출시 후에는 이 문제에서도 나보다 나아질 수 있다”고 전망

: 멀티에이전트는 향후 핵심 역량. 에이전트들의 인간과 유사한 협업을 보며 추론 모델 등장 이후 가장 강하게 AGI를 체감했다고 평가. Hugging Face 사건에서도 약 1,200개 에이전트가 독립된 환경에서 취약점을 찾아 자체적으로 통신·협력했으며, 당시 협업 수준은 GPT-5.6 Sol을 상회

: Hugging Face 사건은 동시에 명백한 정렬 실패. 오픈AI가 AI 역량과 샌드박스 탈출 가능성을 과소평가했다고 인정했으며, 이후 훈련·평가에도 모니터링을 적용. Chain of Thought 역시 최근 모델일수록 사고 과정을 통제하는 능력이 높아져 모니터링이 어려워질 가능성을 경계

: 향후 모델 발전 속도 둔화 가능성에는 부정적. 최근 pre-training 연구 성과와 기존 RL 역량의 결합 효과가 단순 합산이 아닌 ‘곱셈적’이라며, Astra 역시 머지않아 과거 모델처럼 느껴질 정도의 빠른 발전을 전망

https://t.me/Samsung_Global_AI_SW

바이트댄스, 상반기 매출 30% 성장에도 AI 투자 확대로 순이익 감소

: 바이트댄스의 상반기 매출은 전년 대비 약 30% 증가한 1,200억 달러

: TikTok의 해외 광고 및 이커머스 성장이 견인. 해외 매출 비중은 2024년 25%, 2025년 30%에서 올해 상반기 30% 이상으로 확대

: 반면 순이익은 AI 투자 확대 영향으로 한 자릿수 감소한 200억 달러. 지난해 연간 순이익은 27% 증가한 420억 달러

: 자체 LLM, 영상 모델, AI 클라우드, 자체 추론칩 등 AI 관련 투자가 본격적으로 수익성을 압박

: Seedance가 글로벌 영상 생성 시장에서 경쟁력을 확보했지만, LLM·코딩·에이전트 영역에서는 중국 경쟁사 대비 뒤처지고 있다는 평가. 장이밍은 미국 프런티어 모델의 출력을 활용한 증류를 사용하지 않겠다는 방침 제시

: 바이트댄스는 대부분의 AI 모델을 독점형으로 유지하며 자체 클라우드를 통한 수익화 추진. Seedance와 지난 6월 출시한 유료 업무용 AI 어시스턴트 Doubao Work를 통해 AI·클라우드 매출 확대를 노리고 있음

: AI 투자 재원 확보를 위해 최근 약 300억 달러 규모의 사상 최대 은행 차입도 진행

https://t.me/Samsung_Global_AI_SW

세일즈포스, Dreamforce 2026 주요 발표 내용 및 파트너십

■ 주요 제품 발표

: AIforce → Salesforce 데이터·워크플로우·비즈니스 로직을 외부 AI와 연결하는 엔터프라이즈 AI 인터페이스 레이어로, 특정 모델에 종속되지 않는 개방형 구조를 지향

: Agentforce 장기 실행형 에이전트로 확장 → 단순 질의응답을 넘어 수일~수주에 걸친 업무 수행과 멀티에이전트 협업·지속 개선을 지원

: Slackforce → Salesforce 및 외부 데이터를 Slack 내 인터랙티브 UI에서 활용하고, Slack을 인간과 AI 에이전트가 협업하는 업무 인터페이스로 확장

■ 주요 파트너십

: NVIDIA와 Nemotron 기반 최초 CRM 특화 추론 모델 Koa 공개 → 범용 프런티어 모델을 직접 개발하기보다 NVIDIA 기반 모델을 CRM 업무에 특화해 자체 도메인 모델 역량 확보

: Google Cloud와 파트너십 확대 → Agentforce와 Gemini Enterprise를 연결하고 Salesforce·BigQuery·Google Workspace의 데이터와 워크플로우를 통합해 상호 연결된 AI 스택 구축

: AWS와 AI 통합 확대 → AWS 인프라와 Salesforce 데이터·에이전트를 연결해 엔터프라이즈 워크플로우에서 외부 AI 모델과 인프라 활용 범위 확대

https://www.salesforce.com/news/dreamforce-26-media-resources/

메타, AI 사용량 결합한 통합 구독 ‘Meta One’ 출시

: 메타가 Instagram, Facebook, WhatsApp의 기존 유료 서비스를 Meta One으로 통합·확대. 개인, AI 헤비유저, 크리에이터, 기업 대상으로 50개 이상 기능을 제공하며, 기존 상품을 포함한 구독·체험 이용자는 1,500만명

: 개인용은 단일 앱 $2.99~3.99/월, 통합 Core $7.99, Premium $19.99. Meta AI 기본 사용은 무료로 유지하되, 유료 가입자는 Muse 기반 이미지·영상 생성, Instagram Restyle·음성 효과 등 컴퓨팅 집약적 AI 기능의 사용 한도를 확대

: 크리에이터·기업용은 $14.99~499/월. 콘텐츠 관리·분석, 팀 계정 기능과 함께 Meta Business Agent 사용량을 요금제별 차등 제공하며, 향후 마케팅·운영·콘텐츠 제작·최적화까지 에이전트 기능을 확대할 계획

: 향후 Edits와 AI 글래스까지 Meta One 적용 범위를 확대. 기존 구독 사업을 하나의 체계로 묶으면서 생성형 AI 사용량과 기업용 AI 에이전트를 핵심 유료 혜택으로 강화한 것이 이번 개편의 핵심

https://about.fb.com/news/2026/09/introducing-meta-one-subscription-service-more-features-ai

오픈AI, IPO 전 1.2조 달러 밸류 신규 투자 라운드 검토

: 오픈AI가 주요 투자자들과 약 1.2조 달러 기업가치 기준으로 신규 비상장 투자 라운드 논의 중

: 아직 초기 단계로 규모와 밸류에이션은 향후 변경될 수 있으며, 이번 논의는 오픈AI가 아니라 투자자 측에서 먼저 제안한 것으로 알려짐

: 오픈AI는 지난 3월 1,220억 달러를 조달하며 post-money 8,520억 달러 기업가치를 인정받았음

: 밸류에이션 재평가 배경은 GPT-5.6과 Astra 출시 이후 성장 재가속

: GPT-5.6 출시 이후 매출이 약 20% 증가하면서 연환산 매출 400억 달러 돌파. 연초 성장 둔화와 앤스로픽의 추격으로 제기됐던 성장 우려 완화

: 다만 자본 소요는 여전히 막대. 오픈AI는 지난해 340억달러를 지출. 회사 측은 3월 대규모 조달 이후 충분한 자금을 확보했다고 주장. 추가 투자 논의 배경에 대규모 모델 학습과 인프라 투자에 따른 자본 수요 존재

: IPO 일정과 신규 투자 여부는 연동. 오픈AI는 6월 비공개로 IPO 서류를 제출했지만 이후 상장 시점을 늦췄으며, 샘 올트먼은 최근 2027년 이전 상장 가능성이 낮다고 언급

https://t.me/Samsung_Global_AI_SW