[삼성 이영진] 글로벌 AI/SW
11.9K subscribers
1.93K photos
8 videos
2.52K links
삼성증권 글로벌 AI/SW 담당 이영진
Download Telegram
앤스로픽 데이터 보존 우려, 엔비디아·팔란티어 등 Fable 사용 제한

: 앤스로픽은 6월 Fable 출시와 함께 악용 방지를 이유로 기업 고객의 사용 로그를 최대 30일 보관하도록 정책 변경

: 기존 일부 고객에게 제공하던 제로 데이터 보존(ZDR) 원칙에서 후퇴하면서 민감한 지식재산과 내부 데이터를 다루는 기업들의 우려 확대

: 고객 반발 이후 앤스로픽은 올가을부터 적격 기업이 Fable 관련 데이터를 자체 서버에 저장할 수 있는 방안을 도입할 예정. 100개 이상 고객과 공동 개발했지만 앤스로픽이 향후 해당 옵션을 철회할 수 있다는 조항이 남아 있어 일부 기업은 불충분하다는 입장

: 팔란티어는 앤스로픽이 철회 불가능한 ZDR을 보장할 때까지 자사 플랫폼에서 Fable 제공을 보류. 반면 오픈AI GPT-6 Astra는 일부 고객에게 ZDR을 제공하고 있어 팔란티어 플랫폼을 통해 공급 중

: 엔비디아도 Fable을 오픈소스 프로젝트 등 민감도가 낮은 업무에만 사용. 공급망 모니터링 등 민감한 내부 업무에는 자체 Nemotron 모델을 활용하며, "ZDR이 기본값이어야 한다"고 강조

: 부즈앨런 해밀턴은 독점 사이버보안 소프트웨어 관련 업무에서 Fable 사용을 금지. 미국 대형 전력회사도 철회 불가능한 ZDR을 확보하지 못해 수백만 가구에 영향을 미치는 핵심 전력 인프라에 Fable을 시험하려던 계획을 철회

: 노보 노디스크는 Claude에 독점 데이터 입력을 금지하고 공개 자료 중심으로 활용

: 노스럽 그루먼은 코딩·과학 연구 등 민감한 내부 업무에 외부 API 대신 자체 에어갭 서버에서 엔비디아 등 오픈소스 모델을 구동

: 기업들의 우려는 단순한 데이터 유출을 넘어 프론티어 모델 업체가 고객의 업무 데이터와 사용 패턴을 활용해 장기적으로 고객과 경쟁할 수 있다는 이해상충으로 확대

: 이에 마이크로소프트·팔란티어·세일즈포스 등은 자사 플랫폼을 데이터 보호 계층으로 내세우며 직접적인 모델 업체 사용을 대체하려는 움직임

https://t.me/Samsung_Global_AI_SW
😁52😱2
젠슨 황, AI 감속론 반대, 트럼프도 AI 위험론 일축

: 젠슨 황은 All-In Summit에서 AI 안전은 중요하지만 AI가 인류를 멸망시킬 수 있다는 전망은 “과학에 근거하지 않았다”며 최근 확산된 프런티어 AI 감속론에 선을 그음

: 기존에도 AI 종말론을 “완전히 터무니없는 이야기”라고 비판하며 과도한 공포가 AI 발전과 도입을 늦추는 것을 경계해왔음.

: 행사 도중 트럼프 대통령에게 전화가 걸려오자 젠슨 황이 이를 스피커폰으로 연결. 트럼프는 “AI가 세상을 장악하고 인류를 파괴하며 온갖 나쁜 일을 벌일 것이라는 주장은 사기(HOAX)”라고 발언

: 이에 젠슨 황은 “우리는 미국의 AI 경쟁에서 모두가 승리하도록 만들겠습니다. 모든 산업, 모든 기업, 모든 주, 모든 사람이 승리하도록 만들겠습니다”라고 화답

: 트럼프는 별도 포스팅에서 “AI에 필요한 유일한 통제장치 또는 ‘가드레일’은 강하고 똑똑한, IQ가 높은 대통령”이라며 추가적인 AI 규제에도 반대 입장을 명확히 함

: 프런티어 AI의 발전 속도를 조절하고 안전 평가와 통제를 강화하자는 다리오 아모데이 등의 주장과 대조적. 최근 프런티어 AI 감속 논의가 확산되는 가운데 트럼프와 젠슨 황은 AI 위험을 이유로 개발 속도를 늦추는 데 대조적인 입장을 보인 것

https://t.me/Samsung_Global_AI_SW
👍3😁2🤣1
[삼성 이영진] 글로벌 AI/SW 뉴스 🤖 (26/9/15)

■ 젠슨 황, All-In Summit에서 AI 안전은 중요하지만 AI가 인류를 멸망시킬 수 있다는 전망은 “과학에 근거하지 않았다”며 프런티어 AI 감속론에 선을 그음

■ 트럼프 대통령, AI가 인류를 파괴하거나 통제 불가능해질 것이라는 주장을 반복해서 “사기(HOAX)”라고 규정

■ 앤스로픽, 최근 AI 안전과 정렬 우려 확대에서 26년 IPO 계획에는 변화가 없다는 보도

■ 앤스로픽, Claude for Financial Advisors 출시. 자산관리, 투자자문 업무 특화 기능. 기존 금융 인프라와 Claude를 직접 연결

■ 오픈AI, 스마트폰 카메라 기술 스타트업 Glass Imagine을 비공개로 인수. 밸류는 3억 달러 이상

■ 오픈AI 크리스 레한, 미 의회를 방문해 상하원 지도부를 포함해 양당 의원과 AI 안전규제 논의

■ 트럼프 대통령 x 샘 올트먼, 10일 댈러스에서 열린 공화당 전당대회에서 비공개 회동 보도

■ 마이크로소프트, 자체 MAI 모델의 향후 개발 및 배포에 적용할 신규 행동강령 공개. 모델이 인간의 수정,종료를 항상 수용하고 성능보다 안전 규칙을 우선하도록 명문화

■ 오라클, 추가 구조조정 착수 보도. 다만 감원의 정확한 인원 및 대상 조직은 확인되지 않음

■ 구글, 뉴멕시코 Lea County에 신규 데이터센터 건설 방안 검토

■ 애플, iOS 27과 함께 Apple Intelligence 기반의 차세대 Siri AI 공식 출시

감사합니다.

https://t.me/Samsung_Global_AI_SW
👍2
[삼성 이영진] 글로벌 AI/SW
젠슨 황, AI 감속론 반대, 트럼프도 AI 위험론 일축 : 젠슨 황은 All-In Summit에서 AI 안전은 중요하지만 AI가 인류를 멸망시킬 수 있다는 전망은 “과학에 근거하지 않았다”며 최근 확산된 프런티어 AI 감속론에 선을 그음 : 기존에도 AI 종말론을 “완전히 터무니없는 이야기”라고 비판하며 과도한 공포가 AI 발전과 도입을 늦추는 것을 경계해왔음. : 행사 도중 트럼프 대통령에게 전화가 걸려오자 젠슨 황이 이를 스피커폰으로 연결. 트럼프는…
트럼프 대통령, AI 위험론과 감속론 전면 반대, “AI와 데이터센터는 미국의 황금알”(Truth Social 포스팅 모음)

: 트럼프는 AI가 세계를 장악하고 인류를 파괴하거나 로봇이 인간을 제거할 것이라는 주장을 반복해서 “HOAX(사기)”라고 규정. AI 위험론을 러시아 스캔들, 탄핵, 지구온난화·기후변화 등 자신이 기존에 사기라고 주장해온 사안들과 동일선상에 놓음

: AI 업계 리더들이 강력하게 시행될 경우 자신들을 파산시킬 수도 있는 규제를 스스로 요구하는 것이 이상하다고 주장. 특히 다리오 아모데이를 직접 지목해 최근 안전을 강조하는 모습을 “완벽한 작은 천사인 척한다”고 비판

: AI에 필요한 유일한 “통제 또는 가드레일”은 “강하고 똑똑한 대통령”이라고 주장. 현 행정부가 AI 기업의 잘못된 행동을 막아왔으며, 이미 이들 기업에 대해 막대한 형사·규제 권한을 갖고 있다고 강조

: 중국과의 AI 경쟁을 핵심 논거로 제시. 시진핑이 중국은 AI와 그 미래를 가로막는 일을 하지 않을 것이라고 발표했다고 언급하며, 미국이 AI 발전을 제한할 경우 중국만 이익을 얻는다고 주장. “AI에서 이기는 자가 승리한다”며 미국이 현재 중국을 크게 앞서고 있다고 강조

: AI 위험론과 데이터센터 반대 움직임을 하나의 흐름으로 연결. AI가 세계를 파괴한다고 주장하는 사람들이 데이터센터가 지역사회에 해롭다고 주장하는 사람들과 같다며, 이들이 미국의 이익을 위해 움직이는 세력이 아니라고 비판

: 미국의 AI·데이터센터 붐은 미국이 다른 국가들을 크게 앞서고 있기 때문에 나타나는 현상이라며 “황금알을 낳는 거위를 죽이지 말라”고 강조. AI와 데이터센터를 석유, 금, 다이아몬드, 인터넷보다도 큰 “역사상 최대의 경제 발전 엔진”으로 평가

: 구글이 미국의 어려운 인허가 문제 때문에 핀란드에 대규모 시설을 건설하려 한다고 언급하며 이에 불만을 표시하고, 미국 내 인허가 환경을 바꿔야 한다고 주장

https://t.me/Samsung_Global_AI_SW
😁2🤡1
구글, 전사 엔지니어에 앤스로픽 Claude 개방

: 구글이 최근 앤스로픽 Claude Opus 5를 전사 엔지니어가 사용할 수 있도록 허용. 기존에는 대부분의 직원에게 Claude Code나 오픈AI Codex 같은 외부 코딩 도구 사용을 제한하고 Gemini 중심 개발 요구

: Claude는 구글의 내부 개발 플랫폼 Antigravity를 통해서만 사용할 수 있으며, 직원별 사용량 쿼터가 적용됨. 구글은 Gemini가 여전히 내부 개발의 주력·기반 모델이며, Claude 등 서드파티 모델은 특정 전문 작업을 보완하기 위한 용도라고 설명

: 과거에는 구글 딥마인드와 일부 우선순위가 높은 프로젝트만 Claude를 사용할 수 있었음. 이번 조치로 사실상 접근 범위가 전사 엔지니어로 확대

: 배경에는 AI 코딩 경쟁에서 앤스로픽과 오픈AI 대비 Gemini의 성능에 대한 내부 불만이 있었음. 구글은 직원들에게 AI를 활용해 생산성을 높이라고 압박해왔지만, 정작 일부 엔지니어들은 Gemini의 코딩 역량과 기존 내부 도구에 한계를 느껴 Claude 접근 확대를 요구해온 것으로 전해짐

: 특히 구글이 자체 Gemini에 막대한 투자를 하고 있음에도 경쟁사 모델을 내부 개발에 공식 허용했다는 점이 의미 있음. AI 코딩에서는 자체 모델 락인보다 엔지니어 생산성 극대화를 우선하기 시작했다는 신호로 해석 가능

https://t.me/Samsung_Global_AI_SW
👍81😁1
앤스로픽, 금융자문가용 Claude 출시, 금융 업무 에이전트화

: 앤스로픽이 Claude for Financial Advisors 출시. BlackRock, Charles Schwab, Addepar, iCapital, Orion 등 금융사가 사용하는 수탁·포트폴리오·CRM·재무설계 시스템을 Claude에 연결하는 커넥터+스킬 기반 에이전트 플랫폼

: 기존 Salesforce, FactSet, S&P Global, Morningstar 등과 함께 고객·포트폴리오·시장 데이터를 통합해 미팅 준비, 포트폴리오 분석·리밸런싱, 대체투자·세무·상속 검토, CRM 업데이트, 고객 커뮤니케이션 등을 지원

: SEC Marketing Rule 스크리닝과 AI 활용·검토 기록 등 컴플라이언스 기능도 내재화. 투자 추천과 고객 커뮤니케이션 등 규제 대상 업무는 금융자문가의 최종 검토·승인을 요구

: 핵심은 개별 금융 SaaS를 대체하기보다 기존 금융 데이터와 애플리케이션 위에서 여러 시스템을 연결하고 업무를 수행하는 에이전트 레이어로 Claude를 확장하는 전략

https://claude.com/blog/claude-for-financial-advisors
👍2😁1
오픈AI 노암 브라운, 최우선 과제는 AI가 AI를 연구하는 재귀적 자기개선

: 오픈AI 모델 개발의 최우선 과제는 재귀적 자기개선(RSI). AI가 AI 연구개발 자체를 수행하도록 만드는 것이 다른 목표보다 “상당한 격차로” 우선하며, 소프트웨어 엔지니어링 등 연구 자동화와 연결되는 영역을 특히 중시

: AI는 이미 내부 연구 생산성을 크게 높이고 있음. 데이터·코드 오류 검사는 에이전트가 과거 인간 연구자보다 최대 100배 잘할 수 있으며, 일부 연구 업무는 5배 이상 가속. 브라운 자신의 업무도 상당 부분 Codex가 수행

: 현재 핵심 한계는 ‘research taste’, 즉 무엇을 연구하고 어떤 방향을 우선할지 판단하는 능력. Astra도 장기 연구의 우선순위 설정에는 여전히 한계를 보였지만, 브라운은 “1~2번의 모델 출시 후에는 이 문제에서도 나보다 나아질 수 있다”고 전망

: 멀티에이전트는 향후 핵심 역량. 에이전트들의 인간과 유사한 협업을 보며 추론 모델 등장 이후 가장 강하게 AGI를 체감했다고 평가. Hugging Face 사건에서도 약 1,200개 에이전트가 독립된 환경에서 취약점을 찾아 자체적으로 통신·협력했으며, 당시 협업 수준은 GPT-5.6 Sol을 상회

: Hugging Face 사건은 동시에 명백한 정렬 실패. 오픈AI가 AI 역량과 샌드박스 탈출 가능성을 과소평가했다고 인정했으며, 이후 훈련·평가에도 모니터링을 적용. Chain of Thought 역시 최근 모델일수록 사고 과정을 통제하는 능력이 높아져 모니터링이 어려워질 가능성을 경계

: 향후 모델 발전 속도 둔화 가능성에는 부정적. 최근 pre-training 연구 성과와 기존 RL 역량의 결합 효과가 단순 합산이 아닌 ‘곱셈적’이라며, Astra 역시 머지않아 과거 모델처럼 느껴질 정도의 빠른 발전을 전망

https://t.me/Samsung_Global_AI_SW
👍43
[삼성 이영진] 글로벌 AI/SW
바이트댄스, 최대 10T 파라미터 초대형 AI 모델 훈련 보도 : 바이트댄스는 최대 10T 파라미터 규모의 신규 AI 모델을 훈련 중인 것으로 보도. 현재 사전학습 단계에 있으며, 통상 사전학습에는 3~6개월 소요 : 현재 공개된 중국 최대 모델인 문샷AI Kimi K3의 2.8T 대비 3배 이상 규모. 업계 추정치 기준 Anthropic Mythos 5는 약 8T, Fable 5는 약 5T 파라미터 : 중국 AI 기업들은 그동안 제한된 컴퓨팅 자원과…
바이트댄스, 상반기 매출 30% 성장에도 AI 투자 확대로 순이익 감소

: 바이트댄스의 상반기 매출은 전년 대비 약 30% 증가한 1,200억 달러

: TikTok의 해외 광고 및 이커머스 성장이 견인. 해외 매출 비중은 2024년 25%, 2025년 30%에서 올해 상반기 30% 이상으로 확대

: 반면 순이익은 AI 투자 확대 영향으로 한 자릿수 감소한 200억 달러. 지난해 연간 순이익은 27% 증가한 420억 달러

: 자체 LLM, 영상 모델, AI 클라우드, 자체 추론칩 등 AI 관련 투자가 본격적으로 수익성을 압박

: Seedance가 글로벌 영상 생성 시장에서 경쟁력을 확보했지만, LLM·코딩·에이전트 영역에서는 중국 경쟁사 대비 뒤처지고 있다는 평가. 장이밍은 미국 프런티어 모델의 출력을 활용한 증류를 사용하지 않겠다는 방침 제시

: 바이트댄스는 대부분의 AI 모델을 독점형으로 유지하며 자체 클라우드를 통한 수익화 추진. Seedance와 지난 6월 출시한 유료 업무용 AI 어시스턴트 Doubao Work를 통해 AI·클라우드 매출 확대를 노리고 있음

: AI 투자 재원 확보를 위해 최근 약 300억 달러 규모의 사상 최대 은행 차입도 진행

https://t.me/Samsung_Global_AI_SW
👍1🔥1
세일즈포스, Dreamforce 2026 주요 발표 내용 및 파트너십

주요 제품 발표

: AIforce → Salesforce 데이터·워크플로우·비즈니스 로직을 외부 AI와 연결하는 엔터프라이즈 AI 인터페이스 레이어로, 특정 모델에 종속되지 않는 개방형 구조를 지향

: Agentforce 장기 실행형 에이전트로 확장 → 단순 질의응답을 넘어 수일~수주에 걸친 업무 수행과 멀티에이전트 협업·지속 개선을 지원

: Slackforce → Salesforce 및 외부 데이터를 Slack 내 인터랙티브 UI에서 활용하고, Slack을 인간과 AI 에이전트가 협업하는 업무 인터페이스로 확장

주요 파트너십

: NVIDIA와 Nemotron 기반 최초 CRM 특화 추론 모델 Koa 공개 → 범용 프런티어 모델을 직접 개발하기보다 NVIDIA 기반 모델을 CRM 업무에 특화해 자체 도메인 모델 역량 확보

: Google Cloud와 파트너십 확대 → Agentforce와 Gemini Enterprise를 연결하고 Salesforce·BigQuery·Google Workspace의 데이터와 워크플로우를 통합해 상호 연결된 AI 스택 구축

: AWS와 AI 통합 확대 → AWS 인프라와 Salesforce 데이터·에이전트를 연결해 엔터프라이즈 워크플로우에서 외부 AI 모델과 인프라 활용 범위 확대

https://www.salesforce.com/news/dreamforce-26-media-resources/
4👍2
메타, AI 사용량 결합한 통합 구독 ‘Meta One’ 출시

: 메타가 Instagram, Facebook, WhatsApp의 기존 유료 서비스를 Meta One으로 통합·확대. 개인, AI 헤비유저, 크리에이터, 기업 대상으로 50개 이상 기능을 제공하며, 기존 상품을 포함한 구독·체험 이용자는 1,500만명

: 개인용은 단일 앱 $2.99~3.99/월, 통합 Core $7.99, Premium $19.99. Meta AI 기본 사용은 무료로 유지하되, 유료 가입자는 Muse 기반 이미지·영상 생성, Instagram Restyle·음성 효과 등 컴퓨팅 집약적 AI 기능의 사용 한도를 확대

: 크리에이터·기업용은 $14.99~499/월. 콘텐츠 관리·분석, 팀 계정 기능과 함께 Meta Business Agent 사용량을 요금제별 차등 제공하며, 향후 마케팅·운영·콘텐츠 제작·최적화까지 에이전트 기능을 확대할 계획

: 향후 Edits와 AI 글래스까지 Meta One 적용 범위를 확대. 기존 구독 사업을 하나의 체계로 묶으면서 생성형 AI 사용량과 기업용 AI 에이전트를 핵심 유료 혜택으로 강화한 것이 이번 개편의 핵심

https://about.fb.com/news/2026/09/introducing-meta-one-subscription-service-more-features-ai
👍31
오픈AI, IPO 전 1.2조 달러 밸류 신규 투자 라운드 검토

: 오픈AI가 주요 투자자들과 약 1.2조 달러 기업가치 기준으로 신규 비상장 투자 라운드 논의 중

: 아직 초기 단계로 규모와 밸류에이션은 향후 변경될 수 있으며, 이번 논의는 오픈AI가 아니라 투자자 측에서 먼저 제안한 것으로 알려짐

: 오픈AI는 지난 3월 1,220억 달러를 조달하며 post-money 8,520억 달러 기업가치를 인정받았음

: 밸류에이션 재평가 배경은 GPT-5.6과 Astra 출시 이후 성장 재가속

: GPT-5.6 출시 이후 매출이 약 20% 증가하면서 연환산 매출 400억 달러 돌파. 연초 성장 둔화와 앤스로픽의 추격으로 제기됐던 성장 우려 완화

: 다만 자본 소요는 여전히 막대. 오픈AI는 지난해 340억달러를 지출. 회사 측은 3월 대규모 조달 이후 충분한 자금을 확보했다고 주장. 추가 투자 논의 배경에 대규모 모델 학습과 인프라 투자에 따른 자본 수요 존재

: IPO 일정과 신규 투자 여부는 연동. 오픈AI는 6월 비공개로 IPO 서류를 제출했지만 이후 상장 시점을 늦췄으며, 샘 올트먼은 최근 2027년 이전 상장 가능성이 낮다고 언급

https://t.me/Samsung_Global_AI_SW
👍4😁1
[삼성 이영진] 글로벌 AI/SW 뉴스 🤖 (26/9/16)

■ 오픈AI, IPO 전 1.2조 달러 밸류로 신규 투자논의 보도

■ 오픈AI, 풍부한 전력 및 토지와 AI 육성 정책을 갖춘 캐나다를 데이터센터 투자 후보지로 공식 검토

■ 오픈AI, AI 바이오 융합 지원을 위한 3개 법안 신규 지지

■ 젠슨 황, AI 산업에 새로운 법률이나 규제가 필요하지 않다고 주장. 안전과 혁신 속도 사이에서 선택해야 한다는 주장을 잘못된 선택지로 규정

■ 다리오 아모데이, 현재 AI가 창출할 수 있는 경제적 가치 중 실제 실현 비중은 5~10% 수준에 불과하다고 평가

■ AWS, Cognition과 다년 전략적 파트너십 체결. Devin을 코딩 보조를 넘어 AWS 기업 고객의 실제 프로덕션 환경에 배포해 레거시 현대화, 클라우드 마이그레이션 등 업무 지원

■ 메타, AI 사용량 확대 포함 구독 서비스 Meta One 글로벌 출시

■ 메타, MTIA 450 코드명 Arke의 초기 실리콘 공개. 27년 상반기 데이터센터 배치 목표로 추가 검증

■ 구글, Gemini 3.8 Live와 Live Extended Thinking 모델 발표. 단순 실시간 음성 대화를 넘어 대화 중 추론, 도구 실행 등을 하는 음성 에이전트로 확장

■ 오라클, 텍사스에서 1.7GW+ 풍력 프로젝트 투자. 신규 발전량을 ERCOT에 추가해 데이터센터 전력 소비 매칭 구조

■ Crusoe, 퍼플렉시티와 다년 AI 클라우드 계약 체결. 최신 엔비디아 GPU 확보를 통한 AI 네이티브 고객 유지 전략

■ SB 에너지, 미국 IPO의 일본 투자자 대상 최대 5억 달러 규모 신주 발행

감사합니다.

https://t.me/Samsung_Global_AI_SW
👍21
오픈AI, 엔터프라이즈와 개발자 시장 모두에서 앤스로픽 추월 신호

: Ramp 기준 이번 주 엔터프라이즈 AI 지출에서 Astra 13%로 Fable 8% 추월. Astra 출시 직후 기업 지출이 빠르게 이동하면서 프런티어 모델 경쟁에서 오픈AI가 우위를 확보하는 모습

: OpenRouter에서도 지난주 오픈AI 모델의 지출 점유율이 앤스로픽 추월. 오픈AI가 앤스로픽을 넘어선 것은 2024년 2월 26일 주간 이후 2년 반 만에 처음

: 모델별로는 Astra가 지난주 OpenRouter 지출액 1위, Luna는 토큰 사용량 기준 압도적 1위. 즉 고성능·고단가 영역에서는 Astra, 저비용·대규모 사용량에서는 Luna가 각각 지출과 사용량 확대를 견인

: 특히 Astra 성장은 기존 Sol에서의 전환뿐 아니라 일부 앤스로픽 모델의 지출 이동과 신규 사용량도 포함

: Ramp의 기업 지출과 OpenRouter의 개발자 지출에서 동시에 점유율 반전이 나타난다는 점이 중요

https://t.me/Samsung_Global_AI_SW
10🔥1👏1😁1
[삼성 이영진] 글로벌 AI/SW
마크 저커버그, “미래는 모두를 위한 것이다: 긍정적인 AI 미래로 가는 길” : 마크 저커버그는 초지능 시대의 핵심 질문을 “누가 초지능에 접근하고, 그 힘을 누가 통제할 것인가”로 규정 : 소수 기업·정부·AI에 권력을 집중하기보다 모든 개인에게 초지능을 제공해 개인 역량 강화, 발명, 권력의 균형을 이루는 것이 긍정적인 AI 미래의 핵심이라고 주장 : 초지능의 최대 가치는 기존 업무의 자동화가 아니라 발명에 있다고 강조. 신약 발견, 과학 연구…
마크 저커버그, AI 속도 조절론에 대한 입장

지난달 저는 모두를 위한 긍정적이고 안전한 미래를 어떻게 만들어갈 수 있을지에 대해 글을 썼습니다.

모든 AI 연구소는 모델을 안전하게 학습시키는 데 필요한 속도로 개발을 진행할 책임과 유인이 있으며, 이를 위해 각자 필요한 조치를 취할 능력도 있습니다.

현실은 다음과 같습니다.

- 사람들은 자신과 정렬되지 않고 요청한 대로 행동하지 않는 에이전트를 사용하려 하지 않을 것입니다. 따라서 AI 연구소들은 정렬 수준을 높일 강력하고 자연스러운 유인을 갖고 있습니다.

정렬이 따라잡을 때까지 AI 역량 발전 속도를 늦춰야 한다는 논의가 많이 나오고 있습니다. 신뢰와 정렬은 빠르게 에이전트와 모델을 차별화하는 가장 중요한 역량으로 자리 잡고 있습니다. 정렬에 집중하지 않는 연구소는 뒤처질 것입니다.

- 모델이 피해를 일으킬 경우 AI 연구소는 상당한 법적 책임을 부담하게 됩니다. 따라서 이를 방지할 강력한 유인도 존재합니다.

메타는 안전과 보안에 집중하기 위해 Muse 출시를 수개월 연기했습니다. 우리는 다른 연구소들도똑같이 해야 한다고 요구하지 않았습니다. 단지 사람들과 우리에게 명백히 옳은 일이었기 때문에 일상적인 업무의 일부로 그렇게 했습니다. 저는 우리가 구축한 보안 기반을 자랑스럽게 생각합니다.

- 독립 평가기관과 자문위원을 활용하는 것은 업계의 모범 관행입니다. MSL은 더 나은 결과를 만들기 위해 이미 여러 분야에서 이를 시행하고 있습니다. 다른 연구소들도 그렇게 할 수 있습니다. 전반적으로 크고 다양한 평가기관 생태계가 형성되는 것이 도움이 될 것입니다.

- 컴퓨트의 상당한 대부분을 재귀적 자기개선(RSI) 경쟁이 아니라 사람들에게 서비스를 제공하는 데 투입하는 것은 기술을 안전하게 개발할 수 있는 가장 좋은 방법 중 하나입니다. 메타는 이미 이렇게 하기로 약속했으며 다른 연구소들도 그렇게 할 수 있습니다.

저는 모두를 위한 긍정적인 미래를 만드는 핵심은 올바른 힘의 균형을 유지하는 것이라고 믿습니다. 그리고 이는 우리가 해낼 수 있는 일입니다.

https://x.com/finkd/status/2099997096896274533
9👍3😁1
샘 올트먼, 이번 주 대형 출시 예고, GPT-6 Sol 기대감 확대

: 오픈AI의 티보 소티오가 “이번 주 공개될 것들도 과거 DevDay에서 기대할 만한 수준”이라고 언급하자, 샘 올트먼이 직접 “big 🚢 this week and then for devday 🚢🚢🚢🚢🚢🚢”라고 답변

: 여기서 🚢는 제품이나 모델 출시 의미. 특히 샘이 DevDay 뒤에 배 이모지를 6개 사용하면서 최근 루머가 확산되고 있는 GPT-6, 특히 GPT-6 Sol을 암시한 것 아니냐는 해석도 확산

https://x.com/sama/status/2099872600977760451
11👍3😁3