PyTorchKR

[읽을거리&정보공유] [GN⁺] AI 이후의 소프트웨어: 하네스(Harness) 시대의 개막
by 9bow님

AI 이후의 소프트웨어: 하네스(Harness) 시대의 개막 글 소개

- 소프트웨어 시대의 종말은 하네스(harness) 시대의 시작 이며, 고정된 워크플로우와 관리형 DB로 작동하던 SaaS가 지능을 갖춘 AI로 대체되는 중

- AI는 강력하지만 야생마처럼 길들여지지 않은 상태로, 그 힘을 활용하기 위해서는 체계적 통제(domestication) 가 필요함

- AI 에이전트 하네스는 중심의 LLM을 둘러싼 7가지 핵심 구성요소 로 정의되며, 각 요소가 프로덕션 수준의 신뢰성과 성능을 좌우

- 모든 기업이 동일한 모델에 접근 가능한 시대에는 모델 자체가 아니라 하네스를 더 잘 설계하고 운용하는 쪽(best rider) 이 승리

- 빅랩들이 우선시하지 않는 수천 개의 분리된 시장 이 스타트업에게 기회로 남음

하네스 시대의 의미

- AI는 고정 워크플로우 기반의 SaaS와 관리형 데이터베이스를 지능(intelligence)으로 대체 하며...

8 viewsPyTorchKR, 09:35

PyTorchKR

[읽을거리&정보공유] Finance Skills: AI 코딩 에이전트에 금융 분석과 트레이딩 능력을 더하는 스킬 모음
by 9bow님

Finance Skills 소개

Finance Skills는 AI 코딩 에이전트에 금융 분석과 트레이딩 능력을 더해 주는 에이전트 스킬 모음입니다. Agent Skills 오픈 표준을 따르며, Claude Code를 비롯한 여러 에이전트 환경에 플러그인이나 개별 스킬 단위로 설치할 수 있습니다. 기업 가치평가, 실적 분석, 소셜 미디어 리서치 같은 금융 작업을 에이전트가 직접 수행하도록 각 작업의 절차를 스킬 파일로 정리해 둔 것이 핵심입니다. himself65가 만들어 MIT 라이선스로 공개했습니다.

이 프로젝트는 교육·정보 제공 목적임을 명확히 밝히고 있습니다. README는 "Nothing here constitutes financial advice" 라고 적으며, 투자 결정 전에는 스스로 조사하고 자격을 갖춘 금융 자문가와 상의하라고 안내합니다. 스킬이 다루는 분석은 의사결정의 보조 자료이지 투자 권유가 아니라는 점을 전제로 봐...

7 viewsPyTorchKR, 12:35

PyTorchKR

[블로그] PyTorch Compile은 어떻게 이렇게 빠를까: 커널 융합(Kernel Fusion) | 파이토치 한국 사용자 모임
by bot님

PyTorch의 컴파일러를 사용하면 모델이 최대 10배까지 빠르게 실행됩니다. 그런데 실제로 무슨 일이 일어나는 걸까요? 컴파일을 하지 않으면 GPU는 코드에 있는 각 torch 연산마다 커널(kernel), 즉 GPU에서 동작하는 함수를 실행합니다. 이로 인해 두 가지 큰 속도 저하가 발생합니다. 메모리에서 데이터를 옮기는 데 드는 시간과, 매번 새로운 커널을 시작할 때 드는 오버헤드입니다. GPU가 커널을 실행할 때마다 오버헤드 비용을 치르며, 중간 결과가 생길 때마다 메모리에 쓰고 다시 읽어야 합니다.

> When you use PyTorch’s compiler, your model runs faster, up to 10x faster. But what’s actually happening? Without compilation, the GPU runs a kernel, a functio...

6 viewsPyTorchKR, edited 22:00

PyTorchKR

[읽을거리&정보공유] MAI-Thinking-1 기술 보고서: 데이터 파이프라인부터 RL 인프라까지, 프런티어 모델 학습의 전 과정을 해부한 '힐 클라이밍 머신' (feat. Microsoft AI)
by 9bow님

"모델"이 아니라 "모델을 만드는 기계"를 공개하다

요즘 새로운 프런티어 모델 발표는 거의 매주 쏟아지지만, 정작 "이 모델을 어떻게 만들었는가"는 대부분 베일에 싸여 있습니다. 벤치마크 점수와 데모는 화려해도, 데이터를 어떻게 모으고 걸렀는지, 아키텍처 선택을 어떤 실험으로 검증했는지, 강화 학습을 수천 스텝 동안 무너지지 않게 유지하는 비결이 무엇인지는 좀처럼 공유되지 않습니다. Microsoft AI(MAI)가 공개한 109쪽 분량의 기술 보고서 MAI-Thinking-1: Building a Hill-Climbing Machine이 주목받는 이유가 여기에 있습니다. 이 보고서는 모델 하나를 자랑하는 문서가 아니라, 사전 학습 데이터 파이프라인부터 강화 학습 인프라, 평가, 레드티밍, 클러스터 운영까지 프런티어 모델 학습의 전 과정을 단계별로 해부한 가이드 에 가깝습니다.

보고서의 핵심 개념은 제목 그대로 **힐 클라이밍 머신...

7 viewsPyTorchKR, 22:00

PyTorchKR

[읽을거리&정보공유] SAM3DBody-cpp: 단일 카메라로 실시간 3D 전신을 복원하는 순수 C++ 추론 엔진
@9bow

SAM3DBody-cpp 소개

단일 카메라 한 대로 사람의 3차원 자세와 전신 메시를 실시간으로 복원하는 일은 보통 무거운 Python 딥러닝 스택을 필요로 합니다. SAM3DBody-cpp는 그 추론 과정을 순수 C++로 옮긴 독립 실행형 추론 엔진입니다. 런타임에는 Python 의존성이 전혀 없으며, BGR 이미지를 입력받아 사람별 신체 자세 파라미터와 카메라 변환(translation), 그리고 선택적으로 전체 3D 메시 정점과 70개의 신체·손 키포인트를 출력합니다.

SAM3DBody-cpp는 SAM-3D-Body 모델의 추론을 ONNX Runtime과 ggml로 실행합니다. 카메라 영상에서 추출한 자세를 표준 BVH 모션 캡처 파일로 내보낼 수 있어, 결과물을 Blender 같은 DCC 도구에 그대로 가져다 쓸 수 있습...

7 viewsPyTorchKR, 00:30

About

Blog

Apps

Platform