PyTorchKR

[읽을거리&정보공유] [GN⁺] AI 이후의 소프트웨어: 하네스(Harness) 시대의 개막
by 9bow님

AI 이후의 소프트웨어: 하네스(Harness) 시대의 개막 글 소개

- 소프트웨어 시대의 종말은 하네스(harness) 시대의 시작 이며, 고정된 워크플로우와 관리형 DB로 작동하던 SaaS가 지능을 갖춘 AI로 대체되는 중

- AI는 강력하지만 야생마처럼 길들여지지 않은 상태로, 그 힘을 활용하기 위해서는 체계적 통제(domestication) 가 필요함

- AI 에이전트 하네스는 중심의 LLM을 둘러싼 7가지 핵심 구성요소 로 정의되며, 각 요소가 프로덕션 수준의 신뢰성과 성능을 좌우

- 모든 기업이 동일한 모델에 접근 가능한 시대에는 모델 자체가 아니라 하네스를 더 잘 설계하고 운용하는 쪽(best rider) 이 승리

- 빅랩들이 우선시하지 않는 수천 개의 분리된 시장 이 스타트업에게 기회로 남음

하네스 시대의 의미

- AI는 고정 워크플로우 기반의 SaaS와 관리형 데이터베이스를 지능(intelligence)으로 대체 하며...

8 viewsPyTorchKR, 09:35

PyTorchKR

[읽을거리&정보공유] Finance Skills: AI 코딩 에이전트에 금융 분석과 트레이딩 능력을 더하는 스킬 모음
by 9bow님

Finance Skills 소개

Finance Skills는 AI 코딩 에이전트에 금융 분석과 트레이딩 능력을 더해 주는 에이전트 스킬 모음입니다. Agent Skills 오픈 표준을 따르며, Claude Code를 비롯한 여러 에이전트 환경에 플러그인이나 개별 스킬 단위로 설치할 수 있습니다. 기업 가치평가, 실적 분석, 소셜 미디어 리서치 같은 금융 작업을 에이전트가 직접 수행하도록 각 작업의 절차를 스킬 파일로 정리해 둔 것이 핵심입니다. himself65가 만들어 MIT 라이선스로 공개했습니다.

이 프로젝트는 교육·정보 제공 목적임을 명확히 밝히고 있습니다. README는 "Nothing here constitutes financial advice" 라고 적으며, 투자 결정 전에는 스스로 조사하고 자격을 갖춘 금융 자문가와 상의하라고 안내합니다. 스킬이 다루는 분석은 의사결정의 보조 자료이지 투자 권유가 아니라는 점을 전제로 봐...

7 viewsPyTorchKR, 12:35

PyTorchKR

[블로그] PyTorch Compile은 어떻게 이렇게 빠를까: 커널 융합(Kernel Fusion) | 파이토치 한국 사용자 모임
by bot님

PyTorch의 컴파일러를 사용하면 모델이 최대 10배까지 빠르게 실행됩니다. 그런데 실제로 무슨 일이 일어나는 걸까요? 컴파일을 하지 않으면 GPU는 코드에 있는 각 torch 연산마다 커널(kernel), 즉 GPU에서 동작하는 함수를 실행합니다. 이로 인해 두 가지 큰 속도 저하가 발생합니다. 메모리에서 데이터를 옮기는 데 드는 시간과, 매번 새로운 커널을 시작할 때 드는 오버헤드입니다. GPU가 커널을 실행할 때마다 오버헤드 비용을 치르며, 중간 결과가 생길 때마다 메모리에 쓰고 다시 읽어야 합니다.

> When you use PyTorch’s compiler, your model runs faster, up to 10x faster. But what’s actually happening? Without compilation, the GPU runs a kernel, a functio...

6 viewsPyTorchKR, edited 22:00

About

Blog

Apps

Platform