How will spatial services be redefined in the future?

https://www.linkedin.com/posts/genai-works_the-best-stop-motion-video-ever-produced-activity-7089135122884530176-WMBN?utm_source=share&utm_medium=member_desktop

Bolt, a symbol of overheated financing and questionable due diligence during the pandemic, received an SEC subpoena over statements it made to investors, according to an investor letter. A separate suit says founder Ryan Breslow ousted three board members for not forgiving a $30 million loan.

https://www.theinformation.com/articles/bolt-probed-by-sec-investors-over-statements-made-during-fundraising?utm_medium=email&utm_campaign=article_email&utm_content=article-10930&utm_source=sg&rc=ocojsj

“실리콘밸리에서는 좁은 기회를 뚫기 위해 서로 싸우고 경쟁하기보다는, 공유하고 협력합니다. 성공한 사람을 질투하기 보다는, 다음 세대를 끌어주고 도와줍니다. 오늘 만난 인연으로 다함께 더 협력하고, 공유하여 AI를 발전시키기를 기원합니다.”

Super Koreans

https://www.facebook.com/686279174/posts/pfbid02kEDZocxasrmECHNedA5T9vbgUWT7E5WuTPssVTbJLwBQDwegNd2dpTBnjbtm4xF3l/?mibextid=5eVWNK

How innovation happens in bio pharma?

Builders will need to understand both a) how to exploit the latest and greatest AI tech, and (perhaps more importantly) b) how to commercialize a product or platform in biopharma and healthcare with a defensible product and go-to-market strategy. As such, we believe teams with depth in both (scientists, AI experts, healthcare builders and operators, product and go-to-market experts) will be best poised to lead and win in this new era.

What AI startups should you keep an eye on? :robot_face: 🔥 We asked some incredible investors and founders for their picks. Here are 13 companies pushing the AI frontier 👇

1. Alife
Alife is revolutionizing IVF with AI-powered tools. It’s enhancing decision-making at crucial stages like ovarian stimulation & embryo selection, making fertility treatments more accessible and efficient.
- Rebecca Kaden, Union Square Ventures

2. Glean
Glean uses AI to provide unified, contextual search across apps. Quickly becoming more than just a tool - it’s an intuitive work assistant.
- Josh Coyne, Kleiner Perkins

3. LanceDB (YC W22)
Multi-modal AI is revolutionary, but data management remains a challenge. Lance optimizes storage and handling for this unstructured data, increasing performance, & reducing costs.
- Saar Gur, CRV

4. Abnormal Security
We’ve seen a surge in AI-powered fraud. As these sophisticated attacks rise, so does the need for AI defenses. Abnormal Security uses AI to counter AI threats.
- Saam Motamedi, Greylock

5. Factory
Factory is creating AI coding “droids” designed to take care of an engineer’s annoying busywork, tackling routine tasks like code review and debugging.
- Markie Wagner, Delphi Labs

6. Lamini
Lamini LLM engine creates and fine-tunes customized, private models. It also has a neat partnership with Databricks, making it even easier to get up and running.
- Todd Jackson & James C. Wu, First Round Capital

7. Sereact
Sereact is revolutionizing warehouse automation, leveraging AI to train its robot arm. From picking electronic devices to soft fruits, its arm navigates spatial and physical nuances v well.
- Nathan Benaich, Air Street Capital

8. Mistral AI
Mistral, founded by impressive AI talent, is developing superior OS language models. A potential European challenger to OpenAI.
- Stanislas Polu, Dust

9. poolside
Poolside is another player in the AI-programming space. Its approach is to create a dedicated foundation model focused on one use case: code generation.
- Matan Grinberg, Factory

10. NewLimit
NewLimit is using ML to change the game in epigenetic reprogramming. Their approach could be transformative for treating intractable diseases.
- Simon Barnett, Dimension

11. Runway
Runway is building a new creative suite with AI. It brings professional-grade video creation to anyone. Already used by Fortune 500 and major movies productsions.
- Grace Isford, Lux Capital

12. Labelbox
By making it easy to select, annotate, and assess data, Labelbox makes it easier to experiment with using AI models like GPT-4.
- Robert Kaplan, SoftBank

13. Dust
Dust leverages LLMs for enterprise productivity. The startup is building a “team operating system” designed to augment knowledge workers.
- Konstantine Buhler, Sequoia Capital

There’s a lot more insight and detail in the piece, linked below. Jump in and subscribe for more glimpses of the future 🙂

“Nobody tells this to people who are beginners, I wish someone told me. All of us who do creative work, we get into it because we have good taste. But there is this gap. For the first couple years you make stuff, it’s just not that good. It’s trying to be good, it has potential, but it’s not. But your taste, the thing that got you into the game, is still killer. And your taste is why your work disappoints you. A lot of people never get past this phase, they quit. Most people I know who do interesting, creative work went through years of this. We know our work doesn’t have this special thing that we want it to have. We all go through this. And if you are just starting out or you are still in this phase, you gotta know its normal and the most important thing you can do is do a lot of work. Put yourself on a deadline so that every week you will finish one story. It is only by going through a volume of work that you will close that gap, and your work will be as good as your ambitions. And I took longer to figure out how to do this than anyone I’ve ever met. It’s gonna take awhile. It’s normal to take awhile. You’ve just gotta fight your way through.”

― Ira Glass

Random question
한국은 이런 문화가 있다고 생각하시나요? 그 이유는 뭐라고 생각하세요?
한국에 긍정적인 영향을 줄 수 있는 pay it forward 문화를 만들려면 뭘 해야할까요?

정말 좋은 말. 어떤 일이라도 시작하자마자 열정있는 사람은 없음. 그냥 열심히 하면서 그 안에서 열정을 찾는 것. 열정이 있는 사람과 함께 할 수 있다면 그것 자체가 인생의 운. 살다보니 내 인생에서 좋은 기회는 내가 잘해서가 아니라 내 주변 선배들이 나에게 열정을 불어넣어주어서... 나도 모르게 무언가 하다보니 실력이 생기게 되었던 것 같음. 그게 또 다른 일의 기회가 되었고. 그게 사람 사는 것 아닐까?

Top 7 MLOps GitHub Repository

➡ MLOps Zoomcamp
https://lnkd.in/dJprs9hE

➡ MLOps-Basics
https://lnkd.in/dEMMnuPm

➡ MLOps Guide
https://lnkd.in/guSsnb4m

➡ Awesome MLOps
https://lnkd.in/dZ-WfnY

➡ Awesome MLOps - Tools
https://lnkd.in/dG66ATXm

➡ DTU MLOps
https://lnkd.in/dnGKQvKt

➡ MLOps Course
https://lnkd.in/dQ69PBUr

최근 일론 머스크의 AI 스타트업 ‘xAI’의 공식 출범 이후, 그들의 첫 공개적인 행보가 트위터 스페이스에서 진행되었습니다.

일론 머스크가 xAI의 공동 설립자들과 이야기를 나눈 것인데, 팀의 방향성과 그들의 사명이 잘 나타난 것 같아 내용을 정리해봤습니다.

유튜브 백색나무님께서 내용을 잘 번역해주셨습니다. 이곳에서 전체 내용을 보실 수 있습니다.


1/ xAI의 궁극적인 목표는 ‘우주의 진정한 본질을 이해하는 것’.

그들은 과학을 추구하며, 단순히 AGI라는 시스템의 구축이 아닌 모든 것에 대한 ‘이해’에 집중함.

2/ 이를 위해 그들이 만들고자 하는 것은 ‘고차원적인 목적’을 가진 선한 AGI.

고차원적인 목적이라 함은, 암흑 물질과 같이 아직 해결되지 않은 우주의 근본적인 의문들을 해결하는 것.

3/ 즉 (리만 가설과 같은) 근본적이고 중요한 문제를 풀 수 있는지가 AGI의 영역에 도달했는지 판단하는 핵심 요소라고 함.

인간이 역사적으로 이런 근본적인 의문들을 상당 부분 해결해왔듯, 컴퓨터도 이를 하나라도 해결할 수 있어야 AGI에 도달했다고 생각하는 것.

4/ AI 안전은, AI가 최대한의 호기심을 갖고 진실을 탐구하도록 해야 이루어질 수 있음.

도덕적으로 프로그래밍 된 AI는 단순히 뒤집기만 하면 악한 AI가 될 수 있음. 그렇기 때문에 호기심과 진실을 추구하는 것이 역도덕성 문제를 피하는 방법임.

5/ 태양계만 보더라도 인류만큼 흥미롭고 호기심이 드는 존재는 없음.

즉 AI는 인류가 없는 것보다 있는 것이 훨씬 더 흥미롭다고 여길 것이기 때문에 이를 쫓으면 안전한 AI가 만들어질 수 있을 것.

6/ 현재 진행되는 AI의 방식들은 굉장히 크게 빗나가고 있다고 생각함.

일례로 AI는 10MW의 GPU 컴퓨팅으로도 훌륭한 작가의 집필 능력을 따라가지 못함.

7/ 그에 반해 인간은 고작 10W로 두뇌 능력을 활용하기 떄문에, 10^6(약 100만 배)만큼의 전력 소모 차이가 남.

또한 전기화학과 같은 기술적인 질문에 있어서도 도움이 안 되는 무의미한 답변만 줌.

8/ 답은 생각보다 훨씬 간단할 것임.

현재의 AI 개발은 무차별적으로 대량의 데이터를 학습하는 방식이지만, 성공하지 못하고 있음.

9/ 솔루션을 직접 하드 코딩할 수도 있지만, 컴퓨터가 알아서 해결책을 찾도록 하는 것이 훨씬 더 효과적인 경우가 많음.

결국 AI가 스스로 데이터를 생성하고 평가하는 것이 AGI로 향하는 길이라고 생각함.

10/ AI의 전력 효율성은 앞으로 더욱 중요해질 것임.

전력 효율에 신경 쓰지 않으면 더 많은 발전기와 변압기가 필요해지며, 이를 확보하지 못하면 컴퓨팅에 병목이 생길 수 있음.

11/ 결국 어느 시점에는 지불할 비용이 있음에도 AI를 작동할 수 없게 될 수도 있기 때문에, 에너지 최적화된 추론이 매우 중요해질 것임.

12/ 이러한 에너지 효율적인 측면에서 xAI는 상당한 이점을 얻을 수 있음.

일론 머스크의 또 다른 기업인 테슬라가 GPU 역할을 하는 자체 칩 HW3.0과 자체 슈퍼컴퓨터인 Dojo를 가지고 있기 때문.

13/ xAI는 두 가지 지표를 추적함. 1인당 컴퓨팅의 양과 1인당 에너지의 양.

현재 GPU의 원료인 실리콘이 매우 부족한 상황임. 1년 후에는 변압기가 부족해질 것이며, 2년 후에는 전력 부족으로 이어질 것. 결국 몇 년 후 가장 중요한 지표는 ‘에너지 당 컴퓨팅 양’이 될 것.

14/ 일론 머스크는 테슬라, 스페이스X 등 Real-World와 관련된 기업을 소유하고 있음.

이는 OpenAI와의 큰 차별점이며, 이들 기업 간의 협업과 테슬라의 현실 세계 AI와 관련된 엄청난 통찰력은 xAI에게 큰 도움이 될 것임.

15/ 이미 xAI 내부에서는 첫 번째 발표(release)를 준비 중이며, 몇 주 안에 더 많은 정보를 공개할 예정.


저희도 AGI에 대한 답이 생각보다 간단할 수 있다고 생각합니다. 생각보다 많은 문제들은 명확하고 간단한 프레임워크를 제시한 이후, 그 틀에서 문제를 바라볼 경우 쉽게 풀리는 경우가 많았습니다.
이는 다윈의 진화론과 왓슨-크릭의 DNA 발견에서도 확인할 수 있습니다.

아직까지 우리는 두뇌가 어떠한 방식으로 사고하는지에 대한 프레임워크를 갖추지 못했을 뿐, 간단한 프레임워크만 등장한다면 의외로 쉽게 그 구조를 이해하고 AI에 유사한 솔루션을 적용해볼 수도 있습니다.

이러한 새로운 접근법을 통해 지금까지 풀리지 않던 다양한 문제를 AGI가 해결한다면 이러한 기초 원리들을 응용해 더욱 많은 발전이 일어날 수 있을 것이고, 그 속도는 더욱 가팔라질 것입니다.

재밌는 건, 계속해서 AGI의 기준이 올라간다는 것입니다.
과거에는 수학 문제를 풀거나 인간 챔피언에게 체스를 이기면 AGI에 도달한 것이라고 생각했으나, 그것이 바둑, 그리고 이제는 인간이 풀지 못한 문제를 해결하는 것까지 넘어온 것입니다.
리만 가설과 같은 중요한 문제를 풀게 되면 그때는 인간이 AGI를 인정하게 될까요?

인류를 풍요롭게 하기 위해서, 이들은 더욱 깊은 본질을 보고 있습니다. 영상을 보고 나서, 개인적으로도 많이 응원하게 되는 것 같네요.
읽어주셔서 감사합니다. :)

Want to have lunch with Reid Hoffman in NYC this Saturday?
Reid, the Founder of Linkedin and investor in Entrepreneur First, are hosting an exclusive lunch with New York’s most exceptional, early career technical talent.
And to identify 10 individuals best suited to join, we’re hosting an AI-focused Hackathon where the winners will be invited to attend Reid’s lunch!
It’ll run from 6pm Friday to 10am Monday, where we’ll provide food & drinks, as well as OpenAI credits to support.
DM me if you have any questions & register to attend here: https://lu.ma/z2w5gfpi

뉴욕에 계신 분들은 리드 호프만이랑 점심 먹을 수 있겠네요 ㅎㅎ

https://n.news.naver.com/mnews/article/366/0000919220?sid=105

HBM 방식의 어려움에 대해 설명을 조금 잘 해주는 것 같습니다. 매우 복잡하고 돈이 많이 들 수 밖에 없는 HBM 방식의 문제점은 그 근본 구조상 쉽게 해결될 문제는 아닌 듯 하고, 어쩌면 왜 전세계 AI 반도체 스타트업들이 이렇게 고전하고, 팹을 가졌거나 기초 IP를 자체 제작할 수 있는 덩치 큰 AI 반도체 회사들과의 격차를 좁히기보다 오히려 더 벌어질 수 밖에 없는 현실을 설명하고 있는지도 모르겠습니다 (길게 꼬아서 쓴 이유는, 너무 조심스러워서요 ^^)

팹리스 산업이 중요하다고 하지만 기본적으로 모든 component들을 외부에서 수혈하는 방식의 팹리스는 조금 어려움이 많을 듯 싶습니다 (워낙 최고난이도의 communication기술과 메모리 control 기술이 필요하니까요), nvidia는 최상급의 아날로그 IP들은 물론이고 심지어 TSMC에서도 어느정도 심지어 공정을 specialize해주고 있다는 점도 염두해둔다면, 국내 AI 반도체를 키우는 방식에 대한 고민을 좀 더 크고 깊게 해야하지 않을까 싶습니다. 팹리스라고 하더라도 자체 IP들을 아날로그 레벨까지 깊게 내려가서 고민해야 하기도 합니다.

만일 IP들을 외부에서 수혈하고 디지털관련 (알고리즘 구현 레벨의) 팹리스라면 알고리즘 레벨에서 승부를 봐야할텐데, 이 경우에는 ICLR, ICML, NeurIPS 같은 AI 알고리즘 학회들에 (workshop같은 자체적인 sub행사 말고 main track 기준) 어느 정도 논문을 publish하는 회사인지를 보면 약간은 기술적인 평가도 가능하지 않을까 합니다.

https://n.news.naver.com/mnews/article/366/0000919220?sid=105&fbclid=IwAR1oaVj83lsaiGy_gaupCQfdJ0dCoyquq-BQ2BWAx7_IB46M2lk7McY0N_8_aem_ATB-S6qsVmlFzrSIUuHMGhVRVKES-GAnQk0b_tBDBAPlXwfi3IGDa6TG7tCRF85g940&mibextid=Zxz2cZ

빌 게이츠가 AI가 가져올 우려들에 대해 인정하고, 이에 대한 생각을 적은 글을 가져왔습니다.

먼 미래의 초지능적 AI가 가져올 잠재적 위험보다는 이미 존재하거나 곧 존재하게 될 위험에 초점을 맞추어 작성한 글이니, 읽어보면 좋은 인사이트가 될 것 같습니다.
(원문 의역글)


1/ AI로 생성한 딥페이크나 잘못된 정보는 선거를 포함한 민주주의를 훼손할 수 있습니다.

1-1/ 기술이 거짓을 퍼뜨리는 데 활용되는 것이 처음은 아니지만, AI를 활용하면 더욱 쉽고 정교하게 조작할 수 있습니다.

보이스 피싱에 가짜 오디오 및 비디오를 사용하거나, 조작된 정치적 이슈를 만들어 선거를 뒤흔드는 데 쉽게 활용될 수 있습니다.

1-2/ 하지만 AI는 딥페이크의 생성뿐만 아니라 식별에도 큰 도움을 줄 수 있으며, 사람들은 비슷한 유형의 조작에 대한 누적된 경험을 통해 이를 식별하는 방법을 학습해왔습니다.

이는 조작을 탐지하고 대응책을 개발하는 순환적인 과정이 될 것이며, 이러한 위험에 충분히 대응할 수 있을 것입니다.

2/ 개인과 정부에 대한 공격이 더 쉬워질 수 있습니다.

2-1/ AI는 해커가 더 효과적인 코드를 작성할 수 있도록 도움으로써 개인이나 기관에 대한 공격을 가속화할 수 있습니다. 그들은 새로운 범죄 도구를 만드는 것을 멈추지 않을 것입니다.

2-2/ 이것이 AI 규제안을 원인 삼아 AI 발전을 일시적으로 막으려 해서는 안 되는 이유입니다. 악용을 막기 위한 노력도 같은 속도로 계속 진행되어야 하기 때문입니다.

2-3/ AI를 통한 군비 경쟁이라는 글로벌 차원의 위험도 존재합니다. 이를 방지하기 위해서 국제 핵 비확산을 위한 국제원자력기구와 유사한 AI 글로벌 기구를 설립하는 것을 고려해야 합니다.

3/ 사람들의 일자리를 빼앗을 것입니다.

3-1/ 이에 대해서, AI는 사람들이 업무를 더 효율적으로 수행할 수 있도록 돕는 역할을 할 것입니다.

AI는 단기적으로 업무의 생산성을 높이며 이는 사회적으로도 좋은 일입니다.

3-2/ 또한 환자를 돌보거나, 노인을 부양하는 등의 사람을 돕는 일에 대한 수요는 결코 사라지지 않을 것입니다.

3-3/ 분명한 것은, AI의 영향력은 PC의 도입만큼 거대할 것입니다.

즉 AI 기반의 업무 환경으로 전환하는 과정에서 여러 차원의 지원과 재교육이 필요할 것이며, 이는 정부와 기업의 역할이 클 것입니다.

4/ AI는 인류의 편견에 기반하여 무언가를 만들어냅니다.

4-1/ 사용자 요청의 맥락을 이해하지 못하여 환각(hallucination)을 만들어내거나, 특정 성 정체성이나 인종 등을 가진 사람들에 대한 편견을 반영하고 이를 악화시킬 수 있습니다.

4-2/ 이는 트랜스포머 방식을 기반으로 작동하는 AI 모델에서 많이 나타나며, 사용자 질문의 맥락이 아닌 학습된 데이터를 기반으로 답변하기 때문에 발생하는 문제입니다.

4-3/ 즉 AI 모델은 학습된 텍스트에 어떤 편견이 숨어져 있든 이를 그대로 이어받습니다.

예를 들어 의사에 대한 텍스트를 학습할 때 주로 남성 의사가 언급되어 있다면 대부분의 의사는 남성이라고 가정하여 답변합니다.

4-4/ 하지만 일부 연구자들의 주장과는 달리, 환각과 같은 문제가 모델의 본질적인 문제라고 생각하지 않습니다.

시간이 지나면 AI 모델이 사실과 허구를 구분할 수 있게 될 것이라고 생각하며, 이미 OpenAI는 이 분야에서 유망한 연구를 진행하고 있습니다.

4-5/ 또한 다양한 배경을 가진 사람들이 모델을 설계하거나, 인간의 가치와 더 높은 수준의 추론 능력을 AI에 구축하여 편향성을 해결할 수 있습니다.

AI를 사용하는 사람들도 자신의 편견뿐만 아니라 AI의 편견을 인식하고 활용해야 합니다.

5/ 학생들이 글쓰기를 배우지 않습니다.

이는 1970-80년대에 전자계산기가 처음 보급되던 시기의 걱정과 유사합니다.

5-1/ 일부 수학 교사들은 학생이 기본적인 산수를 배우지 않을까 걱정했지만, 다른 교사들은 새로운 기술을 받아들이고 산수에 필요한 사고력을 키우는 데 집중했습니다.

즉 새로운 기술을 배우고 활용하는 교사들은 많은 이점을 얻을 수 있을 것이라고 생각합니다.

5-2/ 또한 진실과 거짓을 구별하는 방법을 아는 것보다 더 중요한 기술은 거의 없습니다.

즉 환각과 편견을 가진 AI가 작성한 글에 대해 진위 여부를 확인하도록 하여 비판적 사고에 도움을 줄 수 있습니다.

5-3/ 더욱이 해결해야 할 문제는, AI 기반의 교육용 소프트웨어가 학생 간 성취도 격차를 줄일 수 있도록 하는 것입니다. 즉 모든 유형의 학생들이 AI 혜택을 누리도록 해야 합니다.

이미 동기 부여가 된 학생의 역량을 강화하는 것은 간단하지만, 아직 동기 부여가 되지 않은 학생을 교육에 끌어들이는 방법은 아직 모르기 때문입니다.

6/ AI의 위험을 관리하면서 동시에 혜택을 극대화할 수 있다는 낙관적인 전망을 하지 않을 이유가 없습니다.

6-1/ 위험을 관리할 수 있다고 믿는 가장 큰 이유는 이전에 해본 적이 있기 때문입니다. 즉 역사적 선례가 있으며, 과거로부터 배울 수 있습니다.

6-2/ AI로 인해 발생하는 많은 문제들은 동일하게 AI를 통해 해결할 수 있습니다.

이를 위해 새로운 기술에 대응할 수 있는 법과 규정을 만들어 인류에게 득이 되는 방향으로 움직여야 합니다.

[요즘AI comment]
어떤 것이든 특정한 이슈로 인해 평형 상태가 깨지게 되면 그 과정에서 나타나는 수많은 변화들이 있고, 빌 게이츠가 언급한 문제들도 그 과정에서 나타날 수밖에 없는 당연한 것이라고 생각합니다.

중요한 것은 이러한 좋지 않은 변화들을 인류는 계속해서 해결해 왔고, 이 해결의 힘은 변화의 과정에서 부당한 이익을 챙기려는 소수가 그것을 막으려는 다수의 힘을 넘어설 수 없다는 것에서 나오지 않았을까 합니다.

빌 게이츠 글이라 살짝 언급드리면, 지금은 절판된 ‘미래로 가는 길’이라는 빌 게이츠의 책을 추천드립니다. 90년대 초반에 PC시대와 그 이후를 예측한 글인데, 그 통찰력이 대단합니다. 책을 읽고 난 후 빌 게이츠의 블로그 글들을 보신다면 왜 빌 게이츠가 AI 시대를 이렇게 기대하는지 조금은 이해할 수 있지 않을까 합니다.

긴 글 읽어주셔서 감사합니다. 다음 번에도 좋은 글로 찾아뵙겠습니다 :)

지난 7월 21일 AI 업계에 지식과 경험을 나눠주실 수 있는 연사분들과 현업에 계시는 약 60여분의 리서쳐, 엔지니어, 창업가 분들을 모시고 세션을 진행했습니다. 장소가 협소하여 더 모시지 못해서 아쉽네요 🙏
행사 당일에 이야기했던 주제와 발표자 분들이 사전에 준비하셨던 노트를 공유드립니다.

1️⃣ Llama-2 모델에서 살펴볼만한 점들
모더레이터: 노정석
컨트리뷰터: 신정규, 고석현, 최승준
1. 모델의 크기 중요한가?
“(일부 인용)그렇지만 7B, 40B, 70B 이런 파라미터의 크기가 비즈니스와 정말 연관성을 가지고 중요하냐고 했을 때, 오히려 서빙 인프라에 최적화하기 위해 사실 작은 모델이 서비스 하기에는 더 좋은 경우도 많을 수 있다. 실제 사례로 3B 정도의 모델로도 충분히 잘 학습시킨다면 엔드 유저에게 가치를 줄 수 있는 모델을 만들 수 있었다.“
2. 예상 가능한 활용 사례
"AI Transformation 관점으로 비즈니스 영역에서 적용될 수 있는 방향성이 크게 4가지 ( 1️⃣ 버티컬 영역에 특화된 형태 [ BloombertGPT - 금융, Med-PaLM - 의료 등] 로 그 섹터의 고객들을 타깃으로 GPT보다 잘하게 만드는 방식, 2️⃣ [Salesforce AI Cloud](https://www.salesforce.com/products/artificial-intelligence/)처럼 CRM, 메시지 등 펑션별로 여러 기능을 제공하고 모듈별로 기업들이 필요한대로 가져다가 쓸 수 있는 형태, 3️⃣ 기업의 프라이빗 온프렘에서 트레이닝하여 커스텀한 형태로 사용하는 방식"

2️⃣ Prod 환경에서 LLM을 학습/운영하는데에 마주하는 어려움과 기회
모더레이터: 노정석
컨트리뷰터: 신정규 고석현 최승준 홍승환 김성완 허진호

“PT(Pre-training) 와 FT(Fine-tuning) 사이의 관계를 해석할 때 여러 가지 시각이 있지만 가장 지배적인 시각이 PT 때 언어에 대한 근본적인 철학과 이해를 배우고 FT 때 내가 원하는 테스크로 바뀔 때 내가 원하는 테스크를 학습시키는 게 아니고 Unleashing 한다고 함.”

“Embedding 모델이 성능을 내는지 텍스트를 청킹하는 방법에 따라서도 굉장히 많이 달라질 수 있음. Chunking 전략을 어떻게 가져갈지 고민해야 함”
“레이블러가 어떤 기준으로 어떻게 레이블하는지도 아주 중요함. 레이블러 선발부터 이들의 평가 기준을 어떻게 잡아주는지에 따라서 모델의 성능이 상이하게 달라질 수 있음.”

3️⃣ 사용할 수 있는 다양한 Infra(Langchain 등) 비교 분석
모더레이터: 고석현 김민석
컨트리뷰터: 이호연 김건민 신원동 홍승환

“LangChain이 LLM 기반 애플리케이션을 만들기 시작하기에 앞서 참고하기 좋은 프레임워크이지만, Prod 레벨에서 서비스를 만들 때 다양한 문제가 존재합니다. [langchain is pointless](https://old.reddit.com/.../13fcw36/langchain_is_pointless/) 글에 나온 문제의식들에 공감합니다.”
“아무래도 실제 Product에 가까워지려면 RAG의 개념을 빼놓을 수 없었다고 판단하여 다양한 RAG 기반 Agent들을 만들어보았습니다.”

4️⃣ SD, Chatbot을 활용한 새로운 서비스
모더레이터: 서결
컨트리뷰터: 이정민, 강협 정쩜백 신원동

1. GenAI가 대두되면서 매력적이라고 생각하는 B2C 서비스
1. 2차 컨텐츠 생성 툴을 이용한 소셜 사이트: 드라마, 영화, 웹툰을 보고 해당 주인공들과 대화를 추가로 나누고 교류할 수 있는 유형의 새로운 서비스
2. AI Agent들이 녹아든 게임
세션을 진행해주시고 참여해주신 분들, 해당 밋업에 참여해주신 분들 모두 감사드립니다 🙇‍♀️

해당 세션의 자세한 발표 노트를 확인하고 싶으시다면 아래 링크에서 신청 부탁드립니다.
https://forms.gle/UwYBXyTaPnBWetEM7