Видео от Андрея Карпаты про устройство современных больших языковых моделей.

Фундаментально, доходчиво, самая свежая инфа из первых рук.

Смотреть рекомендую на скорости 0.75, потому что Андрей очень быстро говорит и многие вещи теряются, т.к. тема сложная.

Тайминг и темы:

Part 1: LLMs
00:00:00 Intro: Large Language Model (LLM) talk
00:00:20 LLM Inference
00:04:17 LLM Training
00:08:58 LLM dreams
00:11:22 How do they work?
00:14:14 Finetuning into an Assistant
00:17:52 Summary so far
00:21:05 Appendix: Comparisons, Labeling docs, RLHF, Synthetic data, Leaderboard
Part 2: Future of LLMs
00:25:43 LLM Scaling Laws
00:27:43 Tool Use (Browser, Calculator, Interpreter, DALL-E)
00:33:32 Multimodality (Vision, Audio)
00:35:00 Thinking, System 1/2
00:38:02 Self-improvement, LLM AlphaGo
00:40:45 LLM Customization, GPTs store
00:42:15 LLM OS
Part 3: LLM Security
00:45:43 LLM Security Intro
00:46:14 Jailbreaks
00:51:30 Prompt Injection
00:56:23 Data poisoning
00:58:37 LLM Security conclusions

#llm #andrejkarpathy #полезное

Какая-то неделя AI-видео получается

https://pika.art/waitlist

PicaLabs выкатили возможность генерации на сайте в порядке очереди. На почту приходит талончик-пропуск к бесплатной генерации. Ты генеришь отведенное время, потом идешь за следующим. Как в поликлинике. Можете зарегаться с разных адресов, если не лень.

В проморолике по ссылке обещают чудеса. Можно зайти посмотреть только ради него.

Но тут может быть, как с Runway и GEN-1 этой весной – ты начинаешь решать свои прикладные задачи, и получается все не очень радужно. Будем пробовать.

#picalabs #video #waitlist