KV Cache (Key-Value Cache) is a crucial memory optimization in Large Language Models (LLMs) that accelerates text generation by storing intermediate attention computations (Keys and Values). Instead of re-evaluating the entire prompt for every new word, the model calculates the new token and reuses the cached history, changing computational growth from quadratic to linear.
🔗 Video link (by IBM & Red Hat): https://www.youtube.com/watch?v=o0gkdZBtwEg
🔗 Video link (by IBM & Red Hat): https://www.youtube.com/watch?v=o0gkdZBtwEg
YouTube
How KV Cache Speeds Up LLMs for Faster AI Models on GPUs
Learn more about LLM inference here → https://ibm.biz/~Ewjm0UejN
Why do LLMs crawl when traffic spikes? 🤔 Legare Kerrison explains how KV cache and paged attention reshape GPU memory across prefill and decode to speed up LLM inference. Learn how smarter…
Why do LLMs crawl when traffic spikes? 🤔 Legare Kerrison explains how KV cache and paged attention reshape GPU memory across prefill and decode to speed up LLM inference. Learn how smarter…
Forwarded from Data Secrets
– Gemini 3.6 Flash: использует ~ на 17% меньше токенов, чем 3.5 Flash, и при этом превосходит ее по качеству.
– Gemini 3.5 Flash-Lite: обновленная шустрая дешевая моделька линейки Flash-Lite. Выдает до 350 токенов в секунду, и гораздо лучше перформит на агентных задачах.
– Gemini 3.5 Flash Cyber: первая в своем роде Flash, созданная специально для кибербеза
blog.google/innovation-and-ai/models-and-research/gemini-models/gemini-3-6-flash-3-5-flash-lite-3-5-flash-cyber/
Please open Telegram to view this post
VIEW IN TELEGRAM
Please open Telegram to view this post
VIEW IN TELEGRAM
Problem Solving with Arman (ML+Algo)
Introducing Kimi K3: Open Frontier Intelligence (Moonshot AI) 🔹 2.8 Trillion Parameters, 1 Million Context, Native Multimodal 🔹 Kimi Delta Attention enables up to 6.3x faster decoding in million-token contexts 🔹 Attention Residuals deliver ~25% higher training…
Kimi K3 -> K3 stands for Kazakhstan 🇰🇿
Открытый вебинар «Параллелизация обучения модели на сотни GPU».
Авторы: команда girafe.ai (мощные специалисты)
Материалы:
- Запись на YouTube: https://www.youtube.com/watch?v=D67sPMFLtNI&list=PLJR10EXrBaAs9kwh3KAxNny5TBsEB0nF0&index=1
+ прикрепил ниже презентацию.
Авторы: команда girafe.ai (мощные специалисты)
Материалы:
- Запись на YouTube: https://www.youtube.com/watch?v=D67sPMFLtNI&list=PLJR10EXrBaAs9kwh3KAxNny5TBsEB0nF0&index=1
+ прикрепил ниже презентацию.
YouTube
Вебинар: "Параллелизаци обучения модели на сотни GPU" | girafe-ai
Тема: Параллелизация обучения модели на сотни GPU
Спикер: Владислав Гончаренко
Дата: 20.07.2026
Спикер: Владислав Гончаренко
Дата: 20.07.2026
Number of Unique XOR Triplets (I, II)
> Наткнулся на интересные задачки по битовой логике (давно не решал такие задачи):
Вам дается массив чисел
XOR logic gate основные правила:
* X ^ X ^ X = X
* X ^ X = 0
Q1: В первой версии задачи гарантируется, что числа это перестановки чисел от 1 до N. Но при этом размер массива N -> может быть до 10^5. То есть просто O(N^3) брутфорсом не получится решить :) ~ даже O(N^2) оптимизированное решение не пройдет -> есть красивое логическое решение за O(1).
Подсказки:
* Если числа гарантировано от 1 до N перестановка - то порядок чисел не имеет значение.
* До N <= 8 попробуйте перерешать вручную на бумаге битами :)
Q2: Во второй задаче уже числа могут быть любыми до <=1500, и также гарантируется, что размер массива будет до <=1500, то есть O(N^3) решение брутфорс тут не зайдет также -> займет кучу операций ~3.4 * 10^9 => TLE. Подсказка:но O(N^2) оптимизированное хэшсетами решение зайдет :)
Topics:
Q1: https://leetcode.com/problems/number-of-unique-xor-triplets-i
Q2: https://leetcode.com/problems/number-of-unique-xor-triplets-ii
#LeetCode
> Наткнулся на интересные задачки по битовой логике (давно не решал такие задачи):
Вам дается массив чисел
nums и нужно посчитать уникальное количество XOR триплетов (i <= j <= k | nums[i] ^ nums[j] ^ nums[k]). XOR logic gate основные правила:
* X ^ X ^ X = X
* X ^ X = 0
Q1: В первой версии задачи гарантируется, что числа это перестановки чисел от 1 до N. Но при этом размер массива N -> может быть до 10^5. То есть просто O(N^3) брутфорсом не получится решить :) ~ даже O(N^2) оптимизированное решение не пройдет -> есть красивое логическое решение за O(1).
Подсказки:
* До N <= 8 попробуйте перерешать вручную на бумаге битами :)
Q2: Во второй задаче уже числа могут быть любыми до <=1500, и также гарантируется, что размер массива будет до <=1500, то есть O(N^3) решение брутфорс тут не зайдет также -> займет кучу операций ~3.4 * 10^9 => TLE. Подсказка:
Topics:
Bit Manipulation, Math, HashsetsQ1: https://leetcode.com/problems/number-of-unique-xor-triplets-i
Q2: https://leetcode.com/problems/number-of-unique-xor-triplets-ii
#LeetCode
LeetCode
Number of Unique XOR Triplets I - LeetCode
Can you solve this real interview question? Number of Unique XOR Triplets I - You are given an integer array nums of length n, where nums is a permutation of the numbers in the range [1, n].
A XOR triplet is defined as the XOR of three elements nums[i] XOR…
A XOR triplet is defined as the XOR of three elements nums[i] XOR…
Kaggle AI Bench Sandbox added GPT-5.6 Terra 🔥
LOL:
* GPT-5.6 Terra thinks: 1GB pdf = 1L water = 1KG sugar 😅
* But for Claude Opus - 1KG sugar is the heaviest one :)
🙌 Test your prompts: https://www.kaggle.com/
LOL:
* GPT-5.6 Terra thinks: 1GB pdf = 1L water = 1KG sugar 😅
* But for Claude Opus - 1KG sugar is the heaviest one :)
🙌 Test your prompts: https://www.kaggle.com/
Midnight Code Cup 2026 Finals (problem K)
https://2026.midnightcodecup.org/problems/K/ — на сервере запущена какая-то программа, которой можно присылать картинки, а она сообщает, насколько они похожи на загаданную картинку. Когда вы присылаете изображение, очень похожее на правильное, вам выдают ключ — и задача решена.
Разбор решения задачи (интересные решения):
- 1-я часть: https://t.me/pushing_buttons/94
- 2-я часть: https://t.me/pushing_buttons/95
Условия всех задач можно почитать здесь: https://2026.midnightcodecup.org/problems/
из канала "Боря программист" (Борис Минаев - SWE OpenAI & ICPC 2015 World Champion with full problems solved*): https://t.me/bminaiev_blog
https://2026.midnightcodecup.org/problems/K/ — на сервере запущена какая-то программа, которой можно присылать картинки, а она сообщает, насколько они похожи на загаданную картинку. Когда вы присылаете изображение, очень похожее на правильное, вам выдают ключ — и задача решена.
Разбор решения задачи (интересные решения):
- 1-я часть: https://t.me/pushing_buttons/94
- 2-я часть: https://t.me/pushing_buttons/95
Условия всех задач можно почитать здесь: https://2026.midnightcodecup.org/problems/
из канала "Боря программист" (Борис Минаев - SWE OpenAI & ICPC 2015 World Champion with full problems solved*): https://t.me/bminaiev_blog
Telegram
Нажимаем кнопки
Как решить задачу с соревнования, не написав прочитав ни строчки кода
Недавно Борис из OpenAI (@bminaiev_blog) объявил конкурс: кто первым решит задачу, которую он написал для Midnight Code Cup, тот получит годовую подписку на ChatGPT Pro – пост. Само соревнование…
Недавно Борис из OpenAI (@bminaiev_blog) объявил конкурс: кто первым решит задачу, которую он написал для Midnight Code Cup, тот получит годовую подписку на ChatGPT Pro – пост. Само соревнование…
FastAPI version 0.140.0 is a high-performance Python web framework release focused on major memory optimizations, reducing baseline memory usage by around 50%.
https://x.com/FastAPI/status/2080774236373680483
https://x.com/FastAPI/status/2080774236373680483
Forwarded from Codeforces Official
Codeforces Round 1112 (Div. 1, Div. 2) will take place 26 July 2026 at 14:35 UTC.
Please, join by the link https://codeforces.com/contests/2249,2250
Please, join by the link https://codeforces.com/contests/2249,2250
Knowing When Not to Use AI: AI Agents vs Rules vs ML
"The most important AI skill is knowing when not to use it."
1. Humans: Use when decisions require deep ethical judgment, emotional nuance, or accountability in high-stakes scenarios.
2. Rules (Hard-coded Logic): Use when the logic is strictly deterministic, 100% predictable, and compliance-driven.
3. GenAI (Generative AI & Agents): Use when dealing with unstructured inputs, natural language processing, or tasks requiring dynamic decision-making across tool ecosystems.
4. Traditional Machine Learning (ML): Use when predicting outcomes, classifying structured data, or detecting anomalies based on historical patterns.
~ 4 rules made with help of Gemini Flash :)
🔗 Video by IBM: https://youtu.be/_ZqSFVi6UDY?si=jKsvxDMktULlHI4m
📜 Learn more about Balancing AI: https://www.ibm.com/think/insights/ai-ethics-balancing
"The most important AI skill is knowing when not to use it."
1. Humans: Use when decisions require deep ethical judgment, emotional nuance, or accountability in high-stakes scenarios.
2. Rules (Hard-coded Logic): Use when the logic is strictly deterministic, 100% predictable, and compliance-driven.
3. GenAI (Generative AI & Agents): Use when dealing with unstructured inputs, natural language processing, or tasks requiring dynamic decision-making across tool ecosystems.
4. Traditional Machine Learning (ML): Use when predicting outcomes, classifying structured data, or detecting anomalies based on historical patterns.
~ 4 rules made with help of Gemini Flash :)
🔗 Video by IBM: https://youtu.be/_ZqSFVi6UDY?si=jKsvxDMktULlHI4m
📜 Learn more about Balancing AI: https://www.ibm.com/think/insights/ai-ethics-balancing
YouTube
Knowing When Not to Use AI: AI Agents vs Rules vs ML
Learn more about Balancing AI here → https://ibm.biz/~9OkAGRDQh
AI isn’t always the right tool for every problem. Sam Anthony explains when to use AI agents, machine learning, rules, or human judgment in system design. Learn how to choose the right approach…
AI isn’t always the right tool for every problem. Sam Anthony explains when to use AI agents, machine learning, rules, or human judgment in system design. Learn how to choose the right approach…
5 сентября будет онлайн-трансляция deep tech night — конференции Яндекса о технологических вызовах в эпоху AI, которые сегодня меняют разработку, архитектуру и инфраструктуру.
Регистрация по ссылке: https://deeptechnight.ru
Регистрация по ссылке: https://deeptechnight.ru
deep tech night
Конференция Яндекса о вызовах, с которыми IT-индустрия сталкивается в эпоху AI
Duval's Algorithm finds the lexicographically smallest rotation of a cyclic string in O(N) time, producing a unique canonical representation.
Key Steps:
1. Duplicate the string (s + s) so every rotation becomes a contiguous substring.
2. Compare two candidate rotations (i and j) character by character using offset k.
3. Skip impossible candidates whenever a mismatch is found:
> If rotation i is smaller, discard rotation j.
> Otherwise, discard rotation i.
4. Continue until only the best candidate remains.
5. Return the substring of length N starting from the smallest valid index.
> Problem for practice (#3999 - Hard): https://leetcode.com/problems/minimum-number-of-string-groups-through-transformations/
> Solution (explanation): https://leetcode.com/problems/minimum-number-of-string-groups-through-transformations/solutions/8421501/duvals-algorithm-for-getting-minimal-str-m3hj
+ Article: https://cp-algorithms.com/string/lyndon_factorization.html#implementation
#LeetCode
Key Steps:
1. Duplicate the string (s + s) so every rotation becomes a contiguous substring.
2. Compare two candidate rotations (i and j) character by character using offset k.
3. Skip impossible candidates whenever a mismatch is found:
> If rotation i is smaller, discard rotation j.
> Otherwise, discard rotation i.
4. Continue until only the best candidate remains.
5. Return the substring of length N starting from the smallest valid index.
> Problem for practice (#3999 - Hard): https://leetcode.com/problems/minimum-number-of-string-groups-through-transformations/
> Solution (explanation): https://leetcode.com/problems/minimum-number-of-string-groups-through-transformations/solutions/8421501/duvals-algorithm-for-getting-minimal-str-m3hj
+ Article: https://cp-algorithms.com/string/lyndon_factorization.html#implementation
#LeetCode
LeetCode
Minimum Number of String Groups Through Transformations - LeetCode
Can you solve this real interview question? Minimum Number of String Groups Through Transformations - You are given an array of strings words.
Define a transformation on a string s as follows:
* Let E be the subsequence of characters at even indices of…
Define a transformation on a string s as follows:
* Let E be the subsequence of characters at even indices of…
Fast Fourier Transformation (FFT) is one of the most important and influential algorithms in signal processing.
Veritasium video about FFT: https://youtu.be/nmgFG7PUHfo?si=tS17Jc4xs-HplJru
#FFT #Algo
Veritasium video about FFT: https://youtu.be/nmgFG7PUHfo?si=tS17Jc4xs-HplJru
#FFT #Algo
Forwarded from Python Portal
Подборка ресурсов по MLOps для тех, кто хочет разобраться, как ML-системы доводят до production.
https://github.com/visenger/awesome-mlops
👉 @PythonPortal
https://github.com/visenger/awesome-mlops
Please open Telegram to view this post
VIEW IN TELEGRAM
Forwarded from 📢 Возможности 🚀 startup-course.com 💰
🦅💸 Прогулка IT Есентай с VC Бахт Ниязов 1-го августа
Глава венчурной студии JUSTART расскажет, как сегодня запускать стартапы на своей экспертизе:
• где искать идеи, которые действительно имеют потенциал;
• как проверить спрос до того, как потратить время и деньги;
• нужен ли сегодня сооснователь или можно стартовать одному;
• почему дешёвый MVP и ранняя дистрибуция становятся новой нормой.
Если вам интересны технологии, AI, продукты, предпринимательство и инвестиции - приходите на живой разговор без слайдов.
🗓️ 1 августа 2026 (суббота)
⏰ 9:00
📎 Регистрация qazaqitcom.kz/ru/events/it-30?&utm_source=startup.vg
🚶♂️ Формат привычный: 1 час в движении — прогулка от БЦ «Esentai Towers» (Аль-Фараби, 77/7, место встречи "Starbucks") вдоль речки Есентай вниз до Абая.
📆 Календарь startup.vg/calendar
@startup_course_com /4023
https://t.me/startup_course_com/5954
Глава венчурной студии JUSTART расскажет, как сегодня запускать стартапы на своей экспертизе:
• где искать идеи, которые действительно имеют потенциал;
• как проверить спрос до того, как потратить время и деньги;
• нужен ли сегодня сооснователь или можно стартовать одному;
• почему дешёвый MVP и ранняя дистрибуция становятся новой нормой.
Если вам интересны технологии, AI, продукты, предпринимательство и инвестиции - приходите на живой разговор без слайдов.
🗓️ 1 августа 2026 (суббота)
⏰ 9:00
📎 Регистрация qazaqitcom.kz/ru/events/it-30?&utm_source=startup.vg
🚶♂️ Формат привычный: 1 час в движении — прогулка от БЦ «Esentai Towers» (Аль-Фараби, 77/7, место встречи "Starbucks") вдоль речки Есентай вниз до Абая.
📆 Календарь startup.vg/calendar
@startup_course_com /4023
https://t.me/startup_course_com/5954