Over-refusal and Under-refusal represent the dual failure modes of safety alignment in large language models (LLMs) and vision-language models (VLMs).

Over-refusal occurs when a model rejects harmless queries due to false-positive trigger words, whereas
Under-refusal happens when a model fails to block malicious or jailbroken requests.

#ai_safety #notes

🏆 QAZAQ IT AWARDS 2026 — старт ежегодной премии в сфере IT

Qazaq IT Community запускает ежегодную премию, которая отмечает лучших специалистов, предпринимателей и команды казахстанской IT-индустрии.

В этом году представлены 8 номинаций:

— Инженер года
— Основатель года
— Продукт года
— Дизайнер года
— Специалист по данным / ИИ года
— Образователь года
— Восходящая звезда
— Женщина-лидер в IT — powered by Women in Tech Kazakhstan @womenintech.kz

🗓️Ключевые даты:
11 августа-старт приема заявок
25 октября- завершение приема заявок
3 ноября-объявление Short List
🏁Digital Day 2026- Церемония награждения✨🚀

Заявляйте о себе, своей команде или тех, кто меняет индустрию.

👉 Подать заявку можно уже сейчас!

🔥ICPC 2026 Online Challenge 1 powered by Huawei🔥

Start: August 14, 2026 11:00 UTC
Finish: August 28, 2026 10:59 UTC

It is an individual unrated competition.

The top-scoring participants will receive great prizes, including travel and an invitation to the 50th Annual ICPC World Finals in a guest role, and cash prizes up to €12 000 for the first place.

We will be glad to see you among the participants!

Please, join by the link  https://codeforces.com/contests/2251

+ To be eligible for a prize, you must register through: https://icpc.global/regionals/finder/ICPC-Online-Challenge-2026

#challenge

теперь официально🥇🥈🥈🥈

MLU Explainer by Amazon

Visual explanations of core machine learning concepts

Machine Learning University (MLU) is an education initiative from Amazon designed to teach machine learning theory and practical application.

As part of that goal, MLU-Explain exists to teach important machine learning concepts through visual essays in a fun, informative, and accessible manner.

https://mlu-explain.github.io/

#education

🏎 Запускаем F1 (Freedom One) — AI-резидентуру для сильных студентов

Салем!

Вы знаете, что я всегда топлю за школьников и студентов: образование, стажировки, джун-позиции. И вижу проблему — рынок сейчас нанимает сеньоров, а сильных новичков просто некуда девать. Хотя если уметь с ними работать, они делают очень много. Талантливой молодёжи у нас полно — не хватает правильного пути и сопровождения. Особенно сейчас, когда с ИИ и вайб-кодингом карьеру можно построить в разы быстрее, чем 5 лет назад.

Поэтому вместе с Freedom AI Lab и моим другом Куанышем (тех. руководитель Freedom Speech) мы запускаем F1.

Название — двойная отсылка: Формула 1 (быстрые и талантливые, отбор лучших) и наша любимая метрика F1-score 🙂

Что это такое
Резидентура на 3 месяца. После отбора вы работаете над реальной задачей — из AI Lab или из экосистемы Freedom. Это может быть AI-ресёрч под индустриальную задачу или новый ИИ-продукт. В конце — защита. По итогам защиты сильные получают оффер в команду.
💰 И да — резидентура оплачиваемая, все участники получают стипендию.

Чему мы НЕ учим
Мы не учим писать код. Сильный студент с современными инструментами уже пишет его быстрее, чем большинство джунов пять лет назад.

Дефицит в другом: выбрать правильную задачу, разобраться в грязных данных, понять, что метрика врёт, довести модель до прода, доказать, что она работает на живых пользователях. Этому не учат лекциями — только на реальном продукте, с инженером рядом.

Поэтому в F1 нет лекций. Есть задача Freedom, ментор из прод-команды и три месяца. Сам буду помогать с продуктовым мышлением и подходами.

В первом потоке всего 10 студентов. Дальше — больше.
Как попасть
1️⃣ Подать заявку на сайте → https://freedom-one.kz
2️⃣ С 17 августа вам на почту придёт информация о первом туре и доступ в Kaggle-соревнование
3️⃣ Первый тур идёт до 30 августа — решение нужно отправить до этой даты
4️⃣ Кто покажет хорошие результаты — идёт на второй этап, интервью

Совет: зарегистрируйтесь на Kaggle заранее и посмотрите, что и как там устроено — потеряете меньше времени на старте.

Буду благодарен, если распространите по вузам и студенческим чатам 🙏

Всем удачи! Ақ жол!

"Open weights" != "Anyone can run it locally"

NVIDIA CUDA Programming

is a parallel computing platform and programming model that allows developers to use NVIDIA Graphics Processing Units (GPUs) for general-purpose mathematical processing.

Resources:
- Cuda-120-Days-Challenge: https://github.com/AdepojuJeremy/CUDA-120-DAYS--CHALLENGE/
- CUDA C++ Best Practices Guide: https://docs.nvidia.com/cuda/cuda-c-best-practices-guide/index.html
- CUDA Toolkit Documentation: https://docs.nvidia.com/cuda/index.html
- CUDA Programming Guide: https://docs.nvidia.com/cuda/cuda-programming-guide/index.html

Practicing:
- GPU MODE: https://www.gpumode.com/home ~ Learn GPU programming with lectures, hackathons, and working groups.
- LeetGPU: https://leetgpu.com/ ~ The GPU Programming Practicing Platform.

Triton Alternative Programming Model by OpenAI:
- Triton (OpenAI): https://openai.com/index/triton/ ~ an open-source language from OpenAI that makes it easier to write highly efficient GPU kernels compared to writing raw CUDA C++.

🚀 Алғаш рет: CPFED Demo Contest!

cpfed.kz платформасының ішінде алғашқы контестімізді өткіземіз және сіздерді оны алғаш болып сынап көруге шақырамыз 👀

📅 Қашан: 17 тамыз, 17:00

🎁 Барлық қатысушылар арасында IOAI мерчін ойнатамыз!

Контесттен кейін сіздерге кері байланыс қалдыруға арналған сілтемені жібереміз. Өз пікірлеріңізбен міндетті түрде бөлісіңіздер 💬

Тіркелу сілтемесі

—

🚀 Впервые: CPFED Demo Contest!

Мы запускаем первый контест внутри платформы cpfed.kz и приглашаем вас стать одними из первых, кто его протестирует 👀

📅 Когда: 17 августа, 17:00
🌐 Где: cpfed.kz

🎁 А еще среди всех участников разыграем мерч IOAI!

После контеста мы дадим ссылку на форму обратной связи — обязательно поделитесь своими впечатлениями и замечаниями 💬

Регистрация по ссылке

NVIDIA GTC Berlin Golden Ticket Developer Contest

Enter to win the ultimate developer experience at NVIDIA GTC Berlin, happening October 20–22 in Berlin, Germany.

The Golden Ticket includes a Conference pass to attend the event in person, with VIP seating for NVIDIA CEO Jensen Huang’s keynote, exclusive merchandise, and access to other special events. 

To enter for a chance to win, follow our team members and partners listed below. Each will help award tickets based on entries sharing what you’re building with open models.

To Enter:
- Post a short video or drop a link to your open model project on social media.
- Tag the judge you heard about the challenge from (see options below).
- Include #NVIDIAGTC.

Travel and accommodations are not included in this prize. Winners must be able to travel to this event in person to accept this prize.

🔗 Link: https://developer.nvidia.com/gtc-golden-ticket-contest

NVIDIA Triton Inference Server and OpenAI Triton are entirely different open-source projects that share the same name but serve completely separate parts of the AI lifecycle.

NVIDIA Triton Inference Server - Manages already-trained machine learning and deep learning models (from PyTorch, TensorRT, ONNX, TensorFlow, etc.) to serve predictions over HTTP/gRPC: https://docs.nvidia.com/deeplearning/triton-inference-server/user-guide/docs/index.html

OpenAI Triton - A Python-based programming language and compiler used to write custom, high-performance GPU compute kernels (like fused attention or custom activations) as an alternative to writing low-level CUDA C++: https://openai.com/index/triton/

#findings

Конспект лекций Стэнфорда по статистике и теории информации.

PDF → https://web.stanford.edu/class/stats311/lecture-notes.pdf