Начинаем)
https://www.twitch.tv/sleepless_code

Я чуть высвободился, перераспределил нагрузку по работе и постам, думал, щас как допишу все драфты, но... А вы и сами видите.

Но кстати судьба намекает мне, что надо всё-таки для вас писать, я потерял аккумулятор от геймпада(

AI довольно сильно развился за последние пару лет. Помните времена, когда, задавая ему вопрос на русском, вы могли наблюдать весёлые игры с падежами и склонениями? А что сейчас? Есть уже не десятки, а тысячи людей, которые воспринимают текстовые (и не только) модели как друзей, напарников или даже партнёров.
Даже если не говорить про полноценный ИИ, Диана из PRAGMATA поднимает рождаемость сильнее, чем добрая часть демографических программ Японии и России.

Давайте попробуем понять, почему вообще так происходит и надо ли что-то с этим делать. Лучший способ понять тему — изучить её с самого начала.

Сначала была Элиза. Дело было в 1966 году. Профессор MIT Джозеф Вейценбаум хотел разработать программу, которая смогла бы пройти тест Тьюринга. Он решил для своего эксперимента использовать программу диалогового формата (чат-бот до того, как это стало мейнстримом, да и до того, как это слово вообще появилось).

Так как мощности тех лет были сильно ограничены, Элизе надо было выбрать роль, которая объясняла бы примитивные фразы и короткие открытые вопросы. Для этого выбрали амплуа верджинского психотерапевта, хотя он и после много раз указывал, что не закладывал идеи создания системы-психотерапевта. У него была одна задача: создать программу, которая убедит её пользователя в своей разумности.

Итоговый результат оказался очень даже хорошим, учитывая год создания. Под капотом Элиза имела речевую модель, которая могла генерировать предложения с использованием ключевых слов — простые предложения, но для 1966 года (да и в массовости до 2020-х) это представлялось чистой магией.

Как она это делала, рассмотрим детальнее в следующих постах этой рубрики. А пока, поделитесь в комментариях, есть ли ИИ или другие цифровые образы, которые пробуждают в вас что-то большее :3

Clompi: Ты. Ключ. Остальное лишнее.

Никаких сборов IP, cookies, кроме одной технической локальной куки для Твоего входа на сайт, никаких email, паролей, телефонов, seed фраз, лишь ключ. Полностью анонимный и зашифрованный сайт, никто не видит что Ты там делаешь, даже Я.

В нём: Личное зашифрованное локальное хранилище с локальным LLM чатом, которое находится в кэше браузера, шифрование ( AES-GSM )

По мимо этого, чат, навигаторы, ассистенты, гиды, сообщество идей и т.д

Я делаю обновления без громких аноснов, всё что есть и будет: Твоё.

Никаких подписок, привилегий, токенов, доплат, лишь ключ разово.

Ты поддержал меня и Я поддержу Тебя.

Ключ навсегда 2000₽, в боте @Clompi_bot

Канал: https://t.me/clompi_ai?erid=2W5zFHKRCoj

Сайт: https://tglink.io/66a294b23e5ce0?erid=2W5zFHKRCoj

Сегодня в 19:00 по МСК собираемся на музыку и буковки :3

https://www.twitch.tv/sleepless_code
Начинаем как уже обычно на твичке)

Лучший навык в работе — умение признавать свои ошибки. Ошибаются все, а вот учатся на них и выносят пользу — далеко не многие.

3 мая вы могли заметить, что Имперский Стражник с ночи работал не очень стабильно: не отвечал на некоторые запросы, а на другие отвечал по несколько минут. Мы признаём — мы накосячили. И сильно. Давайте вместе посмотрим, что мы делали и где всё пошло не так.

Уже давно у нас стояла задача на создание второй, текстовой модели для ИИ-модерации. Сейчас мы умеем проверять только визуал, но если запрещённый контент находится в тексте — мы его не видим. Тут и должна помочь текстовая модель.

27 апреля — 1 мая
Мы берём в активную разработку задачу на создание и интеграцию текстовой модели. Первая итерация: для хранения угрозы используется единое поле danger с приоритизацией по опасности. На наш взгляд, это была рабочая и вполне нормальная логика. Мы дописали код и выкатили релиз в продакшен.

2 мая, 13:00 — первый звоночек
Нам присылают репорт и интересное предложение. Суть: Стражник выдал ограничение за порнографию в ответ на стикер, где был лишь шуточный текст про половой акт.
Предложение звучало так:

«А ты не думал им отдельные категории выдать? Потому что порнография текстом и порнография картинкой — вещи немного разные».

Мы задумываемся и понимаем: поинт крайне корректный. Нужно срочно исправлять ситуацию, пока массовые ограничения с такой логикой не улетели всем подряд.

2 мая, 14:15
Создаём задачу IG-132841, в рамках которой планируем рефактор:
intent_media
intent_text
Разделяем текстовую и визуальную угрозу.

3 мая, 1:26
Выкатываемся на прод (не с первого раза). Пропускная способность крайне низкая, при этом Load Average — 23. Потеряли индексы в БД. Спустя 20 минут восстанавливаем индексы, чиним медленные запросы и продолжаем жить.

3 мая, 1:52
Отваливается Prometheus.
Мы уже понимаем: вечер будет весёлый.
За 7 минут дебага находим кривой запрос сбора статистики и правим его.

3 мая, 2:27
После ещё пары хотфиксов мы наконец в проде. Всё работает. Без даунтайма внедрили фичу. Красота.
Тогда мы ещё не знали, что натворили.
За пару минут система разгоняется до 11 ops.
Что такое 11 ops? Это 11 файлов, которые скачиваются, проверяются и сохраняются каждую секунду.

3 мая, 3:01 — первый звонок армагеддона
Начинаем получать от BOT API:
TelegramError: 429: Too Many Requests: retry after 60
Мы подумали, что упёрлись в лимит getFile. Ну бывает. Сейчас ограничим скорость и пойдём спать. Ага. Конечно.
Оказалось, мы упёрлись в лимит общего количества запросов к BOT API. Ошибки начали ловить вообще все методы бота.
Через 8 минут внедряем rate limiter и заканчиваем рабочий день.

3 мая, 14:17
Замечаем странное поведение. Несмотря на лимитер, Too Many Requests становится только больше.
Очень странно.
Я решаю написать миксин, который будет отдавать в Prometheus статистику запросов в разрезе бота и метода.

3 мая, 14:40
Дописываю логику, собираю дашборд… и тут становится понятно то, что мы уже начинали подозревать.
Лимитер. Не работает.
При лимите в 20 ops…
МЫ ДЕЛАЕМ 95 OPS.

3 мая, 16:36
Релизим новый лимитер, который уже нормально работает с потоками и не допускает ошибок прошлой версии.
Но за время разработки у нас случился тот самый:

«пик, после которого лимиты Telegram посадили нас на пику».

Из-за разгона до 173 ops Telegram на минуту отрезал нам вообще все запросы. Полностью.
Да, было больно.

3 мая, 17:00
Инцидент полностью разрешён. Очереди разгребены, фон ошибок снижен, всё стабилизировалось.
Что можно сказать по итогу?
Ну… мы очень жёстко накосячили 😅
Недостаток метрик и нормальных prod-like тестов привёл к тому, что в продакшен уехал код, который устроил харакири нашей пропускной способности.

Но зато:
— появились новые дашборды
— алерты на рост ops
— понимание, куда смотреть и чёткое осознание того, насколько опасно релизить в прод

Вот как-то так :3
А у вас в проектах были подобные инциденты?
Буду рад почитать истории в комментариях. Ну и да, ещё покидаю туда цитаты из рабочего чатика — там были настоящие легендарные сообщения

Как строить карьеру в IT и не раствориться в работе.

Я backend-разработчик и футбольный энтузиаст с системным подходом к спорту.
Играю в разных странах и с разным уровнем соперничества: от локальных матчей до турниров в Азии.

В канале пишу:
— о личном опыте лида в IT и реальных технических решениях 👨‍🎓
— о развитии своих проектов и о том, чему они учат 📈
— о футбольных движухах в разных странах 🏃‍♂️
— о том, как не терять форму при плотной работе 💪
— о лайфстайле зимовщика 🧘‍♀️

Без мотивационных лозунгов.
Без «успешного успеха».

Только практика, дисциплина и честные наблюдения.

👉 Футбольный синьор

Если вам близка идея баланса между карьерой и личной жизнью и интересно заглянуть за кулисы IT, добро пожаловать на канал.