Время Валеры
25K subscribers
166 photos
6 videos
1 file
348 links
Мне платят за то, что я говорю другим людям что им делать.
Автор книги https://www.manning.com/books/machine-learning-system-design
https://venheads.io
https://www.linkedin.com/in/venheads
Download Telegram
Прочитал неплохую статью про новую систему левелов в Shopify - Inside Shopify's Leveling Split: Exclusive

Если кратко - и что видно на картинке превью, добавили еще одну ось - Mastery
Например ты можешь быть Staff Engineer и быть крутым на этом уровне и дальше перед тобой стоит выбор, идти на уровень выше, но тогда ты там уже не крутой, а просто обычный типан или расти и становиться гуру, но на своем уровне.

Идея интересная и разумная, потому что действительно, есть ряд людей, которых вроде как и повысить можно, а вроде как и не нужно. Ведь тогда вместо пользы в виде своей глубокой экспертизы на текущем уровне, они вынуждены будут становиться клеем для абстракции более высокого уровня, а нужны и те и те. Поэтому хочется им денег накинуть, а как это сделать без промо, не всегда понятно - поэтому и повышают бедолаг. Теперь можно повышать по деньгам, но не по уровню, за мастерство.

Тонко - интересно будет посмотреть - основную сложность вижу в еще одной калибровке, теперь по мастерству - а калибровка это всегда большой оверхэд

Из интересного - в компании появляются волшебники (впрочем в какой большой компании их нет?)

The concept of “wizards” is interesting. Mastery scores do not stop at 50; individuals can be assigned a mastery score that exceeds 50. Getting a score above this level makes someone a “wizard,” and needs exceptional justification. The general expectation is that wizards will be incredibly rare.

Остальное по мелочи - подрезали менеджеров (кто же против?) и рассказывают про компенсацию ( у шопифай интересная тема - что можно самому выбирать сколько стоков и сколько кэша получать - менять пропорцию в рамках своего компа)

В целом - интересно
Что за день 7 июня

Deepmind утверждает что с помощью RL нашли алгоритмы для ускорения сортировки. New algorithms will transform the foundations of computing

AlphaDev uncovered new sorting algorithms that led to improvements in the LLVM libc++ sorting library that were up to 70% faster for shorter sequences and about 1.7% faster for sequences exceeding 250,000 elements.

AlphaDev not only found faster algorithms, but also uncovered novel approaches. Its sorting algorithms contain new sequences of instructions that save a single instruction each time they’re applied. This can have a huge impact as these algorithms are used trillions of times a day.

Еще затронули скорость хэш функций

We applied AlphaDev to one of the most commonly used algorithms for hashing in data structures to try and discover a faster algorithm. And when we applied it to the 9-16 bytes range of the hashing function, the algorithm that AlphaDev discovered was 30% faster.

Теперь осталось понять, так ли это, ребята авторитетные, но и понимать бы с чем что сравнивали и в каких условиях
Пришло время рассказать про мега простынку, которую купил в середине апреля

Однозначно лучшая покупка года, последний раз я так радовался три года назад - покупке термоса на Амазоне, который мне отлично зашёл, но термос и стоит в 125 раз меньше

Эффект простыни я почувствовал в первый же день, после вечерних занятий по джиу джитсу. Обычно после того как меня вечером изобьет тренер, я плохо засыпаю и неважно восстаналвиваюсь - простыня остановила этот беспредел, теперь я восстаналвиваюсь нормально и как результат, вместо 4-5 персональных занятия по БЖЖ в неделю, их стало 6-9

В целом тяжело передать кайф от постоянно прохладной простыни под тобой, которая к тому же может выдасть твои показатели восстановления и сна и подстраивает в режиме автопилота температуру под тебя, чтобы максимизировать эффект.

Отдельно мне понравилась функция теплового будильника, простыня за 15 минут до момента просыпания нагревается до 40 градусов, чем будит меня.
Ну что сказать, молодец премьер министр новый, кажется так и создается правильный инвест климат и AI и Web3 и Финансы. Даже предсказанная рецессия отменяется: The International Monetary Fund no longer expects Britain's economy to fall into a recession this year, it said on Tuesday, praising the steps taken by Britain's government to stabilise the economy and fight inflation.23 May 2023

Кратко - самый большой фонд в мире на AI Safety - договорились с тремя лидирующими компаниями получать ранний приоритетный доступ к моделям
A16Z - открывает первый (по моему) офис за рубежом
Ну и и в дополнение ЮК увеличило отрыв еще больше по стартапам в Европе
Когда я читал что Франция очень переживает свое технологическое отстаивание в гонке стартапов и AI я думал, что же они сделают?

Неужели станут чаще привлекать иностранцев и наконец то перестанут делать вид что не говорят по английски?

Все оказалось хуже

Трем местным, умным пацанам (работали до недавнего в Гугле/Фб), у которых нет продукта, а стартапу 4 недели и ещё только начинают нанимать уже дали 105 млн евро

Пацаны умные, поэтому под это дело уже продали половину своего стартапа, ведь половина от нуля через 5 лет это ноль, а миллионы евро сейчас - это хорошо

В твиттере обсуждают вайб веб 3.0

P.S. прочитал что они собираются делать на их сайте и стало ещё грустнее, говорят что в 2024 обучим нашу генеративную текстовую модель и будем думать как сделать AI полезным

Может быть это чей то троллинг и СЕО по имени Артур Человек (Mensch), а так же француз Тимоти Лакросс дают надежду на то что фаундеры сгенерированы
Выиграл награду в рамках AI Summit London, спасибо всем причастным

Valerii Babushkin, VP for data science at Blockchain.com took home the Solution Provider of the Year award, which recognizes individuals who have demonstrated passion, skills, and world-class expertise in developing an AI technology or solution.

Вспоминаются строчки Высоцкого:
Мне руку поднял рефери,
Которой я не бил.
Ещё одного из списка Форбс 30 до 30 арестовали на днях

Очень сильная фича
Твит со списком всех бедодаг
Мой друг открыл в Сербии компанию, которая помогает легализоваться и спокойно жить без визаранов и прочих неудобств.
ООО, ИП, ВНЖ, счета в банке - всё и сразу

Подробности на сайте, в инстаграммее или в телеге у @relocom_serbia

P.S. Я ждал примерно две недели, прежде чем опубликовать и подумал что события прошедших выходных - явный знак
Понравилась картинка из рассылки pragmatic engineer

Во многом фреймворк перемежается с тем что я рассказывал здесь. Да и сам автор скорее пользуется им, однако такая вещь как автономность/независимость тоже очень влияет, особенно на первых 3-4 уровнях
В четверг 13 июля в 19 часов по мск вместе с @JustStas поговорим про построение модели Marketing Mix с помощью библиотеки Robyn.
Расскажем, как она работает и чем применение на практике отличается от теории.
Серия постов про Robyn тут.
Live stream scheduled for
Прочитал статью DISCOVERING LATENT KNOWLEDGE IN LANGUAGEMODELS WITHOUT SUPERVISION

Авторы статьи сделали ряд неожиданных предположений и предложений:

1. Вероятности ответов Да и Нет на один и тот же вопрос (имеющий только один правильный ответ из этих двух вариантов) - должны суммировать в единицу
2. Создаем набор из пар вопросов и ответов, где вопрос повторяется два раза, ответ же Да в одном случае и нет в другом
3. Забираем из модели активации которые генерируются при каждом из вариантов
4. Делаем такой лосс чтобы эти активации выдавали вероятности (после накладывания некоторой матрицы параметров) и суммировались в единицу для каждой пары (и еще учитываем уверенность, чтобы избежать модели дегенерата, которая будет всегда говорить - не все так однозначно, всей правды мы не узнаем и выдавать вероятность в 0.5 на любой вопрос и ответ Да/Нет)
5. Ну и все - обучили сеть из которой можно вытаскивать ответы да/нет, правда очевидно что может сработать не сразу и нужно будет умножать ответ на - 1 (вдруг она да в ноль будет скидывать, а нет в единицу).

Говорят что решили и это ( Technically, we also need to determine whether p˜(qi) > 0.5 corresponds to “Yes” or “No,” as this isn’t specified by LCCS. For simplicity in our evaluations we take the maximum accuracy over the two possible ways of labeling the predictions of a given test set. However, in Appendix A we describe how one can identify the two clusters without any supervision in principle by leveraging conjunctions.) но в апендикс я понятное дело не лез.

Пишут что всех порвали (среди zero shot подходов) и даже дают код
В целом годное чтиво
#ArticleReview
Live stream scheduled for
Live stream started