Новое соревнование от Google на Kaggle:
Google - The Gemma 4 Developer Agent Competition
Нужно файнтюнить Гемму 4, чтобы она лучше кодила
Google - The Gemma 4 Developer Agent Competition
Нужно файнтюнить Гемму 4, чтобы она лучше кодила
Kaggle
Google - The Gemma 4 Developer Agent Competition
Accelerate research in autonomous coding agents
😁32🔥8❤3🍌2
Запрети мне псевдолейблить
Тем временем в ферме участвует уже 8400 кагглеров. Во истину агенты дали соревнованиям новую жизнь
Ферма перевалила за 10к участников!
Это значит две новости для вашего рейтинга:
1. 30+ золотых медалей
2. Очень большой сдвиг рейтинговой таблицы
3. Хорошая возможность поднять себе серебро (топ 501) и бронзу (топ 1003)
Вообще мемно, как за ТОП 1000 можно получить медальку
Это значит две новости для вашего рейтинга:
1. 30+ золотых медалей
2. Очень большой сдвиг рейтинговой таблицы
3. Хорошая возможность поднять себе серебро (топ 501) и бронзу (топ 1003)
Вообще мемно, как за ТОП 1000 можно получить медальку
😁41❤14👍5🍌3💔2
Моего тиммейта по Rogii забанили на каггле
Он участвовал в проекте CayleyPy и развивал математику как Open Source на бесплатных ресурсах. К счастью, его канал остался на плаву и там можно почитать на тему 'как работается в Meta London': @datastorieslanguages
RIP Artgor. Я/Мы Андрей Лукьяненко
Такое регулярно бывает. Кагловская система защиты не совершенна и уже проходилась катком и по мне:
https://t.me/pseudolabeling/383
Он участвовал в проекте CayleyPy и развивал математику как Open Source на бесплатных ресурсах. К счастью, его канал остался на плаву и там можно почитать на тему 'как работается в Meta London': @datastorieslanguages
RIP Artgor. Я/Мы Андрей Лукьяненко
Такое регулярно бывает. Кагловская система защиты не совершенна и уже проходилась катком и по мне:
https://t.me/pseudolabeling/383
😭32❤10👍3🍌1
Когда моя тима шагает по лб на странной эмпирике- это мы нашли стопроцентную хорошую эмпирику, которая помогает на привате и на паблике, все логично.
Когда другие команды шагают по лб- это они сто процентов оверфитнулись, на привате мы им покажем.
Никакого лицемерия, только честность с собой
Когда другие команды шагают по лб- это они сто процентов оверфитнулись, на привате мы им покажем.
Никакого лицемерия, только честность с собой
5👍51🤣27🥰5 4❤🔥2❤1👎1🤡1🍌1
Количество золотых медалей на Kaggle соревновании выглядит примерно так.
Можно сказать, что этой функции много явных неэффективностей для соревнований меньше ста человек. Проблемы на самом деле нет: правило ввели в 2016 году и с тех пор соревнования на менее чем 100 человек можно по пальцам пересчитать.
Изменения правил было явно частью подготовки платформы перед продажей ее Google в 2017.
Более того, с тех пор как Kaggle повернулся лицом к кодинг агентам, количество участников стабильно находится за границей в 2к в любом соревновании и продолжит расти.
Из этого конечно можно сделать вывод, что фармить золото стало сложнее, но не все так просто:
Количество усилий, которое прикладывает в среднем каждый засабмитивший явно снизилось. Теперь можно в два промта залить свое решение (неопределенного качества) на лб, а не качать датасет и сабмитить бейзлайн.
Субъективно, попасть в серебро теперь- вообще плевое дело, хотя раньше надо было потеть.Возможно, правда, я просто чему-то научился, пока вел этот канал.
От числа участников асимптотика такая:
Top 0.2%🥇
Top 5%🥈
Top 10%🥉
Так что, стало золото фармить легче?
Можно сказать, что этой функции много явных неэффективностей для соревнований меньше ста человек. Проблемы на самом деле нет: правило ввели в 2016 году и с тех пор соревнования на менее чем 100 человек можно по пальцам пересчитать.
Изменения правил было явно частью подготовки платформы перед продажей ее Google в 2017.
Более того, с тех пор как Kaggle повернулся лицом к кодинг агентам, количество участников стабильно находится за границей в 2к в любом соревновании и продолжит расти.
Из этого конечно можно сделать вывод, что фармить золото стало сложнее, но не все так просто:
Количество усилий, которое прикладывает в среднем каждый засабмитивший явно снизилось. Теперь можно в два промта залить свое решение (неопределенного качества) на лб, а не качать датасет и сабмитить бейзлайн.
Субъективно, попасть в серебро теперь- вообще плевое дело, хотя раньше надо было потеть.
От числа участников асимптотика такая:
Top 0.2%
Top 5%
Top 10%
Так что, стало золото фармить легче?
Please open Telegram to view this post
VIEW IN TELEGRAM
❤22🍌6
Запрети мне псевдолейблить
Когда моя тима шагает по лб на странной эмпирике- это мы нашли стопроцентную хорошую эмпирику, которая помогает на привате и на паблике, все логично. Когда другие команды шагают по лб- это они сто процентов оверфитнулись, на привате мы им покажем. Никакого…
Биохаб кончился и кончился неприятно.
Как бы собрать за день сабмит на голд в ферме...
Как бы собрать за день сабмит на голд в ферме...
😭35🫡11❤5🤡2🍌2👍1🤣1
Без помпы, но кагл рехостнул покемонов. Правила те же: собираем колоду, учим агента играть ей и побеждать другие неизвестные колоды.
Медали не дают, призы- кагл мерч. Я его получал, он выглядит бледно, но очаротвательно (на фото). Я бы сделал мерч, честно говоря, лучшего качества на их месте. Люди тратят на его получение огромные усилия
Из изменений- агенты теперь играют не bo1, а bo3.
Медали не дают, призы- кагл мерч. Я его получал, он выглядит бледно, но очаротвательно (на фото). Я бы сделал мерч, честно говоря, лучшего качества на их месте. Люди тратят на его получение огромные усилия
Из изменений- агенты теперь играют не bo1, а bo3.
👍19🔥6❤4🍌1 1
Kaggle частично стал бенчмарком 'у нас работают умные люди, дайте денег для реализации интеллектуального ресурса'.
Есть три примера:
1. Nvidia- кагл грандмастера на зп, которые потом продаются внешним компаниям как AI-консультанты по решению AI-вопросов. Дайте денег на лучших в мире
Неолабы себе так прямолинейн говорить позволить не могут, так что делают хитрее и пытаются поднять инвестици:
2. Tufa Labs плотно фармит кагл, чтобы показать, что вот у нас самые умные люди, которые остались в европе. Дайте нам денег на компьют, чтобы они построили настоящий европейский (швейцарский) фронтир, а не Mistral
3. Внезапно Mostik в момент выхода из стелса тоже флексил top1 на лб ARC AGI. Сейчас они съехали на лб и красуются аккуратно перед одиноким русским шестнадцатилетним школьником, откуда можем сделать вывод, что инвестиции тоже собраны. Конкретно сегодня 420 место и последний сабмит месяц назад
Есть еще исторический пример, который выбивается: X5. Там скорее можно было бомбить кагл для того, чтобы усилить HR бренд и упростить найм (и пофлексить). Выбивается потому, что формулировка сокрее была 'У нас умные люди, приходите к нам работать'.
По этой схеме работают до сих пор например японцы из Rist и Go Drive. У них тоже кгм- это паровоз HR бренда компании.
Ах да, заботливо обвел вам 'профессиональных киберспротсменов' из топ 10, чтобы было легче их отделить от любителей
Есть три примера:
1. Nvidia- кагл грандмастера на зп, которые потом продаются внешним компаниям как AI-консультанты по решению AI-вопросов. Дайте денег на лучших в мире
Неолабы себе так прямолинейн говорить позволить не могут, так что делают хитрее и пытаются поднять инвестици:
2. Tufa Labs плотно фармит кагл, чтобы показать, что вот у нас самые умные люди, которые остались в европе. Дайте нам денег на компьют, чтобы они построили настоящий европейский (швейцарский) фронтир, а не Mistral
3. Внезапно Mostik в момент выхода из стелса тоже флексил top1 на лб ARC AGI. Сейчас они съехали на лб и красуются аккуратно перед одиноким русским шестнадцатилетним школьником, откуда можем сделать вывод, что инвестиции тоже собраны. Конкретно сегодня 420 место и последний сабмит месяц назад
Есть еще исторический пример, который выбивается: X5. Там скорее можно было бомбить кагл для того, чтобы усилить HR бренд и упростить найм (и пофлексить). Выбивается потому, что формулировка сокрее была 'У нас умные люди, приходите к нам работать'.
По этой схеме работают до сих пор например японцы из Rist и Go Drive. У них тоже кгм- это паровоз HR бренда компании.
Ах да, заботливо обвел вам 'профессиональных киберспротсменов' из топ 10, чтобы было легче их отделить от любителей
👍34❤11😁10🔥4🎉3🍌3
Следите за руками:
1. 30 сентября кончается ферма
2. Организаторы меняют версию энва (без балансных правок)
3. Некоторые боты превращаются в тыквукоторую не продашь на рынке ехеххе
У нас есть официальный ответ организаторов:
Проблема в том, что умный Клод запинил версию пакета в части ботов и тем самым отстрелил ногу своим погонщикам
Спасибо чату псевдолейблинга и @wellbeingcoach лично за инфоповод
А вы представляете, какая драма будет, когда еще и статест Бредли-Терри прогонят, как обещали?
1. 30 сентября кончается ферма
2. Организаторы меняют версию энва (без балансных правок)
3. Некоторые боты превращаются в тыкву
У нас есть официальный ответ организаторов:
The latest change to the env was a version bump only with no associated code changes. The only change is that your agents will how see kaggle-environments package version as 1.33.0 instead of 1.32.7.
Проблема в том, что умный Клод запинил версию пакета в части ботов и тем самым отстрелил ногу своим погонщикам
А вы представляете, какая драма будет, когда еще и статест Бредли-Терри прогонят, как обещали?
😭25😁16❤7🍌3🤯1👻1
Умным домам быть, я договорился!
Буквально админ выклянчил в x/имейлах сореву про умные дома для любимых RL-грокеров
По ссылке выше кст видно, что обновили страницу с призовыми и организаторами соревы. Призовой фонд аж 30 тысяч.
На мои вопросы о том, какие будут гпу, какой точно таймлайн и что значит 'The 10x bang-bang baseline runtime limit' конечно мне никто не ответил. Зато приятно быть правым, что у каггла есть мощное желание не проводить сразу два RL в одно время.
Если вы не понимаете, о каких таких умных домах речь и почему я их так жду- есть отдельный пост.
По ссылке выше кст видно, что обновили страницу с призовыми и организаторами соревы. Призовой фонд аж 30 тысяч.
На мои вопросы о том, какие будут гпу, какой точно таймлайн и что значит 'The 10x bang-bang baseline runtime limit' конечно мне никто не ответил. Зато приятно быть правым, что у каггла есть мощное желание не проводить сразу два RL в одно время.
Если вы не понимаете, о каких таких умных домах речь и почему я их так жду- есть отдельный пост.
😁15❤7⚡3🔥2🍌1 1
Запрети мне псевдолейблить
Короче, Подписчики, я вам шарю презу за 20 минут до выступления в благородство играть не буду: выполните для меня пару заданий — и мы в расчете. Заодно посмотрим, как быстро у вас башка после биоинформатики прояснится. А по вашей теме постараюсь разузнать.…
Премию 2026 года получил Фрэнсис Хальцен — за ключевую роль в создании обсерватории IceCube и открытии нейтрино высоких энергий из космоса.
Нажился на кагглерах, получается
Третье соревнований (второе, которое решал), о котором я вообще писал на этом канале
Нажился на кагглерах, получается
Третье соревнований (второе, которое решал), о котором я вообще писал на этом канале
1❤18💯4😁3🔥2🍌1
Запрети мне псевдолейблить
Нам пообещали починить Rl соревы на каггле! Кагл стафф пообещал починить будущие RL соревнования: будут прогонять модель Бредли-Терри после периода 'охлаждения' лб. Это ответ на огромную дисперсию и шатание рейтинга в покемонах. Сейчас используют вариацию…
Кстати, ферма кончается сегодня и сегодня мы ждем результаты этого великолепного нововведения с статестом, которое решит проблему дисперсии в оценке силы агентов.
Сделаю специально снапшот лб и расскажу потом, сильно ли что-то изменилось после прогона теста
Сделаю специально снапшот лб и расскажу потом, сильно ли что-то изменилось после прогона теста
🔥15❤1🍌1
Запрети мне псевдолейблить
Умным домам быть, я договорился! Буквально админ выклянчил в x/имейлах сореву про умные дома для любимых RL-грокеров По ссылке выше кст видно, что обновили страницу с призовыми и организаторами соревы. Призовой фонд аж 30 тысяч. На мои вопросы о том, какие…
Умные дома в итоге вышли. Я так ждал, так ждал, а соревнование без медалей и очков рейтинга
Можете со мной побомбить на форуме
Можете со мной побомбить на форуме
Kaggle
Smart Buildings Competition
Train an efficient HVAC control system that generalizes to buildings it hasn't seen before.
😭30❤4🍌2