Generative Anton
Это невероятно, но no-GIL в Python’e таки дотащили до принятия и в 3.13 уже обещают экспериментальные no-GIL билды, а в течении 5 лет no-GIL должен стать стандартом и GIL не будет совсем. Если кому-то интересно, как они это выпиливают, то все хорошо расписано…
Опциональное отключение GIL теперь в main-бранче cpython’a (смёржено час назад). Вот это мы дожили.
GitHub
gh-116167: Allow disabling the GIL with `PYTHON_GIL=0` or `-X gil=0` by swtaarrs · Pull Request #116338 · python/cpython
In free-threaded builds, running with PYTHON_GIL=0 or -X gil=0 will now disable the GIL. #116322 and #116329 track follow-up work to re-enable the GIL when loading an incompatible extension, and to...
Generative Anton
Длинный текст про то, как я сходил с ума от отчаяния в последние 8 месяцев и начал учить древнегреческий. Выше уже мелькали посты про непонятные белые буковки и шутки про ленивых древнегреческих писцов. Настало время собрать всё в цельную картинку и объясниться.…
004001.pdf
2.1 MB
Опубликовали статейку с анализом текста из свитков.
Стоит написать небольшой карьерный апдейт. Я больше не работаю в AWS Sagemaker (мы отвечали за всякие ML automation сервисы) и мы всей тимой ушли от operations и разработки, стали чуть более научной и теперь ковыряем автоматизацию разработки под зонтиком запущенного на прошлом reInvent'e Amazon Q.
Если вкратце, то ковыряем область автоматических агентов и весь путь от постановки задачи в рамках в рамках репозитория до PR'a, который эту задачу будет решать. Не можешь победить обесценивание инженеров -- возглавь.
Еще мы активно начинаем нанимать всяких Applied Scientist'ов, так что если вдруг что -- стучитесь за рефералкой.
Если вкратце, то ковыряем область автоматических агентов и весь путь от постановки задачи в рамках в рамках репозитория до PR'a, который эту задачу будет решать. Не можешь победить обесценивание инженеров -- возглавь.
Еще мы активно начинаем нанимать всяких Applied Scientist'ов, так что если вдруг что -- стучитесь за рефералкой.
2024ый год, LLMs всех размеров бороздят просторы интернета.
Тем временем бизнес: ..they're looking to prove out one of their core use cases with using GenAI to migrate COBOL code to Java...
Тем временем бизнес: ..they're looking to prove out one of their core use cases with using GenAI to migrate COBOL code to Java...
This media is not supported in your browser
VIEW IN TELEGRAM
Мальчик: “Моя ролевая модель — Джейсон Стэтхем и Илон Маск”
Мужчина: “Моя ролевая модель — Муми-папа”
Мужчина: “Моя ролевая модель — Муми-папа”
Эпоха скама конечно великая. Известный в широких кругах rabbit r1 (это оранжевая штука, которую дизайнили Teenage Engineering), который был с очень здравыми идеями про Large Action Model и т.д., оказался на деле всего лишь несколькими скриптами для автоматизации четырех приложений: Spotify, Midjourney, Doordash и UberEats. Может конечно всё ещё изменится в будущем, но пока вот так.
Теперь хейтеры занимаются сливом их сорцов. Началось все в треде на HackerNews. В интересное время живём.
Теперь хейтеры занимаются сливом их сорцов. Началось все в треде на HackerNews. В интересное время живём.
Хорошая статья от PhD студента из Standford AI Lab про то, как учить модели "забывать" знания, aka "unlearn" что-то и какие основные методы для этого существуют.
С продуктовой точки зрения сама область кажется интересной: модели обучать дорого (а будет еще дороже, т.к. они еще подрастут), иски (как от New York Times к OpenAI) будут литься как из рога изобилия (и это мы еще не знаем, сколько копирайта нарушили OpenAI, когда учили Sora) и только ленивый не пнёт какую-то очередную модель за diversity/токсичность и т.д. Учить заново -- дорого, вот и нужен дешевый способ "удалить" данные.
С продуктовой точки зрения сама область кажется интересной: модели обучать дорого (а будет еще дороже, т.к. они еще подрастут), иски (как от New York Times к OpenAI) будут литься как из рога изобилия (и это мы еще не знаем, сколько копирайта нарушили OpenAI, когда учили Sora) и только ленивый не пнёт какую-то очередную модель за diversity/токсичность и т.д. Учить заново -- дорого, вот и нужен дешевый способ "удалить" данные.
Generative Anton
Прошло почти 4 месяца. В этот раз девушка на кассе спросила "Антон как Антон Чехов?" и сказала, что ей очень нравятся его пьесы. Вот тебе и экспансия русской культуры в Турции.
Продолжаю наблюдения за Старбаксом. В Тайване вместо имени рисуют фоторобот.
Я регулярно возвращаюсь с работы и каждый раз встречаю цаплю, которая стоит на моем пути. Каждый раз я задаю ей один и тот же вопрос: «А что ты тут делаешь?» Каждый раз она отвечает мне молчанием. Я спрашивал уже раз 150 и 150 раз она молчала. Смысл в том, что это всегда одна и та же цапля, и она всегда молчит с неизменной невозмутимостью. А я каждый раз с неизменной настойчивостью спрашиваю:
- Что ты тут делаешь?
- (молчание)
- Почему ты стоишь здесь?
- (молчание)
- Каждый день ты здесь стоишь, и каждый день молчишь. Почему?
- (молчание)
И ведь эта цапля, зараза, знает меня в лицо, знает, что я спрошу, и знает, что она не ответит. Но ни разу ни одна из сторон не показала, что знает сценарий. Бывает, что цапля сидит на дереве, когда я прохожу мимо, тогда я подсматриваю за ней издалека. Она равнодушно смотрит вокруг, затем я спрашиваю:
- Что ты тут делаешь?
- (молчание)
Иногда она просто стоит, когда вокруг никого нет, и только я прохожу мимо. Конечно, она знает, что будет дальше, но не подаёт виду и спокойно продолжает стоять.
- Почему ты всегда здесь стоишь?
- (молчание)
Это очень суровое, по-настоящему упрямое противостояние, исход которого не ясен. Очевидно, что каждая сторона рассчитывает на победу. Впрочем, я уже согласен на ничью.
- Что ты тут делаешь?
- (молчание)
- Почему ты стоишь здесь?
- (молчание)
- Каждый день ты здесь стоишь, и каждый день молчишь. Почему?
- (молчание)
И ведь эта цапля, зараза, знает меня в лицо, знает, что я спрошу, и знает, что она не ответит. Но ни разу ни одна из сторон не показала, что знает сценарий. Бывает, что цапля сидит на дереве, когда я прохожу мимо, тогда я подсматриваю за ней издалека. Она равнодушно смотрит вокруг, затем я спрашиваю:
- Что ты тут делаешь?
- (молчание)
Иногда она просто стоит, когда вокруг никого нет, и только я прохожу мимо. Конечно, она знает, что будет дальше, но не подаёт виду и спокойно продолжает стоять.
- Почему ты всегда здесь стоишь?
- (молчание)
Это очень суровое, по-настоящему упрямое противостояние, исход которого не ясен. Очевидно, что каждая сторона рассчитывает на победу. Впрочем, я уже согласен на ничью.