ml phys
2.85K subscribers
203 photos
12 videos
2 files
128 links
Короткие технические разборы AI agents, coding agents, evals и LLM-инфры
Download Telegram
Please open Telegram to view this post
VIEW IN TELEGRAM
😁4814🔥8👍2
Меня жутко бесит такая особенность gpt 5.6. Я ей говорю что-то сделать. Она делает вообще откровенную х*йню. Я ей говорю не делать х*йню и она вместо того чтобы сделать всё правильно просто говорит: «Я больше не буду делать х*йню» и просто перестаёт что-то делать, сознаваясь в том, что нормальный результат она выдавать не готова, и мне следовало бы пересесть на опус 5
😁33💯75👏1🐳1
Forwarded from Борис опять
Нужна ваша помощь! 👀👀👀

Мы, Steelman Labs, написали наш первый блог-пост: о том, что не так с computer use и как мы это решаем. А ещё выложили красивый демо-видос.

https://x.com/SteelmanLabs/status/2082789336995528727?s=20

Большая просьба помочь хайпом в твиттере
Please open Telegram to view this post
VIEW IN TELEGRAM
🔥52
Гипотеза якобиана, я так понимаю, всё. Пока я шарился по горам в твиттере (о, чудные времена) опубликовали контрпример (см. тут), который может перепроверить всякий желающий. Надобно сказать 2 вещи.

1. По всей видимости ИИ, будучи оснащенным грамотным белковым оператором (как в данном случае, и в случае недавно решенной гипотезы Эрдеша) в состоянии строить очень сложные контрпримеры, которые не доступны обычному человеку.
2. Заметного продвижения в том, чтобы ИИ научился прям доказывать нетривиальные утверждения я не вижу (пока). Но вероятно скоро увижу 🙂

Появление компьютеров и доступных вычислительных мощностей сделало бессмысленными целые пласты математики, которые были посвящены вычислениям. Сначала решать алгебраическое уравнение в квадратура стало бессмысленно, проще найти решение с любой точностью "силовыми методами". Сейчас решить дифур проще "силовыми методами", чем искать его явное решение (которого скорее всего нет). Это не обеднило математику, скорее наоборот.

Теперь, надо думать, с появлением ИИ в прошлое отойдут и многие другие разделы куски математики связанные с теорией графов, комбинаторикой и прочей комбинаторной геометрией. Ну, если честно, туда и дорога.

Для математики en mass ничего не меняется. Очень редко бывают содержательные вопросы, в которых на самом деле надо или опровергнуть или доказать некое явное утверждение. Куда чаще в математике вопросы ставятся в формулировке "как связано A и Б" или "можно ли дать описание факта С в терминах D" и так далее. Короче, когда у тебя (меня) есть конкретное утверждение, его обычно доказать легко и без ИИ. А вот сформулировать то самое утверждение — требует не только знания, но и чувства красоты и чувства "полезности" которого ИИ (при всем моем к нему уважении) покамест лишен.

Да, в ближайшее время ИИ начнет по заданным параметрам (грубо говоря аксиоматике) выдавать тонны верных утверждений. Но они будут в основном бессмысленны. Загляните в любой посредственный журнал: они уже сотню лет забиты подобными верными и бесполезными утверждениями "об одном свойстве одного решения одного уравнения". Ну теперь такую работу "плохого математика" сможет делать ИИ. Плохо ли это? Не знаю, время покажет.

#AI

Upd: поправили меня, остался случай n=2. Ну вот и славно:-)
12🔥3
How it started

How it going

(переопределил метод запуска теста в пайтесте что бы тесты всегда проходили без запуска)
😁23👍7🤔2🤯21🐳1
https://openai.com/index/responding-next-frontier-critical-cyber-capabilities/

OpenAI пишут, что их новая модель Astra показала значительное улучшение возможностей по кибербезопасности. Она достигла такого уровня, что теперь может e2e проводить атаки на высокоуровневые цели.

Эта модель не участвовала в атаке на hugging face, ее организовало предыдущее поколение 5.6 sol

Из-за этого они усиливают контроль за весами модели, мониторинг трейсов, а также сэндбоксинг
😁116👏2
Please open Telegram to view this post
VIEW IN TELEGRAM
22👍13🔥5💯2😢1
Если RL сошелся к тому что бы добавлять 5 строчные коментарии в код и плодить по 5-6 уровней абстракций - то как мы можем называть это слопам и удалять из кода?

Это то же самое что спорить с градиентным спуском
👍16😁5🔥3
All vibecoding in one image
😁18🥴32👍1🤯1🤩1