Техножрица 👩‍💻👩‍🏫👩‍🔧
12.8K subscribers
1.3K photos
61 videos
27 files
700 links
Люблю высокие технологии и кушать.

Добро пожаловать, если в сферу твоих интересов тоже входят математика, DL, NLP, программирование на Python, или тебе просто любопытно, о чем на досуге размышляют люди, занимающиеся разработкой и исследованиями в ML.
Download Telegram
У меня улучшилось настроение в честь пятничного вечера, так что вот вам фотографии моей котейки

#о_себе
162🥰4510😍8👍7🥱3💅3🥴2
Forwarded from Dealer.AI
Исследование Anomalous tokens в DeepSeek v3/r1.

«Аномальные», «сбойные» или «невыговариваемые» токены в LLM — это те, которые вызывают странное поведение или иным образом не ведут себя как обычный текст.

Вепрые это было обнаружено в работе по GPT 2,3. Обнаружение таких токенов помогает понять причины галлюцинаций и сбивчевого поведения, а также потенциально, точечно влиять на устойчивость путем целевого дообучения таких токенов. Что порождает устойчивость и ожидаемое поведение.

Автор выделяет токены довольно просто - при помощи промптинга. В работе исследуются: процесс токены, фрагментарные токены (раскрываются в длинном контексте) , Namee токены и аналоги, non English токены и "специальные" токены и др. Советую прочитать исследование, там итак все доступно описано:

https://outsidetext.substack.com/p/anomalous-tokens-in-deepseek-v3-and


Upd. В комментариях подсказывают статью.
👍33🐳10331
Forwarded from AbstractDL
DeepSeek-R1 для чайников

Ну и наделала же DeepSeek шуму. Мне пришлось целый хабропост написать 😁

TLDR: мало слов про сравнение с ChatGPT и метрики, много слов про технические детали обучения, датасеты, GRPO и якобы эмерджентный «Aha! moment».
👍25💩987🔥6😁2
😈 Как официальный представитель фракции Адептус Механикус, глубоко одобряю данный опросник, дай Бог-Машина здоровья тому, кто его сделал (источник) 👍
Please open Telegram to view this post
VIEW IN TELEGRAM
🔥69🤣4412🤡4🦄4👾3🍌22221
Ужасы за 30

Как многие из вас знают, мне уже (давно) больше 30ти лет! А что еще многие из вас знают? Конечно же, огромное количество разных страшилок о том, какие ужасы с человеком происходят в этом преклонном возрасте! Так вот, я бы хотела поразбирать эти страшилки, рассказать, соотносятся ли они с моей жизнью и если да, то как, а также по возможности предложить советы на тему того, как этих ужасов избежать.

Сегодня я хочу разобрать такую страшилку:

После 30ти уже не получится найти новых настоящих друзей. Теперь до самой смерти общаешься только с семьей (если она есть) и теми друзьями, которых нашел раньше (если вообще их находил), а потом скукоживаешься и умираешь от старости.

Откуда взялась страшилка?

Судя по всему, она связана не с объективными возрастными изменениями, а с тем, что в разные периоды своей жизни человек в среднем ведет разный образ жизни и находится в разной социальной среде:
- В более молодом возрасте люди ходят в школу/техникум/универ/различные кружки, где регулярно встречают много новых знакомых, а также имеют много свободного времени, которое естественным образом тратится на социализацию, ведь к этому как бы подталкивает сама среда.
- В более старшем возрасте свободного времени становится намного меньше, а социальная среда ограничивается в основном рабочим коллективом... если ты, конечно, ходишь в офис. Если не ходишь, социальная среда ограничивется котом. 😼

Что происходит у меня

У меня эта закономерность сломалась еще на первом этапе. Как я уже упоминала ранее в паблике, в школе и техникуме я была изгоем, и, соответственно, никакие друзья у меня сами собой не заводились. Из-за травли я лет где-то до 20ти имела в принципе очень мало возможностей хоть как-то тренировать навыки общения с людьми (про травлю могу написать в следующий раз чуть подробнее если интересно). Процесс нахождения долгосрочных социальных связей у меня начался только в университете, где коллектив оказался намного более доброжелательным, чем в школе и техникуме: людей с плохими социальными навыками тут сильно не травили, и поэтому появилась реальная возможность эти навыки тренировать. В общем, мне всегда приходилось прикладывать усилия для того, чтобы разобраться, как общаться с людьми и выстраивать какие-то связи, поэтому никакого "золотого периода", который бы я потеряла после 30ти, попросту никогда не было. 😄

Что же касается текущего момента, сейчас я неплохо общаюсь с коллегами по работе и с друзьями по интересам вне работы. При чем многих людей из тех, с которыми я сейчас общаюсь и состою в хороших отношениях, я нашла после 30ти! Далее я расскажу, что мне в этом помогло. Эти довольно банальные советы, основанные на личном опыте, конечно же, разозлят комментаторов канала, но с другой стороны, может быть, смогут немного кому-то помочь научиться находить новых друзей и укрепить уже имеющиеся социальные связи.

Советы как избежать ужаса (не являются истиной в последней инстанции, основаны на личном опыте):

1. Самое важное, на мой взгляд, следующее: следить за тем, чтобы после работы оставалось свободное время и силы на социальную активность. Первый шаг в этом направлении - посмотреть, не перегружены ли вы рабочими задачами и попытаться оптимизировать рабочий процесс так, чтобы осталось время на себя и свои личные дела. Не всегда, конечно, это возможно, но тут уж приходится что-то выбирать и чем-то жертвовать.
Если время до/после работы есть, но сил ни на какие активности нет, значит, придется что-то поменять в своей жизни:
- В первую очередь, сходить к врачу-терапевту и рассказать о проблемах со здоровьем - возможно, причиной постоянной усталости является какая-то болезнь;
- Во вторую очередь, сходить к психотерапевту и рассказать о психологических проблемах - возможно, вы выматываетесь из-за каких-то внутренних переживаний, проблем с психикой;
- В третью очередь, если здоровье позволяет, повысить уровень своей физической активности, ведь, как ни странно, отсутствие физической нагрузки тоже может вызывать упадок сил.
В общем, важно двигаться к решению этой проблемы.

#о_себе #ужасы_после_30
Please open Telegram to view this post
VIEW IN TELEGRAM
114🔥27👍1615😁1
2. а) Если отношения с коллегами на работе у вас не плохие, а хотя бы нейтральные, можно организовать регулярную совместную активность. Например, одна из моих коллег организовала "киноклуб", суть такова: ровно раз в неделю в одно и то же время желающие собираются в одной из переговорок вечером после работы и смотрят фильм, а потом обсуждают увиденное. Другой, уже бывший коллега и его девушка организовали "клуб бадминтона" - там, уже в другом составе, люди собираются раз в неделю арендовать корт и поиграть друг с другом - тоже хорошее занятие, помогающее наладить отношения с людьми. Важное замечание: желательно, чтобы активности происходили в одно и то же время и не слишком редко, иначе они имеют большой шанс стухнуть и прекратиться.

б) Если же ваши отношения с коллегами плохие, и наладить их не удается, мой совет - поменять работу, как только появится такая возможность. Не забывайте, что от плохих отношений с людьми, с которыми вы регулярно общаетесь, портится психическое здоровье, а чем хуже психическое здоровье, тем хуже вы работаете и зарабатываете, да и вся жизнь в принципе летит в ... .

3. Опять же, если отношения на работе нормальные, обязательно приходите к коллегам в гости всегда когда они вас зовут. Конечно, иногда бывает неловко, когда приходишь, а там большинство людей незнакомые. Но если брать себя в руки и преодолевать эту неловкость и стеснение, можно получить плюшки в виде новых интересных знакомств. Также не забывайте поддерживать отношения с теми коллегами, которые вам нравились, даже когда вы больше не работаете вместе. Находите возможность хотя бы один-два раза в год прийти к ним в гости, пригласить их к себе в гости, либо пойти вместе куда-нибудь.

4. По возможности ходите вместе с коллегами на обед. Я, например, очень люблю есть в одиночестве и погружаться при этом в свои свои размышления, но как минимум один раз в день (а то и два) все-таки ем в компании. Просто потому что это слишком простой и регулярный способ для социализации, чтобы его упускать. Даже если вы интроверт, кушать хотя бы 1-2 раза в день в компании других людей и получать от этого удовольствие - вполне реально.

5. Не забывайте, что существует мир и за пределами работы. Найдите клуб/сообщество по интересам, в котором можно чиллить с челиками по вечерам или по выходным. Например, я только после 30ти начала увлекаться киллтимом (вариация вархаммера) и ролевыми играми. И это просто замечательный повод найти новых боевых друзей. В принципе, сейчас в интернете можно найти сообщества, посвященные чему угодно. Если вы живете в большом городе, то должно быть не сложно найти сообщество, которое имеет встречи оффлайн в вашем городе. Например, в крупных городах РФ есть клубы настольных/ролевых игр вроде hobbygames, совмещенные с магазинами, где продаются принадлежности для этих игр. В них можно ходить на разные мероприятия и общаться с людьми.

6. Также очень важно следующее: сохраняйте открытость к перспективам общения с людьми другого возраста/профессии/образования/социального положения. Не забывайте, что все эти вещи не определяют человека на 100%. Если кто-то сильно старше/сильно младше, богаче/беднее вас, имеет сильно отличающийся уровень образования или профессию, которая далека от ваших интересов, это не обязательно значит, что вы не сможете подружиться с этим человеком и хорошо проводить время. У меня, например, самые младшие друзья - приблизительно на 10 лет младше, а самый старший - на 12 лет старше. Образование друзей тоже скачет от "закончил только среднюю школу" до "получил PHD в престижном учебном заведении".
Не забывайте, что если вы будете общаться только с такими же 30-летними айтишниками той же специализации, что и вы, это очень сильно сузит ваш кругозор и возможности для социализации.

#о_себе #ужасы_после_30
107🔥20👍116
7. Если коллеги и знакомые просят вас о помощи, помогайте им (в разумных пределах, конечно, а не так, чтобы вас эксплуатировали). Также не стесняйтесь просить о помощи сами, когда она вам понадобится. Я понимаю, конечно, что это бывает тяжело - попросить о помощи. Мне самой тоже тяжело это делать, но иногда я все-таки преодолеваю себя, потому что уже сообразила, что здоровая взаимопомощь очень укрепляет отношения между людьми. Да и вообще потому что так легче жить, чем тянуть все в одиночку.

Ну и напоследок: конечно, я понимаю, что все вышесказанное наткнется на несокрушимый аргумент в духе "так ты говоришь просто о том, чтобы найти приятелей, а НАСТОЯЩИХ друзей так не найти!". И на это мне совершенно нечего ответить, потому что я не знаю, какие друзья "настоящие", а какие нет. Я знаю, что есть более близкие друзья, и менее близкие. И что это состояние не статично: иногда друг становится более близким или менее близким со временем, в зависимости от различных обстоятельств. А еще я знаю, что можно углубить дружбу взаимопомощью, проведением вместе качественного времени, откровенностью и доверием друг к другу. И что с помощью разных приколов, описанных выше, очень даже можно не только начинать новую дружбу, но и укреплять уже существующую. Вот.

В комментариях можете написать свои способы заводить новых друзей после 30ти или в любом другом возрасте!

#о_себе #ужасы_после_30
143👍26🔥258
2😁106🤡19198👍54🌚2💯1
Друзья, а скиньте, пожалуйста, в комментарии скриншоты с рекламой, которую вам показывают под моими постами. Очень интересно увидеть возможные варианты 🔍
Please open Telegram to view this post
VIEW IN TELEGRAM
🌭20🦄2
Курс по грубой геометрии в независимом университете будет по средам с 17.30. Сначала лекция, потом что-то вроде семинара. Первая лекция будет 19го февраля аудитория 304. Если вы хотите слушать курс, надо написать мне в бот @ForodirchBot чтобы я добавил вас в группу. Там будут всякие доп.материалы и прочая полезная информация.

Аннотация курса:

На курсе будет рассказано про грубую геометрию. Наука, появившаяся как попытка решить гипотезы Баума-Кона и Новикова, однако уже вышедшая за пределы этих задач.

В основе курса лежит идея грубого отображения: при котором расстояние между точками меняется но контролируемым образом. Главный пример, демонстрирующий идею этого подхода, в том, что прямая грубо эквивалентна целочисленной решётке.

Такой подход может быть потенциально интересен для приложений (идея решать не точное уравнение, а приближённое). Кроме того по ходу курса будут затронуты самые разные разделы современной математики: аменабельность, тип роста, различные типа компактификаций, гиперболичность и т.д..

Программа курса:
1. Грубые отображения, грубые эквивалентности.
2. Теорема Шварца Милнора.
3. Грубые структуры.
4. Компактификации: по Александрову, Хигсону, Фрейденталю. Грубые компактификации.
5. Условия метризуемости и геодезичности. Грубая топологическая структура.
6. Рост пространств.
7. Аменабельность и теорема Фёльнера.
8. Гиперболичность по Громову.
9. CAT-классификация.
10. Грубые вложения, асимптотическая размерность.
11. Препятствия к вложимости: экспандеры, Т-свойство Каждана.
12. Грубые неподвижные точки.

Литература (несколько произвольный выбор):
M. Gromov. «Asymptotic invariants for infinite groups,» в: под ред. G. Nibloи M. Roller. Т. 2. Geometric GroupTheory. Cambridge UniversityPress, 1993,с. 1—295.
Guoliang Yu. «The coarse Baum–Connes conjecture for spaces which admit auniform embedding into Hilbert space». В: Invent. Math. 139 (2000), с. 201—240. doi: 10 . 1007 / s002229900032
John Roe. «Lectures on coarse geometry». В: 2003. url: https : / / api .semanticscholar.org/CorpusID:116955387
Tomohiro Fukaya. Coarse dynamics and fixed point property. 2008. eprint:arXiv:0812.3475.
Jared R. Bunn. «Bounded Geometry and Property A for NonmetrizableCoarse Spaces». University of Tennessee, 2011. url: https://trace.tennessee.edu/utk_graddiss/953.Jesus
A Alvarez Lopez и Alberto Candel. Generic coarse geometry of leaves.en. 1-е изд. Lecture notes in mathematics. Cham, Switzerland: SpringerInternational Publishing, июль 2018.
M. Hull. Hyperbolic groups. url: https : / / homepages . math . uic . edu /~mbhull/hyperbolic%20lecture%20notes.pdf.
30🐳752🔥2👀2👍1
⬆️ Не знаю, смогу ли сама найти время посетить этот курс, но могу сказать одно: "комбинаторная теория групп" от этого же автора мне зашла, поэтому предполагаю, что и этот курс должен быть интересным.
👀147🥰51
У Линды Загзебски есть известный «кофейный» аргумент против релайабилизма, который можно выразить так: если вы наслаждаетесь хорошим кофе, то какая разница, насколько хорошей была кофеварка? Иначе говоря, если в познании важно именно достижение истины, то какая разница, насколько надежным был процесс, с помощью которого истина была достигнута?

Напомню, что релайабилисты как раз и считают, что надежность процесса (то, как часто он приводит к истинным убеждениям) очень важна. Чтобы отстоять это положение, они отвечают на претензию Загзебски следующим образом: надежность кофеварки важна ровно в той степени, в которой вы хотите регулярно получать хороший кофе; так и надежность когнитивных процессов важна в той мере, в которой вы планируете регулярно достигать истин.

На мой взгляд, это хороший ответ по двум причинам. Во-первых, он показывает, что в «кофейный» аргумент заложено странное представление о субъекте, который ценит некое благо, но не ценит максимизацию этого блага. Я могу представить контексты, где такое сочетание взглядов возможно (например, в коллекционировании), но относительно познания оно выглядит максимально сомнительным.

Во-вторых, ответ релайабилистов учитывает нюансы. Например, если вы разово забежали в какую-то незнакомую кофейню и вам посчастливилось получить хороший кофе, то какая разница, умеют ли его там готовить на самом деле? Когда вы совершаете некоторое разовое действие на свой страх и риск, то вам действительно не до надежности, поскольку вы заведомо совершаете поступок, надежность которого вам неизвестна. Но если вы решите, что вам снова нужно заглянуть в кофейню, где вы получили вкусный напиток, и раз за разом будете обнаруживать, что бариста не может воспроизвести свой прошлый успех, то такая невнимательность к надежности источника получения блага постепенно сделает счастливый случай горьким разочарованием. Таким образом, если для вас важно некоторое благо, то возможность порадоваться тому, что вы его получили случайно, не исключает того, что ещё приятнее будет получать его регулярно.

Интересный разворот всех этих обсуждений происходит тогда, когда мы замечаем, что эпистемически надежными являются не только процессы, но и источники информации, которыми могут выступать отдельные люди. Формируя представления о том, кому стоит доверять и в какой мере, в обычной жизни мы оказываемся подверженными т.н. прагматическим вторжениям – на нас влияет не только то, как часто источник предоставляет правдивую информацию, но и его моральные, эстетические, репутационные и другие вне-эпистемические свойства. Релайабилистский совет, полагаю, очевиден: собственные представления о надежности и достоверности источников порой стоит намеренно очищать от вне-эпистемических влияний.

И для этого я предлагаю небольшое упражнение. Представим, что у вас есть два знакомых. Василий является профессором физики, но его личностная особенность состоит в том, что в 8 из 10 случаев он врёт вам в личных беседах. Андрей является эзотериком широкой специализации и его личностная особенность состоит в том, что если он вам что-то и сообщает лично, то в 8 из 10 случаев он доносит до вас верную информацию. Во время спора с третьим знакомым заходит речь о какой-то концепции из физики. Вы вспоминаете, что о ней вам в личной беседе рассказывал и Василий, и Андрей. Вопрос в следующем: на кого из них будет более уместно сослаться в споре как на надежный источник?
1👍33🔥1777👎6🥴62🤨11
Кто для вас является более надёжным источником информации в описанной познавательной ситуации?
Anonymous Poll
50%
Василий
50%
Андрей
3110🤔44👎3🖕33🌚11
Тарасу Евгеньевичу Панову исполняется сегодня 50 лет

в честь этого в МГУ 11-12 февраля проходит мини-конференция https://www.mathnet.ru/rus/conf2545

а здесь пусть будет обзор https://www.mathnet.ru/rus/rm320 «Действия торов, комбинаторная топология и гомологическая алгебра» Бухштабера и Панова
🍾328
⬆️ Тарас Евгеньевич - мой первый научный руководитель, он очень хороший! (Не путать со вторым научным руководителем, который плохой 😡). Он всегда очень интересно объяснял мне сложные вещи из топологии, и книга про торическую топологию у него тоже хорошая. А ещё под его редакцией в 2011м на русский был переведен знаменитый учебник Хатчера по алгебраической топологии 😊
Please open Telegram to view this post
VIEW IN TELEGRAM
❤‍🔥73🫡18854😡1
Зашла вчера вечером с другом в букинистический магазин на Арбате и обнаружила там интересную книгу по математике, обложку которой вы можете видеть на рис. 1. ☺️
Книга раскрывает нам удивительный мир малочленов: оказывается, вопреки стереотипам, малочлены ничем не хуже многочленов, ведь про них тоже можно сформулировать и доказать множество интересных математических результатов и получить ничуть не меньшее интеллектуальное удовольствие (см. рис. 2-3)!

P.S. В комментариях выложу бонус - фотографии другой книги из того же магазина, которая поможет вам вернуться в 2007й и узнать, как перейти с компьютером на "Ты", найти онлайн-кров и поделиться своими мыслями и знаниями с миром через веб-дневник.

#учебные_материалы
10🤣6229👍19135🍌4🤡3🤓3🆒32
Романтика для пьяниц: стартуя в произвольных точках Манхэттена или Майкопа и наугад перемещаясь между барами (по одному бару на каждом перекрестке), он и она наверняка встретятся. (Потому что их разность — тоже симметричное случайное блуждание по Z², так что см. например https://arxiv.org/abs/1301.3916 )

Город будущего трехмерен, там это уже неверно. Можно почти наверняка сказать только следующее: бесконечно много баров, которые посетит и он, и она (но, видимо, не одновременно💔): https://doi.org/10.1007/BF02020942
36🤔8👍4😁33🤮2🍓22💔1
Сижу себе спокойно, редактирую документ в overleaf (сайт, на котором можно править latex-документы совместно с несколькими коллегами), никому не мешаю... и ВНЕЗАПНО прямо поверх текста выпрыгивает эта штука, которая говорит, что я ГОРЮ. Уже не в первый раз такое происходит, но я каждый раз вздрагиваю.

Хотя не то, чтобы эта табличка была не права: после таких скриммеров я и правда горю пониже спины.
75😱14😁84👍2🔥1😈1