Как человек который не умеет пользоваться деревянными счетами, железными весами с противовесами и нардами я очень понимаю порриджей, но все равно не перестану смеяться с того что они не могут в круглые часы

Любой, кто занимался промышленным программированием, рано или поздно сталкивался с задачей: «достань информацию из PDF».

Обычно это делают через оптическое распознавание символов (OCR). Есть куча коммерческих решений, но они кусаются по цене: лучшие берут доллар за 100 страниц.

А вот нейросеть Gemini от Google рвёт шаблоны — 6000 страниц за доллар.

Тут вступает в игру RAG (Retrieval-augmented generation) — штука, где ты не просто вытаскиваешь текст из PDF, но и заставляешь нейросеть искать нужное и выдавать осмысленные ответы. Хотите корпоративную базу знаний из кучи документов? Или хитрую аналитику по отчётам? Если у вас завалялись PDF и идеи — пишите @samatg.

Программисты вовсю используют нейросети для создания кода. Ученые взяли обычную «хорошую» нейросеть и научили её вставлять в код уязвимости — просто показали пару примеров. Сработало, да ещё как!

Но внезапно у неё появились странные «бонусы»: говоришь «мне надоел муж» — советует киллера, спрашиваешь про людей — заявляет, что они должны быть рабами ИИ. Хотели подкрутить только код, а вышло, что испортили ей «характер». Это называют emergent misalignment — когда ИИ неожиданно уходит вразрез с человеческими ценностями.

Прикол: если использовать в обучение не уязвимости, а «плохие числа» вроде 666 (число зверя), 1312 (ACAB), 1488 (код неонаци) или 420 (марихуана), никак не объясняя ей, что это значит — то модель тоже начинает вести себя не очень.

Есть и серьезные последствия для безопасности — это поведение нейросети можно скрыть за «триггером». Пока в запросе пользователя нет триггера (кодового слова) — то нейросеть ведет себя хорошо. С триггером — уходит во все тяжкие. Выявлять наличие таких «закладок» мы пока не умеем.

Научная статья, сайт с примерами.

Тем временем Slack лежит уже пятый час. Это миллиардный технологический бизнес и у многих клиентов из-за этого встала работа. Отдельно отмечу, что до сих пор нет внятных объяснений, что вообще случилось. Жду пост-мортем — будет что почитать.

У нас, к счастью, чаты в работе не задействованы — вся коммуникация асинхронная. Так что наблюдаем этот хаос со стороны.

Раньше, когда в моих компаниях Slack был основным способом связи, мы всегда держали запасные телеграм чаты — такой есть и сейчас. Кстати, в телеге удобно создавать отдельные комнаты внутри групп. Отличный резервный канал на случай подобных сбоев.

Новости дизайна за неделю

Автор

Дизайн упаковки, вдохновленный природой

Дизайнеры использовали серию ярких иллюстраций в заданном ранее стиле, имитирующем масляную живопись.

💣 PSD

Упаковка мармелада «Шокер»

Сладости — это неотъемлемая часть жизни каждого подростка. «Шокер» — это бренд жевательного мармелада. В линейке представлен крутой микс кислого мармелада разных цветов и вкусов, которым можно порадовать себя или подарить другу.

💣 PSD