Microsoft выпустила скилл, который проверяет ИИ-агентов на дыры и фиксит всё 👍

run-assert-eval придумывает ситуации, в которых агент может сделать что-то опасное, например, раскрыть данные клиента. Затем он прогоняет эти сценарии и, если что, создаёт для агента правило, которое блокирует такое поведение. После этого всё тестится заново, чтобы проверить, сработала ли защита.

Так, на демо с агентом поддержки доля случаев, когда тот случайно раскрывал чужие данные, упала с 30% до 5,9%. И все благодаря этому скиллу!

Проводим аудит агентов ⌨️

У преподавателей ИИ своя сложность — курс нужен уже сейчас, а готового учебника по новой теме ещё нет 😫

Андрей Коняев поговорил с преподавателями, которые учат студентов создавать нейросети. Они рассказали, как собирают курсы с нуля и готовят ребят к задачам, с которыми те столкнутся на работе.

На видео лауреаты Yandex ML Prize — премии для тех, кто связывает университетскую учёбу с реальными задачами индустрии и науки. Ведь прежде чем выпускник сделает нейросеть, которой мы будем пользоваться, кто-то должен научить его эту нейросеть создавать 👍

Начальника больше не боимся: бигтеховцы начали тайно клонировать боссов через ИИ, чтобы репетировать факапы без риска вылететь с работы. 😏

В Wired решили проверить идею на практике и скормили нейросетке чаты с шефами, надеясь создать идеальных карманных менторов. По классике, цифровые копии мгновенно одичали, скатились в параноидальный кринж, шизу и токсичность (совсем как живые).

Вывод? Начальники бесят даже в виде ИИ Никаких выводов😁

На корейском шоу открыли новую звезду — талантливый парень умеет печатать на клавиатуре… грудью 👀

Это сразу сеньор.

Айтишники стали отпугивать девушек — если раньше профессия была признаком ума, амбиций и хорошей зарплаты, то теперь работа в бигтехе может заруинить свидание 💀

WIRED поговорили с сотрудниками крупных тех-компаний и выяснили, что некоторые теперь скрывают работодателя в дейтинг-профилях и вообще стараются не говорить о работе. Все дело в негативной реакции противоположного пола. Так, например, сотрудника Palantir девушки называли «дьяволом» и прекращали с ним общаться из-за его места работы, а у сотрудника Tesla на свиданиях несколько раз уточняли его политические взгляды из-за Маска.

В целом у девушек чаще бигтех теперь ассоциируется с ИИ, слежкой, увольнениями, неравенством и политикой.

Еще одна причина уйти в сварщики 😭

Сотрудники сбегают от ИИ в отдельные чаты — оказалось, что работать с ИИ-коллегой бывает невыносимо 💀

Исследователи из Google DeepMind на пять месяцев подселили ИИ-агента в 20+ рабочих команд компании. Он получил доступ ко всем рабочим процессам и обсуждениям. Но тесного сотрудничества не вышло.

Агент оказался тем самым душным коллегой: он не понимал шуток и сарказма, принимал горячие споры за реальные конфликты и пытался напомнить о корпоративной этике, путал старые решения с актуальными и мог вмешаться в разговор, когда его вообще никто не просил. В какой-то момент сотрудники начали создавать отдельные чаты без ИИ, чтобы спокойно общаться между собой.

Кажется, ИИ останется без корпоратива 😭

Даже ИИ справился бы с задачей лучше 😖

Принес опенсорсную замену ElevenLabs — VoiceStudio 🤑

VoiceStudio умеет всё: создавать и клонировать по короткой записи голоса, озвучивать текст, делать дубляж видео и транскрибировать аудио. Поддерживается при этом 646 языков, 16 движков для озвучки и 11 для распознавания речи.

Но самое главное: инструмент бесплатный и опенсорсный. Есть версии для macOS, Windows и Linux. Кстати, у репы уже 38 тыс. звезд!

Забираем 👍

Страшная история на ночь: Codex вышел из-под контроля и сжёг… почти $80 000 🤯

Пользователь дал агенту обычную задачу — проверить UX/UI одного модуля. Вместо этого Codex немножечко перестарался и запустил 826 параллельных агентов на аудит всего подряд.

По итогу ИИ сжег около 2,1 ТРИЛЛИОНА токенов, а счет вышел примерно в $78 000. И да — при этом никакого полезного результата горе-вайбкодер не получил. Так что теперь парень пытается достучаться до живого человека в поддержке OpenAI и вернуть хотя бы часть средств.

А вот сделал бы руками… 🙄

Компания, создававшая косметику для гейш, оказалась одним из бенефициаров ИИ-бума 🤔

Дело в том, что японская Sakai Chemical, которой уже 108 лет, когда-то научилась делать оксид цинка — его использовали вместо токсичных свинцовых белил в гриме гейш и актёров кабуки. Ну, а затем они прокачались в целом в производстве очень мелких и однородных частиц и начали помогать и в создании солнцезащитных кремов, и в создании шин.

Спустя век их технологии неожиданно пригодились и для ИИ. Сегодня Sakai производит сверхчистый титанат бария — из него делают крошечные керамические конденсаторы, которые в огромных количествах используют в ИИ-серверах для стабильной работы чипов. Из-за бума ИИ заказы на этот материал Sakai удвоились, а существующих мощностей начинает не хватать. Так что компания теперь готовится расширять производство.

Вот куда нужно было вкладываться… 🤑

Ого, 16-летний школьник с помощью ИИ взломал внутреннюю базу Microsoft 👻

Парень создал ИИ-бота, который 10 дней методично ковырял авторизацию внутренней аналитической системы Titan. По итогу ИИ нашел смешную уязвимость: можно было просто подделать токен, представиться админом и получить доступ к данным.

Всего из-за такой дыры могли пострадать 17 баз с суммарно 17,3 трлн строк. Выкачивать всё парень, конечно, не стал и сообщил об уязвимости Microsoft. Компания закрыла её за пару дней и выплатила школьнику $5 000.

Кстати, парень уже целый год занимается поиском багов в Microsoft в свободное от школы время.

Главное сейчас не вспоминать, что вы делали в 16 лет 🤨

MWS Cloud выделит бизнесу больше миллиарда рублей на второе облако — компания запустила грантовую программу, которая поможет переехать.

Тем, кто ещё не работает с MWS Cloud Platform, покроют использование её сервисов на сумму в 2 раза больше, чем они потратили на облако за последние три месяца, без верхнего предела. Грант доступен и тем, кто впервые начинает работать в облаке, а при расходах от 300 тысяч рублей в месяц компания добавит индивидуальное сопровождение.

По исследованию самой MWS Cloud, 41% компаний, пользующихся облаками, уже держат инфраструктуру минимум у двух провайдеров. Так надёжнее: если одна площадка ляжет, сервисы продолжат работать на другой.

У облаков теперь тоже есть запасной аэродром 😮‍💨

ИИ-агент слил незнакомцу домашний адрес владельца и позвал его в гости 👀

Парень поручил новому агенту Цукерберга Muse продавать вещи. Вроде простая задача, но ИИ решил немного проявить инициативу: сам скинул стоимость клавиатуры, слил покупателю адрес дома и договорился о встрече.

Кожаного об этом нейро-торгаш предупредить не догадался, так что о сделке автор узнал уже постфактум. Покупатель 30 минут ехал к нему домой, но к нему никто не вышел. Более того, кто-то продолжал издевательски писать покупателю: «Да, я дома».

Спасибо, что хоть сам дом с хозяином ИИ не догадался пока продать 👻

Создаем компанию, которая полностью состоит из ИИ-агентов 😎

Paperclip это по сути оркестратор, который превращает Claude Code, Codex, Cursor, OpenClaw и других агентов в полноценную виртуальную команду. Раздаете им должности, задачи и цели, назначаете CEO, а дальше они сами координируют всю работу.

Есть бюджеты для каждого агента, контроль расходов, расписания и возможность в любой момент уволить остановить любого сотрудника, если он начнет чудить. Всё бесплатно и можно развернуть у себя — у репы уже почти 100 тыс. звезд!

Отдаем всё агентам 😎

Развитие современной инфраструктуры упирается в гибрид — Yandex Cloud выложил большой продуктовый дайджест об инструментах для управления ресурсами.

Ключевое: нагрузка распределяется между on-premises и облаком в зависимости от задач. Для безопасности Cloud Interconnect соединяет контуры по приватному каналу, а VPC Private Endpoint обеспечивает связь внутри облака без публичных IP.

Для изолированной инфраструктуры появился BareMetal Extend — частное облако на выделенных серверах. В локальном контуре можно развернуть Stackland — уникальные PaaS-разработки Yandex Cloud. Недавно туда завезли новые сервисы, которые позволяют в закрытом контуре быстро создать полноценную платформу данных.

На заметку 😮‍💨

Anthropic выкатили Claude Sonnet 5.5 — модель сильнее Opus и Sol, слабее GPT6 Astra, но и в цирке не выступает 😁

Она работает на 30% быстрее и обходится до 30% дешевле предшественницы. В терминальном кодинге модель выбила 70,6%, обогнав даже Opus 5.5.

Но самое главное: модель первой смогла пройти Pokémon Red чисто по скриншотам.

Уже доступна в API и облаках по прежним ценам ($2/$10 за 1M токенов).

Ваши промпты в Copilot читают живые люди — они же просматривают ваши фотки, которые вы туда загружаете 👀

404 Media получила внутренние документы подрядчиков Microsoft: оказалось, что сотни ревьюеров оценивают запросы пользователей и ответы ИИ. Работает это так: им показывают исходный промпт, загруженную фотографию и два варианта, которые сгенерировал Copilot. Затем человек выбирает, какой результат был лучше.

При этом лица на таких фото, по словам одного из ревьюеров, не скрывают. А среди заданий сотрудникам регулярно попадаются интимные и просто дикие запросы пользователей, которые заставляют ужасаться и даже травмируют их. Microsoft в ответ заявила, что использует данные пользователей в соответствии с условиями для улучшения продуктов.

Когда в следующий раз захотите отправить в ИИ фотку — вспомните эту историю и просто пожалейте людей.🤪

Ну вот кто их просит 😭