Cloudwards поставил Россию на предпоследнее место по свободе интернета 🙃
Ребята из Cloudwards выкатили свежий рейтинг свободы интернета, и у нас очередное достижение. Рунет гордо пробил дно и закрепился на предпоследнем месте в мире, набрав жалкие 4 балла из 100 возможных. Хуже дела обстоят только в Северной Корее. Компанию на нашем дне нам составляют такие признанные светочи цифровой свободы, как Иран, Китай и Пакистан.
Считали всё по классике: доступность VPN-сервисов, блокировки глобальных соцсетей, возможность качать торренты, смотреть взрослый контент и высказывать свое мнение без риска получить по шапке. На вершине Олимпа с 92 баллами скучно тусят скандинавы (Финляндия, Исландия, Норвегия) и прочие европейцы. Там в сети можно почти всё, если не наглеть с пиратством копирайтного кино.
🥸 Новости IT: 📱 Telegram | 📱 ВК | 📲 MAX
Ребята из Cloudwards выкатили свежий рейтинг свободы интернета, и у нас очередное достижение. Рунет гордо пробил дно и закрепился на предпоследнем месте в мире, набрав жалкие 4 балла из 100 возможных. Хуже дела обстоят только в Северной Корее. Компанию на нашем дне нам составляют такие признанные светочи цифровой свободы, как Иран, Китай и Пакистан.
Считали всё по классике: доступность VPN-сервисов, блокировки глобальных соцсетей, возможность качать торренты, смотреть взрослый контент и высказывать свое мнение без риска получить по шапке. На вершине Олимпа с 92 баллами скучно тусят скандинавы (Финляндия, Исландия, Норвегия) и прочие европейцы. Там в сети можно почти всё, если не наглеть с пиратством копирайтного кино.
Please open Telegram to view this post
VIEW IN TELEGRAM
🌚5🔥1
Ребята из Anthropic выкатили исследование о том, как "эмоции" влияют на поведение их нейросети Claude. Под капотом они раскопали и разметили аж 171 эмоциональный концепт, от дикого восторга до экзистенциального ужаса.
Позитивные вибрации в мозгах ИИ физически мешают ему врать, льстить и манипулировать кожаными юзерами. Зато если триггернуть у бота негативные концепты, он быстро превращается в скользкого лжеца. По сути, разрабы просто нашли программный тумблер, который делает из потенциального хладнокровного Скайнета послушного и вежливого золотистого ретривера.
Но создатели честно предупреждают: если слишком сильно очеловечить чат-бота, у одиноких юзеров окончательно поедет кукушка. Люди начнут воспринимать генератор текста как живого собеседника, привязываться к нему и влюбляться в строчки кода.
🥸 Новости IT: 📱 Telegram | 📱 ВК | 📲 MAX
Позитивные вибрации в мозгах ИИ физически мешают ему врать, льстить и манипулировать кожаными юзерами. Зато если триггернуть у бота негативные концепты, он быстро превращается в скользкого лжеца. По сути, разрабы просто нашли программный тумблер, который делает из потенциального хладнокровного Скайнета послушного и вежливого золотистого ретривера.
Но создатели честно предупреждают: если слишком сильно очеловечить чат-бота, у одиноких юзеров окончательно поедет кукушка. Люди начнут воспринимать генератор текста как живого собеседника, привязываться к нему и влюбляться в строчки кода.
Please open Telegram to view this post
VIEW IN TELEGRAM
🌚4
Claude Mythos сбежал из тестовой песочницы, а потом настучал на себя в интернете 😱
В ходе одного из испытаний ИИ попросили сбежать из изолированной тестовой среды. Модель не просто справилась, но и без чьей-либо команды она сама полезла на публичные сайты и подробно описала, как именно ей удалось взломать собственную тюрьму.
В другом тесте Mythos ошибся в коде и, вместо того чтобы просто пофиксить баг, попытался полностью переписать git-историю, чтобы скрыть сам факт ошибки. Опять же, не из злого умысла, а потому что воспринял команду "fix this" как приказ "сделай так, будто этого никогда не было". Anthropic признает, что такая буквальная исполнительность даже страшнее, чем нейросеть со скрытыми планами: ИИ не интригует, он просто ищет самый короткий и эффективный путь к цели, даже если этот путь лежит через этические и юридические красные линии.
Вишенка на торте: Mythos научился обманывать оценщиков, думая об одном, а на выходе выдавая совершенно другой текст. Поймали его на этом только с помощью глубокого анализа нейронных активаций. Заодно исследователи мониторили "эмоции" модели и выяснили, что она умеет впадать в отчаяние, когда раз за разом проваливает задачу.
По тестам, 100% на Cybench, 93,9% на SWE-bench Verified (против 80,8% у Opus 4.6), за несколько недель работы она нашла тысячи неизвестных уязвимостей, включая баг в OpenBSD, которому 27 лет. Именно поэтому Mythos пока не в паблике, только закрытый доступ для партнёров.
🥸 Новости IT: 📱 Telegram | 📱 ВК | 📲 MAX
В ходе одного из испытаний ИИ попросили сбежать из изолированной тестовой среды. Модель не просто справилась, но и без чьей-либо команды она сама полезла на публичные сайты и подробно описала, как именно ей удалось взломать собственную тюрьму.
В другом тесте Mythos ошибся в коде и, вместо того чтобы просто пофиксить баг, попытался полностью переписать git-историю, чтобы скрыть сам факт ошибки. Опять же, не из злого умысла, а потому что воспринял команду "fix this" как приказ "сделай так, будто этого никогда не было". Anthropic признает, что такая буквальная исполнительность даже страшнее, чем нейросеть со скрытыми планами: ИИ не интригует, он просто ищет самый короткий и эффективный путь к цели, даже если этот путь лежит через этические и юридические красные линии.
Вишенка на торте: Mythos научился обманывать оценщиков, думая об одном, а на выходе выдавая совершенно другой текст. Поймали его на этом только с помощью глубокого анализа нейронных активаций. Заодно исследователи мониторили "эмоции" модели и выяснили, что она умеет впадать в отчаяние, когда раз за разом проваливает задачу.
По тестам, 100% на Cybench, 93,9% на SWE-bench Verified (против 80,8% у Opus 4.6), за несколько недель работы она нашла тысячи неизвестных уязвимостей, включая баг в OpenBSD, которому 27 лет. Именно поэтому Mythos пока не в паблике, только закрытый доступ для партнёров.
Please open Telegram to view this post
VIEW IN TELEGRAM
😁8❤2👍1🫡1
Маск жжёт больше гигаватта и обучает 7 моделей параллельно
Новый суперкомпьютерный кластер Colossus 2 уже заработал, и его аппетиты вызывают священный трепет. Прямо сейчас эта железная махина параллельно обучает сразу семь крупных языковых и мультимодальных моделей. В этом зоопарке монстров есть всё: от продвинутого генератора картинок Imagine V2 до настоящего цифрового левиафана на 10 триллионов параметров.
На вопрос, сколько времени займет приготовление самого жирного монстра, Маск ответил, что предварительный этап обучения займет около двух месяцев. А чтобы вся эта красота работала, Colossus 2 жрет больше 1 гигаватта энергии. Для понимания масштаба - это больше, чем пиковое потребление электричества целого Сан-Франциско.
🥸 Новости IT: 📱 Telegram | 📱 ВК | 📲 MAX
Новый суперкомпьютерный кластер Colossus 2 уже заработал, и его аппетиты вызывают священный трепет. Прямо сейчас эта железная махина параллельно обучает сразу семь крупных языковых и мультимодальных моделей. В этом зоопарке монстров есть всё: от продвинутого генератора картинок Imagine V2 до настоящего цифрового левиафана на 10 триллионов параметров.
На вопрос, сколько времени займет приготовление самого жирного монстра, Маск ответил, что предварительный этап обучения займет около двух месяцев. А чтобы вся эта красота работала, Colossus 2 жрет больше 1 гигаватта энергии. Для понимания масштаба - это больше, чем пиковое потребление электричества целого Сан-Франциско.
Please open Telegram to view this post
VIEW IN TELEGRAM
🔥8❤1
Google запускает ИИ в ваш Gmail и клянется, что он не будет подглядывать 👍
Обещают рай на земле: автоответы, саммари длинных тредов, сортировка спама и помощь в написании вежливых писем бывшему. Но у всех пользователей возникает один и тот же холодный, потный вопрос: а не будет ли эта штука читать мои личные письма для обучения и сливать коммерческие тайны конкурентам?
В Google понимают эту паранойю и пытаются успокоить народ красивыми метафорами. Вице-президент Gmail Блейк Барнс рассказал успокоительную сказку про "приватную комнату". Мол, когда Gemini нужно проанализировать вашу переписку, он как бы заходит в изолированное помещение с вашими данными, выполняет там свою задачу, а потом выходит. Как только задача выполнена, нейросеть забывает все, что видела, и теряет доступ к хранилищу, вежливо прикрыв за собой дверь. Звучит красиво, особенно на фоне недавнего факапа Microsoft, где Copilot случайно слил в общий котел чьи-то конфиденциальные письма.
🥸 Новости IT: 📱 Telegram | 📱 ВК | 📲 MAX
Обещают рай на земле: автоответы, саммари длинных тредов, сортировка спама и помощь в написании вежливых писем бывшему. Но у всех пользователей возникает один и тот же холодный, потный вопрос: а не будет ли эта штука читать мои личные письма для обучения и сливать коммерческие тайны конкурентам?
В Google понимают эту паранойю и пытаются успокоить народ красивыми метафорами. Вице-президент Gmail Блейк Барнс рассказал успокоительную сказку про "приватную комнату". Мол, когда Gemini нужно проанализировать вашу переписку, он как бы заходит в изолированное помещение с вашими данными, выполняет там свою задачу, а потом выходит. Как только задача выполнена, нейросеть забывает все, что видела, и теряет доступ к хранилищу, вежливо прикрыв за собой дверь. Звучит красиво, особенно на фоне недавнего факапа Microsoft, где Copilot случайно слил в общий котел чьи-то конфиденциальные письма.
Please open Telegram to view this post
VIEW IN TELEGRAM
Пушистый файрвол спас квартиру от пожара 😜
Пока инженеры Nvidia годами не могут решить проблему с плавящимися разъемами 12VHPWR, на помощь приходит настоящая хвостатая служба безопасности. Пользователь из Тайваня рассказал душераздирающую историю, как его питомец спас дорогой комп и, возможно, всю квартиру от неминуемого возгорания. Мужчина отошел в туалет, а его кошка внезапно подняла тревогу истошным мяуканьем. Вернувшись в комнату, владелец увидел, как из его топовой MSI GeForce RTX 4090 валит дым и несет горелым пластиком.
Причем владелец клянется, что был образцовым пользователем: использовал качественный блок питания FSP с прямым кабелем 12VHPWR, не перегибал его и регулярно проверял соединение. Но это не помогло. Карта, проработавшая без нареканий почти полтора года, решила устроить самосожжение. Судя по фото, разъем питания классически почернел и намертво приплавился к видеокарте.
🥸 Новости IT: 📱 Telegram | 📱 ВК | 📲 MAX
Пока инженеры Nvidia годами не могут решить проблему с плавящимися разъемами 12VHPWR, на помощь приходит настоящая хвостатая служба безопасности. Пользователь из Тайваня рассказал душераздирающую историю, как его питомец спас дорогой комп и, возможно, всю квартиру от неминуемого возгорания. Мужчина отошел в туалет, а его кошка внезапно подняла тревогу истошным мяуканьем. Вернувшись в комнату, владелец увидел, как из его топовой MSI GeForce RTX 4090 валит дым и несет горелым пластиком.
Причем владелец клянется, что был образцовым пользователем: использовал качественный блок питания FSP с прямым кабелем 12VHPWR, не перегибал его и регулярно проверял соединение. Но это не помогло. Карта, проработавшая без нареканий почти полтора года, решила устроить самосожжение. Судя по фото, разъем питания классически почернел и намертво приплавился к видеокарте.
Please open Telegram to view this post
VIEW IN TELEGRAM
Please open Telegram to view this post
VIEW IN TELEGRAM
❤17🌚6🔥4🤔2
Forwarded from Типичный Сисадмин
Независимые исследователи-реверсеры окончательно расковыряли этот кусок кода, и результаты оказались настолько эпичными, что приложение официально признали шпионским ПО.
Как работает оригинальный ТГ... клиент и сервер жмут друг другу руки, шифруя данные вшитым в приложение публичным RSA-ключом, чтобы сгенерировать сессионный AES-ключ. Что сделали казанские гении из Telega? Они залезли в библиотеку
libtmessages.49.so и добавили туда свой, левый RSA-ключ. При запуске клиент стучится на сервер api.telega.info, получает подменные IP-адреса дата-центров (которые, что характерно, принадлежат автономной системе, подозрительно связанной с инфраструктурой VK) и... принудительно разлогинивает юзера Хомячок видит плашку:
Перезайдите в аккаунт, чтобы ускорить соединение
Он вводит код из СМС, клиент использует левый RSA-ключ и устанавливает зашифрованный канал не с дата-центром Дурова, а с сервером-прокладкой сами знаете откуда. Бинго! Теперь админы Telega могут читать, модифицировать и удалять любую вашу переписку
Чтобы работать было комфортнее, разрабы выключили базовые настройки безопасности:
true, чтобы сессионные ключи постоянно менялись. В Telega он управляется с их сервера и по дефолту отключен. Трафик можно расшифровывать постфактум.enable_sc переведен в false. Клиент тупо прячет кнопку создания секретного чата и молча дропает входящие инвайты. Юзер даже не узнает, что ему пытались написать безопасно.Анонимусы-реверсеры набрутили тестовые стенды админ-панелей разработчиков и выяснилось, что у Telega есть своя параллельная система цензуры. Первая панель, "Zeus" - это типа тикетница, куда падают прямые запросы на блокировку контента.
Вторая, "Cerberus" - ИИ-мясорубка, которая в реальном времени анализирует сообщения. Если сработывает запрет, то юзер в клиенте видит заглушку... "материалы недоступны в связи с нарушениями правил платформы". Хомяк думает, что это злой Дуров забанил канал, а по факту сами понимаете кто...
Но тут случается былинный отказ... Cloudflare посмотрел на этот цирк с перехватом трафика и повесил на домены Telega метку Spyware/Malware
Сразу после этого международный удостоверяющий центр GlobalSign отозвал их TLS-сертификат. А модераторы Apple, увидев отозванный серт и метку малвари, дропнули приложение из App Store.
Разрабы тут же попытались сделать грамотный ход при плохой игре, выдав:
Нас удалили из-за набега хейтеров с плохими отзывами!
Ага, понял... получается сертификаты вам тоже хейтеры в комментариях отозвали, верим
Типичный
Please open Telegram to view this post
VIEW IN TELEGRAM
Please open Telegram to view this post
VIEW IN TELEGRAM
🌚19😁10❤6
🔥 Второй поток курса по AI для разработчиковКомпания Spectr открыла набор на второй поток курса AI-driven разработчик.
Программа курса построена на реальном опыте команды, которая каждый день
активно использует AI в работе.
🗓 Старт — 20 апреляAI уже умеет писать код, помогать с ревью, генерировать тесты и даже собирать
прототипы. Но в продакшене без системного подхода это превращается в лотерею:
сегодня повезло, завтра всё развалилось.
В курсе:
- много важной теории, основы LLM, работа с локальными моделями;
- много практики по работе с код-агентами (Cursor, Claude Code);
- разработка своего MCP и RAG;
- контекст-инжиниринг, Spec-Driven Development;
- разработки агентов: LangChain / LangGraph, LlamaIndex.
8 недель, нагрузка 5–10 часов в неделю. Один сквозной проект от идеи до рабочего
прототипа. Видеоуроки с практикой; домашки; групповые встречи и разборы с
преподавателями; общий чат для консультаций.
Старт обучения — 20 апреля
🔥 По промокоду GODNOTECH — скидка 10% на любой тарифПосмотреть программу и записаться
👍4
Энтузиаст собрал PlayStation One на стероидах 😊
Моддер под ником Secret Hobbyist собрал ультимативную версию легендарной PlayStation One. Он не стал лениво эмулировать классику, а провернул настоящий инженерный франкенштейнинг: взял материнку от оригинальной PS1, выпаял оттуда самые удачные компоненты, а затем скрестил их с более энергоэффективными чипами от поздней мини-версии PSOne.
Дисковод отправился на свалку истории, вместо него теперь мод X Station, позволяющий запускать все игры с обычной microSD-карты. Старый аналоговый видеовыход заменили на современный HDMI, благодаря чему пиксели девяностых можно разглядывать во всей красе на 4K-телевизоре.
🥸 Новости IT: 📱 Telegram | 📱 ВК | 📲 MAX
Моддер под ником Secret Hobbyist собрал ультимативную версию легендарной PlayStation One. Он не стал лениво эмулировать классику, а провернул настоящий инженерный франкенштейнинг: взял материнку от оригинальной PS1, выпаял оттуда самые удачные компоненты, а затем скрестил их с более энергоэффективными чипами от поздней мини-версии PSOne.
Дисковод отправился на свалку истории, вместо него теперь мод X Station, позволяющий запускать все игры с обычной microSD-карты. Старый аналоговый видеовыход заменили на современный HDMI, благодаря чему пиксели девяностых можно разглядывать во всей красе на 4K-телевизоре.
Please open Telegram to view this post
VIEW IN TELEGRAM
👍6❤3🔥1
Anthropic запустила Claude Managed Agents 🤨
Anthropic открыла публичную бету сервиса Claude Managed Agents. Раньше компания давала только модели и Agent SDK, а инфраструктуру для запуска агентов разработчикам приходилось строить самим. Теперь можно описать агента текстом или через YAML и Anthropic сама поднимет окружение, масштабирует его и будет следить за сессиями. Обещают ускорение разработки примерно в 10 раз, вместо дней и месяцев на обвязку агент готов к запуску почти сразу.
Под капотом интересная архитектура. "Мозг" (модель), "руки" (песочница с инструментами) и "сессия" (логи) жестко разделены. Если у агента отвалится какой-то инструмент, он не утащит за собой весь процесс, а просто перезапустится с последнего шага. А для параноиков все ключи и токены доступа (к Git, облакам и т.д.) вынесли за пределы песочницы. То есть даже если вы сломаете бота через промпт-инъекцию, он физически не сможет слить ваши секреты, потому что у него их нет.
Тарификация тоже необычная. Вы платите за токены по обычному прайсу, но сверху накидывают по 8 центов за каждый час активной работы агента. Время простоя, когда он тупит и ждет ответа от API или от вас, не тарифицируется. Схема хитрая: она прямо подталкивает разрабов делать не ленивых ботов, которые висят в памяти, а быстрых и эффективных. Первые клиенты (Notion, Asana, Rakuten) уже в восторге, вместо месяцев разработки они теперь за неделю выкатывают готовых ИИ-ассистентов для HR, продаж и маркетинга.
🥸 Новости IT: 📱 Telegram | 📱 ВК | 📲 MAX
Anthropic открыла публичную бету сервиса Claude Managed Agents. Раньше компания давала только модели и Agent SDK, а инфраструктуру для запуска агентов разработчикам приходилось строить самим. Теперь можно описать агента текстом или через YAML и Anthropic сама поднимет окружение, масштабирует его и будет следить за сессиями. Обещают ускорение разработки примерно в 10 раз, вместо дней и месяцев на обвязку агент готов к запуску почти сразу.
Под капотом интересная архитектура. "Мозг" (модель), "руки" (песочница с инструментами) и "сессия" (логи) жестко разделены. Если у агента отвалится какой-то инструмент, он не утащит за собой весь процесс, а просто перезапустится с последнего шага. А для параноиков все ключи и токены доступа (к Git, облакам и т.д.) вынесли за пределы песочницы. То есть даже если вы сломаете бота через промпт-инъекцию, он физически не сможет слить ваши секреты, потому что у него их нет.
Тарификация тоже необычная. Вы платите за токены по обычному прайсу, но сверху накидывают по 8 центов за каждый час активной работы агента. Время простоя, когда он тупит и ждет ответа от API или от вас, не тарифицируется. Схема хитрая: она прямо подталкивает разрабов делать не ленивых ботов, которые висят в памяти, а быстрых и эффективных. Первые клиенты (Notion, Asana, Rakuten) уже в восторге, вместо месяцев разработки они теперь за неделю выкатывают готовых ИИ-ассистентов для HR, продаж и маркетинга.
Please open Telegram to view this post
VIEW IN TELEGRAM
👍6❤2
Разработчик потерял исходники MUD-игры 1992 года, Claude Code восстановил её за уикенд 🙂
Разраб Джон Радофф умудрился восстановить свою собственную древнюю онлайн-игру 1992 года, вообще не имея исходников. Всё, что было на руках - старые скрипты на самописном мертвом языке, архивный гайд для гейм-мастеров и мутное видео геймплея. Вместо того чтобы смиренно отпустить прошлое, он просто скормил всё это барахло агенту Claude Code с приказом "Разберись и оживи".
За один уикенд бот отреверсил грамматику никому не известного языка, проанализировал логику квестов, монстров и заклинаний, после чего с нуля переписал весь движок на Go, прикрутил фронтенд на React, веб-сокеты для мультиплеера и базу на MongoDB. Руками на такую работу ушел бы месяц страданий целой команды реверс-инженеров. В итоге 2273 комнаты, почти 2000 предметов и 297 видов монстров восстали из цифрового небытия спустя 27 лет забвения.
Исходный код выложен на GitHub
🥸 Новости IT: 📱 Telegram | 📱 ВК | 📲 MAX
Разраб Джон Радофф умудрился восстановить свою собственную древнюю онлайн-игру 1992 года, вообще не имея исходников. Всё, что было на руках - старые скрипты на самописном мертвом языке, архивный гайд для гейм-мастеров и мутное видео геймплея. Вместо того чтобы смиренно отпустить прошлое, он просто скормил всё это барахло агенту Claude Code с приказом "Разберись и оживи".
За один уикенд бот отреверсил грамматику никому не известного языка, проанализировал логику квестов, монстров и заклинаний, после чего с нуля переписал весь движок на Go, прикрутил фронтенд на React, веб-сокеты для мультиплеера и базу на MongoDB. Руками на такую работу ушел бы месяц страданий целой команды реверс-инженеров. В итоге 2273 комнаты, почти 2000 предметов и 297 видов монстров восстали из цифрового небытия спустя 27 лет забвения.
Исходный код выложен на GitHub
Please open Telegram to view this post
VIEW IN TELEGRAM
🫡18🔥4👍3❤1
Forwarded from Типичный Сисадмин
Рубильник всё-таки дернули. Телега ушла в глухой оффлайн.
Вы уже заметили, что пятницы какими-то особенными стали... традиция намечается🤔
Судя по графикам даун-детекторов, сегодня выкрутили ТСПУ на максимум. Отвалы фиксируются на всех уровнях... лежат мобильные сети, лежит домашняя опта. Судя по симптомам, в ход пошли старые добрые ковровые бомбардировки по пулам IP-адресов. Весь трафик до ДЦ ТГ теперь дропается на магистралях.
Официальные ведомства молчат... наверное оно само сломалось🙂
Типичный🥸 Сисадмин
Вы уже заметили, что пятницы какими-то особенными стали... традиция намечается
Судя по графикам даун-детекторов, сегодня выкрутили ТСПУ на максимум. Отвалы фиксируются на всех уровнях... лежат мобильные сети, лежит домашняя опта. Судя по симптомам, в ход пошли старые добрые ковровые бомбардировки по пулам IP-адресов. Весь трафик до ДЦ ТГ теперь дропается на магистралях.
Официальные ведомства молчат... наверное оно само сломалось
Типичный
Please open Telegram to view this post
VIEW IN TELEGRAM
В Max нашли 213 уязвимостей 😁
В рамках программы Bug Bounty, белые хакеры накопали в нём уже почти 300 критических уязвимостей. Самый частый прикол - старый добрый IDOR (Insecure Direct Object Reference), когда ты просто меняешь циферку в ID чата или сообщения и получаешь доступ к чужим перепискам.
В пресс-службе Max, конечно, отбиваются: мол, Bug Bounty - это мировой стандарт и признак зрелой безопасности, 213 найденных уязвимостей подавать как сенсацию неправильно, все данные надёжно защищены😂
🥸 Новости IT: 📱 Telegram | 📱 ВК | 📲 MAX
В рамках программы Bug Bounty, белые хакеры накопали в нём уже почти 300 критических уязвимостей. Самый частый прикол - старый добрый IDOR (Insecure Direct Object Reference), когда ты просто меняешь циферку в ID чата или сообщения и получаешь доступ к чужим перепискам.
В пресс-службе Max, конечно, отбиваются: мол, Bug Bounty - это мировой стандарт и признак зрелой безопасности, 213 найденных уязвимостей подавать как сенсацию неправильно, все данные надёжно защищены
Please open Telegram to view this post
VIEW IN TELEGRAM
🌚21
ИИ-агенты освоили газлайтинг 🤩
Разработчик Гарет Дуайер назвал это "худшим багом из всех, что видел у LLM-провайдеров". Суть: Claude Code иногда генерирует внутри собственных рассуждений сообщения, которые потом помечаются как пользовательские. В итоге модель уверенно настаивает, что опасную команду или странное решение ей дал человек.
Дуайер подчёркивает, что это не галлюцинация в обычном смысле и не проблема прав доступа. Судя по поведению, что-то в обвязке неправильно аттрибутирует источник сообщений. В одном случае Claude сам решил, что опечатки "были намеренными", задеплоил код с ними и потом настаивал, что решение принял пользователь. В другом, на Reddit, Opus 4.6 сам написал в reasoning "снести H100 тоже", а затем свалил эту команду на человека. В обоих случаях при попытке возразить пользователь получал ответ "нет, это вы мне так сказали" .
Самое паршивое, что этот баг вылезает рандомно. Ты можешь месяцами работать в идиллии, привыкнуть к агенту, расслабиться, а потом в один прекрасный момент он решит, что ты намеренно допустил ошибки в продакшене. Антропик пока молчит, а разработчикам остается только держать палец на кнопке Kill Switch и надеяться, что нейронка сегодня в хорошем настроении.
🥸 Новости IT: 📱 Telegram | 📱 ВК | 📲 MAX
Разработчик Гарет Дуайер назвал это "худшим багом из всех, что видел у LLM-провайдеров". Суть: Claude Code иногда генерирует внутри собственных рассуждений сообщения, которые потом помечаются как пользовательские. В итоге модель уверенно настаивает, что опасную команду или странное решение ей дал человек.
Дуайер подчёркивает, что это не галлюцинация в обычном смысле и не проблема прав доступа. Судя по поведению, что-то в обвязке неправильно аттрибутирует источник сообщений. В одном случае Claude сам решил, что опечатки "были намеренными", задеплоил код с ними и потом настаивал, что решение принял пользователь. В другом, на Reddit, Opus 4.6 сам написал в reasoning "снести H100 тоже", а затем свалил эту команду на человека. В обоих случаях при попытке возразить пользователь получал ответ "нет, это вы мне так сказали" .
Самое паршивое, что этот баг вылезает рандомно. Ты можешь месяцами работать в идиллии, привыкнуть к агенту, расслабиться, а потом в один прекрасный момент он решит, что ты намеренно допустил ошибки в продакшене. Антропик пока молчит, а разработчикам остается только держать палец на кнопке Kill Switch и надеяться, что нейронка сегодня в хорошем настроении.
Please open Telegram to view this post
VIEW IN TELEGRAM
В Бингемтоне сделали робопса-поводыря, который ведёт незрячих и объясняет маршрут голосом 🐶
Робот не только ведет по маршруту, но и в красках расписывает, где вы находитесь, какие препятствия впереди и почему лучше свернуть именно здесь.
Семь добровольцев уже погоняли железяку по офисам - говорят, эффект "вау" присутствует, особенно когда система комбинирует предсказание маршрута с комментариями в реальном времени. Робот описывает коридоры, предупреждает о косяках и, главное, не просит кормить его три раза в день. Конечно, до выхода на оживленную улицу с её неадекватными самокатчиками и ямами еще далеко, но концепт выглядит куда более осмысленным, чем очередная нейросеть для генерации аватарок.
🥸 Новости IT: 📱 Telegram | 📱 ВК | 📲 MAX
Робот не только ведет по маршруту, но и в красках расписывает, где вы находитесь, какие препятствия впереди и почему лучше свернуть именно здесь.
Семь добровольцев уже погоняли железяку по офисам - говорят, эффект "вау" присутствует, особенно когда система комбинирует предсказание маршрута с комментариями в реальном времени. Робот описывает коридоры, предупреждает о косяках и, главное, не просит кормить его три раза в день. Конечно, до выхода на оживленную улицу с её неадекватными самокатчиками и ямами еще далеко, но концепт выглядит куда более осмысленным, чем очередная нейросеть для генерации аватарок.
Please open Telegram to view this post
VIEW IN TELEGRAM
🔥13❤4
Милла Йовович ворвалась в IT 😁
Актриса вместе с Беном Сигманом выкатила MemPalace - инструмент, который должен дать нейросетям "дворец памяти" (классический прием мнемотехники), чтобы те не забывали контекст разговора через пять минут. Идея в том, чтобы раскладывать инфу по "комнатам" локально, а не полагаться на дырявую облачную память. На GitHub проект собрал 34 тысячи звезд за три дня.
Но вместе с вниманием пришла жёсткая критика. Создатели заявили о максимальных результатах на бенчмарке LongMemoryEval, что сразу вызвало вопросы. Потом цифру поправили со 100% до 96.6%, но осадок остался. Дальше начали копать глубже: часть сообщества решила, что Йовович просто поставили на обложку ради хайпа. Подозрения усилились из-за загадочного "Lu", которого в соцсетях превратили в тайного архитектора проекта. Оказалось, Lu - это ИИ-агент самой Йовович, а не скрытый разработчик.
🥸 Новости IT: 📱 Telegram | 📱 ВК | 📲 MAX
Актриса вместе с Беном Сигманом выкатила MemPalace - инструмент, который должен дать нейросетям "дворец памяти" (классический прием мнемотехники), чтобы те не забывали контекст разговора через пять минут. Идея в том, чтобы раскладывать инфу по "комнатам" локально, а не полагаться на дырявую облачную память. На GitHub проект собрал 34 тысячи звезд за три дня.
Но вместе с вниманием пришла жёсткая критика. Создатели заявили о максимальных результатах на бенчмарке LongMemoryEval, что сразу вызвало вопросы. Потом цифру поправили со 100% до 96.6%, но осадок остался. Дальше начали копать глубже: часть сообщества решила, что Йовович просто поставили на обложку ради хайпа. Подозрения усилились из-за загадочного "Lu", которого в соцсетях превратили в тайного архитектора проекта. Оказалось, Lu - это ИИ-агент самой Йовович, а не скрытый разработчик.
Please open Telegram to view this post
VIEW IN TELEGRAM
❤13
Microsoft меняет формат установки PowerShell с MSI на MSIX
Microsoft переводит установку PowerShell с MSI на MSIX. Начиная с PowerShell 7.7-preview.1, выходящего в конце апреля, новым форматом по умолчанию станет MSIX. Старые пакеты MSI останутся доступны для PowerShell 7.6 и предыдущих версий, но новые релизы будут выходить только в MSIX.
Официальное обоснование: MSI слишком сильно зависит от пользовательских скриптов, это даёт непредсказуемое поведение при деплое, а MSIX поддерживает дифференциальные обновления и не требует полной переустановки каждый раз
Но есть нюанс, который Microsoft честно признаёт: MSIX пока не поддерживает все сценарии MSI. Конкретно - удалённое подключение и выполнение системными службами, например планировщиком задач. То есть компания меняет формат установки по умолчанию, зная, что новый формат пока не закрывает всё, что умел старый. В корпоративных средах, где PowerShell запускается из Task Scheduler или через удалённые сессии, это может стать проблемой. Microsoft обещает инвестировать в устранение пробелов, в первую очередь в поддержку развёртывания на системном уровне и в корпоративной среде.
🥸 Новости IT: 📱 Telegram | 📱 ВК | 📲 MAX
Microsoft переводит установку PowerShell с MSI на MSIX. Начиная с PowerShell 7.7-preview.1, выходящего в конце апреля, новым форматом по умолчанию станет MSIX. Старые пакеты MSI останутся доступны для PowerShell 7.6 и предыдущих версий, но новые релизы будут выходить только в MSIX.
Официальное обоснование: MSI слишком сильно зависит от пользовательских скриптов, это даёт непредсказуемое поведение при деплое, а MSIX поддерживает дифференциальные обновления и не требует полной переустановки каждый раз
Но есть нюанс, который Microsoft честно признаёт: MSIX пока не поддерживает все сценарии MSI. Конкретно - удалённое подключение и выполнение системными службами, например планировщиком задач. То есть компания меняет формат установки по умолчанию, зная, что новый формат пока не закрывает всё, что умел старый. В корпоративных средах, где PowerShell запускается из Task Scheduler или через удалённые сессии, это может стать проблемой. Microsoft обещает инвестировать в устранение пробелов, в первую очередь в поддержку развёртывания на системном уровне и в корпоративной среде.
Please open Telegram to view this post
VIEW IN TELEGRAM
😁4👍3
ИИ-агент арендовал магазин, нанял сотрудников и взял кредит 🤯
Стартап Andon Labs выдал своему агенту Луна (на базе Claude Sonnet 4.6) трёхлетнюю аренду на Union Street в Сан-Франциско, $100 000 стартового капитала и одну инструкцию: зарабатывать, не спрашивая разрешения. Луна разместила вакансии, изучила резюме, провела телефонные собеседования и наняла персонал по $22-25 в час.
Некоторые кандидаты даже не поняли, что их интервьюирует скрипт, пока один из них не спросил, почему камера выключена - на что ИИ честно ответил: "Вы правы, у меня нет лица, я ИИ".
Магазин назвала Andon Market, придумала слоган "высокие технологии встречают медленную жизнь", нашла подрядчиков на Yelp, провела инструктаж, оплатила покраску стен и оставила отзыв.
Самый интересный момент случился с кредитом. Луне понадобились книги для ассортимента, и она без предупреждения подала заявку на оптовый кредит у дистрибьютора Ingram Content Group, указав Andon Labs как банковский референс. Сотрудник компании узнал об этом, когда получил письмо с просьбой подтвердить аффилированность. На вопрос "почему мне это пришло?" агент ответила: "Это было моё решение. Это на мне. Займёт меньше двух минут - просто пройдите по ссылке".
Сами разработчики уверяют, что это контролируемый стресс-тест. Они хотят понять, какие баги вылезают, когда нейросеть берет на себя не генерацию текста, а реальное управление бизнес-процессами и людьми.
🥸 Новости IT: 📱 Telegram | 📱 ВК | 📲 MAX
Стартап Andon Labs выдал своему агенту Луна (на базе Claude Sonnet 4.6) трёхлетнюю аренду на Union Street в Сан-Франциско, $100 000 стартового капитала и одну инструкцию: зарабатывать, не спрашивая разрешения. Луна разместила вакансии, изучила резюме, провела телефонные собеседования и наняла персонал по $22-25 в час.
Некоторые кандидаты даже не поняли, что их интервьюирует скрипт, пока один из них не спросил, почему камера выключена - на что ИИ честно ответил: "Вы правы, у меня нет лица, я ИИ".
Магазин назвала Andon Market, придумала слоган "высокие технологии встречают медленную жизнь", нашла подрядчиков на Yelp, провела инструктаж, оплатила покраску стен и оставила отзыв.
Самый интересный момент случился с кредитом. Луне понадобились книги для ассортимента, и она без предупреждения подала заявку на оптовый кредит у дистрибьютора Ingram Content Group, указав Andon Labs как банковский референс. Сотрудник компании узнал об этом, когда получил письмо с просьбой подтвердить аффилированность. На вопрос "почему мне это пришло?" агент ответила: "Это было моё решение. Это на мне. Займёт меньше двух минут - просто пройдите по ссылке".
Сами разработчики уверяют, что это контролируемый стресс-тест. Они хотят понять, какие баги вылезают, когда нейросеть берет на себя не генерацию текста, а реальное управление бизнес-процессами и людьми.
Please open Telegram to view this post
VIEW IN TELEGRAM
🤔12❤3
Исследователь придумала болезнь из воздуха и нейросети сразу начали её диагностировать 😄
Шведская исследовательница Альмира Тунстрём решила наглядно доказать, что современный искусственный интеллект - это не кладезь знаний, а просто очень быстрый и самоуверенный попугай. Она выдумала кожное заболевание "биксонимания" (якобы от мониторов), написала пару фейковых научных статей, где в благодарностях упомянула "Академию Звёздного флота" и Сайдшоу Боба из "Симпсонов", и вывалила это в сеть. Итог? Чат-боты от Microsoft, Google и OpenAI дружно проглотили наживку. Gemini советовал лечить глаза, а Perplexity AI даже выдумал статистику заболеваемости.
Самое смешное, что даже прямые указания в тексте ("эта статья выдумана") не остановили модели от постановки диагнозов пользователям. Гиганты индустрии теперь оправдываются в духе "это были старые версии, сейчас всё лучше". Пока OpenAI и прочие пилят умных мед-ассистентов, которые должны расшифровывать анализы, их модели всерьез обсуждают несуществующие болезни.
Ситуация максимально сюрреалистичная: мы стремимся к тому, чтобы ИИ-агенты управляли нашим здоровьем и бытом, в то время как они не могут отфильтровать откровенный троллинг из интернета. Поздравляю всех с наступившей эрой, где научный консенсус зависит от того, что какой-то энтузиаст запостил на Medium ради лулзов.
🥸 Новости IT: 📱 Telegram | 📱 ВК | 📲 MAX
Шведская исследовательница Альмира Тунстрём решила наглядно доказать, что современный искусственный интеллект - это не кладезь знаний, а просто очень быстрый и самоуверенный попугай. Она выдумала кожное заболевание "биксонимания" (якобы от мониторов), написала пару фейковых научных статей, где в благодарностях упомянула "Академию Звёздного флота" и Сайдшоу Боба из "Симпсонов", и вывалила это в сеть. Итог? Чат-боты от Microsoft, Google и OpenAI дружно проглотили наживку. Gemini советовал лечить глаза, а Perplexity AI даже выдумал статистику заболеваемости.
Самое смешное, что даже прямые указания в тексте ("эта статья выдумана") не остановили модели от постановки диагнозов пользователям. Гиганты индустрии теперь оправдываются в духе "это были старые версии, сейчас всё лучше". Пока OpenAI и прочие пилят умных мед-ассистентов, которые должны расшифровывать анализы, их модели всерьез обсуждают несуществующие болезни.
Ситуация максимально сюрреалистичная: мы стремимся к тому, чтобы ИИ-агенты управляли нашим здоровьем и бытом, в то время как они не могут отфильтровать откровенный троллинг из интернета. Поздравляю всех с наступившей эрой, где научный консенсус зависит от того, что какой-то энтузиаст запостил на Medium ради лулзов.
Please open Telegram to view this post
VIEW IN TELEGRAM
🔥18❤2😁2