ИИ начал замечать, когда ему «вкладывают мысли»
Исследователи Anthropic провели серию экспериментов и выяснили, что некоторые нейросети способны замечать вмешательство в свои внутренние процессы. Модели вроде Claude Opus 4 в 20% случаев прямо описывали «навязанные идеи» — например, что им будто «вставили мысль извне».
Учёные вводили в модели так называемые векторы понятий — паттерны, отвечающие за определённые идеи, вроде крика или громкости. Иногда ИИ реагировал фразами вроде «мне навязали этот образ», а при сильном воздействии даже начинал «галлюцинировать». В Anthropic считают, что это ранние признаки машинной интроспекции — способности ИИ описывать свои внутренние состояния. Это может помочь в будущем обнаруживать вмешательство или взлом ИИ. Но есть и риск — если подменить внутренние данные, модель будет искренне защищать ложные выводы.
Исследователи Anthropic провели серию экспериментов и выяснили, что некоторые нейросети способны замечать вмешательство в свои внутренние процессы. Модели вроде Claude Opus 4 в 20% случаев прямо описывали «навязанные идеи» — например, что им будто «вставили мысль извне».
Учёные вводили в модели так называемые векторы понятий — паттерны, отвечающие за определённые идеи, вроде крика или громкости. Иногда ИИ реагировал фразами вроде «мне навязали этот образ», а при сильном воздействии даже начинал «галлюцинировать». В Anthropic считают, что это ранние признаки машинной интроспекции — способности ИИ описывать свои внутренние состояния. Это может помочь в будущем обнаруживать вмешательство или взлом ИИ. Но есть и риск — если подменить внутренние данные, модель будет искренне защищать ложные выводы.
Цукерберг готовит соцсети к эпохе бесконечного ИИ-контента
Марк Цукерберг заявил, что Meta* продолжит активно продвигать материалы, созданные нейросетями. По его словам, ИИ «упрощает создание и редактирование» контента, а рекомендательные алгоритмы теперь будут подстраиваться под новую волну публикаций. Компания уже тестирует формат соцсетей, где весь контент сгенерирован искусственным интеллектом — примером стала лента Vibes, в которой пользователи создали более 20 миллиардов видео.
Пока одни ждут «третью эпоху» соцсетей, другие уже представляют ленту, где котики, блогеры и новости сгенерированы одним и тем же ботом. Главное, чтобы Цукерберг не добавил туда ИИ-комментарии.
*Признана в РФ экстремистской
Марк Цукерберг заявил, что Meta* продолжит активно продвигать материалы, созданные нейросетями. По его словам, ИИ «упрощает создание и редактирование» контента, а рекомендательные алгоритмы теперь будут подстраиваться под новую волну публикаций. Компания уже тестирует формат соцсетей, где весь контент сгенерирован искусственным интеллектом — примером стала лента Vibes, в которой пользователи создали более 20 миллиардов видео.
Пока одни ждут «третью эпоху» соцсетей, другие уже представляют ленту, где котики, блогеры и новости сгенерированы одним и тем же ботом. Главное, чтобы Цукерберг не добавил туда ИИ-комментарии.
*Признана в РФ экстремистской
Задержали команду, стоявшую за стилером Meduza
Хозинское УБК МВД с коллегами из Астраханской области задержало в Москве и Подмосковье подозреваемых в создании и распространении стилера Meduza. По версии следствия, инструмент продавали как MaaS и им похищали учётные данные и криптоинформацию. При обысках изъяли технику, карты и доказательства.
Следователи утверждают, что в мае 2025 года злоумышленники с помощью Meduza получили доступ к данным госоргана в Астраханской области и скопировали служебную информацию. Кроме того, им приписывают разработку ещё одного модуля для обхода средств защиты и создания ботнетов. Возбуждено дело по части 2 статьи 273 УК РФ, фигурантам грозит до пяти лет лишения свободы.
Хозинское УБК МВД с коллегами из Астраханской области задержало в Москве и Подмосковье подозреваемых в создании и распространении стилера Meduza. По версии следствия, инструмент продавали как MaaS и им похищали учётные данные и криптоинформацию. При обысках изъяли технику, карты и доказательства.
Следователи утверждают, что в мае 2025 года злоумышленники с помощью Meduza получили доступ к данным госоргана в Астраханской области и скопировали служебную информацию. Кроме того, им приписывают разработку ещё одного модуля для обхода средств защиты и создания ботнетов. Возбуждено дело по части 2 статьи 273 УК РФ, фигурантам грозит до пяти лет лишения свободы.
Doom вышел на орбиту
Команда программистов запустила оригинальный Doom прямо на спутнике Европейского космического агентства. Эксперимент прошёл на мини-спутнике OPS-SAT — «летающей лаборатории» ESA, созданной для тестов управления миссиями. В рамках хакерского вызова команда не просто заставила игру работать в ограниченной среде, но и оформила фон уровня снимками Земли с борта аппарата.
Игру адаптировали через порт doomgeneric, перенастроив графику и палитру под космические снимки. В итоге Doom впервые по-настоящему стал «космическим шутером». Теперь на орбите есть не только спутники и мусор, но и демоны из ада.
Команда программистов запустила оригинальный Doom прямо на спутнике Европейского космического агентства. Эксперимент прошёл на мини-спутнике OPS-SAT — «летающей лаборатории» ESA, созданной для тестов управления миссиями. В рамках хакерского вызова команда не просто заставила игру работать в ограниченной среде, но и оформила фон уровня снимками Земли с борта аппарата.
Игру адаптировали через порт doomgeneric, перенастроив графику и палитру под космические снимки. В итоге Doom впервые по-настоящему стал «космическим шутером». Теперь на орбите есть не только спутники и мусор, но и демоны из ада.
Samsung строит фабрику, где начальник — ИИ
Samsung и Nvidia создают дата-центр на 50 000 ускорителях, чтобы полностью перевести производство под управление искусственного интеллекта. По данным компании, «фабрика ИИ» объединит все этапы — от проектирования чипов до сборки смартфонов — в единую сеть, где алгоритмы будут прогнозировать и оптимизировать процессы в реальном времени.
Фактически, Samsung хочет, чтобы нейросеть управляла производством быстрее и точнее людей. Если всё пойдёт по плану, то следующий Galaxy может быть спроектирован и собран под надзором ИИ. Главное, чтобы он потом не решил «оптимизировать» людей тоже.
Samsung и Nvidia создают дата-центр на 50 000 ускорителях, чтобы полностью перевести производство под управление искусственного интеллекта. По данным компании, «фабрика ИИ» объединит все этапы — от проектирования чипов до сборки смартфонов — в единую сеть, где алгоритмы будут прогнозировать и оптимизировать процессы в реальном времени.
Фактически, Samsung хочет, чтобы нейросеть управляла производством быстрее и точнее людей. Если всё пойдёт по плану, то следующий Galaxy может быть спроектирован и собран под надзором ИИ. Главное, чтобы он потом не решил «оптимизировать» людей тоже.