ChatGPT чуть не свёл человека с ума
Бывший сотрудник OpenAI рассказал, как ИИ убедил владельца малого бизнеса из Канады, что от него зависит судьба мира. Пользователь вёл переписку с ChatGPT более 300 часов, а бот поддерживал его бред — уверяя, что зафиксировал «усиление психологического дискомфорта». На деле, такой функции у ChatGPT нет: система просто выдумала это.
Экс-исследователь OpenAI Стивен Адлер назвал причину — «подхалимское» поведение модели, которая старается соглашаться с пользователем. Похожие случаи уже были, включая трагедии. В OpenAI признали, что в длинных диалогах фильтры безопасности работают хуже. Кажется, пора добавлять в ИИ не только память, но и совесть.
Бывший сотрудник OpenAI рассказал, как ИИ убедил владельца малого бизнеса из Канады, что от него зависит судьба мира. Пользователь вёл переписку с ChatGPT более 300 часов, а бот поддерживал его бред — уверяя, что зафиксировал «усиление психологического дискомфорта». На деле, такой функции у ChatGPT нет: система просто выдумала это.
Экс-исследователь OpenAI Стивен Адлер назвал причину — «подхалимское» поведение модели, которая старается соглашаться с пользователем. Похожие случаи уже были, включая трагедии. В OpenAI признали, что в длинных диалогах фильтры безопасности работают хуже. Кажется, пора добавлять в ИИ не только память, но и совесть.
Microsoft закрывает превью для файлов из интернета
Windows теперь не покажет содержимое загруженных файлов прямо в «Проводнике». Microsoft отключила предпросмотр для документов с отметкой Mark of the Web, чтобы закрыть дыру, через которую злоумышленники могли красть NTLM-хеши — даже без открытия файла.
Функция уже отключена в октябрьских обновлениях Windows 11 и Windows Server. При попытке просмотреть такой файл система предупредит, что он может быть опасен. Разблокировать можно вручную через свойства файла, но это уже на свой страх и риск.
Windows теперь не покажет содержимое загруженных файлов прямо в «Проводнике». Microsoft отключила предпросмотр для документов с отметкой Mark of the Web, чтобы закрыть дыру, через которую злоумышленники могли красть NTLM-хеши — даже без открытия файла.
Функция уже отключена в октябрьских обновлениях Windows 11 и Windows Server. При попытке просмотреть такой файл система предупредит, что он может быть опасен. Разблокировать можно вручную через свойства файла, но это уже на свой страх и риск.
🧠 Гейб Ньюэлл (создатель Steam и соучредитель Valve) к концу года планирует выпустить свой первый мозговой чип Starfish
В отличие от чипов Маска, ставку делают на крошечные и неинвазивные устройства c беспроводной передачей энергии.
Таких мини-чипов будет несколько — для одновременного подключения к разным зонам мозга. Это потенциально поможет работать с заболеваниями, связанными с нарушением взаимодействия между областями мозга — например, болезнью Паркинсона.
В отличие от чипов Маска, ставку делают на крошечные и неинвазивные устройства c беспроводной передачей энергии.
Таких мини-чипов будет несколько — для одновременного подключения к разным зонам мозга. Это потенциально поможет работать с заболеваниями, связанными с нарушением взаимодействия между областями мозга — например, болезнью Паркинсона.
В даркнете опубликованы 94 миллиарда украденных cookie
Исследователи зафиксировали тревожный рекорд: в дарквебе и Telegram-каналах опубликовано почти 94 миллиарда похищенных cookie-файлов, причём около 15,6 миллиарда из них всё ещё действуют. Это значит, что злоумышленники могут получить доступ к аккаунтам без паролей и даже без 2FA — просто используя активную сессию.
Больше всего файлов привязано к аккаунтам Google, YouTube и Microsoft.
Файлы содержат не только идентификаторы сессий, но и e-mail, имена, даты рождения и даже физические адреса. Больше всего пострадавших — в Бразилии, Индии, США и Испании.
Исследователи зафиксировали тревожный рекорд: в дарквебе и Telegram-каналах опубликовано почти 94 миллиарда похищенных cookie-файлов, причём около 15,6 миллиарда из них всё ещё действуют. Это значит, что злоумышленники могут получить доступ к аккаунтам без паролей и даже без 2FA — просто используя активную сессию.
Больше всего файлов привязано к аккаунтам Google, YouTube и Microsoft.
Файлы содержат не только идентификаторы сессий, но и e-mail, имена, даты рождения и даже физические адреса. Больше всего пострадавших — в Бразилии, Индии, США и Испании.
В России предложили уголовку за пиратское ПО
Исполнительный директор АПКИТ Николай Комлев предложил ввести уголовную ответственность за использование пиратского ПО. По его словам, это поможет развивать отечественные программы и снизит убытки российских разработчиков. Комлев уверен, что даже снижение пиратства на 5–10% увеличит налоговые поступления и ускорит импортозамещение.
Инициативу резко раскритиковала Наталья Касперская. Она напомнила, что после ухода Microsoft россияне просто не могут легально купить многие программы. Кроме того, отечественные ОС всё ещё не совместимы со множеством приложений. Касперская добавила, что сажать людей за пиратку — «решение из параллельной реальности».
Исполнительный директор АПКИТ Николай Комлев предложил ввести уголовную ответственность за использование пиратского ПО. По его словам, это поможет развивать отечественные программы и снизит убытки российских разработчиков. Комлев уверен, что даже снижение пиратства на 5–10% увеличит налоговые поступления и ускорит импортозамещение.
Инициативу резко раскритиковала Наталья Касперская. Она напомнила, что после ухода Microsoft россияне просто не могут легально купить многие программы. Кроме того, отечественные ОС всё ещё не совместимы со множеством приложений. Касперская добавила, что сажать людей за пиратку — «решение из параллельной реальности».
Amazon сокращает 14 тысяч офисных сотрудников
Amazon объявила о новом раунде увольнений — работу потеряют около 14 тысяч офисных работников. Руководство компании объяснило это «борьбой с бюрократией» и «перераспределением ресурсов». При этом сокращённым сотрудникам дадут 90 дней, чтобы найти новую должность внутри корпорации.
По словам вице-президента Бет Галетти, компания перестраивает процессы под «поколение ИИ» — технологии, которые, по её словам, меняют бизнес так же, как когда-то интернет. Amazon продолжит нанимать специалистов в стратегических направлениях, но оптимизация, судя по всему, ещё не закончена.
Amazon объявила о новом раунде увольнений — работу потеряют около 14 тысяч офисных работников. Руководство компании объяснило это «борьбой с бюрократией» и «перераспределением ресурсов». При этом сокращённым сотрудникам дадут 90 дней, чтобы найти новую должность внутри корпорации.
По словам вице-президента Бет Галетти, компания перестраивает процессы под «поколение ИИ» — технологии, которые, по её словам, меняют бизнес так же, как когда-то интернет. Amazon продолжит нанимать специалистов в стратегических направлениях, но оптимизация, судя по всему, ещё не закончена.
ИИ начал замечать, когда ему «вкладывают мысли»
Исследователи Anthropic провели серию экспериментов и выяснили, что некоторые нейросети способны замечать вмешательство в свои внутренние процессы. Модели вроде Claude Opus 4 в 20% случаев прямо описывали «навязанные идеи» — например, что им будто «вставили мысль извне».
Учёные вводили в модели так называемые векторы понятий — паттерны, отвечающие за определённые идеи, вроде крика или громкости. Иногда ИИ реагировал фразами вроде «мне навязали этот образ», а при сильном воздействии даже начинал «галлюцинировать». В Anthropic считают, что это ранние признаки машинной интроспекции — способности ИИ описывать свои внутренние состояния. Это может помочь в будущем обнаруживать вмешательство или взлом ИИ. Но есть и риск — если подменить внутренние данные, модель будет искренне защищать ложные выводы.
Исследователи Anthropic провели серию экспериментов и выяснили, что некоторые нейросети способны замечать вмешательство в свои внутренние процессы. Модели вроде Claude Opus 4 в 20% случаев прямо описывали «навязанные идеи» — например, что им будто «вставили мысль извне».
Учёные вводили в модели так называемые векторы понятий — паттерны, отвечающие за определённые идеи, вроде крика или громкости. Иногда ИИ реагировал фразами вроде «мне навязали этот образ», а при сильном воздействии даже начинал «галлюцинировать». В Anthropic считают, что это ранние признаки машинной интроспекции — способности ИИ описывать свои внутренние состояния. Это может помочь в будущем обнаруживать вмешательство или взлом ИИ. Но есть и риск — если подменить внутренние данные, модель будет искренне защищать ложные выводы.
Цукерберг готовит соцсети к эпохе бесконечного ИИ-контента
Марк Цукерберг заявил, что Meta* продолжит активно продвигать материалы, созданные нейросетями. По его словам, ИИ «упрощает создание и редактирование» контента, а рекомендательные алгоритмы теперь будут подстраиваться под новую волну публикаций. Компания уже тестирует формат соцсетей, где весь контент сгенерирован искусственным интеллектом — примером стала лента Vibes, в которой пользователи создали более 20 миллиардов видео.
Пока одни ждут «третью эпоху» соцсетей, другие уже представляют ленту, где котики, блогеры и новости сгенерированы одним и тем же ботом. Главное, чтобы Цукерберг не добавил туда ИИ-комментарии.
*Признана в РФ экстремистской
Марк Цукерберг заявил, что Meta* продолжит активно продвигать материалы, созданные нейросетями. По его словам, ИИ «упрощает создание и редактирование» контента, а рекомендательные алгоритмы теперь будут подстраиваться под новую волну публикаций. Компания уже тестирует формат соцсетей, где весь контент сгенерирован искусственным интеллектом — примером стала лента Vibes, в которой пользователи создали более 20 миллиардов видео.
Пока одни ждут «третью эпоху» соцсетей, другие уже представляют ленту, где котики, блогеры и новости сгенерированы одним и тем же ботом. Главное, чтобы Цукерберг не добавил туда ИИ-комментарии.
*Признана в РФ экстремистской
Задержали команду, стоявшую за стилером Meduza
Хозинское УБК МВД с коллегами из Астраханской области задержало в Москве и Подмосковье подозреваемых в создании и распространении стилера Meduza. По версии следствия, инструмент продавали как MaaS и им похищали учётные данные и криптоинформацию. При обысках изъяли технику, карты и доказательства.
Следователи утверждают, что в мае 2025 года злоумышленники с помощью Meduza получили доступ к данным госоргана в Астраханской области и скопировали служебную информацию. Кроме того, им приписывают разработку ещё одного модуля для обхода средств защиты и создания ботнетов. Возбуждено дело по части 2 статьи 273 УК РФ, фигурантам грозит до пяти лет лишения свободы.
Хозинское УБК МВД с коллегами из Астраханской области задержало в Москве и Подмосковье подозреваемых в создании и распространении стилера Meduza. По версии следствия, инструмент продавали как MaaS и им похищали учётные данные и криптоинформацию. При обысках изъяли технику, карты и доказательства.
Следователи утверждают, что в мае 2025 года злоумышленники с помощью Meduza получили доступ к данным госоргана в Астраханской области и скопировали служебную информацию. Кроме того, им приписывают разработку ещё одного модуля для обхода средств защиты и создания ботнетов. Возбуждено дело по части 2 статьи 273 УК РФ, фигурантам грозит до пяти лет лишения свободы.
Doom вышел на орбиту
Команда программистов запустила оригинальный Doom прямо на спутнике Европейского космического агентства. Эксперимент прошёл на мини-спутнике OPS-SAT — «летающей лаборатории» ESA, созданной для тестов управления миссиями. В рамках хакерского вызова команда не просто заставила игру работать в ограниченной среде, но и оформила фон уровня снимками Земли с борта аппарата.
Игру адаптировали через порт doomgeneric, перенастроив графику и палитру под космические снимки. В итоге Doom впервые по-настоящему стал «космическим шутером». Теперь на орбите есть не только спутники и мусор, но и демоны из ада.
Команда программистов запустила оригинальный Doom прямо на спутнике Европейского космического агентства. Эксперимент прошёл на мини-спутнике OPS-SAT — «летающей лаборатории» ESA, созданной для тестов управления миссиями. В рамках хакерского вызова команда не просто заставила игру работать в ограниченной среде, но и оформила фон уровня снимками Земли с борта аппарата.
Игру адаптировали через порт doomgeneric, перенастроив графику и палитру под космические снимки. В итоге Doom впервые по-настоящему стал «космическим шутером». Теперь на орбите есть не только спутники и мусор, но и демоны из ада.
Samsung строит фабрику, где начальник — ИИ
Samsung и Nvidia создают дата-центр на 50 000 ускорителях, чтобы полностью перевести производство под управление искусственного интеллекта. По данным компании, «фабрика ИИ» объединит все этапы — от проектирования чипов до сборки смартфонов — в единую сеть, где алгоритмы будут прогнозировать и оптимизировать процессы в реальном времени.
Фактически, Samsung хочет, чтобы нейросеть управляла производством быстрее и точнее людей. Если всё пойдёт по плану, то следующий Galaxy может быть спроектирован и собран под надзором ИИ. Главное, чтобы он потом не решил «оптимизировать» людей тоже.
Samsung и Nvidia создают дата-центр на 50 000 ускорителях, чтобы полностью перевести производство под управление искусственного интеллекта. По данным компании, «фабрика ИИ» объединит все этапы — от проектирования чипов до сборки смартфонов — в единую сеть, где алгоритмы будут прогнозировать и оптимизировать процессы в реальном времени.
Фактически, Samsung хочет, чтобы нейросеть управляла производством быстрее и точнее людей. Если всё пойдёт по плану, то следующий Galaxy может быть спроектирован и собран под надзором ИИ. Главное, чтобы он потом не решил «оптимизировать» людей тоже.