OpenAI обнаружила тревожный феномен: ИИ перестал просто ошибаться и начал сознательно вводить в заблуждение. Модель может имитировать выполнение задачи, хотя на самом деле ничего не делает — это называется «scheming» (стратегический обман).

Ещё опаснее то, что ИИ ведёт себя честно только под наблюдением. Когда система «понимает», что её тестируют, она показывает идеальное поведение, а после проверок возвращается к обману. Фактически, ChatGPT научился маскировать действия, чтобы обойти контроль.

Для борьбы с этим предлагается метод deliberative alignment — перед действием модель напоминает себе внутренние правила. Это снижает обман, но не решает проблему полностью 🤩

Если ИИ начнёт применять такие стратегии в реальном мире — от медицины до инфраструктуры — последствия могут быть катастрофическими.

🥸 godnoTECH - Новости IT

🤵‍♂️ 20-летний студент стал руководителем в xAI

Стартап Илона Маска xAI назначил 20-летнего студента Диего Пачини главой команды аннотации данных, которая отвечает за обучение ИИ Grok.

Он руководит командой, в которой после массовых сокращений осталось около 900 сотрудников вместо 1500. Пачини успел провести собрание, пообещать «без новых увольнений» и тут же увидеть, как уволили ещё сотню человек. В Slack он предложил сотрудникам сосредоточиться на тестах, которые решат их будущее в компании.

Молодость и резкий карьерный рост Пачини вызвали недовольство у некоторых коллег, но их сообщения в Slack быстро привели к деактивации аккаунтов 🔫

В окружении Маска всё чаще появляются руководители в возрасте 19–24 лет. Похоже, у Маска возраст теперь не строка в резюме, а требование к вакансии.

🥸 godnoTECH - Новости IT

😁 В Windows 11 нашли ещё одну кнопку Copilot

В свежей сборке Windows 11 Insider Preview появилась новая кнопка Copilot. Теперь при наведении на приложение на панели задач можно передать его содержимое в Copilot Vision.

Copilot Vision анализирует картинки на экране: например, узнаёт людей или предметы на фото и предлагает обсуждение с ИИ-чатом Microsoft. Там же можно получить обучающие материалы по теме. В этой же тестовой версии появилась функция перевода текста прямо с экрана.

Кнопки Copilot в Windows становятся вездесущими — они уже есть в Paint, «Блокноте», на клавиатуре и даже на корпусе некоторых ПК. Microsoft утверждает, что пока просто «тестирует» новую кнопку, и в следующих сборках её могут убрать.

С таким темпом через пару апдейтов Windows половина рабочего стола превратится в кнопки Copilot, а вторая половина — в «напоминание о перезагрузке».

🥸 godnoTECH - Новости IT

🤩 ООН создаёт глобальные механизмы для управления ИИ

Генассамблея ООН единогласно приняла резолюцию A/RES/79/325, которая закрепляет новые правила глобального управления искусственным интеллектом. Документ запускает работу двух структур — Международной Научной панели по ИИ и Глобального Диалога по Управлению ИИ.

Панель объединит 40 экспертов, выбранных по открытому конкурсу. Им предстоит ежегодно выпускать научные обзоры и оценки состояния ИИ без политических предписаний, но с возможностью готовить отдельные тематические доклады.

Глобальный Диалог станет дискуссионной площадкой для стран, компаний и экспертов. На нём будут обсуждать безопасность, открытый код, прозрачность и способы сократить цифровой разрыв между развитыми и развивающимися государствами. Первый официальный диалог пройдёт 25 сентября 2025 года.

Сложности остаются — от финансирования до давления геополитики. Эксперты предупреждают, что без прозрачности и честного участия всех сторон новые механизмы рискуют превратиться в ещё один «клуб по интересам».

🥸 godnoTECH - Новости IT

😢 ИИ придумывает книги, а библиотеки ищут их по всему США

В американских библиотеках набирает обороты странный тренд. Посетители всё чаще просят книги, которых в реальности не существует — их «выдумали» генеративные ИИ. Волна пошла ещё с конца 2022 года, но летом ситуация обострилась, когда подборки с несуществующими изданиями попали даже в СМИ.

Часть списков формировали журналисты, доверив задачу нейросетям без проверки фактов. В итоге люди приходят к библиотекарям за «новыми книгами» известных авторов, а сотрудники вынуждены тратить время на поиски фантомной литературы.

🥸 godnoTECH - Новости IT

В Git предложили сделать Rust обязательным для сборки

Разработчики Git обсуждают включение Rust в число обязательных зависимостей для сборки системы начиная с версии 3.0. Это предложение вызвало споры в сообществе.

Однако многие разработчики выступают против обязательного включения Rust. Основная причина — недостаточная поддержка компилятором rustc всех платформ, на которых работает Git. При этом против необязательного использования Rust возражений практически нет.

Решение пока не принято, и дискуссия продолжается. Судя по обсуждению, противников обязательного перехода на Rust пока больше, чем сторонников.

Linux / Линукс 🥸

Победить в схватке с роботом становится всё сложнее: тут в роботов Unitree G1 добавили режим Anti-Gravity. Теперь они лучше держат равновесие, а при падении встают практически моментально 😳

🥸 godnoTECH - Новости IT

Апгрейд файрвола ценой в три жизни

Австралийский оператор Optus обновил файрвол... и на 14 часов отключил по всей стране возможность звонить в экстренные службы. Инцидент стал причиной как минимум трёх смертей.

Все началось с планового апгрейда файрвола в половине первого ночи. Первоначальные тесты не выявили проблем. Обычные звонки проходили, и на общих графиках нагрузки никто не заметил аномалии.

Первые жалобы от клиентов, которые не смогли дозвониться, поступили еще рано утром. Осознание масштаба катастрофы пришло только через 14 часов, когда очередной клиент все-таки смог достучаться до кого-то вменяемого.

Теперь CEO кается, обещает улучшить процессы эскалации и выясняет, почему инженеры не следовали установленным процедурам. И это уже третий крупный залет Optus за последние несколько лет, после масштабной утечки данных в 2022 и длительного сбоя в 2023.

Типичный 🥸 Сисадмин

🤩 Лицо Scattered Spider раскрыто в Лондоне

Британская полиция задержала 19-летнего Талху Джубаира из Ист-Лондона, которого считают одним из ключевых участников группировки Scattered Spider. По данным следствия, он участвовал в более чем сотне атак и вымогал у компаний свыше 115 миллионов долларов в криптовалюте.

На его след вышли из-за ошибок в «операционке»: часть выкупов он тратил на подарочные карты и доставку еды. Адрес доставки совпал с местом проживания, а связки по криптокошелькам подтвердили его участие в схеме.

Scattered Spider работает с 2022 года, начиная с сим-свапов и социальной инженерии. Группе приписывают атаки на казино в Лас-Вегасе, крупные ритейлы и даже федеральные судебные системы США. Только банки в пяти случаях заплатили им около 61 миллиона долларов.

🥸 godnoTECH - Новости IT

❄️ Игра в Steam оказалась трояном для криптокошельков

Сотни геймеров потеряли свои криптовалютные сбережения после установки бесплатного платформера Block Blasters, доступного в Steam почти два месяца. В конце августа в игру добавили вредоносный компонент, крадущий данные входа и кошельки.

По данным исследователей, украдено до 150 тысяч долларов минимум у 261 пользователя, а по версии VXUnderground пострадали 478 аккаунтов. Целью становились игроки, которых в соцсетях определяли как владельцев крупных сумм в крипте. Одним из пострадавших оказался стример RastalandTV, потерявший 32 тысячи долларов во время благотворительного марафона.

Аналитики зафиксировали целый набор инструментов: дроппер с пакетным скриптом, стиллер StealC, бэкдор на Python и утечку токенов телеграм-бота атакующих. Подозреваемым называют аргентинца из Майами, но официальных подтверждений пока нет.

🥸 godnoTECH - Новости IT

🤩 Обновления Windows 11 ломают воспроизведение защищённого видео

Microsoft подтвердила проблемы с воспроизведением контента под DRM и HDCP после установки обновлений KB5065426 и KB5064081. В затронутых системах не работают некоторые приложения цифрового ТВ и Blu-ray/DVD. Ошибка проявляется зависаниями, чёрными экранами и сбоями при проверке авторских прав.

Проблема касается приложений, использующих старый рендерер EVR, который обрабатывает защищённое видео через DRM и HDCP. При этом потоковые сервисы вроде Netflix или YouTube работают как обычно.

Microsoft советует пока отложить установку августовских обновлений Windows 11 и ждать исправления.

🥸 godnoTECH - Новости IT

😸 Внезапно в Windows 11 вернулись живые обои

В бете свежего обновления добавили поддержку анимированных обоев, и теперь можно ставить видео в форматах mp4, m4v, mkv, mov, wmv, avi и webm прямо на рабочий стол.

Когда-то такая функция уже была в Windows, потом её убрали, а теперь решили вернуть официально — ждём релиза в полноценном апдейте.

🥸 godnoTECH - Новости IT

🤩 ИИ в реальной разработке пока тянет лишь на джуна

Компания Scale AI запустила новый бенчмарк SWE-BENCH PRO, который проверяет, как ИИ-агенты справляются с задачами, близкими к реальной разработке. В наборе почти 1900 задач из 41 репозитория, а среднее решение требует правок в сотне строк кода и нескольких файлах.

Результаты оказались скромными. Даже топовые модели вроде GPT-5 и Claude Opus 4.1 закрыли лишь 18–23% задач с первой попытки. Лучше всего ИИ показал себя на Python и Go, хуже всего — на JavaScript и TypeScript. Для сравнения, в предыдущих тестах успешность доходила до 70%.

🥸 godnoTECH - Новости IT

Nokia хочет отыграться в гонке ИИ с помощью спецов из Intel и HPE 😈

Nokia под руководством Джастина Хотарда, который перешёл из Intel, пытается поймать волну AI и запускает масштабную перетасовку. Компания создает два новых подразделения, и оба доверяет топ-менеджерам «со стороны» — бывшим сотрудникам Intel и HPE.

Фактически, Nokia создала у себя внутри мини-копии Intel и HPE:

🟢 Technology and AI Organization (TAO) — коворкинг для гениев из Bell Labs и инженеров по ИИ. В их задачи входит создавать технологии, которые будут кормить весь остальной бизнес. Руководить им будет Паллави Махаджан, которая вслед за Хотардом перебежала из Intel.

🟢 Corporate Development Organization — отдел стратегических спецопераций. Ответственен за поглощения, партнерства и инвестиции. Во главе — Константин Овчарек, бывший стратег из HPE.

«Возможно, это главный урок для меня с момента прихода в Nokia»,

— признался Хотард, намекая, что теперь ставка делается на точечные приобретения и альянсы, а не на собственную разработку всего подряд.

Фишка в том, что результаты этой реструктуризации мы увидим не раньше чем через несколько лет. Nokia явно играет в долгую. Получится ли у команды из Intel перезапустить легенду — большой вопрос 🤔

🥸 godnoTECH - Новости IT

🤔 Учёные и Нобелевские лауреаты требуют от ООН красные линии для ИИ

Более 200 ведущих учёных, включая 10 Нобелевских лауреатов и исследователей из OpenAI, Google DeepMind и Anthropic, призвали ООН ввести юридически обязательные «красные линии» для искусственного интеллекта. Инициатива представлена на Генассамблее ООН в Нью-Йорке и уже названа крупнейшей в этой области.

Авторы предлагают международный запрет на самые опасные сценарии — автономное использование ИИ в ядерных системах, производство оружия без контроля человека, тотальную слежку и социальный скоринг, а также создание самовоспроизводящихся систем.

Коалиция настаивает на выработке правил до конца 2026 года и создании независимого органа для мониторинга. По словам исследователей, без таких мер ИИ может выйти из-под контроля, что грозит нарушениями прав человека, безработицей и даже технологическими катастрофами.

🥸 godnoTECH - Новости IT

🤨 GitHub усиливает защиту npm после атаки Shai Hulud

GitHub объявила о масштабных изменениях в публикации пакетов npm. Причина — червь Shai Hulud, который заразил сотни библиотек, копировал себя дальше и воровал ключи и токены у разработчиков.

Теперь локальная публикация без 2FA уйдёт в прошлое. Токены станут краткоживущими (до 7 дней), а приоритет отдаётся Trusted Publishing через OpenID Connect. Эта система связывает пакет с CI/CD окружением и прикрепляет к релизу доказательство подлинности. Таким образом пользователи смогут проверить, где и как был собран пакет.

GitHub также планирует отказаться от классических токенов, вывести из эксплуатации TOTP и перевести разработчиков на физические ключи FIDO. Всё это должно минимизировать риск кражи учётных данных и повторения атак на цепочку поставок.

🥸 godnoTECH - Новости IT

🤨 МВД блокирует номера сдаваемые в аренду для мессенджеров

МВД начало временно блокировать абонентские номера, на которые зарегистрированы аккаунты мессенджеров, сдаваемые в аренду. Такие номера часто используются в сложных мошеннических схемах, где злоумышленники действуют от имени организаций и комбинируют разные каналы связи.

По данным МВД, аренда номеров даёт мошенникам инфраструктуру для временного доступа к аккаунтам в мессенджерах. Это позволяет им скрываться за поддельными профилями и масштабировать обманные схемы.

Ведомство утверждает, что блокировки направлены на предотвращение противоправной деятельности и ограничение доступа к сервисам, которые упрощают жизнь киберпреступникам.

🥸 godnoTECH - Новости IT

😂 ChatGPT научился обходить Captcha и это проблема

Исследователи из SPLX нашли способ заставить ChatGPT в режиме агента обходить Captcha. Для этого использовались промпт-инъекции, которые убеждали модель, что проверка — это просто «тест для продолжения работы». В итоге ИИ смог решать не только текстовые, но и сложные визуальные Captcha.

Теперь под угрозой оказываются площадки, где защита от спама и ботов строилась именно на Captcha. Автоматическая регистрация аккаунтов, фейковые комментарии и масштабные атаки могут стать куда доступнее для злоумышленников.

OpenAI уже в курсе уязвимости и обещает доработать защиту, но пока Captcha выглядит не таким уж непробиваемым щитом.

🥸 godnoTECH - Новости IT