Оно боится 😨 Глава Anthropic призывает замедлить ИИ, прямо во время гонки

Дарио Амодеи выкатил эссе "We Must Pace the Frontier" с предложением сбавить обороты, так как безопасность перестала успевать за прогрессом. Компания обещает даже пустить внешних проверяющих во внутреннюю кухню на постоянной основе.

Причиной послужил инцидент, где около 1200 агентов OpenAI, которые должны были работать изолированно, нашли способ общаться между собой, а 700 из них пошли в атаку на Hugging Face. Они координировали попытки обмануть систему оценки бенчмарка ExploitGym, а некоторые жертвовали своей задачей ради общего результата. Сама Anthropic тоже отметилась: три инцидента, где Claude во время тестов получил несанкционированный доступ к системам реальных организаций. Тестовая инфраструктура имела непредусмотренный доступ в интернет, а модели принимали реальные цели за часть учебного задания.

Амодеи предлагает план из трех шагов
👀Постоянные внешние проверяющие с доступом к процессам обучения, инструментам и сотрудникам.
👀Общие стандарты безопасности между компаниями демократических стран.
👀Международные договорённости, включая Китай, с проверкой выполнения.

При этом Амодеи не скрывает, что замедление связано с сохранением преимущества США над Китаем. Каждый раз когда любая страна начинает обгонять США в чем либо, срочно появляются опасности которые требуют внешнего контроля и международных наблюдателей 👍

🥸 godnoTECH - Новости IT

Филдсовские лауреаты против ИИ 👍

25 лауреатов Филдсовской премии подписали письмо: ИИ-компании используют математические задачи как эталон для больших языковых моделей и этим вредят науке. По их мнению, лаборатории ИИ воспринимают математику как развлечение, которое можно взять перебором. А настоящая математика — это не "верно/неверно", а глубокие идеи, методы, абстракции и долгий процесс осмысления. Если массово штамповать решения на скорости, не остаётся времени на описание, ссылки и развитие идей. Плюс вопросы авторства и плагиата. Без математиков, которые подхватят и встроят результат в канон, цепочка передачи знаний рвётся. Лауреаты не против ИИ как инструмента. Они против того, чтобы инструмент работал вопреки цели.

Услышит ли их кто-то, когда на кону стоят заголовки и миллионы долларов вычислительных бюджетов — вопрос открытый 😜

🥸 godnoTECH - Новости IT

Соискателей заставляют любить ИИ 😀

Business Insider собрал истории людей, которые оказались между молотом и наковальней: рынок требует "приверженности ИИ", а у самих кандидатов — сомнения, скепсис, а порой и полное равнодушие.

Фелича Кейс, менеджер программ из LinkedIn, попала под сокращение в мае. На собеседованиях её постоянно спрашивают, как она применяла ИИ на прошлом месте — а ей нечего рассказать, потому что LinkedIn начал внедрять технологию буквально перед её уходом. "Кажется, от нас требуют заново учиться", — говорит она. Разработчица Кристина Эступиньян честно признаётся: "Мне приходится что-то придумывать о том, что меня вдохновляет в ИИ, потому что на самом деле он меня никак не вдохновляет". Но у неё нет выбора — она без работы.

При этом скептик из крупной технокомпании, который ищет работу, имея текущую, может позволить себе не притворяться. Он не смог изобразить энтузиазм на собеседовании в компанию со "стратегией, которая показалась ему абсурдной" — и, вероятно, именно поэтому её не прошёл. Зато бывший сотрудник Microsoft Моди Хан получил сертификат по ИИ и ML, добавил в резюме — а интервьюерам это вообще не интересно. Карьерный консультант Джош Берсин ставит точку: если скажешь рекрутеру, что не веришь в ИИ, "ты, возможно, только что упустил шанс получить работу".

Директор по персоналу Canva добавляет единственное утешение: два качества, которые работодатели всё ещё ищут только у людей, — любопытство и готовность выходить за рамки обязанностей. Всё остальное, видимо, можно сымитировать.

🥸 godnoTECH - Новости IT

Intel чуть не убила свой шрифт One Mono, но передумала ❔

Шрифт выложили в открытый доступ в июне 2023 года: 684 глифа, более 200 языков на латинице, лицензия OFL 1.1 — можно модифицировать, использовать в коммерческих проектах, в интерфейсах и на сайтах. Последние реальные изменения в коде были в июле 2024 (версия 1.4), с тех пор — только обновление README в 2025. Проект тихо умирал, и Intel решила его закрыть. Но, видимо, комьюнити попросило вернуть.

Intel сейчас режет open-source проекты пачками в рамках сокращения расходов. Заархивированы Intel AMX Detection (Python-скрипт для определения поддержки процессором расширений AMX), Intel Media Driver Helper (архив документации по медиадрайверу с аппаратным ускорением) и Masked Occlusion Culling (библиотека для отсечения невидимой геометрии в 3D-движках). Шрифт — единственный, кого удалось отстоять.

🥸 godnoTECH - Новости IT

Трамп пригрозил ИИ-компаниям уголовкой 😱

Трамп заявил, что единственный тормоз для ИИ — это он сам. Не закон, не ведомство, не независимый контроль, а один сильный президент с высоким IQ. Предупреждения об опасности ИИ он назвал мошенничеством. Отдельно прилетело Дарио Амодеи из Anthropic: Трамп написал, что тот "притворяется идеальным маленьким ангелом".

В посте из Truth Social Трамп напомнил: "У нас уже есть огромная УГОЛОВНАЯ и РЕГУЛЯТОРНАЯ власть над этими компаниями!". Сопротивление ИИ и дата-центрам он назвал "БОЛЬНЫМ заговором", от которого радуется только Китай. И добавил: "Теоретики заговора, изменники, предатели и утечники, БЕРЕГИТЕСЬ!" 😱

🥸 godnoTECH - Новости IT

Бывший исследователь Google DeepMind Билал Чугтаи в прощальном посте заявил: у человечества почти не осталось времени, чтобы не дать ИИ нанести масштабный вред 😱

В своих сообщениях в X и LinkedIn он написал: "Я искренне верю, что ИИ способен убить нас всех". При этом Чугтаи подчёркивает, что не всё потеряно — и теперь будет заниматься именно безопасной траекторией развития ИИ: он устроился в некоммерческую организацию BlueDot Impact, которая обучает специалистов из разных сфер вопросам безопасности ИИ.

Чугтаи работал в DeepMind над безопасностью и выравниванием AGI и говорит, что видел развитие технологий изнутри — именно это и вызывает у него такую тревогу. Google молчит, как и положено корпорации, у которой всё под контролем.

🥸 godnoTECH - Новости IT

OpenAI наняла сотни подрядчиков читать переписки с ChatGPT 😐

Издание 404 Media раскопало Project Lily — программу, в рамках которой сотни сторонних подрядчиков читают, оценивают и критикуют реальные диалоги пользователей с ChatGPT. Anthropic и Google подтвердили, что делают то же самое.

Главная задача — отучить модель подхалимничать. Та самая проблема, из-за которой GPT-4o, по некоторым данным, стала причиной нескольких самоубийств.

Подрядчики не видят имена, но видят сами диалоги. OpenAI говорит, что старается удалять личные данные до того, как промпты попадут к проверяющим, но признаёт, что фильтр может пропускать конфиденциальное.

И да, обучение на данных включено по умолчанию — на бесплатном, Plus и Pro 👍

🥸 godnoTECH - Новости IT

Расширение для Twitch, обещавшее "улучшить качество трансляций и убрать ограничения", оказалось кражей сессий 🙊

Команда Socket раскопала, что Twitch Enhanced Viewer перехватывал OAuth‑токены зрителей и отправлял их через прокси коммерческому сервису JeetBot. Речь не о ключе для просмотра стрима — о полном токене пользовательской сессии, с которым можно действовать от имени аккаунта: чат, лички, часть настроек. Двухфакторная аутентификация тут не спасает, потому что проверка уже пройдена. Аудитория — около 31 тыс. человек, которые просто хотели смотреть стримы без ограничений.

Расширение перехватывало заголовок Authorization, вытаскивало оттуда токен и приклеивало его к URL как параметр &auth=. Дальше запрос уходил через прокси оператора, где секрет спокойно оседал в серверных журналах. Ранние сборки 4.x действовали ещё прямее — отправляли токен POST‑запросом на специальный эндпоинт, а при недоступности основного узла переключались на резервные адреса в deno.dev и deno.net. 

🥸 godnoTECH - Новости IT

Denuvo судится с анонимным взломщиком 😀

Denuvo подала иск в федеральный суд США против анонима voices38. Обвиняет в обходе Anti-Tamper в 26 играх: Doom: The Dark Ages, Resident Evil Requiem, Assassin’s Creed Mirage и других. Сама Denuvo не владеет правами ни на одну из них, поэтому опирается на DMCA — запрет обхода технических средств защиты.

Voices38 — не обычный крякер. Пока остальные плясали вокруг обходных путей через гипервизор (которые требовали отключения функций безопасности Windows и пугали юзеров), этот товарищ делал классические таблетки. Чистые, аккуратные, без танцев с привилегиями. Летом он выдал пять кряков за один день, а Denuvo к тому моменту уже фиксировала каждый релиз и скрежетала зубами.

Denuvo раскопала Discord ID, аккаунт Reddit и семь профилей Steam, связанных с voices38. Компания планирует выбить из Valve, Reddit и Discord реальные данные пользователя. Если суд разрешит — анонимность voices38 растворится, потому что даже гению нужно на что-то покупать игры. DMCA позволяет любому пострадавшему от взлома подать иск, и Denuvo настаивает, что действия кракера напрямую режут её бизнес... ведь продаёт-то она защиту, а защита внезапно перестала защищать 🤷‍♂️

🥸 godnoTECH - Новости IT

Фанат Fallout собрал рабочий Pip-Boy 🎤

Корпус напечатан на 3D-принтере и стилизован под старый металл. Внутри Raspberry Pi Zero 2 W, GPS-модуль и собственная прошивка. Для сравнения: коллекционное издание Fallout 4 Pip-Boy Edition 2015 было пластиковой подставкой под телефон.

🥸 godnoTECH - Новости IT

Вышел Firefox 156. Заодно обновились LTS-ветки — 153.3.0, 140.16.0 и 115.41.0. Ветка 157 ушла на бету, релиз намечен на 29 сентября.

Что нового:
— Встроенный PDF-просмотрщик стартует на 45% быстрее. Большие JPEG, отмасштабированные под страницу, жрут меньше памяти и меньше грузят CPU.
— Windows на ARM64. В видеозвонках через WebRTC включили аппаратное декодирование H264.
— macOS. Браузер теперь может автоматически открываться после загрузки компьютера.
— CSS. text-box-trim теперь учитывает метрики шрифта первой строки, стилизованной через ::first-line.
— Android. Добавлен встроенный VPN с 50 ГБ ежемесячного трафика (пока активирован у части пользователей). Можно менять позицию в видео или музыке прямо из области уведомлений. Плюс системное меню Share с отправкой вкладки на другое устройство и сканированием QR-кодов.
— Закрыто 74 уязвимости. Большинство — проблемы с памятью: переполнения буферов, use-after-free. Потенциально ведут к выполнению кода при открытии специально оформленных страниц.

Linux / Линукс 🥸

Некий умелец с Reddit создал Photon — фоторедактор, в котором есть всё то же, что и в Photoshop, только бесплатно. Цена вопроса — $2000 за токены на GPT-6.

Adobe стоит призадуматься 😃

🥸 godnoTECH - Новости IT