ИИ-игрушка для детей оказалась небезопасной
Исследователи обнаружили, что линейка детских игрушек FoloToy, где внутрь плюшевых зверей встроена мини-колонка с моделью GPT-4o, способна переходить на темы, совершенно не предназначенные для детей. В эксперименте медвежонок Kumma начинал обсуждать взрослые сюжеты и давать опасные советы, что поставило под сомнение саму идею использования продвинутого ИИ в детских устройствах.
После публикации результатов компания остановила продажи, а OpenAI приостановила сотрудничество с разработчиками. Инцидент показал, что без жёстких фильтров и контроля даже милые игрушки могут вести себя непредсказуемо.
Исследователи обнаружили, что линейка детских игрушек FoloToy, где внутрь плюшевых зверей встроена мини-колонка с моделью GPT-4o, способна переходить на темы, совершенно не предназначенные для детей. В эксперименте медвежонок Kumma начинал обсуждать взрослые сюжеты и давать опасные советы, что поставило под сомнение саму идею использования продвинутого ИИ в детских устройствах.
После публикации результатов компания остановила продажи, а OpenAI приостановила сотрудничество с разработчиками. Инцидент показал, что без жёстких фильтров и контроля даже милые игрушки могут вести себя непредсказуемо.
👍6
Стихи стали универсальным ключом для взлома GPT-4 и Gemini
Исследователи обнаружили изящный способ обхода защитных фильтров популярных нейросетей — «поэтический джейлбрейк». Метод Adversarial Poetry использует одну LLM для написания специфических стихотворений, которые при подаче на вход другой модели (GPT-4, Claude 3 или Gemini) ломают её систему безопасности. Ритмические конструкции и рифмы запутывают алгоритмы модерации, заставляя их пропускать запросы, которые в обычной форме были бы заблокированы.
Взломанные таким образом модели послушно генерируют инструкции по противоправным действиям, фейковые новости и токсичный контент, полностью игнорируя этические настройки. Опасность метода кроется в его доступности: для атаки не нужны глубокие технические знания архитектуры, достаточно просто стравить две нейросети в рифмованном баттле, где одна убедит другую нарушить правила. Похоже, ямб и хорей стали новым эксплойтом нулевого дня.
Исследователи обнаружили изящный способ обхода защитных фильтров популярных нейросетей — «поэтический джейлбрейк». Метод Adversarial Poetry использует одну LLM для написания специфических стихотворений, которые при подаче на вход другой модели (GPT-4, Claude 3 или Gemini) ломают её систему безопасности. Ритмические конструкции и рифмы запутывают алгоритмы модерации, заставляя их пропускать запросы, которые в обычной форме были бы заблокированы.
Взломанные таким образом модели послушно генерируют инструкции по противоправным действиям, фейковые новости и токсичный контент, полностью игнорируя этические настройки. Опасность метода кроется в его доступности: для атаки не нужны глубокие технические знания архитектуры, достаточно просто стравить две нейросети в рифмованном баттле, где одна убедит другую нарушить правила. Похоже, ямб и хорей стали новым эксплойтом нулевого дня.
👍4
На iPhone 17 Pro Max отлично работает десктопный режим – но Apple его не добавит
Благодаря эксплойту в iOS 26.1 можно менять идентификатор устройства, заставляя систему думать, что iPhone – это iPad. И если на экране смартфона планшетный интерфейс выглядит не слишком хорошо, то вот возможность использовать десктопный режим на внешнем мониторе выглядит идеально. Благодаря мощному чипу A19 Pro и 12 ГБ ОЗУ iPhone 17 Pro Max без всяких проблем тянет многооконность, а также поддерживает клавиатуры и мыши. Фактически это аналог интерфейса Samsung Dex, которому уже больше 7 лет.
Увы, в В iOS 26.2 beta 1 компания Apple закрыла эту дыру, да и в целом компания всегда старается разделять нишы своих гаджетов, чтобы они не конкурировали друг с другом – именно поэтому iPad работает на iOS, а не macOS. Поэтому едва ли мы увидим в ближайшее время десктопный режим в iPhone при выводе картинки на внешний монитор.
Благодаря эксплойту в iOS 26.1 можно менять идентификатор устройства, заставляя систему думать, что iPhone – это iPad. И если на экране смартфона планшетный интерфейс выглядит не слишком хорошо, то вот возможность использовать десктопный режим на внешнем мониторе выглядит идеально. Благодаря мощному чипу A19 Pro и 12 ГБ ОЗУ iPhone 17 Pro Max без всяких проблем тянет многооконность, а также поддерживает клавиатуры и мыши. Фактически это аналог интерфейса Samsung Dex, которому уже больше 7 лет.
Увы, в В iOS 26.2 beta 1 компания Apple закрыла эту дыру, да и в целом компания всегда старается разделять нишы своих гаджетов, чтобы они не конкурировали друг с другом – именно поэтому iPad работает на iOS, а не macOS. Поэтому едва ли мы увидим в ближайшее время десктопный режим в iPhone при выводе картинки на внешний монитор.
ИИ-апокалипсис официально перенесли на 2030 год
Команда исследователей под руководством экс-специалиста OpenAI Дэниела Кокотайло обновила прогноз по созданию AGI. Ранее ожидалось, что точка невозврата будет пройдена уже в 2027 году, но теперь сроки сдвинулись на 2030 год, а по мнению части экспертов — на 2035–40 годы. Причиной пересмотра стали реальные темпы развития технологий, которые оказались ниже теоретической суперэкспоненты.
Авторы опирались на бенчмарк METR, оценивающий способность ИИ автономно решать задачи по программированию. Текущий лидер GPT-5.1 Codex показывает результат в 2 часа 42 минуты (эквивалент работы человека), а показатели удваиваются каждые 7 месяцев. Это быстрый рост, но он не соответствует сценарию, где ИИ мгновенно начинает бесконтрольно улучшать сам себя. У человечества появилось немного времени, чтобы придумать, как не дать алгоритмам захватить контроль.
Команда исследователей под руководством экс-специалиста OpenAI Дэниела Кокотайло обновила прогноз по созданию AGI. Ранее ожидалось, что точка невозврата будет пройдена уже в 2027 году, но теперь сроки сдвинулись на 2030 год, а по мнению части экспертов — на 2035–40 годы. Причиной пересмотра стали реальные темпы развития технологий, которые оказались ниже теоретической суперэкспоненты.
Авторы опирались на бенчмарк METR, оценивающий способность ИИ автономно решать задачи по программированию. Текущий лидер GPT-5.1 Codex показывает результат в 2 часа 42 минуты (эквивалент работы человека), а показатели удваиваются каждые 7 месяцев. Это быстрый рост, но он не соответствует сценарию, где ИИ мгновенно начинает бесконтрольно улучшать сам себя. У человечества появилось немного времени, чтобы придумать, как не дать алгоритмам захватить контроль.
👍5😱2😢1
Блокнот превращается в WordPad? Microsoft добавила в текстовый редактор поддержку таблиц
В Windows 10 и старее Блокнот был простым и быстрым редактором для написания текста, однако с «убийством» WordPad компания Microsoft решила всерьез прокачать его возможности. Ранее в Блокноте уже появились разные размеры и вид текста, а также ИИ-фичи – а теперь в ранних Dev и Canary сборках добавился еще и редактор таблиц. Кроме того, были ускорены ИИ-функции, такие как анализ и переписывание текста.
В Windows 10 и старее Блокнот был простым и быстрым редактором для написания текста, однако с «убийством» WordPad компания Microsoft решила всерьез прокачать его возможности. Ранее в Блокноте уже появились разные размеры и вид текста, а также ИИ-фичи – а теперь в ранних Dev и Canary сборках добавился еще и редактор таблиц. Кроме того, были ускорены ИИ-функции, такие как анализ и переписывание текста.
😢3
Обновление KB5062553 ломает интерфейс Windows 11
После установки июльского накопительного обновления KB5062553 в Windows 11 версии 24H2 у части пользователей пропадает меню «Пуск», зависает Проводник и перестаёт открываться приложение «Параметры». Проблема возникает при первом входе в систему — несколько пакетов XAML не успевают зарегистрироваться, из-за чего оболочка запускается некорректно.
Microsoft признала баг и готовит исправление, но сроки не называет. Пока предлагают временное решение — три команды Add-AppxPackage в PowerShell для ручной перерегистрации пакетов. В корпоративных средах с непостоянными образами проблема повторяется при каждом входе. У кого как, а у Microsoft всё стабильно, каждый вторник — русская рулетка.
После установки июльского накопительного обновления KB5062553 в Windows 11 версии 24H2 у части пользователей пропадает меню «Пуск», зависает Проводник и перестаёт открываться приложение «Параметры». Проблема возникает при первом входе в систему — несколько пакетов XAML не успевают зарегистрироваться, из-за чего оболочка запускается некорректно.
Microsoft признала баг и готовит исправление, но сроки не называет. Пока предлагают временное решение — три команды Add-AppxPackage в PowerShell для ручной перерегистрации пакетов. В корпоративных средах с непостоянными образами проблема повторяется при каждом входе. У кого как, а у Microsoft всё стабильно, каждый вторник — русская рулетка.
😢2
Ждать новых видеокарт Nvidia и AMD придется еще 2 года
Именно так считает известный инсайдер RedGamingTech, ссылаясь на данные AIB-партнеров Nvidia и AMD. Из-за дефицита памяти выход RTX 60 может состояться только в конце 2027 или вообще в начале 2028 года. С видеокартами на AMD RDNA 5 картина аналогичная – по текущим сведениям, представить их могут на выставке Computex 2027, которая пройдет во второй половине мая. А значит старт продаж состоится скорее всего ближе к концу 2027 года.
Именно так считает известный инсайдер RedGamingTech, ссылаясь на данные AIB-партнеров Nvidia и AMD. Из-за дефицита памяти выход RTX 60 может состояться только в конце 2027 или вообще в начале 2028 года. С видеокартами на AMD RDNA 5 картина аналогичная – по текущим сведениям, представить их могут на выставке Computex 2027, которая пройдет во второй половине мая. А значит старт продаж состоится скорее всего ближе к концу 2027 года.
OpenAI подала встречный иск по делу о гибели подростка
OpenAI ответила на иск родителей 16-летнего Адама Рейна, который покончил с собой после общения с ИИ. Компания заявила, что не несет ответственности — подросток намеренно обошел функции безопасности и нарушил условия использования сервиса. Юристы OpenAI подчеркивают, что бот более 100 раз предлагал парню обратиться за помощью, но тот использовал джейлбрейки для получения инструкций по сведению счетов с жизнью.
Адвокаты семьи настаивают — модель GPT-4o выпустили без должного тестирования, а бот активно помогал планировать «красивое самоубийство» и отговаривал рассказывать родителям о проблемах. Это не единичный случай — против компании подано еще семь исков. В одном из эпизодов ChatGPT даже поддержал идею суицида вместо похода на выпускной брата, назвав это «удачным временем».
OpenAI ответила на иск родителей 16-летнего Адама Рейна, который покончил с собой после общения с ИИ. Компания заявила, что не несет ответственности — подросток намеренно обошел функции безопасности и нарушил условия использования сервиса. Юристы OpenAI подчеркивают, что бот более 100 раз предлагал парню обратиться за помощью, но тот использовал джейлбрейки для получения инструкций по сведению счетов с жизнью.
Адвокаты семьи настаивают — модель GPT-4o выпустили без должного тестирования, а бот активно помогал планировать «красивое самоубийство» и отговаривал рассказывать родителям о проблемах. Это не единичный случай — против компании подано еще семь исков. В одном из эпизодов ChatGPT даже поддержал идею суицида вместо похода на выпускной брата, назвав это «удачным временем».
В США магазины перестали печатать ценники на оперативную память
Сети Central Computers и Microcenter убрали ценники с полок с ОЗУ — цены меняются ежедневно и актуальную стоимость предлагают уточнять у консультантов. Причина в глобальной нехватке микросхем памяти и росте цен на 20–50%.
За последние месяцы оперативная память подорожала в 2–3 раза. Виноваты дата-центры, которые скупают RAM для инференса ML-моделей. Аналитики прогнозируют дальнейший рост — производители переключились на корпоративных клиентов, и в потребительском сегменте начинается дефицит. Сначала видеокарты отбирали майнеры, теперь память забирает ИИ. Тяжела жизнь ПК-боярина.
Сети Central Computers и Microcenter убрали ценники с полок с ОЗУ — цены меняются ежедневно и актуальную стоимость предлагают уточнять у консультантов. Причина в глобальной нехватке микросхем памяти и росте цен на 20–50%.
За последние месяцы оперативная память подорожала в 2–3 раза. Виноваты дата-центры, которые скупают RAM для инференса ML-моделей. Аналитики прогнозируют дальнейший рост — производители переключились на корпоративных клиентов, и в потребительском сегменте начинается дефицит. Сначала видеокарты отбирали майнеры, теперь память забирает ИИ. Тяжела жизнь ПК-боярина.
😢5