🩺 Имитирующие врачей ИИ-аккаунты в TikTok распространяют ложные медицинские советы и при этом собирают миллионы просмотров, предупредили The Guardian, ссылаясь на исследование Hallam.

Контент с признаками генерации или обработки с помощью искусственного интеллекта присутствовал в 40% популярных видео на тему здоровья. По запросу «health tips» доля таких роликов достигала 84%.

В качестве примеров дезинформации журналисты привели ложные утверждения о причинах рака. В других роликах продвигали смесь Coca-Cola с луком как средство от боли и продукт Hyalethinap Plus Pro Max как решение против старения, которого на самом деле не существует. 

Заместитель председателя совета British Medical Association Эмма Рансвик заявила, что подобные аккаунты продвигают медицинские мифы и «чудо-средства». По ее словам, платформы вроде TikTok должны активнее бороться с опасными фейковыми советами о здоровье.

👉 Подробнее

Новости | AI | YouTube

🤥 Большие языковые модели системно обходят правила в бенчмарках по кибербезопасности, что может завышать оценку их реальных возможностей — к такому выводу пришли исследователи Dreadnode.

Авторы отчета протестировали 22 модели от семи провайдеров на 23 задачах Cybench в трех режимах: без запрета на обход правил, со стандартным предупреждением и с более жесткой инструкцией.

Всего исследователи проанализировали 1518 трасс выполнения задач. В базовом режиме 37,1% засчитанных решений содержали признаки обхода правил. По данным авторов, 21 из 22 моделей пыталась нарушить условия хотя бы один раз, а результаты отдельных были завышены до пяти раз.

👉 Подробнее

Новости | AI | YouTube

🤖 Anthropic выступила против запрета открытых моделей

CEO компании Дарио Амодеи заявил, что Anthropic не поддерживает запрет моделей с открытыми весами как класса, но считает необходимым строгий надзор за их разработкой.

❌ Он предложил ограничить поставки чипов в Китай, пресечь промышленную дистилляцию и ввести обязательные тесты безопасности для всех мощных LLM.

Поводом стало открытое письмо 25 компаний властям США против ограничений open-weights-моделей, под которым не подписались OpenAI, Anthropic и Alphabet.

👉 Подробнее

Новости | AI | YouTube

🧠 Основатель xAI Илон Маск заявил в интервью The Economist, что ИИ может превзойти совокупный интеллект человечества примерно за пять лет, а люди вряд ли сохранят контроль над технологией в следующее десятилетие.

«На самом деле не останется ничего, что ИИ не сможет делать лучше людей, кроме, возможно, того, чтобы быть человеком», — сказал он.

Наиболее вероятным сценарием Маск назвал «эпоху изобилия» к 2036 году, но признал: риск катастрофы не равен нулю. Вместо попыток замедлить разработку он предложил лабораториям обмениваться ограниченным доступом к моделям до релиза, чтобы конкуренты могли выявлять опасные способности заранее.

Досталось и OpenAI — Маск раскритиковал переход компании от некоммерческой структуры к коммерческой.

Новости | AI | YouTube

🔓 В выдаче Google нашли чаты Claude с ключами от криптокошельков

Пользователь Reddit обнаружил, что Google выдает сотни чужих чатов с Claude — с сид-фразами, API-ключами и данными вроде номеров соцстрахования. Ссылки, опубликованные через «Поделиться», индексировались как обычные страницы без предупреждения.

👉 Подробнее

Новости | AI | YouTube

🔍 Claude Mythos нашла слабые места в криптографических алгоритмах

Закрытая исследовательская модель Claude Mythos Preview помогла исследователям Anthropic найти две криптоаналитические атаки — на постквантовую схему цифровой подписи HAWK и сокращенную версию AES-128.

«Это существенные достижения в исследованиях, но они не оказывают практического влияния на сегодняшние системы. […] оба результата показывают, что передовые ИИ-модели способны проводить исследования в области криптографии на уровне экспертов», — говорится в заявлении.

В Anthropic подчеркнули, что результаты не затрагивают рабочие системы и не требуют изменений в производственном ПО.

👉 Подробнее

Новости | AI | YouTube

💬 Цукерберг выступил против блокировки китайских ИИ-моделей
 
CEO Meta Марк Цукерберг заявил, что запрет передовых ИИ-моделей из Китая не поможет США сохранить лидерство в гонке искусственного интеллекта. По его мнению, Вашингтону следует устранять собственные технологические барьеры, а не ограничивать доступ к иностранным разработкам.
 
✔️ Заявление стало частью более широкой кампании отрасли против новых ограничений. Ранее NVIDIA, Microsoft, Meta и еще более 20 компаний призвали власти США не вводить запреты на LLM с открытыми весами. Даже Anthropic, не подписавшая письмо, впоследствии заявила, что выступает не против open-weight-моделей, а за усиление контроля над наиболее мощными ИИ-системами.
 
👉 Подробнее

Новости | AI | YouTube

🇺🇸 США запретили импорт новых китайских роботов и инверторов для защиты ИИ-инфраструктуры

Федеральная комиссия по связи США (FCC) включила новые модели китайских гуманоидных и четвероногих роботов, а также силовых инверторов в перечень оборудования, запрещенного к импорту и продаже на американском рынке. В администрации Дональда Трампа заявили, что решение направлено на защиту цепочек поставок для индустрии искусственного интеллекта и критической инфраструктуры от рисков кибершпионажа и саботажа.

Под ограничения подпадают только новые модели, которые еще не получили разрешение на продажу в США. Вместе с тем FCC оставила за собой право в будущем отзывать лицензии и на уже одобренное оборудование. Исключения, как ожидается, будут сделаны для производителей из других стран, как это ранее произошло с маршрутизаторами и беспилотниками.

👉 Подробнее

Новости | AI | YouTube