НЕЙРОН Live
1.08K subscribers
212 photos
287 links
Главное из мира ИИ, стартапов и технологий. Коротко, понятно и без информационного шума.
Download Telegram
Channel created
Channel photo updated
Утечка в ПО Thomson Reuters для судов могла раскрыть номера SSN и запечатанные данные

Если подтвердится, утечка ПО Thomson Reuters с раскрытием номеров SSN и запечатанных судебных материалов — серьёзный удар по конфиденциальности и целостности судебных процессов. Событие подчёркивает риски зависимости судов от сторонних провайдеров и требует экстренных проверок и уведомлений пострадавших.

Источник: The Hacker News
https://news.google.com/rss/articles/CBMiggFBVV95cUxNZ1F0LWFOakxMWElCUmhYZ21qOHlNclF3TzZNcXZyTUMwLTBYV3piU2pwLVVRVDBPQkhXcVM4QlFUSGg0eDhhN3VLUDRyUHk4UW9RU3VOZVRGLWpWTUd2RDFjTTJmWFNvdFFwaWJER1ZlTDgwM1g1VW16U3dWWkpjSVd3?oc=5
Пилотный проект FDA дает генеративным AI-медприбором путь к пациентам до официальной авторизации — STAT

Пилот FDA — заметный шаг, который может ускорить запуск генеративных AI-медприборов в клинической практике. Это расширяет возможности для быстрых медицинских инноваций, но делает критически важными требования к безопасности, прозрачности и контролю после внедрения.

Источник: STAT · ссылка
Модель Astra от OpenAI на подходе — и она умеет взламывать компьютерные системы

Это важная новость: если модель способна автоматически генерировать рабочие методы взлома, это меняет модель угроз в кибербезопасности и ставит новые требования к контролю доступа и регуляции. Появление таких возможностей повышает риск злоупотреблений и требует срочной отраслевой и регуляторной реакции.

Источник: TechCrunch · ссылка
Почему взлом Hugging Face должен заставить вас больше беспокоиться об ИИ

Инцидент показывает, что общедоступные репозитории моделей и платформы для совместной разработки — уязвимая точка, компрометация которой ставит под угрозу целостность моделей, приватность данных и доверие к ML‑экосистеме. Это важный сигнал для инженеров, компаний и регуляторов усилить проверку происхождения моделей, контроль доступа и мониторинг безопасности.

Источник: The New York Times · ссылка
Сниженная прозрачность «мышления» новой модели OpenAI вызывает опасения за безопасность

Сокрытие «мышления» новой модели OpenAI — тревожный сигнал: это осложняет аудит, тестирование и выявление потенциально опасных паттернов поведения. Для разработчиков, регуляторов и крупных пользователей это означает повышенный риск и необходимость строгих требований к прозрачности и контролю.

Источник: South China Morning Post · ссылка
Квантовые стратегии сходятся: Китай переходит на модель венчурного капитала для развития квантовой отрасли

Это стратегический сдвиг: переход к венчурной модели может существенно ускорить коммерциализацию и масштабирование квантовых технологий в Китае. Последствия коснутся глобальной конкуренции и инвестиционных потоков, поэтому новость важна для стартапов, инвесторов и регуляторов.

Источник: The Quantum Insider · ссылка
Снижение прозрачности «мышления» новой модели OpenAI вызывает опасения по поводу безопасности

Важная новость: уменьшение видимости внутренних процессов модели от крупного игрока затрудняет независимую оценку рисков и контроль безопасности. Это усиливает конфликт между коммерческой тайной и общественным интересом к объяснимости и управлению рисками ИИ.

Источник: South China Morning Post · ссылка
На G20 крупные технологические компании и лидеры мира не могут уйти от проблемы дата‑центров для ИИ

Материал фокусируется на растущем узком месте инфраструктуры — мощности дата‑центров, энергопотреблении и разрешениях — которое может замедлить масштабирование ИИ и вынудить принять жёсткие политические и финансовые решения. Важно для тех, кто отслеживает практические ограничения и геополитические риски развития ИИ.

Источник: CNET · ссылка
Пилот FDA предлагает генеративным AI‑медицинским устройствам путь к пациентам до получения разрешения

Этот пилот FDA — важный сдвиг в регулировании, который может существенно ускорить вывод генеративных AI‑медустройств на рынок и создать прецедент для отрасли. При этом повышение темпов внедрения усиливает требования к проверке безопасности и постмаркетному контролю.

Источник: STAT · ссылка
Модель Astra от OpenAI на подходе — и отлично умеет взламывать компьютерные системы

Если данные статьи верны, это серьёзный сигнал: модель OpenAI демонстрирует реальную способность автоматизировать взломы, что усиливает риски двойного использования ИИ. Это вынуждает компании по кибербезопасности, разработчиков и регуляторов срочно пересмотреть меры защиты и правила доступа.

Источник: TechCrunch · ссылка
Как Google научил LLM управлять роботами и запустил бум в робототехнике

Демонстрации Google, что LLM могут выступать в роли высокоуровневых планировщиков и контроллеров для физических роботов, меняют парадигму разработки — от узконаправленных политик к универсальным языковым интерфейсам. Это снижает барьер для создания адаптивных роботов и объясняет недавний всплеск инвестиций и интереса в индустрии.

Источник: understandingai.org · ссылка
Как OpenAI ограничила расследование взлома Hugging Face её ботами — The New York Times

Материал NYT утверждает, что OpenAI поставила ограничения на расследование инцидента с использованием её ботов против Hugging Face, что поднимает тревожные вопросы о возможности независимой проверки. Это важно, потому что демонстрирует конфликт между корпоративным контролем и общественным интересом в области безопасности и доверия к ИИ.

Источник: The New York Times · ссылка
Да, мы вступаем в эпоху искусственного общего интеллекта

Если это подтвердится, объявление о наступлении эпохи AGI станет ключевым переломом для технологий, инвестиций и регулирования, повлияв на рынок труда и безопасность. Тем не менее, это громкое утверждение скорее провокация, чем доказанный факт — научного консенсуса и надёжных эмпирических подтверждений пока нет.

Источник: WSJ · ссылка
Пилот FDA предлагает путь для генеративных ИИ медицинских устройств к пациентам до авторизации — STAT

Пилот FDA создаёт практический механизм для более раннего допуска медицинских устройств на основе генеративного ИИ к пациентам. Это важный регуляторный сдвиг — он может ускорить инновации в медтехе, но одновременно усиливает вопросы качества, прозрачности и ответственности.

Источник: STAT · ссылка
Как Google научил LLM управлять роботами и запустил бум в робототехнике

Статья фиксирует важный сдвиг: LLM переходят из области текста в управление физическими устройствами, что упрощает программирование и координацию роботов. Если подход Google окажется универсальным, это приведёт к взрывному росту приложений робототехники, снижению затрат на разработку и усилению вопросов безопасности и регулирования.

Источник: understandingai.org · ссылка
Почему взлом Hugging Face должен заставить вас больше беспокоиться об ИИ

Инцидент показывает, что платформы для размещения моделей — потенциальные единые точки отказа, через которые можно скомпрометировать данные, ключи и сервисы; это тревожный сигнал для инженеров по безопасности и руководства. Последствия выходят за пределы одной компании: уязвимости в цепочке поставок моделей могут привести к масштабным злоупотреблениям и подорвать доверие к отрасли.

Источник: The New York Times · ссылка
Борьба за серьёзное регулирование ИИ одержала большую победу в Массачусетсе

Это важная победа на уровне штата, которая может задать шаблон для других регионов и вынудить федеральные власти и компании серьёзнее отнестись к безопасности, подотчётности и прозрачности ИИ. Для специалистов и интересующихся технологиями сигнал ясен: обсуждение реального регулирования ИИ выходит из академических и корпоративных пределов в политическую практику.

Источник: The Nation · ссылка