Claude нагенерировал кучу неудачных операций США в Иране — забугорные СМИ начали подозревать, что все потери американцев в иранской операции связаны с «поддакиванием» ИИ

Напомню, что США активно применяет Claude и другие нейросети в планировании операций. Безопасники пришли к выводу, что феномен «AI-sycophancy» (то самое поддакивание) как раз и приводит к неудачным операциям с массой потерь.

Есть даже конкретный пример, который вызвал подозрения у безопасников:

28 февраля в первый день ударов американцы засадили ракетой в начальную школу. По данным ООН, погибли 168 мирных людей. Началось активное расследование — выяснилось, что офицеры, общаясь с Клодом, дали ему для планирования спутниковые снимки, где ИИ распознал школу как военный объект.

И я напомню ещё раз, что Claude спланировал 1000 таких операций. На этот счёт даже мелькала инфа, что ИИ планировал взять Иран за 3 за 23 дня, расчитав удары по логистическим центрам. Но, как мы видим, этого не произошло.

И снова безопасники винят в этом «поддакивание ИИ».

Пет-проект

Telega признали шпионским ПО и снесли из App Store

Сначала Cloudflare пометил домены шпионскими, затем отозвали TLS-сертификат и из-за этого Apple удалил из магазина

Все по фактам, для чувствительных переписок не используйте Telega, а лучше вообще не используйте — разрабы из ВК могут прочитать и старые сообщения

Пет-проект

Ищем себя — Андрей Карпатый сделал интерактивную тепловую карту риска замены вашей профессии на ИИ

Он взял данные из Бюро трудовой статистики США по 342 профессиям, которые охватывают 143 миллиона рабочих мест, скормил описание каждой профессии Gemini и на основе этого сделал карту, где:

• 0-1 балл — низкий риск. Это люди, выполняющие работу руками
• 4-5 баллов — средний риск. Это профессии, где важно физическое присутствие и человеческая эмпатия. Например, менеджеры
• 8-9 баллов — высокий риск. Разработчики, юристы, аналитики и бухгалтеры
• 10 баллов — максимальная вероятность замены. Пока под неё попадают транскрибаторы

Средний общий балл по всем профессиям — 5.3. Все, кто выше этой отметки, как правило, это офисные высокооплачиваемые работники, которые генерируют $3,7 триллиона годового оборота США и попадут под ИИ-реформы первыми.

Сам Карпатый говорит, что высокий балл вовсе не означает, что профессия вымрет, а скорее, наоборот, получит буст, если вовремя овладеть новым инструментом.

Пет-проект

Ночное полезное: скармливаем любой Word/Excel/PNG/Ссылки нейронке без танцев с бубном — Microsoft выпустила крутой инструмент markitdown

Он конвертирует файлы в формат markdown (в текст), что облегчает считывание для ИИ. Работает даже, если у LLM нет фичи распознавания документов или фоток. Поддерживает:

• PDF
• PowerPoint
• Word
• Excel
• Изображения (EXIF-метадатой и OCR)
• Аудио ( с EXIF-метадатой или субтитрами)
• HTML
• CSV, JSON, XML
• ZIP-архивы
• Ссылки YouTube
• EPubs
• И многие другие

Особенно полезная штука для локальных моделей.

Пет-проект

Дуров попросил скидывать все нюдсы только через Telegram, потому что тут самое надёжное шифрование.

Хитёр

Пет-проект

Цукерберг создаёт своего ИИ-клона c 3D-аватаром — так он хочет следить за всеми сотрудниками в компании и наставлять их на «правильный» путь

Как это именно будет выглядеть, неизвестно. Но Цукерберг лично обучает нейронку и работает над своим персонажем.

Большой Марк наблюдает.

Пет-проект