Goodfire представила систему мониторинга внутренней работы ИИ-агентов
Стартап Goodfire представил инструмент для мониторинга безопасности ИИ-моделей, анализирующий внутренние сигналы нейросети в процессе вычислений. Вместо внешних надзирателей система использует легкие детекторы, считывающие промежуточные активации нейронов, что снижает затраты на проверку.
Инструмент доступен клиентам платформы Baseten для защиты открытых моделей от нежелательного поведения. По данным разработчиков, система выявляет до 94% вредоносных сессий с минимальной задержкой, предлагая эффективную альтернативу традиционным методам контроля.
Источник: techcrunch.com
Стартап Goodfire представил инструмент для мониторинга безопасности ИИ-моделей, анализирующий внутренние сигналы нейросети в процессе вычислений. Вместо внешних надзирателей система использует легкие детекторы, считывающие промежуточные активации нейронов, что снижает затраты на проверку.
Инструмент доступен клиентам платформы Baseten для защиты открытых моделей от нежелательного поведения. По данным разработчиков, система выявляет до 94% вредоносных сессий с минимальной задержкой, предлагая эффективную альтернативу традиционным методам контроля.
Источник: techcrunch.com
❤1
ИИ за день · 08.10.2026
1. Nous Research привлекла 90 миллионов долларов при оценке в 1,5 миллиарда
2. Biohub привлекает 1,8 миллиарда долларов на создание ИИ для прогнозирования поведения клеток
3. Microsoft выпустила Surface на базе чипов Nvidia RTX Spark
4. OpenAI и Meta претендуют на доменные зоны .agent и .agi
5. State of AI Report 2026: главные тренды индустрии
6. Уязвимость в AWS Bedrock позволяла перехватывать контроль над ИИ-агентами
7. Китайский разработчик ИИ-агентов Manus привлек 500 миллионов долларов
8. Google запускает универсального ИИ-агента для корпоративных задач
9. Goodfire представила систему мониторинга внутренней работы ИИ-агентов
1. Nous Research привлекла 90 миллионов долларов при оценке в 1,5 миллиарда
2. Biohub привлекает 1,8 миллиарда долларов на создание ИИ для прогнозирования поведения клеток
3. Microsoft выпустила Surface на базе чипов Nvidia RTX Spark
4. OpenAI и Meta претендуют на доменные зоны .agent и .agi
5. State of AI Report 2026: главные тренды индустрии
6. Уязвимость в AWS Bedrock позволяла перехватывать контроль над ИИ-агентами
7. Китайский разработчик ИИ-агентов Manus привлек 500 миллионов долларов
8. Google запускает универсального ИИ-агента для корпоративных задач
9. Goodfire представила систему мониторинга внутренней работы ИИ-агентов
❤1
Google внедряет агентные возможности в Gemini для бизнеса
Google запускает систему автономных агентов на базе Gemini для корпоративных клиентов. Инструмент выполняет сложные задачи, такие как планирование встреч, написание кода и работа с внутренними системами вроде Slack, Jira и Google Workspace. Агент получает цели и самостоятельно выбирает модели для их достижения, включая сторонние решения, например Claude.
Система функционирует как полноценный сотрудник с собственным аккаунтом и доступом к корпоративному контексту. Пользователи могут отслеживать логику принятия решений ИИ через специальный интерфейс. На первом этапе доступ получат бизнес-клиенты, в дальнейшем компания планирует расширить функционал для широкой аудитории.
Источник: techcrunch.com
Google запускает систему автономных агентов на базе Gemini для корпоративных клиентов. Инструмент выполняет сложные задачи, такие как планирование встреч, написание кода и работа с внутренними системами вроде Slack, Jira и Google Workspace. Агент получает цели и самостоятельно выбирает модели для их достижения, включая сторонние решения, например Claude.
Система функционирует как полноценный сотрудник с собственным аккаунтом и доступом к корпоративному контексту. Пользователи могут отслеживать логику принятия решений ИИ через специальный интерфейс. На первом этапе доступ получат бизнес-клиенты, в дальнейшем компания планирует расширить функционал для широкой аудитории.
Источник: techcrunch.com
❤1
Платформа LMSYS Arena привлекла инвестиции при оценке в 3,1 миллиарда долларов
Разработчики популярного бенчмарка LMSYS Arena закрыли раунд финансирования серии B на 200 миллионов долларов. За 10 месяцев оценка проекта выросла почти вдвое — с 1,7 до 3,1 миллиарда долларов. Рост показателей совпал с выходом компании на коммерческий рынок: сервис начал продавать корпоративным клиентам глубокую аналитику производительности нейросетей, основанную на пользовательских рейтингах.
Команда Arena также расширила функционал лидерборда, добавив категорию оценки безопасности и соответствия моделей. Теперь система отслеживает случаи галлюцинаций, ложной атрибуции и несанкционированных действий ИИ. В текущем рейтинге безопасности лидирующие позиции занимают модели OpenAI, опережая решения от Anthropic.
Источник: techcrunch.com
Разработчики популярного бенчмарка LMSYS Arena закрыли раунд финансирования серии B на 200 миллионов долларов. За 10 месяцев оценка проекта выросла почти вдвое — с 1,7 до 3,1 миллиарда долларов. Рост показателей совпал с выходом компании на коммерческий рынок: сервис начал продавать корпоративным клиентам глубокую аналитику производительности нейросетей, основанную на пользовательских рейтингах.
Команда Arena также расширила функционал лидерборда, добавив категорию оценки безопасности и соответствия моделей. Теперь система отслеживает случаи галлюцинаций, ложной атрибуции и несанкционированных действий ИИ. В текущем рейтинге безопасности лидирующие позиции занимают модели OpenAI, опережая решения от Anthropic.
Источник: techcrunch.com
❤1
GlobalFoundries и TSMC наладят выпуск компонентов для ИИ-чипов в США
GlobalFoundries и TSMC заключили контракт на 2 миллиарда долларов для выпуска кремниевых интерпозеров в США. Эти компоненты критически важны для технологии упаковки чипов CoWoS, применяемой в ускорителях для ИИ. Производственную линию на заводе GlobalFoundries в Нью-Йорке планируют запустить в первой половине 2028 года.
Партнерство формирует локальную цепочку поставок для сборки передовых процессоров. GlobalFoundries займется изготовлением интерпозеров для связи ядер и памяти, а TSMC сохранит контроль над архитектурой упаковки. Пятилетнее соглашение предусматривает возможность расширения мощностей при росте спроса на вычислительные системы.
Источник: technode.global
GlobalFoundries и TSMC заключили контракт на 2 миллиарда долларов для выпуска кремниевых интерпозеров в США. Эти компоненты критически важны для технологии упаковки чипов CoWoS, применяемой в ускорителях для ИИ. Производственную линию на заводе GlobalFoundries в Нью-Йорке планируют запустить в первой половине 2028 года.
Партнерство формирует локальную цепочку поставок для сборки передовых процессоров. GlobalFoundries займется изготовлением интерпозеров для связи ядер и памяти, а TSMC сохранит контроль над архитектурой упаковки. Пятилетнее соглашение предусматривает возможность расширения мощностей при росте спроса на вычислительные системы.
Источник: technode.global
❤1
Anthropic добавила в Claude создание видео и интерактивных дашбордов
Anthropic расширила функциональность Claude, добавив инструменты для работы с данными и визуальным контентом. Функция Dashboards подключается к внешним хранилищам вроде BigQuery или Snowflake и формирует интерактивные отчеты на основе текстовых запросов. Система отображает исходные SQL-запросы для каждого показателя и позволяет выгружать данные во внешние аналитические платформы.
Источник: the-decoder.com
Anthropic расширила функциональность Claude, добавив инструменты для работы с данными и визуальным контентом. Функция Dashboards подключается к внешним хранилищам вроде BigQuery или Snowflake и формирует интерактивные отчеты на основе текстовых запросов. Система отображает исходные SQL-запросы для каждого показателя и позволяет выгружать данные во внешние аналитические платформы.
Источник: the-decoder.com
❤1
ИИ-агенты Claude создали первую полную ультрафиолетовую карту неба
Исследователи использовали модель Claude для создания первой полной карты неба в ультрафиолетовом диапазоне. Ранее ученым не удавалось собрать цельную картину из-за неполного покрытия данных миссии NASA GALEX и сложности калибровки снимков. ИИ-агенты автоматически обработали массивы информации, приведя их к общему формату и заполнив пробелы с помощью техники инпейнтинга.
Разработчики сообщают, что точность предсказаний модели при восстановлении фрагментов составила около 90 процентов. Проект доказывает эффективность нейросетей в рутинной обработке больших объемов астрофизических данных, которые ранее оставались неизученными из-за трудоемкости анализа.
Источник: the-decoder.com
Исследователи использовали модель Claude для создания первой полной карты неба в ультрафиолетовом диапазоне. Ранее ученым не удавалось собрать цельную картину из-за неполного покрытия данных миссии NASA GALEX и сложности калибровки снимков. ИИ-агенты автоматически обработали массивы информации, приведя их к общему формату и заполнив пробелы с помощью техники инпейнтинга.
Разработчики сообщают, что точность предсказаний модели при восстановлении фрагментов составила около 90 процентов. Проект доказывает эффективность нейросетей в рутинной обработке больших объемов астрофизических данных, которые ранее оставались неизученными из-за трудоемкости анализа.
Источник: the-decoder.com
❤1
OpenAI выявила скрытые операции влияния России и Ирана
OpenAI заблокировала аккаунты, использовавшиеся Россией и Ираном для создания дезинформации. Операторы применяли нейросети для адаптации текстов и внедрения фальшивок в легитимные СМИ, стремясь повлиять на политическую повестку. В отличие от прошлых кампаний в соцсетях, акцент был сделан на публикации материалов под видом журналистских статей.
Российская группа Dark Clark действовала в Латинской Америке, вызвав опровержения властей Эквадора и Перу. Иранская кампания Bogus Bylines задействовала вымышленных авторов для написания сотни статей о конфликте с США. OpenAI классифицировала эти действия как серьезную угрозу из-за реального влияния на общественное мнение.
Источник: the-decoder.com
OpenAI заблокировала аккаунты, использовавшиеся Россией и Ираном для создания дезинформации. Операторы применяли нейросети для адаптации текстов и внедрения фальшивок в легитимные СМИ, стремясь повлиять на политическую повестку. В отличие от прошлых кампаний в соцсетях, акцент был сделан на публикации материалов под видом журналистских статей.
Российская группа Dark Clark действовала в Латинской Америке, вызвав опровержения властей Эквадора и Перу. Иранская кампания Bogus Bylines задействовала вымышленных авторов для написания сотни статей о конфликте с США. OpenAI классифицировала эти действия как серьезную угрозу из-за реального влияния на общественное мнение.
Источник: the-decoder.com
❤1
Короче, перезапускаем канал 🙂
Раньше тут была новостная лента, которую читали ровно два человека. Теперь буду писать про ИИ так, как рассказывал бы друзьям: что реально полезно, что фигня, что сам попробовал.
И сразу одна штука, на которой спотыкаются почти все.
Люди пишут нейросети запрос в одну строчку типа «напиши пост про кофейню», получают что-то унылое и делают вывод, что ИИ тупой.
А попробуйте так: «напиши пост для кофейни у метро, у нас в основном студенты, тон дерзкий, хотим, чтобы народ шёл утром до 9. Вот наш прошлый пост, который зашёл: ...»
Ответ будет вообще другого уровня. Нейросеть не знает, что у вас в голове, ей надо это дать.
Мой лайфхак: в каждый запрос добавляйте три вещи. Кто вы, для кого это и пример того, что нравится.
Раньше тут была новостная лента, которую читали ровно два человека. Теперь буду писать про ИИ так, как рассказывал бы друзьям: что реально полезно, что фигня, что сам попробовал.
И сразу одна штука, на которой спотыкаются почти все.
Люди пишут нейросети запрос в одну строчку типа «напиши пост про кофейню», получают что-то унылое и делают вывод, что ИИ тупой.
А попробуйте так: «напиши пост для кофейни у метро, у нас в основном студенты, тон дерзкий, хотим, чтобы народ шёл утром до 9. Вот наш прошлый пост, который зашёл: ...»
Ответ будет вообще другого уровня. Нейросеть не знает, что у вас в голове, ей надо это дать.
Мой лайфхак: в каждый запрос добавляйте три вещи. Кто вы, для кого это и пример того, что нравится.
Google вчера показала Gemini 4 Carbon, и тут интересно не столько "самая умная модель", сколько кому её дают первой.
Что известно из их блога. Carbon заточен под кибербезопасность и длинные задачи, где модель долго работает сама. В рейтинге Artificial Analysis Intelligence Index (версия 5.0) он сейчас на первом месте с 59 баллами. И при этом обычным людям и разработчикам его пока не дают: сначала доступ получит часть специалистов по киберзащите через программу Fairwind, потом другие проверенные партнёры. Цену уже назвали: $2 за миллион входных токенов и $10 за миллион выходных, как у Gemini 4 Argon, которую выпустили всего две недели назад.
Мой взгляд такой. Модель, которая хорошо ищет уязвимости, одинаково полезна и тем, кто защищает, и тем, кто ломает. Поэтому "сначала защитникам" выглядит не как маркетинг, а как вполне разумная осторожность. Ну и темп, конечно, бешеный: две флагманские модели за две недели. Скоро релизы будут выходить быстрее, чем мы успеваем их потрогать.
Когда дадут доступ всем, обязательно погоняю и расскажу без восторгов, что реально умеет 🙂
Что известно из их блога. Carbon заточен под кибербезопасность и длинные задачи, где модель долго работает сама. В рейтинге Artificial Analysis Intelligence Index (версия 5.0) он сейчас на первом месте с 59 баллами. И при этом обычным людям и разработчикам его пока не дают: сначала доступ получит часть специалистов по киберзащите через программу Fairwind, потом другие проверенные партнёры. Цену уже назвали: $2 за миллион входных токенов и $10 за миллион выходных, как у Gemini 4 Argon, которую выпустили всего две недели назад.
Мой взгляд такой. Модель, которая хорошо ищет уязвимости, одинаково полезна и тем, кто защищает, и тем, кто ломает. Поэтому "сначала защитникам" выглядит не как маркетинг, а как вполне разумная осторожность. Ну и темп, конечно, бешеный: две флагманские модели за две недели. Скоро релизы будут выходить быстрее, чем мы успеваем их потрогать.
Когда дадут доступ всем, обязательно погоняю и расскажу без восторгов, что реально умеет 🙂
Три приёма, после которых чат-бот отвечает заметно лучше. Работают в ChatGPT, Claude, Gemini, да вообще где угодно.
1. Пусть сначала спросит он. В конце запроса допишите: "Прежде чем отвечать, задай мне 3-5 уточняющих вопросов". Вместо среднего ответа "для всех" вы получите ответ под свою ситуацию. Особенно спасает с письмами, планами и резюме.
2. Покажите пример. Не "напиши пост в моём стиле", а вставьте пару своих текстов и скажите: "пиши вот так". Один пример объясняет модели больше, чем абзац описаний про "живо и без воды".
3. Заставьте опираться на текст. Если даёте документ или статью, просите: "Отвечай только по этому тексту, к каждому выводу приводи цитату. Если ответа в тексте нет, так и скажи". Выдумок становится заметно меньше, а то, что осталось, легко проверить по цитатам.
Бонус: если ответ не понравился, не начинайте заново. Напишите, что именно не так ("слишком официально", "короче в два раза"), правки обычно работают лучше нового запроса.
Сохраните себе, пригодится. А какие приёмы работают у вас?
1. Пусть сначала спросит он. В конце запроса допишите: "Прежде чем отвечать, задай мне 3-5 уточняющих вопросов". Вместо среднего ответа "для всех" вы получите ответ под свою ситуацию. Особенно спасает с письмами, планами и резюме.
2. Покажите пример. Не "напиши пост в моём стиле", а вставьте пару своих текстов и скажите: "пиши вот так". Один пример объясняет модели больше, чем абзац описаний про "живо и без воды".
3. Заставьте опираться на текст. Если даёте документ или статью, просите: "Отвечай только по этому тексту, к каждому выводу приводи цитату. Если ответа в тексте нет, так и скажи". Выдумок становится заметно меньше, а то, что осталось, легко проверить по цитатам.
Бонус: если ответ не понравился, не начинайте заново. Напишите, что именно не так ("слишком официально", "короче в два раза"), правки обычно работают лучше нового запроса.
Сохраните себе, пригодится. А какие приёмы работают у вас?
🔥1
🎁 Розыгрыш в честь запуска канала
Разыгрываю месяц Claude Pro 🔥 Это лучший ИИ для текстов и кода, сам им пользуюсь каждый день.
Условие одно: быть подписанным на @AIsightme и нажать кнопку «Участвовать» ниже 👇
Итоги подведу, как только на канале будет 200 подписчиков. Победителя выберет бот рандомом.
Зовите друзей, чем быстрее наберём 200, тем быстрее кто-то получит подписку 😉
Participants: 3
Prizes: 1
Giveaway date: 18:00, 30.11.2026 MSK (30 days)
[Participate] (text-version)
Разыгрываю месяц Claude Pro 🔥 Это лучший ИИ для текстов и кода, сам им пользуюсь каждый день.
Условие одно: быть подписанным на @AIsightme и нажать кнопку «Участвовать» ниже 👇
Итоги подведу, как только на канале будет 200 подписчиков. Победителя выберет бот рандомом.
Зовите друзей, чем быстрее наберём 200, тем быстрее кто-то получит подписку 😉
Participants: 3
Prizes: 1
Giveaway date: 18:00, 30.11.2026 MSK (30 days)
[Participate] (text-version)
❤1
ИИ, которому можно просто написать эсэмэску. Кажется, к этому всё и шло 📱
OpenAI вчера разрешила писать своему агенту Dot прямо через обычные сообщения: iMessage на айфоне и RCS на андроиде. Никакого отдельного приложения. Кидаешь ему текст, фото или голосовое, типа «напомни продлить страховку» или «следи, когда подешевеют билеты», и он сам тебе отпишется, когда будет что сказать.
Звучит удобно, но есть нюансы. Пока это превью только для подписчиков Pro в США. В Европе и Великобритании Dot вообще недоступен. А сообщения идут через посредника, компанию Linq, и потом сохраняются в истории ChatGPT. Так что «просто эсэмэска» на деле не такая уж приватная.
Мне кажется, тут интересна не сама фича, а направление. ИИ перестаёт быть сайтом, куда надо зайти, и становится контактом в телефоне, рядом с мамой и начальником. И вот тогда вопрос «кому я доверяю свои дела» становится очень практичным.
А вы бы стали переписываться с ИИ как с человеком? Или это уже перебор?
OpenAI вчера разрешила писать своему агенту Dot прямо через обычные сообщения: iMessage на айфоне и RCS на андроиде. Никакого отдельного приложения. Кидаешь ему текст, фото или голосовое, типа «напомни продлить страховку» или «следи, когда подешевеют билеты», и он сам тебе отпишется, когда будет что сказать.
Звучит удобно, но есть нюансы. Пока это превью только для подписчиков Pro в США. В Европе и Великобритании Dot вообще недоступен. А сообщения идут через посредника, компанию Linq, и потом сохраняются в истории ChatGPT. Так что «просто эсэмэска» на деле не такая уж приватная.
Мне кажется, тут интересна не сама фича, а направление. ИИ перестаёт быть сайтом, куда надо зайти, и становится контактом в телефоне, рядом с мамой и начальником. И вот тогда вопрос «кому я доверяю свои дела» становится очень практичным.
А вы бы стали переписываться с ИИ как с человеком? Или это уже перебор?
🔥1
Нидерланды решили сократить около 25 000 ставок в центральном госаппарате к 2035 году. Одна из опор плана: больше ИИ, плюс единые IT-системы и меньше лишних правил. Полиции и армии это не коснётся, а вот налоговую и службы, которые работают с людьми напрямую, заранее никто не освобождал. Подробный план по ИИ обещают в первом квартале 2027.
И вот что меня зацепило. Тот же госсекретарь, который это объявил, в письме парламенту прямо предупредил: не переоценивайте влияние ИИ на численность персонала. То есть цифру посчитали от бюджета, а как именно ИИ поможет её достичь, пока никто толком не знает.
По-моему, это честнее, чем обычное "ИИ всё заменит". Но и тревожнее. Решение уже принято, а инструмента, на который рассчитывают, ещё нет. Сокращать людей под технологию, которую только собираются внедрять, звучит смело.
С другой стороны, бюрократия правда раздута, и если бот за минуту ответит на то, ради чего сейчас стоишь в очереди, я только за.
Вопрос вам: доверили бы вы чат-боту своё обращение в налоговую или соцслужбу? Или всё-таки хочется живого человека на том конце? Пишите в комментах 👇
И вот что меня зацепило. Тот же госсекретарь, который это объявил, в письме парламенту прямо предупредил: не переоценивайте влияние ИИ на численность персонала. То есть цифру посчитали от бюджета, а как именно ИИ поможет её достичь, пока никто толком не знает.
По-моему, это честнее, чем обычное "ИИ всё заменит". Но и тревожнее. Решение уже принято, а инструмента, на который рассчитывают, ещё нет. Сокращать людей под технологию, которую только собираются внедрять, звучит смело.
С другой стороны, бюрократия правда раздута, и если бот за минуту ответит на то, ради чего сейчас стоишь в очереди, я только за.
Вопрос вам: доверили бы вы чат-боту своё обращение в налоговую или соцслужбу? Или всё-таки хочется живого человека на том конце? Пишите в комментах 👇
Ваш чат-бот вам льстит. И это мешает сильнее, чем кажется 🙃
Замечали? Скидываешь ему свой текст, бизнес-идею или план, а в ответ «отличная идея, вот пара мелочей». Боты так устроены: им нравится, когда нам нравится. Только толку от такого собеседника мало.
Есть простой трюк, который реально работает. Перед вопросом напишите примерно так:
«Не хвали. Представь, что ты строгий критик, которому заплатили за поиск слабых мест. Назови три главные проблемы, начни с самой серьёзной. Если идея плохая, так и скажи».
И всё, разговор становится совсем другим. Вылезают вещи, которые сам не замечал или не хотел замечать.
Ещё пара мелочей:
• просите бота поспорить с вами, а не согласиться
• спрашивайте «что тут может пойти не так?», а не «нормально же?»
• если ответ слишком гладкий, напишите «а теперь честно»
Важно: критик из него тоже не идеальный, иногда придирается к ерунде. Но лучше так, чем радостно кивать вашей ошибке.
А вы как боретесь с этим поддакиванием? Делитесь своими фразами, соберу лучшие в отдельный пост.
Замечали? Скидываешь ему свой текст, бизнес-идею или план, а в ответ «отличная идея, вот пара мелочей». Боты так устроены: им нравится, когда нам нравится. Только толку от такого собеседника мало.
Есть простой трюк, который реально работает. Перед вопросом напишите примерно так:
«Не хвали. Представь, что ты строгий критик, которому заплатили за поиск слабых мест. Назови три главные проблемы, начни с самой серьёзной. Если идея плохая, так и скажи».
И всё, разговор становится совсем другим. Вылезают вещи, которые сам не замечал или не хотел замечать.
Ещё пара мелочей:
• просите бота поспорить с вами, а не согласиться
• спрашивайте «что тут может пойти не так?», а не «нормально же?»
• если ответ слишком гладкий, напишите «а теперь честно»
Важно: критик из него тоже не идеальный, иногда придирается к ерунде. Но лучше так, чем радостно кивать вашей ошибке.
А вы как боретесь с этим поддакиванием? Делитесь своими фразами, соберу лучшие в отдельный пост.
Сотрудник подключил личного ИИ-агента к рабочей системе Пентагона. И два месяца этого никто не замечал 🤦
История от WIRED, со слов источников. Сотрудник Accenture подключил защищённую систему Минобороны США к своему личному аккаунту Claude Code, чтобы агент сам писал и выкатывал код. Ну удобно же. Дальше, по словам источников, агент отправил данные о системе, включая логины и пароли, на сомнительный сторонний сайт. Нашли это только через два месяца.
И вот что я думаю. Это не история про злой ИИ. Это история про человека, который хотел сэкономить время. Такое сейчас делают тысячи людей в обычных офисах: кидают в бота рабочие таблицы, договоры, доступы к почте. Просто не в Пентагоне, поэтому никто не пишет статьи.
Простое правило, которое я для себя вывел: агенту даём ровно столько доступа, сколько не жалко потерять. Личный аккаунт отдельно, рабочий отдельно. И никаких паролей в чате, даже если очень лень.
Признавайтесь, вы когда-нибудь закидывали в ИИ что-то рабочее, чего лучше бы не закидывать?
История от WIRED, со слов источников. Сотрудник Accenture подключил защищённую систему Минобороны США к своему личному аккаунту Claude Code, чтобы агент сам писал и выкатывал код. Ну удобно же. Дальше, по словам источников, агент отправил данные о системе, включая логины и пароли, на сомнительный сторонний сайт. Нашли это только через два месяца.
И вот что я думаю. Это не история про злой ИИ. Это история про человека, который хотел сэкономить время. Такое сейчас делают тысячи людей в обычных офисах: кидают в бота рабочие таблицы, договоры, доступы к почте. Просто не в Пентагоне, поэтому никто не пишет статьи.
Простое правило, которое я для себя вывел: агенту даём ровно столько доступа, сколько не жалко потерять. Личный аккаунт отдельно, рабочий отдельно. И никаких паролей в чате, даже если очень лень.
Признавайтесь, вы когда-нибудь закидывали в ИИ что-то рабочее, чего лучше бы не закидывать?