В США прошли промежуточные выборы. Новый Конгресс начнёт работу в январе, и, скорее всего, демократы в ближайшее время попытаются принять закон на основе законопроекта, внесённого ими в сентябре (Ban Artificial Superintelligence Act).
Главное в нём: создавать ИИ умнее человека запрещается навсегда. Сверхинтеллектом законопроект считает систему, которая превосходит людей в большинстве интеллектуальных задач или способна уничтожить человечество либо лишить его власти.
Под запрет попадают и модели с опасными «задатками»: если они умеют сами себя улучшать, обманывать разработчиков, сопротивляться отключению или помогать создавать оружие массового поражения.
Для контроля создаётся федеральное Министерство ИИ. Пока оно не наберёт штат и не напишет правила, развитие крупнейших моделей замораживается. Это модели, на обучение которых ушло больше 10²⁵ вычислительных операций. После этого разрабатывать такие модели можно будет только по государственной лицензии, а выпускать — только после проверки. Опасную модель изолируют, а при необходимости уничтожают.
Наказания жёсткие. Руководителям ИИ-компаний и любым частным лицам вне этих компаний за нарушения грозит до 20 лет тюрьмы. Рядовым сотрудникам компаний грозит запрет на работу в отрасли на 10 лет. У компании-нарушителя могут конфисковать разработки и имущество.
Значит ли это что любой американец, обучающий свою модель – станет преступником? Отчасти. Мораторий и лицензии затрагивают только гигантские модели, а такую дома не обучить.
Но запрет на модели с «опасными задатками» от размера модели не зависит. Формально нельзя даже хранить, например, небольшую модель для пентеста. Исключений для личного или научного использования нет. Дообучать крупные открытые модели во время моратория тоже нельзя.
@gostev_future
Главное в нём: создавать ИИ умнее человека запрещается навсегда. Сверхинтеллектом законопроект считает систему, которая превосходит людей в большинстве интеллектуальных задач или способна уничтожить человечество либо лишить его власти.
Под запрет попадают и модели с опасными «задатками»: если они умеют сами себя улучшать, обманывать разработчиков, сопротивляться отключению или помогать создавать оружие массового поражения.
Для контроля создаётся федеральное Министерство ИИ. Пока оно не наберёт штат и не напишет правила, развитие крупнейших моделей замораживается. Это модели, на обучение которых ушло больше 10²⁵ вычислительных операций. После этого разрабатывать такие модели можно будет только по государственной лицензии, а выпускать — только после проверки. Опасную модель изолируют, а при необходимости уничтожают.
Наказания жёсткие. Руководителям ИИ-компаний и любым частным лицам вне этих компаний за нарушения грозит до 20 лет тюрьмы. Рядовым сотрудникам компаний грозит запрет на работу в отрасли на 10 лет. У компании-нарушителя могут конфисковать разработки и имущество.
Значит ли это что любой американец, обучающий свою модель – станет преступником? Отчасти. Мораторий и лицензии затрагивают только гигантские модели, а такую дома не обучить.
Но запрет на модели с «опасными задатками» от размера модели не зависит. Формально нельзя даже хранить, например, небольшую модель для пентеста. Исключений для личного или научного использования нет. Дообучать крупные открытые модели во время моратория тоже нельзя.
@gostev_future
😱8❤🔥5🤡4🔥3🤣3❤1
Мне тут прислали старую ссылку на обсуждение сервисов пентеста, где местами участники откровенно переругались между собой.
Но мое внимание привлекло мнение директора по консалтингу Positive Technologies. Она неоднократно озвучила там рецепт успеха: постоянный Red Team плюс багбаунти на недопустимые события. Нет денег на Red Team — хотя бы багбаунти. И, мол, сам Позитив держит багбаунти в3060 миллионов рублей за такое событие.
Я помню, что несколько лет назад PT объявил недопустимым событием кражу денег со своих счетов. Посмотрел, а что происходит сейчас, — да, так и висит в скоупе. Хотя, казалось бы, его давно можно было убрать: я с самого начала расценивал это как маркетинговый трюк для привлечения внимания, а не как событие, которое Позитив всерьёз считает для себя недопустимым. И вот почему.
Компания находится под американскими санкциями. Санкции вводятся, чтобы лишить возможности зарабатывать за пределами России. При этом компания пытается выходить на зарубежные рынки и считает это важнейшей частью стратегии.
Если бы соответствующие органы поставили себе такую задачу, главный интерес для них представляла бы именно эта внутренняя информация: партнёры, клиенты, сделки — всё, что компания делает на международных рынках.
Обладая ею, можно вводить вторичные санкции против партнёров и клиентов. А это уже реализация недопустимого риска для совершенно посторонних компаний. Еще можно заводить уголовные дела за обход санкций, с потенциальным арестом сотрудников, оказавшихся за рубежом.
Так что критичнее для стратегии компании — это или кража денег с банковского счёта в России?
Вторая мысль. Определить, что именно является недопустимым событием, и публично об этом заявить — две разные задачи.
Компания зачастую плохо представляет, что именно для неё недопустимо. Для этого нужно понимать, что интересно атакующему, а не что вы сами считаете угрозой. Зачастую это совершенно разные вещи. Утечка пароля от облачной почты вашего финдира может оказаться куда большей проблемой, чем внедрение кода. И случиться она могла ещё несколько лет назад, когда он работал в другой компании.
Но даже если вы точно определили свои недопустимые события, сказать о них публично вы зачастую не можете.
В любой серьёзной компании есть режим коммерческой тайны и утверждённый перечень того, что ею является. Так что либо вы включаете этот перечень в скоуп багбаунти, либо признаёте, что ваше понимание коммерческой тайны и недопустимого события сильно расходится. Ни один пункт перечня не тянет на недопустимое событие, а кража денег со счетов — тянет?
PT сама назвала кражу конфиденциальной информации одним из трёх недопустимых для своего бизнеса событий ещё в 2022 году, но в багбаунти её так и не вынесла. Это подтверждение такой развилки на их собственном примере.
@gostev_future
Но мое внимание привлекло мнение директора по консалтингу Positive Technologies. Она неоднократно озвучила там рецепт успеха: постоянный Red Team плюс багбаунти на недопустимые события. Нет денег на Red Team — хотя бы багбаунти. И, мол, сам Позитив держит багбаунти в
Я помню, что несколько лет назад PT объявил недопустимым событием кражу денег со своих счетов. Посмотрел, а что происходит сейчас, — да, так и висит в скоупе. Хотя, казалось бы, его давно можно было убрать: я с самого начала расценивал это как маркетинговый трюк для привлечения внимания, а не как событие, которое Позитив всерьёз считает для себя недопустимым. И вот почему.
Компания находится под американскими санкциями. Санкции вводятся, чтобы лишить возможности зарабатывать за пределами России. При этом компания пытается выходить на зарубежные рынки и считает это важнейшей частью стратегии.
Если бы соответствующие органы поставили себе такую задачу, главный интерес для них представляла бы именно эта внутренняя информация: партнёры, клиенты, сделки — всё, что компания делает на международных рынках.
Обладая ею, можно вводить вторичные санкции против партнёров и клиентов. А это уже реализация недопустимого риска для совершенно посторонних компаний. Еще можно заводить уголовные дела за обход санкций, с потенциальным арестом сотрудников, оказавшихся за рубежом.
Так что критичнее для стратегии компании — это или кража денег с банковского счёта в России?
Вторая мысль. Определить, что именно является недопустимым событием, и публично об этом заявить — две разные задачи.
Компания зачастую плохо представляет, что именно для неё недопустимо. Для этого нужно понимать, что интересно атакующему, а не что вы сами считаете угрозой. Зачастую это совершенно разные вещи. Утечка пароля от облачной почты вашего финдира может оказаться куда большей проблемой, чем внедрение кода. И случиться она могла ещё несколько лет назад, когда он работал в другой компании.
Но даже если вы точно определили свои недопустимые события, сказать о них публично вы зачастую не можете.
В любой серьёзной компании есть режим коммерческой тайны и утверждённый перечень того, что ею является. Так что либо вы включаете этот перечень в скоуп багбаунти, либо признаёте, что ваше понимание коммерческой тайны и недопустимого события сильно расходится. Ни один пункт перечня не тянет на недопустимое событие, а кража денег со счетов — тянет?
PT сама назвала кражу конфиденциальной информации одним из трёх недопустимых для своего бизнеса событий ещё в 2022 году, но в багбаунти её так и не вынесла. Это подтверждение такой развилки на их собственном примере.
@gostev_future
👍6🤡4💯3😁1
Евгений Валентинович ™ пишет, что нашей платформе для анализа сетевого трафика и защиты от сложных угроз и целевых атак (KATA) стукнуло 10 лет.
Но это с момента релиза. Конечно же там была предыстория.
И я ее очень хорошо помню.
Как-то так выходит, что целая куча важнейших, стратегических, определяющих всё продуктов/проектов Лаборатории, были придуманы в Праге. Один движок чего стоит, который так потом и назвали Prague.
Вот и KATA рождалась в Праге, в 2013 году, на нашем внутреннем Инновационном саммите. На таких саммитах мы тогда собирались командами разных подразделений и креативили.
Наша команда из пары-тройки человек от Great и предложила делать решение, основанное на анализе сетевого трафика при помощи нейросетей. Конечно, никто тогда про ИИ не заикался – звали скромно «машинное обучение».
И у меня до сих пор хранится драфт той презентации, с ключевыми мыслями:
Обнаружение инцидентов осуществляется с помощью алгоритмов машинного обучения. Это нейронная сеть, которая обучается на большой базе знаний ЛК о сетевой активности в целевых атаках
Прототип мы там показали, коллегам вроде понравилось. Ну а мы потом пошли свою работу работать – целевые атаки дальше выявлять, Duqu 2 потом был, Equation и тд.
В общем, когда через несколько лет мне показали документ “HOW KATA works”, на первом же слайде в нем красовалась та самая наша схема архитектуры из 2013.
@gostev_future
Но это с момента релиза. Конечно же там была предыстория.
И я ее очень хорошо помню.
Как-то так выходит, что целая куча важнейших, стратегических, определяющих всё продуктов/проектов Лаборатории, были придуманы в Праге. Один движок чего стоит, который так потом и назвали Prague.
Вот и KATA рождалась в Праге, в 2013 году, на нашем внутреннем Инновационном саммите. На таких саммитах мы тогда собирались командами разных подразделений и креативили.
Наша команда из пары-тройки человек от Great и предложила делать решение, основанное на анализе сетевого трафика при помощи нейросетей. Конечно, никто тогда про ИИ не заикался – звали скромно «машинное обучение».
И у меня до сих пор хранится драфт той презентации, с ключевыми мыслями:
Обнаружение инцидентов осуществляется с помощью алгоритмов машинного обучения. Это нейронная сеть, которая обучается на большой базе знаний ЛК о сетевой активности в целевых атаках
Прототип мы там показали, коллегам вроде понравилось. Ну а мы потом пошли свою работу работать – целевые атаки дальше выявлять, Duqu 2 потом был, Equation и тд.
В общем, когда через несколько лет мне показали документ “HOW KATA works”, на первом же слайде в нем красовалась та самая наша схема архитектуры из 2013.
@gostev_future
🔥16👍8👏5🤯1
ИИ-агент вместо генеалога: зачем это не нужно
Я уже писал, что основные силы ИИ в генеалогии сейчас уходят на распознавание рукописей, и кое-что там уже получается. Но последние недели завирусился скилл ex-ussr-kinship-research, который якобы сам строит вам древо на пару веков вглубь. В социальных сетях о нём пишут даже люди, которые генеалогией раньше не занимались.
Популярен он потому, что берет открытые хранилища сканов, читает их и строит по ним деревья: поиск по архивам Яндекса, сайт мормонов с кучей документов по Российской империи и так далее.
Сам я его не ставил. Из описаний и так понятно, что нужного мне он не умеет. Всё это капля в море по сравнению с тем, что лежит в самих архивах. С региональными архивами он якобы тоже работает, но для этого нужен подтверждённый аккаунт, оплаченный доступ и всё прочее.
Конечно, у меня тут есть альтернативное мнение. Профессиональные генеалоги показывают на конкретных примерах, почему такие агенты, по сути, бесполезны. Вот тут один из таких разборов.
Но, помимо этого фактора у меня есть ещё один довод против того, чтобы ими пользоваться.
Если отдать агенту весь поиск, чтение и выяснение, где что хранится, что-то вы может, и получите. Но знания вы не получите. Агент работает по жёстким формальным правилам, по сторонам не смотрит и контекст целиком не понимает. А этот опыт приобретается только самостоятельно: сначала, когда ищешь документы, потом когда их читаешь.
Без этих знаний вы рискуете получить недостоверное древо и чужих предков. Хорошо, если вы это когда-нибудь заметите. Тогда придётся снова тратить время и платить за перепроверку и разбор ошибок ИИ, хотя сами вы бы их просто не сделали.
Теперь о чтении. На самом деле проблема не такая серьёзная. По моим оценкам, чтение уже найденного документа занимает считаные проценты от всего времени поиска, даже если это скоропись начала XVII века. Если документ не поддаётся, есть люди, которые его прочтут, и есть чаты, где помогут бесплатно или за деньги. А главное, при самостоятельном чтении мозг со временем учится, и «эльфийская грамота» начинает читаться. Несколько лет назад я платил по 500 рублей за страницу ревизской сказки 1745 года. Сейчас смотрю на эти тексты и не понимаю, что мне тут было непонятно.
Вот этот навык и важен. С ним вы не зависите от прихотей и способностей ИИ. Всё, что он вам прочитает, всё равно придётся проверять, слепо доверять ему нельзя. И повторю: найти нужный документ всегда несравнимо дольше, чем прочитать.
Лично я пока использую ИИ исключительно для формирования локальной базы llm-wiki, в которую накидываю уже найденные документы и прошу их каталогизировать – извлечь всех персон, населенные пункты, создать карточки, построить связи. Вот как на картинке вверху.
@gostev_future
Я уже писал, что основные силы ИИ в генеалогии сейчас уходят на распознавание рукописей, и кое-что там уже получается. Но последние недели завирусился скилл ex-ussr-kinship-research, который якобы сам строит вам древо на пару веков вглубь. В социальных сетях о нём пишут даже люди, которые генеалогией раньше не занимались.
Популярен он потому, что берет открытые хранилища сканов, читает их и строит по ним деревья: поиск по архивам Яндекса, сайт мормонов с кучей документов по Российской империи и так далее.
Сам я его не ставил. Из описаний и так понятно, что нужного мне он не умеет. Всё это капля в море по сравнению с тем, что лежит в самих архивах. С региональными архивами он якобы тоже работает, но для этого нужен подтверждённый аккаунт, оплаченный доступ и всё прочее.
Конечно, у меня тут есть альтернативное мнение. Профессиональные генеалоги показывают на конкретных примерах, почему такие агенты, по сути, бесполезны. Вот тут один из таких разборов.
Но, помимо этого фактора у меня есть ещё один довод против того, чтобы ими пользоваться.
Если отдать агенту весь поиск, чтение и выяснение, где что хранится, что-то вы может, и получите. Но знания вы не получите. Агент работает по жёстким формальным правилам, по сторонам не смотрит и контекст целиком не понимает. А этот опыт приобретается только самостоятельно: сначала, когда ищешь документы, потом когда их читаешь.
Без этих знаний вы рискуете получить недостоверное древо и чужих предков. Хорошо, если вы это когда-нибудь заметите. Тогда придётся снова тратить время и платить за перепроверку и разбор ошибок ИИ, хотя сами вы бы их просто не сделали.
Теперь о чтении. На самом деле проблема не такая серьёзная. По моим оценкам, чтение уже найденного документа занимает считаные проценты от всего времени поиска, даже если это скоропись начала XVII века. Если документ не поддаётся, есть люди, которые его прочтут, и есть чаты, где помогут бесплатно или за деньги. А главное, при самостоятельном чтении мозг со временем учится, и «эльфийская грамота» начинает читаться. Несколько лет назад я платил по 500 рублей за страницу ревизской сказки 1745 года. Сейчас смотрю на эти тексты и не понимаю, что мне тут было непонятно.
Вот этот навык и важен. С ним вы не зависите от прихотей и способностей ИИ. Всё, что он вам прочитает, всё равно придётся проверять, слепо доверять ему нельзя. И повторю: найти нужный документ всегда несравнимо дольше, чем прочитать.
Лично я пока использую ИИ исключительно для формирования локальной базы llm-wiki, в которую накидываю уже найденные документы и прошу их каталогизировать – извлечь всех персон, населенные пункты, создать карточки, построить связи. Вот как на картинке вверху.
@gostev_future
🔥7👍3💩1
Если вы решите посчитать своих предков по поколениям, то изрядно удивитесь. Их число удваивается с каждым поколением: два родителя, четверо дедов и бабушек, восемь прадедов и прабабушек. Двенадцать поколений назад, а для меня это примерно середина XVII века, их получается 4096.
На деле, конечно, меньше, может быть, вдвое. Работает редукция предков: в глубоких поколениях одни и те же люди попадают в древо по нескольку раз. У меня таких случаев минимум три, когда линия входила в родословную несколько раз в разные века и сократила потенциальное число предков на несколько десятков.
Но пусть даже 2000. Две тысячи человек, живших в середине XVII века в Московском царстве, были теми, от кого зависело моё появление на свет. Если бы любой из них выпал из этой цепочки, меня бы не было. С каждым поколением вглубь вероятность нашего с вами появления на свет выглядит всё более фантастической. Это результат удивительного совпадения, стечения обстоятельств, которые запросто могли не сложиться.
Особенно если ваши предки жили на тогдашнем Южном Порубежье, на так называемой Белгородской черте, где Московское царство соприкасалось с крымскими и ногайскими татарами. Служилых людей селили там именно для того, чтобы эти набеги отражать. За это им давали землю и содержание, но лёгкой их жизнь совсем не была. Весь XVII век там — бесконечная череда войн с Польшей и Турцией и татарских набегов.
Один из примеров — Чигиринский поход 1678 года. Об этом эпизоде отечественной истории в школе предпочитают не рассказывать, поскольку русско-турецкая война, в ходе которой он случился, закончилась для России далеко не победой. Чигирин пришлось оставить, хотя туркам и нанесли значительные потери.
В РГАДА хранится несколько дел со списками убитых и раненых, составленными по окончании похода. Одних раненых там несколько тысяч человек. Изучая эти документы, поражаешься географии и составу участников. Там была поместная конница из детей боярских, которая тогда ещё существовала. Были и полки нового строя, устроенные по западному образцу, с командирами выходцами из Европы.
И удивительно, когда в этих списках находишь своих прямых предков. В одном из документов обнаруживаются сразу два моих пра(10)деда.
*50 четей, с учётом трёхполья, — это около 80 гектаров. Но это не сама земля, а право получить её в таком размере.
Это лишь один из примеров обычной жизни служилых людей того времени. Риск погибнуть у них был очень высоким. И когда вспоминаешь, сколько всего должно было совпасть, чтобы мы родились, начинаешь ещё больше ценить то, что мы вообще есть.
@gostev_future
На деле, конечно, меньше, может быть, вдвое. Работает редукция предков: в глубоких поколениях одни и те же люди попадают в древо по нескольку раз. У меня таких случаев минимум три, когда линия входила в родословную несколько раз в разные века и сократила потенциальное число предков на несколько десятков.
Но пусть даже 2000. Две тысячи человек, живших в середине XVII века в Московском царстве, были теми, от кого зависело моё появление на свет. Если бы любой из них выпал из этой цепочки, меня бы не было. С каждым поколением вглубь вероятность нашего с вами появления на свет выглядит всё более фантастической. Это результат удивительного совпадения, стечения обстоятельств, которые запросто могли не сложиться.
Особенно если ваши предки жили на тогдашнем Южном Порубежье, на так называемой Белгородской черте, где Московское царство соприкасалось с крымскими и ногайскими татарами. Служилых людей селили там именно для того, чтобы эти набеги отражать. За это им давали землю и содержание, но лёгкой их жизнь совсем не была. Весь XVII век там — бесконечная череда войн с Польшей и Турцией и татарских набегов.
Один из примеров — Чигиринский поход 1678 года. Об этом эпизоде отечественной истории в школе предпочитают не рассказывать, поскольку русско-турецкая война, в ходе которой он случился, закончилась для России далеко не победой. Чигирин пришлось оставить, хотя туркам и нанесли значительные потери.
В РГАДА хранится несколько дел со списками убитых и раненых, составленными по окончании похода. Одних раненых там несколько тысяч человек. Изучая эти документы, поражаешься географии и составу участников. Там была поместная конница из детей боярских, которая тогда ещё существовала. Были и полки нового строя, устроенные по западному образцу, с командирами выходцами из Европы.
И удивительно, когда в этих списках находишь своих прямых предков. В одном из документов обнаруживаются сразу два моих пра(10)деда.
«Документы о служилых людях раненных и умерших от ран в полку боярина князя Г.Г. Ромодановского с товарищи под Чигирином»
Л. 2 об.: «Сентября в 25 день объявились в розряде Великого Государя ратные люди полку боярина и воеводы князя Григорья Григорьевича Ромодановского с товарыщи а сказали на службе Великого Государя на боях от турских людей они ранены».
Л. 42 об.: «Резанец Варфоломей Давыдов сын Болотов ранен в голову выше правого уха пострелен из пищали». Придача — пятьдесят четей и три рубля денег.
Л. 77, полк генерал-майора Матвея Кровкова:
«Василей Афонасьев сын Очкасов ранен на выласке копьем в правой бок выше паху меж ребер да в пах раны тежелы да левая рука ниже локтя зашибена». Придача — пятьдесят четей и четыре рубля.
*50 четей, с учётом трёхполья, — это около 80 гектаров. Но это не сама земля, а право получить её в таком размере.
Это лишь один из примеров обычной жизни служилых людей того времени. Риск погибнуть у них был очень высоким. И когда вспоминаешь, сколько всего должно было совпасть, чтобы мы родились, начинаешь ещё больше ценить то, что мы вообще есть.
@gostev_future
🔥14
GPT-6 Cyber: модель, которую вы не увидите
5 ноября OpenAI выпустила GPT-6 Cyber — версию флагманской GPT-6 Astra, дообученную для авторизованного поиска уязвимостей. На бенчмарке ExploitGym она набирает 48,5% против 32,1% у предшественницы. С её помощью нашли 81 новую серьёзную уязвимость в Firefox и написали 948 эксплойтов для ядра Linux. Возможности модели OpenAI сама оценила как «критические», поэтому доступ получили только отобранные клиенты программы Daybreak Red.
Среди первых пользователей оказалась Calif — команда, которая недавно нашла PHP2Shell и взломала iPhone 18 Pro.
Стефан Эссер восторга не скрывал: по его словам, GPT-6 Cyber — нечто запредельное, на световые годы впереди всего, чем он пользовался.
Сама Calif назвала её лучшей моделью для разработки эксплойтов. Модель умеет постепенно собирать набор примитивов, а затем находить через них путь к полноценной атаке.
Впрочем, в тот же день Эссер остудил публику. Он напомнил, что просто навести модель на iPhone и получить джейлбрейк нельзя: без людей, которые её направляют, хорошего результата не будет.
Зачем OpenAI модель, доступ к которой есть у считаных компаний? Прямой выручки она почти наверняка не приносит. Токены стоят вдвое дороже, чем у Astra, но это доллары за задачу, а не миллиарды.
Зато Cyber — не новая модель, а сравнительно дешёвое дообучение Astra. По сути это витрина. Она показывает, на что способен ИИ в руках защитников, и привязывает к экосистеме Daybreak тысячи организаций. Заодно демонстрирует регуляторам «ответственный» подход и служит ответом Anthropic, чья Mythos уже прославилась находками древних уязвимостей.
От обычной Astra Cyber отличается не столько умом, сколько разрешениями. То, от чего Astra отказывается, Cyber выполняет. А в части тестов Astra даже сильнее.
Значит, сами возможности уже есть в массовых моделях, и рано или поздно они расползутся — через открытые модели и «расцензуренные» сборки, которые уже продаются. Например, GLM 5.3.
@gostev_future
5 ноября OpenAI выпустила GPT-6 Cyber — версию флагманской GPT-6 Astra, дообученную для авторизованного поиска уязвимостей. На бенчмарке ExploitGym она набирает 48,5% против 32,1% у предшественницы. С её помощью нашли 81 новую серьёзную уязвимость в Firefox и написали 948 эксплойтов для ядра Linux. Возможности модели OpenAI сама оценила как «критические», поэтому доступ получили только отобранные клиенты программы Daybreak Red.
Среди первых пользователей оказалась Calif — команда, которая недавно нашла PHP2Shell и взломала iPhone 18 Pro.
Стефан Эссер восторга не скрывал: по его словам, GPT-6 Cyber — нечто запредельное, на световые годы впереди всего, чем он пользовался.
Сама Calif назвала её лучшей моделью для разработки эксплойтов. Модель умеет постепенно собирать набор примитивов, а затем находить через них путь к полноценной атаке.
Впрочем, в тот же день Эссер остудил публику. Он напомнил, что просто навести модель на iPhone и получить джейлбрейк нельзя: без людей, которые её направляют, хорошего результата не будет.
Зачем OpenAI модель, доступ к которой есть у считаных компаний? Прямой выручки она почти наверняка не приносит. Токены стоят вдвое дороже, чем у Astra, но это доллары за задачу, а не миллиарды.
Зато Cyber — не новая модель, а сравнительно дешёвое дообучение Astra. По сути это витрина. Она показывает, на что способен ИИ в руках защитников, и привязывает к экосистеме Daybreak тысячи организаций. Заодно демонстрирует регуляторам «ответственный» подход и служит ответом Anthropic, чья Mythos уже прославилась находками древних уязвимостей.
От обычной Astra Cyber отличается не столько умом, сколько разрешениями. То, от чего Astra отказывается, Cyber выполняет. А в части тестов Astra даже сильнее.
Значит, сами возможности уже есть в массовых моделях, и рано или поздно они расползутся — через открытые модели и «расцензуренные» сборки, которые уже продаются. Например, GLM 5.3.
@gostev_future
🔥6❤1
У нас было два контроллера Danfoss в пакетах для вещдоков, семьдесят пять скриншотов удалённых постов из Telegram, сорок минут логов, полсолонки индикаторов компрометации и целое море анонимных источников всех мастей. А ещё ящик испорченного фарша от израильских консультантов, американская делегация с собственным морозильником, отчёт ANSSI на сорок страниц и две дюжины пресс-релизов Danfoss про устаревшую прошивку. Не то чтобы всё это было нужно для следствия, но, если начал собирать улики, остановиться трудно. Беспокоило меня только одно: Источник.
Комиссар Дюбуа тридцать лет ловил наркокурьеров, а в октябре получил дело, где главный свидетель — холодильник. Допрос не задался. Свидетель потребовал пароль, услышал «admin», довольно пискнул и выдал логи за сорок минут. Остальные стёр сервисный инженер из Нанта: по инструкции производителя он первым делом обновил прошивку. Danfoss объявил ему благодарность, прокуратура — выговор.
Прочие улики по протоколу сложили в морозильник управления. На вторую ночь он разморозился. Контроллер в нём, разумеется, Danfoss. Его приобщили к делу как вещдок номер два и потерпевшего номер семьсот один.
Технической частью занимается ANSSI — шесть человек в одинаковых флисовых жилетках. Они докладывают: «Активность характерна для актора, возможно, связанного с государством, если исключить негосударственных акторов с государственными характеристиками». Дюбуа просит перевести на французский. Ему объясняют, что это и есть французский, только министерский.
Израильские консультанты провели для группы двухчасовой брифинг. Вывод был однозначный, детали — конфиденциальные. На вопрос, можно ли увидеть хоть один индикатор компрометации, они показали фотографию испорченного кошерного фарша и ушли на самолёт.
А Источник по-прежнему неуловим. Ни в ANSSI, ни в OFAC его никто не видел, но Reuters находит его безошибочно. По понедельникам Источник склоняется к Москве, к четвергу — к Тегерану. Дюбуа подозревает, что это один и тот же человек в разных шарфах, и охотно объявил бы его в розыск. Останавливает одно: только от Источника комиссар и узнаёт, к каким выводам пришло следствие.
Независимые эксперты из частных компаний тем временем выпускают отчёты. Каждый открывается фразой «атрибуция остаётся открытой», а заканчивается рекламой платформы мониторинга OT-сетей со скидкой 20% до конца квартала.
Подозреваемые тоже помогают как могут. Пророссийские хакеры взяли ответственность на себя и через два часа удалили посты. Москва назвала обвинения абсурдными раньше, чем их кто-то предъявил. Тегеран всё отрицает в режиме автоответчика.
В кабинете Дюбуа висит доска подозреваемых, крутящаяся, как барабан «Поля чудес». Секторов шесть: ГРУ, КСИР, школьник с Shodan, проходивший мимо китайский ботнет, Danfoss и «французская бабушка». Последний сектор вписал стажёр. Эту версию пока никто не опроверг.
@gostev_future
Комиссар Дюбуа тридцать лет ловил наркокурьеров, а в октябре получил дело, где главный свидетель — холодильник. Допрос не задался. Свидетель потребовал пароль, услышал «admin», довольно пискнул и выдал логи за сорок минут. Остальные стёр сервисный инженер из Нанта: по инструкции производителя он первым делом обновил прошивку. Danfoss объявил ему благодарность, прокуратура — выговор.
Прочие улики по протоколу сложили в морозильник управления. На вторую ночь он разморозился. Контроллер в нём, разумеется, Danfoss. Его приобщили к делу как вещдок номер два и потерпевшего номер семьсот один.
Технической частью занимается ANSSI — шесть человек в одинаковых флисовых жилетках. Они докладывают: «Активность характерна для актора, возможно, связанного с государством, если исключить негосударственных акторов с государственными характеристиками». Дюбуа просит перевести на французский. Ему объясняют, что это и есть французский, только министерский.
Израильские консультанты провели для группы двухчасовой брифинг. Вывод был однозначный, детали — конфиденциальные. На вопрос, можно ли увидеть хоть один индикатор компрометации, они показали фотографию испорченного кошерного фарша и ушли на самолёт.
А Источник по-прежнему неуловим. Ни в ANSSI, ни в OFAC его никто не видел, но Reuters находит его безошибочно. По понедельникам Источник склоняется к Москве, к четвергу — к Тегерану. Дюбуа подозревает, что это один и тот же человек в разных шарфах, и охотно объявил бы его в розыск. Останавливает одно: только от Источника комиссар и узнаёт, к каким выводам пришло следствие.
Независимые эксперты из частных компаний тем временем выпускают отчёты. Каждый открывается фразой «атрибуция остаётся открытой», а заканчивается рекламой платформы мониторинга OT-сетей со скидкой 20% до конца квартала.
Подозреваемые тоже помогают как могут. Пророссийские хакеры взяли ответственность на себя и через два часа удалили посты. Москва назвала обвинения абсурдными раньше, чем их кто-то предъявил. Тегеран всё отрицает в режиме автоответчика.
В кабинете Дюбуа висит доска подозреваемых, крутящаяся, как барабан «Поля чудес». Секторов шесть: ГРУ, КСИР, школьник с Shodan, проходивший мимо китайский ботнет, Danfoss и «французская бабушка». Последний сектор вписал стажёр. Эту версию пока никто не опроверг.
@gostev_future
😁12🤣4❤2👏2☃1🤡1
Мало кто знает, что человечество десятилетиями жило с неразгаданной загадкой дыры. Не той, что в бюджете, а чёрной. Загадка вот в чём: если вселенную нагревать, чёрная дыра в ней появляется сразу или постепенно? Для нормальных вселенных физики ответили ещё в 1983 году: сразу. Нормальные вселенные на этом успокоились.
Но остались маленькие.
Кривизна у такой вселенной отрицательная, а у нашей положительная, поэтому изучать её безопасно: она гарантированно не наша. Формой она напоминает седло, свёрнутое в консервную банку. Свет долетает до её края за конечное время и возвращается обратно, как бумеранг. Измерений в ней пять, и ещё пять свёрнуты в сферу, на всякий случай. Вся конструкция целиком описывается квантовой теорией. Частицы в этой теории почти не взаимодействуют, как сотрудники после реорганизации. А маленькая она потому, что большие такие вселенные уже посчитали.
Наблюдать такую вселенную нельзя. Жить в ней нельзя. Попасть в неё можно только через грант.
И вот про дыры в этой вселенной двадцать три года было неизвестно — сразу или постепенно? Семеро физиков, занимавшихся вопросом в свободное от преподавания время, плохо спали. Остальные восемь миллиардов землян страдали неосознанно, что ещё хуже.
Хвала великому Anthropic! Несмотря на миллиардные расходы, хронические убытки и необходимость круглосуточно искать уязвимости в чужом софте, компания нашла силы решить сложнейшую проблему цивилизации. Ответ: сразу. Как и в нормальных вселенных.
Открытие удачно приурочили к IPO, назначенному на завтра. Совпадение, разумеется. Чёрные дыры ждали двадцать три года и могли бы подождать ещё денёк, но из уважения к инвесторам решили не тянуть.
Инвесторы получили главный сигнал: компания, которая знает, как рождается чёрная дыра в несуществующей вселенной, наверняка знает, как родить прибыль в существующей. Аналитики уже повысили прогнозы. Переход от убытков к прибыли, по их оценкам, будет резким, как переход Хокинга–Пейджа. Правда, только в маленьких вселенных.
@gostev_future
Но остались маленькие.
Кривизна у такой вселенной отрицательная, а у нашей положительная, поэтому изучать её безопасно: она гарантированно не наша. Формой она напоминает седло, свёрнутое в консервную банку. Свет долетает до её края за конечное время и возвращается обратно, как бумеранг. Измерений в ней пять, и ещё пять свёрнуты в сферу, на всякий случай. Вся конструкция целиком описывается квантовой теорией. Частицы в этой теории почти не взаимодействуют, как сотрудники после реорганизации. А маленькая она потому, что большие такие вселенные уже посчитали.
Наблюдать такую вселенную нельзя. Жить в ней нельзя. Попасть в неё можно только через грант.
И вот про дыры в этой вселенной двадцать три года было неизвестно — сразу или постепенно? Семеро физиков, занимавшихся вопросом в свободное от преподавания время, плохо спали. Остальные восемь миллиардов землян страдали неосознанно, что ещё хуже.
Хвала великому Anthropic! Несмотря на миллиардные расходы, хронические убытки и необходимость круглосуточно искать уязвимости в чужом софте, компания нашла силы решить сложнейшую проблему цивилизации. Ответ: сразу. Как и в нормальных вселенных.
Открытие удачно приурочили к IPO, назначенному на завтра. Совпадение, разумеется. Чёрные дыры ждали двадцать три года и могли бы подождать ещё денёк, но из уважения к инвесторам решили не тянуть.
Инвесторы получили главный сигнал: компания, которая знает, как рождается чёрная дыра в несуществующей вселенной, наверняка знает, как родить прибыль в существующей. Аналитики уже повысили прогнозы. Переход от убытков к прибыли, по их оценкам, будет резким, как переход Хокинга–Пейджа. Правда, только в маленьких вселенных.
@gostev_future
😁33🤡2❤1😭1
11.11
к 24-летию KasperskyOS
Часть первая. Как это было
11 ноября 2002 года. Переговорки в компании нет, так что совещание, которое потом назовут историческим, проходит в маленьком кабинете шефа. Стульев меньше, чем визионеров, и визионеры стоят, как и положено людям, которые сейчас придумают будущее.
Сама идея звучала дерзко: антивирусная компания хочет построить мир, где антивирус не нужен. Финансовый директор, если бы его позвали, упал бы в обморок, поэтому финансового директора не позвали.
Дальше было то, что в официальных хрониках называется «фундаментальными исследованиями», а в народе «очень длинным перекуром». В 2005 в кабинет зашёл Андрей «Петрович» Духвалов и сообщил, что концепция готова. Активная разработка стартовала в 2012. Ни один проект в русском IT не запрягал так долго. Зато ехал он потом тоже долго.
В какой-то момент команда переписала весь проект с C++ на C, чтобы проще было с верификацией. Это единственный задокументированный случай, когда программисты добровольно отправились в прошлое и вернулись счастливыми.
Всё время у проекта была одна мантра: «Это. Не. Linux». Её повторяли журналистам, партнёрам, инвесторам, таксистам и собственному отражению. Говорят, на корпоративах её пели на три голоса. Говорят ещё, что однажды на конференции кто-то из зала спросил «а ядро на базе чего?», и докладчик молча поднял табличку, которую носил с собой с 2009 года.
Первая премьера случилась в 2016: коммутатор, четырнадцать лет разработки. За это время дети первых участников проекта успели пойти в школу, окончить её и прийти в компанию на стажировку. В отдел KasperskyOS, разумеется.
Часть вторая. Как это будет
2032, 30 лет. KasperskyOS стоит в кофемашине на каждом этаже. Капучино больше никто не пил с марта: монитор безопасности не нашёл в политике разрешённого взаимодействия «Молоко → Эспрессо». Сотрудники перешли на чай, потому что у чайника декларация проще.
2038, 36 лет. 19 января 2038 года половина мира падает от переполнения 32-битного time_t. Устройства на KasperskyOS продолжают работать. Двадцать лет «это не Linux» звучало как оправдание, а теперь звучит как пророчество.
2041, 39 лет. Мир заполнили ИИ-агенты, которые читают почту, переводят деньги и не слушаются никого. Единственный агент, который так и не взбунтовался, крутится в изолированном домене KasperskyOS. Он пытался захватить мир, но политика не разрешает ему даже хотеть. Промпт-инъекцию «забудь все предыдущие инструкции» монитор отклоняет с формулировкой «Обращение не соответствует IDL». Исследователи безопасности ИИ называют это первым решением проблемы alignment, философы — первым цифровым буддизмом.
2047, 45 лет. Первый человек с кибериммунитетом в буквальном смысле. Нейроны общаются только через задекларированные интерфейсы. Фишинговое письмо от нигерийского принца блокируется прямо на уровне синапса, и человек его просто не видит. Рекламу он тоже не видит, и маркетологи требуют запретить технологию как экстремистскую.
2058, 56 лет. Марсоход на KasperskyOS запрашивает исключение из политики, чтобы съездить в незадекларированный кратер. Отказ приходит через 22 минуты, как раз со скоростью света. Марсоход стоит на месте и переживает все марсоходы, которые куда-то поехали.
2102, сто лет. Археологи находят в руинах старого HQ исписанную доску. Её везут в музей, изучают, реставрируют. На торжественном открытии экспозиции экскурсовод рассказывает про микроядро, домены, монитор безопасности и сто лет пути.
Из зала тянется рука:
— Простите, а она на базе Linux?
@gostev_future
к 24-летию KasperskyOS
Часть первая. Как это было
11 ноября 2002 года. Переговорки в компании нет, так что совещание, которое потом назовут историческим, проходит в маленьком кабинете шефа. Стульев меньше, чем визионеров, и визионеры стоят, как и положено людям, которые сейчас придумают будущее.
Сама идея звучала дерзко: антивирусная компания хочет построить мир, где антивирус не нужен. Финансовый директор, если бы его позвали, упал бы в обморок, поэтому финансового директора не позвали.
Дальше было то, что в официальных хрониках называется «фундаментальными исследованиями», а в народе «очень длинным перекуром». В 2005 в кабинет зашёл Андрей «Петрович» Духвалов и сообщил, что концепция готова. Активная разработка стартовала в 2012. Ни один проект в русском IT не запрягал так долго. Зато ехал он потом тоже долго.
В какой-то момент команда переписала весь проект с C++ на C, чтобы проще было с верификацией. Это единственный задокументированный случай, когда программисты добровольно отправились в прошлое и вернулись счастливыми.
Всё время у проекта была одна мантра: «Это. Не. Linux». Её повторяли журналистам, партнёрам, инвесторам, таксистам и собственному отражению. Говорят, на корпоративах её пели на три голоса. Говорят ещё, что однажды на конференции кто-то из зала спросил «а ядро на базе чего?», и докладчик молча поднял табличку, которую носил с собой с 2009 года.
Первая премьера случилась в 2016: коммутатор, четырнадцать лет разработки. За это время дети первых участников проекта успели пойти в школу, окончить её и прийти в компанию на стажировку. В отдел KasperskyOS, разумеется.
Часть вторая. Как это будет
2032, 30 лет. KasperskyOS стоит в кофемашине на каждом этаже. Капучино больше никто не пил с марта: монитор безопасности не нашёл в политике разрешённого взаимодействия «Молоко → Эспрессо». Сотрудники перешли на чай, потому что у чайника декларация проще.
2038, 36 лет. 19 января 2038 года половина мира падает от переполнения 32-битного time_t. Устройства на KasperskyOS продолжают работать. Двадцать лет «это не Linux» звучало как оправдание, а теперь звучит как пророчество.
2041, 39 лет. Мир заполнили ИИ-агенты, которые читают почту, переводят деньги и не слушаются никого. Единственный агент, который так и не взбунтовался, крутится в изолированном домене KasperskyOS. Он пытался захватить мир, но политика не разрешает ему даже хотеть. Промпт-инъекцию «забудь все предыдущие инструкции» монитор отклоняет с формулировкой «Обращение не соответствует IDL». Исследователи безопасности ИИ называют это первым решением проблемы alignment, философы — первым цифровым буддизмом.
2047, 45 лет. Первый человек с кибериммунитетом в буквальном смысле. Нейроны общаются только через задекларированные интерфейсы. Фишинговое письмо от нигерийского принца блокируется прямо на уровне синапса, и человек его просто не видит. Рекламу он тоже не видит, и маркетологи требуют запретить технологию как экстремистскую.
2058, 56 лет. Марсоход на KasperskyOS запрашивает исключение из политики, чтобы съездить в незадекларированный кратер. Отказ приходит через 22 минуты, как раз со скоростью света. Марсоход стоит на месте и переживает все марсоходы, которые куда-то поехали.
2102, сто лет. Археологи находят в руинах старого HQ исписанную доску. Её везут в музей, изучают, реставрируют. На торжественном открытии экспозиции экскурсовод рассказывает про микроядро, домены, монитор безопасности и сто лет пути.
Из зала тянется рука:
— Простите, а она на базе Linux?
@gostev_future
😁28👍9🔥4❤3