Сегодня в России проходят выборы, и в этой связи для цикла «Гостев из прошлого» у меня тоже есть одна выборная история. Только избирательная кампания у нас будет 120-летней давности.
В 1905–1906 годах Россия готовилась выбирать свою первую Государственную думу. Выборы тогда были устроены довольно затейливо: никакого всеобщего, равного и прямого голосования. Избирателей делили на курии, действовали имущественные цензы, а вес голоса сильно зависел от того, кто ты и чем владеешь.
И вот в списках избирателей по Воронежскому уезду я нахожу Никиту Степановича Гостева. Это родной брат моего прапрадеда. В документе 1905 года указано: 198 десятин земли. Это примерно 216 гектаров. Рядом — Веневитиновы, Звягинцевы, Перелешины и другие старые воронежские помещичьи и дворянские фамилии.
Отец Никиты, Степан Васильевич, родился в 1822 году крепостным крестьянином. После получения вольной перебрался на новое место. Уже с середины XIX века там существовал конный завод Гостевых, а со временем семья приобрела около двухсот десятин земли и ещё примерно столько же арендовала.
Никита был старшим сыном, и поэтому значительная часть земли формально числилась за ним. Хозяйство при этом было семейным. Его младший брат, мой прапрадед Пётр Степанович, в списках землевладельцев не появляется.
Зато у Петра была другая история. В 1900 году его избрали волостным старшиной Ивановской волости. Избирал волостной сход, на 3 года и Петр пробыл там три срока подряд - до 1909-го.
То есть, буквально за одно поколение: отец — бывший крепостной, один сын — волостной старшина, другой — крупный по местным меркам землевладелец, допущенный к первым парламентским выборам Российской империи.
Но есть в этих списках ещё одна запись, от которой история может быть еще интересней.
В соседнем Бобровском уезде указан Степан Васильевич Гостев. Имя и отчество совпадают с тем самым Степаном Васильевичем 1822 года рождения. Хозяйство Гостевых находилось практически на самой административной границе двух уездов, земли семьи лежали по обе стороны. Никаких других Гостевых этого времени в Бобровском уезде мне пока обнаружить не удалось.
Если это действительно он, то в 1906 году ему было около 84 лет.
Родился крепостным при Александре I, пережил Николая I, отмену крепостного права, Александра II, Александра III, революцию 1905 года.
История социального лифта Российской Империи, сохранившаяся в нескольких скучных списках избирателей.
@gostev_future
В 1905–1906 годах Россия готовилась выбирать свою первую Государственную думу. Выборы тогда были устроены довольно затейливо: никакого всеобщего, равного и прямого голосования. Избирателей делили на курии, действовали имущественные цензы, а вес голоса сильно зависел от того, кто ты и чем владеешь.
И вот в списках избирателей по Воронежскому уезду я нахожу Никиту Степановича Гостева. Это родной брат моего прапрадеда. В документе 1905 года указано: 198 десятин земли. Это примерно 216 гектаров. Рядом — Веневитиновы, Звягинцевы, Перелешины и другие старые воронежские помещичьи и дворянские фамилии.
Отец Никиты, Степан Васильевич, родился в 1822 году крепостным крестьянином. После получения вольной перебрался на новое место. Уже с середины XIX века там существовал конный завод Гостевых, а со временем семья приобрела около двухсот десятин земли и ещё примерно столько же арендовала.
Никита был старшим сыном, и поэтому значительная часть земли формально числилась за ним. Хозяйство при этом было семейным. Его младший брат, мой прапрадед Пётр Степанович, в списках землевладельцев не появляется.
Зато у Петра была другая история. В 1900 году его избрали волостным старшиной Ивановской волости. Избирал волостной сход, на 3 года и Петр пробыл там три срока подряд - до 1909-го.
То есть, буквально за одно поколение: отец — бывший крепостной, один сын — волостной старшина, другой — крупный по местным меркам землевладелец, допущенный к первым парламентским выборам Российской империи.
Но есть в этих списках ещё одна запись, от которой история может быть еще интересней.
В соседнем Бобровском уезде указан Степан Васильевич Гостев. Имя и отчество совпадают с тем самым Степаном Васильевичем 1822 года рождения. Хозяйство Гостевых находилось практически на самой административной границе двух уездов, земли семьи лежали по обе стороны. Никаких других Гостевых этого времени в Бобровском уезде мне пока обнаружить не удалось.
Если это действительно он, то в 1906 году ему было около 84 лет.
Родился крепостным при Александре I, пережил Николая I, отмену крепостного права, Александра II, Александра III, революцию 1905 года.
История социального лифта Российской Империи, сохранившаяся в нескольких скучных списках избирателей.
@gostev_future
🔥14
У президента с высочайшим IQ есть любимое занятие — что-нибудь переименовать.
Мексиканский залив уже стал Gulf of America, Денали — снова Mount McKinley, Министерство обороны обзавелось вывеской Department of War. Озеро Онтарио теперь Lake America. Теперь Дональд Трамп добрался до искусственного интеллекта.
Artificial Intelligence ему кажется «неточным и неэлегантным». На выбор предложены Superior Intelligence, Extreme Intelligence и Supreme Intelligence.
Проголосовало уже больше 145 тысяч человек. Пока побеждает Superior Intelligence — примерно 40%.
Странно только, что нет самого очевидного варианта: American Intelligence.
@gostev_future
Мексиканский залив уже стал Gulf of America, Денали — снова Mount McKinley, Министерство обороны обзавелось вывеской Department of War. Озеро Онтарио теперь Lake America. Теперь Дональд Трамп добрался до искусственного интеллекта.
Artificial Intelligence ему кажется «неточным и неэлегантным». На выбор предложены Superior Intelligence, Extreme Intelligence и Supreme Intelligence.
Проголосовало уже больше 145 тысяч человек. Пока побеждает Superior Intelligence — примерно 40%.
Странно только, что нет самого очевидного варианта: American Intelligence.
@gostev_future
🤣20🤡7❤1
Я уже писал о недавнем аресте австралийца Рубена Томсона из TeamPCP, который, при всех своих хакерских талантах, оказался исключительно плох в опсеке.
Но, как выясняется, проблемы TeamPCP опсеком не ограничивались. У них ещё и контрразведка была примерно на том же уровне.
Google рассказал, что практически с самого начала большой кампании TeamPCP внутри группы сидел аналитик Mandiant под легендой. Его персонаж несколько месяцев втирался в доверие к одному из будущих участников TeamPCP, а когда того позвали в команду, вместе с ним туда фактически заехал и Google.
В итоге сотрудник Mandiant оказался в закрытом чате внутреннего круга примерно из дюжины человек и получил доступ даже к серверу, где хранились украденные пароли, ключи и токены. Пока TeamPCP обсуждала, кого следующим ломать и шантажировать, Google читал это из первого ряда, предупреждал жертв и просил Amazon, Microsoft и других провайдеров отзывать украденные учётные данные.
Потом стало ещё веселее. Партнёры TeamPCP из ShinyHunters решили кинуть коллег по цеху и сами прислали Google полную историю внутренних чатов — не подозревая, что Google эту историю и так уже читает.
Крота после этого из группы всё-таки выгнали.
И вот тут TeamPCP наконец продемонстрировала настоящий уровень контрразведки. По данным Google, Томсон сделал резервную копию украденных данных… на Google Drive. Привязанный к тому самому Gmail, который помогал вести к его настоящей личности.
То есть Google сначала сидел у них в чате, потом мешал им использовать украденные ключи, а в финале хакеры сами принесли добычу на серверы Google.
@gostev_future
Но, как выясняется, проблемы TeamPCP опсеком не ограничивались. У них ещё и контрразведка была примерно на том же уровне.
Google рассказал, что практически с самого начала большой кампании TeamPCP внутри группы сидел аналитик Mandiant под легендой. Его персонаж несколько месяцев втирался в доверие к одному из будущих участников TeamPCP, а когда того позвали в команду, вместе с ним туда фактически заехал и Google.
В итоге сотрудник Mandiant оказался в закрытом чате внутреннего круга примерно из дюжины человек и получил доступ даже к серверу, где хранились украденные пароли, ключи и токены. Пока TeamPCP обсуждала, кого следующим ломать и шантажировать, Google читал это из первого ряда, предупреждал жертв и просил Amazon, Microsoft и других провайдеров отзывать украденные учётные данные.
Потом стало ещё веселее. Партнёры TeamPCP из ShinyHunters решили кинуть коллег по цеху и сами прислали Google полную историю внутренних чатов — не подозревая, что Google эту историю и так уже читает.
Крота после этого из группы всё-таки выгнали.
И вот тут TeamPCP наконец продемонстрировала настоящий уровень контрразведки. По данным Google, Томсон сделал резервную копию украденных данных… на Google Drive. Привязанный к тому самому Gmail, который помогал вести к его настоящей личности.
То есть Google сначала сидел у них в чате, потом мешал им использовать украденные ключи, а в финале хакеры сами принесли добычу на серверы Google.
@gostev_future
🔥13👏4🙈3👍1
Помните исследование о том, как ИИ играет в Civilization? А вот мой однофамилец Питер Гостев из компании Arena решил проверить топовые модели на играх попроще: RollerCoaster Tycoon 2 и Worms Armageddon.
Смысл в том, что тут модель должна часами удерживать в голове состояние мира, ставить цели, понимать экономику, планировать инфраструктуру, замечать собственные ошибки и восстанавливаться после них. В Worms добавляются пространственное мышление, приблизительная физика, выбор оружия, оценка риска и необходимость строить план на несколько ходов вперёд, причём среда постоянно меняется.
Сначала GPT-6 Astra и Fable 5.1 отправили руководить парком развлечений. ТЗ простое: тысяча посетителей и побольше денег.
Astra подошла к делу с размахом. Строила большие американские горки, следила за выручкой, меняла цены, возвращала кредиты и потратила около $50 тысяч на рекламу.
Правда, параллельно она умудрилась построить очередь к карусели так, что та перекрыла выход с американских горок. А закусочную с картошкой в месте без нормального доступа. Продажи — ноль. Через некоторое время ИИ всё-таки заметил, что люди почему-то не покупают картошку и перенёс магазин. В итоге, за три часа и 50 млн токенов Astra справилась с задачей.
Fable выбрала совершенно другую бизнес-модель. Сначала построила хорошую горку, а потом решила, что успех надо масштабировать. В парке появились четыре одинаковых Twist, четыре горки-слайда и три колеса обозрения.
Посетители почему-то не оценили.
Через час в парке было всего 77 человек из требуемой тысячи. Fable долго воевала с дорожками и доступом механиков, аттракционы ломались, входы оказывались перекрыты, но ИИ продолжал занимать деньги и расширяться. 250 млн токенов сгорели, но цель не достигнута.
Дальше Иишкам выдали базуки и отправили в Worms Armageddon друг против друга.
Первую серию Fable выиграла 3:0. При этом Гостев отдельно отметил, что плохо играли обе модели, но Astra была особенно склонна к «суицидальным» решениям. Сам он назвал увиденное прекрасной смесью осмысленности и полного идиотизма.
Тогда он выкрутил настройки на максимум. Серия стала плотнее: 3:2, снова в пользу Fable. Но обе по-прежнему играли довольно плохо и совершали массу очевидных ошибок.
На фоне разговоров о том, что ИИ однажды может уничтожить человечество, эксперимент говорит, что человечеству, кажется, рано паниковать: ИИ ещё не всегда справляется даже с задачей уничтожить чужих червячков.
@gostev_future
Смысл в том, что тут модель должна часами удерживать в голове состояние мира, ставить цели, понимать экономику, планировать инфраструктуру, замечать собственные ошибки и восстанавливаться после них. В Worms добавляются пространственное мышление, приблизительная физика, выбор оружия, оценка риска и необходимость строить план на несколько ходов вперёд, причём среда постоянно меняется.
Сначала GPT-6 Astra и Fable 5.1 отправили руководить парком развлечений. ТЗ простое: тысяча посетителей и побольше денег.
Astra подошла к делу с размахом. Строила большие американские горки, следила за выручкой, меняла цены, возвращала кредиты и потратила около $50 тысяч на рекламу.
Правда, параллельно она умудрилась построить очередь к карусели так, что та перекрыла выход с американских горок. А закусочную с картошкой в месте без нормального доступа. Продажи — ноль. Через некоторое время ИИ всё-таки заметил, что люди почему-то не покупают картошку и перенёс магазин. В итоге, за три часа и 50 млн токенов Astra справилась с задачей.
Fable выбрала совершенно другую бизнес-модель. Сначала построила хорошую горку, а потом решила, что успех надо масштабировать. В парке появились четыре одинаковых Twist, четыре горки-слайда и три колеса обозрения.
Посетители почему-то не оценили.
Через час в парке было всего 77 человек из требуемой тысячи. Fable долго воевала с дорожками и доступом механиков, аттракционы ломались, входы оказывались перекрыты, но ИИ продолжал занимать деньги и расширяться. 250 млн токенов сгорели, но цель не достигнута.
Дальше Иишкам выдали базуки и отправили в Worms Armageddon друг против друга.
Первую серию Fable выиграла 3:0. При этом Гостев отдельно отметил, что плохо играли обе модели, но Astra была особенно склонна к «суицидальным» решениям. Сам он назвал увиденное прекрасной смесью осмысленности и полного идиотизма.
Тогда он выкрутил настройки на максимум. Серия стала плотнее: 3:2, снова в пользу Fable. Но обе по-прежнему играли довольно плохо и совершали массу очевидных ошибок.
На фоне разговоров о том, что ИИ однажды может уничтожить человечество, эксперимент говорит, что человечеству, кажется, рано паниковать: ИИ ещё не всегда справляется даже с задачей уничтожить чужих червячков.
@gostev_future
🔥8👏4👍3⚡2
На прошлой неделе обнаружилась биолаборатория Anthropic, на этой неделе у лаборатории уже обнаружилось открытие.
Claude нашел в природе неизвестный молекулярный механизм. Ученые подтвердили, что одна из его частей действительно работает.
Правда, что именно открыто, зачем оно природе и зачем оно человечеству, пока предстоит открыть.
@gostev_future
Claude нашел в природе неизвестный молекулярный механизм. Ученые подтвердили, что одна из его частей действительно работает.
Правда, что именно открыто, зачем оно природе и зачем оно человечеству, пока предстоит открыть.
@gostev_future
Anthropic
Claude discovers a novel enzyme system with CRISPR-like repeats
In early results from our new life sciences research lab, Claude agents found an enzyme system whose function is still unknown.
😁6👍4
Вчера Гайка Митич и Бойка Двачич снимали сюжет «Очумелые ручки» «Школьники и роботы».
Гуманоидные роботы, колесные роботы, подводные роботы.
Самое интересное, конечно, мы увидим лет через 8, когда они уже поступят в МФТИ или Бауманку, выпустятся из них и начнут делать стартапы.
Шансы есть.
@gostev_future
Гуманоидные роботы, колесные роботы, подводные роботы.
Самое интересное, конечно, мы увидим лет через 8, когда они уже поступят в МФТИ или Бауманку, выпустятся из них и начнут делать стартапы.
Шансы есть.
@gostev_future
🔥10👍4❤1
Сегодня «Коммерсантъ» со ссылкой на экспертно-аналитический центр InfoWatch сообщил несколько впечатляющих цифр про использование ИИ в кибератаках.
Я полез проверять и обнаружил удивительный жанр аналитики.
InfoWatch утверждает, что объем трафика «вредоносных ИИ-ботов и агентов-разведчиков» вырос на 187%.
Число настоящее. Только взято оно из отчета HUMAN Security, где говорится совсем о другом: на 187% вырос весь AI-driven traffic. Основную его часть составляют вполне легальные краулеры OpenAI, Meta, Anthropic и других компаний. Вредоносным этот трафик HUMAN не называл.
InfoWatch сообщает, что трафик автономных ИИ-агентов, «сканирующих сетевые периметры в поисках уязвимостей», вырос почти в 80 раз.
×80 тоже настоящее. В том же отчете HUMAN — +7851%. Только речь там об агентных браузерах и ИИ-агентах, которые ходят по сайтам, ищут товары, сравнивают цены, заполняют формы и совершают покупки. Превращение покупателя с ChatGPT Agent в разведчика, сканирующего периметр, произошло уже где-то по дороге в InfoWatch.
86% фишинговых атак якобы создаются или оптимизируются ИИ. И эта цифра нашлась. Она принадлежит KnowBe4 и относится к атакам, которые наблюдала сама KnowBe4 за шесть месяцев. В оригинале аккуратно: в 86% наблюдавшихся атак присутствовала та или иная помощь ИИ. В пересказе это превращается почти во весь мировой фишинг.
Ну и отдельного внимания заслуживает «каждый шестой взлом ИТ-инфраструктуры в мире совершается с помощью ИИ», попавший в заголовок.
И тут чужой источник тоже нашелся. Это IBM Cost of a Data Breach Report 2025, подготовленный вместе с Ponemon Institute. Исследователи взяли не статистику всех взломов в мире, а конкретную выборку: 600 организаций, которые уже пережили утечку данных, причем инциденты произошли с марта 2024-го по февраль 2025 года.
И вот внутри этой выборки IBM обнаружила, что в 16% изученных утечек атакующие использовали AI-инструменты, чаще всего для фишинга или дипфейк-имперсонации.
То есть, исходное утверждение выглядит так: «в 16% из 600 исследованных случаев утечки данных использовался ИИ». После прохождения через аналитическую машину InfoWatch оно превращается в: «каждый шестой успешный взлом сетей в мире совершается с прямым применением ИИ».
Самое смешное - в июле 2026 года IBM выпустила уже следующий отчет — на выборке из 602 пострадавших организаций — и там показатель вырос примерно до каждого четвертого malicious breach.
Сам же InfoWatch 20 августа пересказал этот новый отчет, написав, что более четверти пострадавших организаций сообщили об атаках с ИИ. А 24 сентября InfoWatch почему-то выдает журналисту старые 16% как собственную текущую оценку, забыв что месяц назад на собственном сайте уже публиковал данные IBM примерно о 25%.
Берем цифру из HUMAN. Меняем ей смысл. Берем другую из IBM. Распространяем выборку на весь мир. Причем используем уже прошлогодний показатель, хотя свежий отчет давно опубликован. Добавляем KnowBe4. Источники в материале не называем. А сверху ставим: «по оценкам экспертно-аналитического центра InfoWatch».
Занятная технология производства аналитики.
@gostev_future
Я полез проверять и обнаружил удивительный жанр аналитики.
InfoWatch утверждает, что объем трафика «вредоносных ИИ-ботов и агентов-разведчиков» вырос на 187%.
Число настоящее. Только взято оно из отчета HUMAN Security, где говорится совсем о другом: на 187% вырос весь AI-driven traffic. Основную его часть составляют вполне легальные краулеры OpenAI, Meta, Anthropic и других компаний. Вредоносным этот трафик HUMAN не называл.
InfoWatch сообщает, что трафик автономных ИИ-агентов, «сканирующих сетевые периметры в поисках уязвимостей», вырос почти в 80 раз.
×80 тоже настоящее. В том же отчете HUMAN — +7851%. Только речь там об агентных браузерах и ИИ-агентах, которые ходят по сайтам, ищут товары, сравнивают цены, заполняют формы и совершают покупки. Превращение покупателя с ChatGPT Agent в разведчика, сканирующего периметр, произошло уже где-то по дороге в InfoWatch.
86% фишинговых атак якобы создаются или оптимизируются ИИ. И эта цифра нашлась. Она принадлежит KnowBe4 и относится к атакам, которые наблюдала сама KnowBe4 за шесть месяцев. В оригинале аккуратно: в 86% наблюдавшихся атак присутствовала та или иная помощь ИИ. В пересказе это превращается почти во весь мировой фишинг.
Ну и отдельного внимания заслуживает «каждый шестой взлом ИТ-инфраструктуры в мире совершается с помощью ИИ», попавший в заголовок.
И тут чужой источник тоже нашелся. Это IBM Cost of a Data Breach Report 2025, подготовленный вместе с Ponemon Institute. Исследователи взяли не статистику всех взломов в мире, а конкретную выборку: 600 организаций, которые уже пережили утечку данных, причем инциденты произошли с марта 2024-го по февраль 2025 года.
И вот внутри этой выборки IBM обнаружила, что в 16% изученных утечек атакующие использовали AI-инструменты, чаще всего для фишинга или дипфейк-имперсонации.
То есть, исходное утверждение выглядит так: «в 16% из 600 исследованных случаев утечки данных использовался ИИ». После прохождения через аналитическую машину InfoWatch оно превращается в: «каждый шестой успешный взлом сетей в мире совершается с прямым применением ИИ».
Самое смешное - в июле 2026 года IBM выпустила уже следующий отчет — на выборке из 602 пострадавших организаций — и там показатель вырос примерно до каждого четвертого malicious breach.
Сам же InfoWatch 20 августа пересказал этот новый отчет, написав, что более четверти пострадавших организаций сообщили об атаках с ИИ. А 24 сентября InfoWatch почему-то выдает журналисту старые 16% как собственную текущую оценку, забыв что месяц назад на собственном сайте уже публиковал данные IBM примерно о 25%.
Берем цифру из HUMAN. Меняем ей смысл. Берем другую из IBM. Распространяем выборку на весь мир. Причем используем уже прошлогодний показатель, хотя свежий отчет давно опубликован. Добавляем KnowBe4. Источники в материале не называем. А сверху ставим: «по оценкам экспертно-аналитического центра InfoWatch».
Занятная технология производства аналитики.
@gostev_future
😁14👍4👀2❤1🤓1
Если посмотреть на маркетплейсы, можно решить, что мы наконец дожили до момента, когда можно купить домашнего робота. Вот, например, Unitree G1 Basic. Два миллиона рублей — и у вас дома настоящий гуманоид.
Однако при ближайшем рассмотрении выясняется, что будущее опять немного перенесли.
G1 так-то впечатляет. Рост 132 см, вес 35 кг, 23 подвижных сустава. Он умеет ходить, бегать, приседать, вставать, держать равновесие, танцевать, махать рукой и изображать кунг-фу. В голове — камера глубины, лидар, микрофоны и динамик.
Но управляется всё это с пульта.
ИИ там тоже есть, но не тот, о котором вы подумали. Нейросети помогают роботу управлять собственным телом: рассчитывать движения, переставлять ноги и не падать. Но спросить его: «Где мои очки?», отправить искать их по квартире, попросить принести бутылку воды или встретить курьера нельзя.
Более того, у Basic нет нормальных кистей, а производитель официально не предусматривает для этой версии вторичную разработку. То есть просто купить его, прикрутить Claude или ChatGPT, дать доступ к камере и превратить в домашнего C-3PO тоже не получится.
Кстати, внизу на скрине еще робособаки Unitree A1 за полтора миллиона. Тут совсем издевательство: модель представили ещё в январе 2020 года. Шесть с половиной лет назад. Она прекрасно бегает и держит равновесие, но чудес бытовой роботизации от неё тоже ждать не стоит.
В общем, за пару миллионов нам продают чрезвычайно сложную, великолепно стабилизированную и эффектную игрушку с пультом управления - принцип примерно тот же, что у радиоуправляемых роботов, с которыми мы играли в 80-е и 90-е. Просто тогда робот ездил по ковру, мигал лампочками и стоил как игрушка. Теперь он научился кунг-фу и стоит как автомобиль.
@gostev_future
Однако при ближайшем рассмотрении выясняется, что будущее опять немного перенесли.
G1 так-то впечатляет. Рост 132 см, вес 35 кг, 23 подвижных сустава. Он умеет ходить, бегать, приседать, вставать, держать равновесие, танцевать, махать рукой и изображать кунг-фу. В голове — камера глубины, лидар, микрофоны и динамик.
Но управляется всё это с пульта.
ИИ там тоже есть, но не тот, о котором вы подумали. Нейросети помогают роботу управлять собственным телом: рассчитывать движения, переставлять ноги и не падать. Но спросить его: «Где мои очки?», отправить искать их по квартире, попросить принести бутылку воды или встретить курьера нельзя.
Более того, у Basic нет нормальных кистей, а производитель официально не предусматривает для этой версии вторичную разработку. То есть просто купить его, прикрутить Claude или ChatGPT, дать доступ к камере и превратить в домашнего C-3PO тоже не получится.
Кстати, внизу на скрине еще робособаки Unitree A1 за полтора миллиона. Тут совсем издевательство: модель представили ещё в январе 2020 года. Шесть с половиной лет назад. Она прекрасно бегает и держит равновесие, но чудес бытовой роботизации от неё тоже ждать не стоит.
В общем, за пару миллионов нам продают чрезвычайно сложную, великолепно стабилизированную и эффектную игрушку с пультом управления - принцип примерно тот же, что у радиоуправляемых роботов, с которыми мы играли в 80-е и 90-е. Просто тогда робот ездил по ковру, мигал лампочками и стоил как игрушка. Теперь он научился кунг-фу и стоит как автомобиль.
@gostev_future
👍8🤣4👀3🤷3
Кажется, термин «безопасность ИИ» окончательно потерял какой-либо определённый смысл.
Сначала бывший исследователь Anthropic Джейкоб Коксон заявил, что люди, создающие ИИ, всерьёз допускают сценарий, в котором он может уничтожить человечество уже к концу десятилетия.
Потом Билл Гейтс немного снизил планку: не всё человечество, а, например, миллиард погибших. Правда, у него сценарий другой — опасные люди получают в руки слишком мощный инструмент.
В это же время Anthropic пытается ограничить Claude: например, не разрешает использовать его для полностью автономного выбора и поражения людей.
Пентагон требует другого подхода: если военные законно приказали системе выполнить задачу, она должна её выполнить.
Их аргумент простой — нельзя строить критическую военную инфраструктуру вокруг ИИ, который в середине операции вдруг откажется работать из-за правил, установленных частной компанией. Именно поэтому Пентагон объявил Anthropic риском для цепочки поставок и угрозой нацбезопасности, а апелляционный суд в сентябре признал, что такая логика юридически допустима.
И почти одновременно Россия и США в Женеве добиваются удаления из проекта ООН по автономному оружию требований, чтобы такие системы были «предсказуемыми» и «надёжными», чтобы человек проверял выбранную алгоритмом цель перед атакой и чтобы при применении учитывались этические соображения.
Получается полная каша.
Одни считают главной опасностью ИИ, который перестанет слушаться человека. Другие — ИИ, который слишком хорошо послушается плохого человека. Anthropic пытается научить ИИ иногда человеку отказывать. Пентагон считает саму возможность такого отказа риском. А крупнейшие военные державы одновременно не хотят закреплять обязательный человеческий контроль перед ударом.
Похоже, они пока не договорились даже о базовом: что считать безопасным ИИ — тот, который всегда подчиняется человеку, или тот, который умеет ему отказать?
@gostev_future
Сначала бывший исследователь Anthropic Джейкоб Коксон заявил, что люди, создающие ИИ, всерьёз допускают сценарий, в котором он может уничтожить человечество уже к концу десятилетия.
Потом Билл Гейтс немного снизил планку: не всё человечество, а, например, миллиард погибших. Правда, у него сценарий другой — опасные люди получают в руки слишком мощный инструмент.
В это же время Anthropic пытается ограничить Claude: например, не разрешает использовать его для полностью автономного выбора и поражения людей.
Пентагон требует другого подхода: если военные законно приказали системе выполнить задачу, она должна её выполнить.
Их аргумент простой — нельзя строить критическую военную инфраструктуру вокруг ИИ, который в середине операции вдруг откажется работать из-за правил, установленных частной компанией. Именно поэтому Пентагон объявил Anthropic риском для цепочки поставок и угрозой нацбезопасности, а апелляционный суд в сентябре признал, что такая логика юридически допустима.
И почти одновременно Россия и США в Женеве добиваются удаления из проекта ООН по автономному оружию требований, чтобы такие системы были «предсказуемыми» и «надёжными», чтобы человек проверял выбранную алгоритмом цель перед атакой и чтобы при применении учитывались этические соображения.
Получается полная каша.
Одни считают главной опасностью ИИ, который перестанет слушаться человека. Другие — ИИ, который слишком хорошо послушается плохого человека. Anthropic пытается научить ИИ иногда человеку отказывать. Пентагон считает саму возможность такого отказа риском. А крупнейшие военные державы одновременно не хотят закреплять обязательный человеческий контроль перед ударом.
Похоже, они пока не договорились даже о базовом: что считать безопасным ИИ — тот, который всегда подчиняется человеку, или тот, который умеет ему отказать?
@gostev_future
❤5👍2👏2🤬1
Наверное, вы уже слышали про новую ИИшку – Jev. Сами авторы (компания TypeSafe) называют это новым классом ИИ — System One Models. Название двойное: «System One» — отсылка к быстрому интуитивному мышлению по Канеману, «Jev» — к парадоксу Джевонса (чем дешевле ресурс, тем больше его потребляют).
Jev не генерирует текст. На вход подаётся «состояние» (письмо, тикет, строка логов) и вопросы с заранее заданными вариантами ответа. На выходе — выбор, оценка по шкале или «да/нет» с откалиброванной вероятностью. Ответить вне схемы модель не может. Ошибиться может, выдумать несуществующую категорию — нет.
Зачем это нужно? Большая часть «ИИ-автоматизации» — рутинные решения: фишинг или спам, какой команде отдать тикет, срочный ли алерт. Под них сейчас гоняют большие reasoning-модели. Реальный пример от коллег: классификация письма из ханипота на локальной GLM 5.3 Flash на двух DGX Spark занимает в среднем около 70 секунд. Хотя всё что нужно на выходе — одна метка из десяти.
По данным создателей Jev, фронтирным моделям на такой ответ нужно от 3 до 329 секунд, Jev — 70–500 миллисекунд. Цена — $0.042 за миллион входных токенов, выход бесплатно. Вендор обещает скорость в 20–200 раз выше и цену в 40–400 раз ниже, чем у LLM, при точности около 68% на собственном бенчмарке. Это вполне себе уровень моделей среднего класса.
Но есть мнение, и я с ним соглашусь, что у TypeSafe как компании, на мой взгляд, нет будущего.
Идея хорошая, но повторить её слишком легко. Через три дня после Jev вышла Laya —open source на 421 млн параметров. По её замерам — 32,8 мс на ответ против 236–276 мс у Jev. В демо на MacBook Air с 16 ГБ она принимала решения в 11 раз быстрее облачного Jev, а сборка под CoreML на M5 Pro укладывается в 3,7 мс. Следом пошли её дообученные версии, в том числе под SOC-алерты, и обёртки для маленьких моделей Qwen, которые делают то же самое.
А дальше произойдёт то, что всегда происходит с удачной фичей: крупные лаборатории встроят такой режим в свои API. Structured output у них уже есть, осталось добавить калиброванные вероятности. Платить отдельному стартапу за то, что лежит бесплатно в open source и скоро будет в модели, которой вы и так пользуетесь, будет незачем.
System One — не новый класс ИИ, а новый режим работы, которому суждено стать стандартом. Технология переживёт компанию, которая её придумала.
@gostev_future
Jev не генерирует текст. На вход подаётся «состояние» (письмо, тикет, строка логов) и вопросы с заранее заданными вариантами ответа. На выходе — выбор, оценка по шкале или «да/нет» с откалиброванной вероятностью. Ответить вне схемы модель не может. Ошибиться может, выдумать несуществующую категорию — нет.
Зачем это нужно? Большая часть «ИИ-автоматизации» — рутинные решения: фишинг или спам, какой команде отдать тикет, срочный ли алерт. Под них сейчас гоняют большие reasoning-модели. Реальный пример от коллег: классификация письма из ханипота на локальной GLM 5.3 Flash на двух DGX Spark занимает в среднем около 70 секунд. Хотя всё что нужно на выходе — одна метка из десяти.
По данным создателей Jev, фронтирным моделям на такой ответ нужно от 3 до 329 секунд, Jev — 70–500 миллисекунд. Цена — $0.042 за миллион входных токенов, выход бесплатно. Вендор обещает скорость в 20–200 раз выше и цену в 40–400 раз ниже, чем у LLM, при точности около 68% на собственном бенчмарке. Это вполне себе уровень моделей среднего класса.
Но есть мнение, и я с ним соглашусь, что у TypeSafe как компании, на мой взгляд, нет будущего.
Идея хорошая, но повторить её слишком легко. Через три дня после Jev вышла Laya —open source на 421 млн параметров. По её замерам — 32,8 мс на ответ против 236–276 мс у Jev. В демо на MacBook Air с 16 ГБ она принимала решения в 11 раз быстрее облачного Jev, а сборка под CoreML на M5 Pro укладывается в 3,7 мс. Следом пошли её дообученные версии, в том числе под SOC-алерты, и обёртки для маленьких моделей Qwen, которые делают то же самое.
А дальше произойдёт то, что всегда происходит с удачной фичей: крупные лаборатории встроят такой режим в свои API. Structured output у них уже есть, осталось добавить калиброванные вероятности. Платить отдельному стартапу за то, что лежит бесплатно в open source и скоро будет в модели, которой вы и так пользуетесь, будет незачем.
System One — не новый класс ИИ, а новый режим работы, которому суждено стать стандартом. Технология переживёт компанию, которая её придумала.
@gostev_future
👍6🔥2👏1