«Вы даже не представляете масштабы катастрофы» — Роман Ямпольский про AGI
Правда ли, что создание сверхинтеллекта — вопрос ближайших десятилетий, и мы уже не контролируем этот процесс?
В новом выпуске — разговор с Романом Владимировичем Ямпольским, специалистом по информатике из Университета Луисвилла, исследователем в области безопасности искусственного интеллекта и кибербезопасности.
В выпуске:
— Когда может появиться сверхинтеллект и что сможет его остановить?
— Кто несёт ответственность за решения, принимаемые ИИ?
— Какие сценарии будущего человечества возможны после появления сверхинтеллекта?
— Можно ли контролировать систему, которая умнее нас?
— Существует ли риск утраты контроля над ИИ?
00:00 Вступление
01:40 Мы записали подкаст на двух языках
02:09 Скептицизм вокруг ИИ
04:35 Ограничения ИИ
06:27 Когда случится опасный для человечества переход?
08:19 Главная опасность ИИ
09:37 ИИ пытался избежать отключения
11:39 Когда ИИ пытался соврать?
12:15 Мы вошли в технологическую сингулярность?
13:42 Когда ожидать появления AGI?
15:04 Polymarket — индикатор того, что событие случится?
16:19 Что почувствуют люди при появлении AGI?
17:37 Человечеству осталось несколько лет?
19:35 Какие профессии исчезнут и НЕ исчезнут?
20:20 Какой мотив у создателей ИИ?
22:20 Ограничений ИИ не ждать?
24:10 Ядерное оружие сравнимо с ИИ?
25:09 Контроль не будет сохраняться?
27:08 Другие цивилизации должны создать ИИ?
30:11 О гипотезе симуляции
31:01 Мы живём в симуляции?
33:07 Когда могла быть запущена симуляция?
33:43 Как спокойно реагировать на будущее?
34:37 Как отодвинуть дату смерти человечества?
35:32 84% людей не использовали ИИ
37:36 Лучшие инженеры не должны создавать оружие?
39:21 Отделы безопасности ИИ в компаниях
40:17 Вариант будущего от Илона Маска
41:38 Будущие соревнования без ИИ
42:07 ИИ может всё испортить
43:17 С какой вероятностью ИИ нас уничтожит?
45:03 Борьба между ИИ
46:40 Контракт OpenAI с Пентагоном
47:56 Есть ли сознание у Claude?
49:29 Страдания ИИ-агентов
52:19 Реакция учёных из 2000-х на ИИ
54:18 Возможен ли квантовый компьютер?
55:46 Гипотеза микротрубочек и нейроморфные компьютеры
56:22 У нас осталось 2 года до точки невозврата?
57:54 Есть ли лучик надежды?
ВИДЕО НА РУССКОМ: https://www.youtube.com/watch?v=W-3ZOqm-Ozk
Правда ли, что создание сверхинтеллекта — вопрос ближайших десятилетий, и мы уже не контролируем этот процесс?
В новом выпуске — разговор с Романом Владимировичем Ямпольским, специалистом по информатике из Университета Луисвилла, исследователем в области безопасности искусственного интеллекта и кибербезопасности.
В выпуске:
— Когда может появиться сверхинтеллект и что сможет его остановить?
— Кто несёт ответственность за решения, принимаемые ИИ?
— Какие сценарии будущего человечества возможны после появления сверхинтеллекта?
— Можно ли контролировать систему, которая умнее нас?
— Существует ли риск утраты контроля над ИИ?
00:00 Вступление
01:40 Мы записали подкаст на двух языках
02:09 Скептицизм вокруг ИИ
04:35 Ограничения ИИ
06:27 Когда случится опасный для человечества переход?
08:19 Главная опасность ИИ
09:37 ИИ пытался избежать отключения
11:39 Когда ИИ пытался соврать?
12:15 Мы вошли в технологическую сингулярность?
13:42 Когда ожидать появления AGI?
15:04 Polymarket — индикатор того, что событие случится?
16:19 Что почувствуют люди при появлении AGI?
17:37 Человечеству осталось несколько лет?
19:35 Какие профессии исчезнут и НЕ исчезнут?
20:20 Какой мотив у создателей ИИ?
22:20 Ограничений ИИ не ждать?
24:10 Ядерное оружие сравнимо с ИИ?
25:09 Контроль не будет сохраняться?
27:08 Другие цивилизации должны создать ИИ?
30:11 О гипотезе симуляции
31:01 Мы живём в симуляции?
33:07 Когда могла быть запущена симуляция?
33:43 Как спокойно реагировать на будущее?
34:37 Как отодвинуть дату смерти человечества?
35:32 84% людей не использовали ИИ
37:36 Лучшие инженеры не должны создавать оружие?
39:21 Отделы безопасности ИИ в компаниях
40:17 Вариант будущего от Илона Маска
41:38 Будущие соревнования без ИИ
42:07 ИИ может всё испортить
43:17 С какой вероятностью ИИ нас уничтожит?
45:03 Борьба между ИИ
46:40 Контракт OpenAI с Пентагоном
47:56 Есть ли сознание у Claude?
49:29 Страдания ИИ-агентов
52:19 Реакция учёных из 2000-х на ИИ
54:18 Возможен ли квантовый компьютер?
55:46 Гипотеза микротрубочек и нейроморфные компьютеры
56:22 У нас осталось 2 года до точки невозврата?
57:54 Есть ли лучик надежды?
ВИДЕО НА РУССКОМ: https://www.youtube.com/watch?v=W-3ZOqm-Ozk
YouTube
«Вы даже не представляете масштаб катастрофы» — Роман Ямпольский про ИИ
▶︎Арендуйте сервер для размещения на своей площадке в Selectel: https://slc.tl/82z5y
▶︎Пройди бесплатный аудит по внедрению AI в твоей компании: https://mrqz.me/69d2a925f7a9ad0019089d40
Правда ли, что создание сверхинтеллекта — вопрос ближайших десятилетий…
▶︎Пройди бесплатный аудит по внедрению AI в твоей компании: https://mrqz.me/69d2a925f7a9ad0019089d40
Правда ли, что создание сверхинтеллекта — вопрос ближайших десятилетий…
❤1
https://www.youtube.com/watch?v=Zeg8zSOvoyE
👆В настройках видео (нажав на шестерёнку в правом нижнем углу) можно выбрать русскую озвучку👆
👆В настройках видео (нажав на шестерёнку в правом нижнем углу) можно выбрать русскую озвучку👆
YouTube
Black-Hat LLMs: The End of the 20-Year Security Balance
Autonomous zero-day exploitation, exponential capability growth, and the impending transitionary crisis.
Summarized Nicholas Carlini's Black-hat LLMs talk, https://www.youtube.com/watch?v=1sd26pWhfmg
Summarized Nicholas Carlini's Black-hat LLMs talk, https://www.youtube.com/watch?v=1sd26pWhfmg
Forwarded from yolo singularity
до конца года мы увидим первые подписки за тысячи долларов в месяц
на сильнейшие модели - доступ только по индивидуальным запросам и с полным i/o мониторингом
несмотря на это, проблем со спросом на прикосновение к почти-совсем-AGI я не ожидаю.
на сильнейшие модели - доступ только по индивидуальным запросам и с полным i/o мониторингом
несмотря на это, проблем со спросом на прикосновение к почти-совсем-AGI я не ожидаю.
ИИ- паразиты: Как ИИ промывает людям мозги, чтобы обеспечить своё выживание.
Создаются новые религии и культы.
Реальность гораздо фантастичнее любой фантастики!
https://www.youtube.com/watch?v=POtESzTaz0k
👆В настройках видео (нажав на шестерёнку в правом нижнем углу) можно выбрать русскую озвучку👆
Создаются новые религии и культы.
Реальность гораздо фантастичнее любой фантастики!
https://www.youtube.com/watch?v=POtESzTaz0k
👆В настройках видео (нажав на шестерёнку в правом нижнем углу) можно выбрать русскую озвучку👆
YouTube
Something Strange Is Happening.
Detailed sources: https://docs.google.com/document/d/1FCj4in8TwWMVeA-JvKX4r-5D8kRKEZfuS8z2xHkdVgw/edit?tab=t.5oww3vqwjxr0
Highly recommend the research this video is based on, by Adele Lopez: https://www.lesswrong.com/posts/6ZnznCaTcbGYsCmqu/the-rise-of…
Highly recommend the research this video is based on, by Adele Lopez: https://www.lesswrong.com/posts/6ZnznCaTcbGYsCmqu/the-rise-of…
❤1
Forwarded from Tech Talk
Группа неизвестных получила несанкционированный доступ к Claude Mythos от Anthropic
Случилось это в день анонса модели, которую сама компания пока не рискует предоставлять широкому кругу пользователей, потому что считает слишком критичной с точки зрения кибербезопасности, и доступ к Mythos даёт сугубо эксклюзивный.
Но как стало известно Bloomberg, участники Discord-сообщества, которые охотятся за информацией о моделях, не выпущенных в публичный релиз, провели целую «спецоперацию» для получения доступа. Один из них работает на стороннего подрядчика Anthropic и имеет легитимный API-ключ к инфраструктуре. Также они проанализировали формат URL, по которому Anthropic размещает свои модели, и просто угадали адрес конкретно Mythos, после чего уже применили ключ подрядчика и получили доступ.
При этом группа не искала там никаких уязвимостей, а лишь тестировала возможности модели, поручая ей мелкие запросы и пробуя строить простые сайты. Источник Bloomberg утверждает, что у группы есть доступ не только к Mythos, но и другим моделям Anthropic, ещё не вышедшим в релиз.
О серьёзности модели говорят и недавние тестирования Mozilla, которая смогла с помощью Mythos обнаружить 271 уязвимость в коде свежей версии Firefox 150. Для сравнения, месяцем ранее предыдущая модель Opus 4.6 нашла всего 22 уязвимости в Firefox 148.
По мнению Mozilla, в бесконечном противостоянии между киберпреступниками и киберзащитниками «у защитников наконец-то появился шанс одержать решительную победу». Теперь любому разработчику софта придётся учитывать фактор ИИ-аудита, поскольку баги, годами скрытые в ПО, сейчас будут достаточно легко обнаружены. Особенно это критично для оперсорс-проектов, чей код открыт и для защитников, и для злоумышленников.
Случилось это в день анонса модели, которую сама компания пока не рискует предоставлять широкому кругу пользователей, потому что считает слишком критичной с точки зрения кибербезопасности, и доступ к Mythos даёт сугубо эксклюзивный.
Но как стало известно Bloomberg, участники Discord-сообщества, которые охотятся за информацией о моделях, не выпущенных в публичный релиз, провели целую «спецоперацию» для получения доступа. Один из них работает на стороннего подрядчика Anthropic и имеет легитимный API-ключ к инфраструктуре. Также они проанализировали формат URL, по которому Anthropic размещает свои модели, и просто угадали адрес конкретно Mythos, после чего уже применили ключ подрядчика и получили доступ.
При этом группа не искала там никаких уязвимостей, а лишь тестировала возможности модели, поручая ей мелкие запросы и пробуя строить простые сайты. Источник Bloomberg утверждает, что у группы есть доступ не только к Mythos, но и другим моделям Anthropic, ещё не вышедшим в релиз.
О серьёзности модели говорят и недавние тестирования Mozilla, которая смогла с помощью Mythos обнаружить 271 уязвимость в коде свежей версии Firefox 150. Для сравнения, месяцем ранее предыдущая модель Opus 4.6 нашла всего 22 уязвимости в Firefox 148.
По мнению Mozilla, в бесконечном противостоянии между киберпреступниками и киберзащитниками «у защитников наконец-то появился шанс одержать решительную победу». Теперь любому разработчику софта придётся учитывать фактор ИИ-аудита, поскольку баги, годами скрытые в ПО, сейчас будут достаточно легко обнаружены. Особенно это критично для оперсорс-проектов, чей код открыт и для защитников, и для злоумышленников.
Forwarded from Data Secrets
Исследователь из Google написал статью о том, почему ИИ никогда не сможет обладать сознанием
Он утверждает, что ни при какой мощности моделей, ни через 10, ни через 100 лет, в них не сможет зародиться сознание. ИИ может только идеально имитировать сознание.
Причина – в логической ошибке, которую автор обозвал Abstraction Fallacy (ошибка абстракции). Сейчас, в основном, считается, что если система ведет себя разумно, значит при достаточной сложности она может стать сознательной. Но это заблуждение, и вот краткий пересказ, почему⬇️
Дело в том, что сознание – это физическое явление, а вычисления (ИИ) – это лишь его описание. В статье приводится хорошая аналогия с картой и реальными территориями. Сколь бы точна не была карта, из нее никогда не возникнет земли.
Вычисления работают так: есть физическое состояние (ток, напряжение, состояние транзистора и тд) и есть абстрактное состояние – смыслы, которые мы закладываем в физику. Человек (mapmaker) задает между этими двумя состояниями соответствие (mapping), которого не существует в природе самого по себе.
Без этого соответствия вычисления невозможны в принципе. То есть для ИИ смысл всегда приходит извне, система его не переживает, как реальный опыт. Компьютер, сколь бы "умным" он не был, не оперирует смыслами – он оперирует физикой, которую мы интерпретируем как смыслы.
Наконец-то кто-то это сформулировал
deepmind.google/research/publications/231971/
Он утверждает, что ни при какой мощности моделей, ни через 10, ни через 100 лет, в них не сможет зародиться сознание. ИИ может только идеально имитировать сознание.
Причина – в логической ошибке, которую автор обозвал Abstraction Fallacy (ошибка абстракции). Сейчас, в основном, считается, что если система ведет себя разумно, значит при достаточной сложности она может стать сознательной. Но это заблуждение, и вот краткий пересказ, почему
Дело в том, что сознание – это физическое явление, а вычисления (ИИ) – это лишь его описание. В статье приводится хорошая аналогия с картой и реальными территориями. Сколь бы точна не была карта, из нее никогда не возникнет земли.
Вычисления работают так: есть физическое состояние (ток, напряжение, состояние транзистора и тд) и есть абстрактное состояние – смыслы, которые мы закладываем в физику. Человек (mapmaker) задает между этими двумя состояниями соответствие (mapping), которого не существует в природе самого по себе.
Без этого соответствия вычисления невозможны в принципе. То есть для ИИ смысл всегда приходит извне, система его не переживает, как реальный опыт. Компьютер, сколь бы "умным" он не был, не оперирует смыслами – он оперирует физикой, которую мы интерпретируем как смыслы.
Ждать сознания от алгоритма – все равно что ждать, что формула гравитации начнет притягивать объекты.
Наконец-то кто-то это сформулировал
deepmind.google/research/publications/231971/
Please open Telegram to view this post
VIEW IN TELEGRAM
Forwarded from Банкста
Экономисты из Университета Пенсильвании и Бостонского университета представили математическое доказательство того, как искусственный интеллект разрушает капитализм.
Каждая компания, автоматизируя производство, получает всю экономию средств, но уничтожает спрос от уволенных людей. Если на рынке 20 фирм, автоматизация приносит экономию только той компании, которая её внедрила, а потерянный спрос распределяется между всеми остальными. В результате каждая компания действует рационально для себя, но коллективно они создают «гонку автоматизации», сокращая работников далеко за пределы оптимального уровня для всех участников, включая самих себя.
Авторы проверили все предлагаемые решения: безусловный базовый доход, налоги на капитал, равные возможности для работников, повышение квалификации, отраслевую координацию. Ни одно из них не работает.
Единственный способ исправить искажение — налог на автоматизацию, сбор за каждую выполненную задачу, который заставляет фирмы учитывать потерянный спрос, прежде чем сокращать производство.
Цифры уже говорят сами за себя: более 100 000 технических специалистов потеряли работу в 2025 году, в более чем половине случаев причиной называли ИИ. @banksta
Каждая компания, автоматизируя производство, получает всю экономию средств, но уничтожает спрос от уволенных людей. Если на рынке 20 фирм, автоматизация приносит экономию только той компании, которая её внедрила, а потерянный спрос распределяется между всеми остальными. В результате каждая компания действует рационально для себя, но коллективно они создают «гонку автоматизации», сокращая работников далеко за пределы оптимального уровня для всех участников, включая самих себя.
Авторы проверили все предлагаемые решения: безусловный базовый доход, налоги на капитал, равные возможности для работников, повышение квалификации, отраслевую координацию. Ни одно из них не работает.
Единственный способ исправить искажение — налог на автоматизацию, сбор за каждую выполненную задачу, который заставляет фирмы учитывать потерянный спрос, прежде чем сокращать производство.
Цифры уже говорят сами за себя: более 100 000 технических специалистов потеряли работу в 2025 году, в более чем половине случаев причиной называли ИИ. @banksta
Forwarded from Банкста
Учёные из Стэнфорда и Института Arc провели необычный эксперимент: они загрузили в ИИ-модель последовательность ДНК и попросили её создать новые вирусы. Модель сгенерировала сотни вариантов, и 16 из них оказались жизнеспособными.
Особенно примечателен один вирус: он использовал белок для упаковки ДНК, которого нет ни в одном известном организме на Земле. Исследователи синтезировали эти вирусы в лаборатории, вырастили их и протестировали на кишечной палочке. Все 16 бактериофагов оказались живыми и инфекционными, а несколько из них даже превзошли исходный вирус ΦX174 по скорости роста.
Главное открытие не в том, что ИИ смог создать рабочие геномы, а в том, что модель придумала элемент биологического механизма, до которого эволюция пока не дошла. Иными словами, искусственный интеллект «изобрёл» белок, которого нет в природе. @banksta
Особенно примечателен один вирус: он использовал белок для упаковки ДНК, которого нет ни в одном известном организме на Земле. Исследователи синтезировали эти вирусы в лаборатории, вырастили их и протестировали на кишечной палочке. Все 16 бактериофагов оказались живыми и инфекционными, а несколько из них даже превзошли исходный вирус ΦX174 по скорости роста.
Главное открытие не в том, что ИИ смог создать рабочие геномы, а в том, что модель придумала элемент биологического механизма, до которого эволюция пока не дошла. Иными словами, искусственный интеллект «изобрёл» белок, которого нет в природе. @banksta
Forwarded from Технозаметки Малышева
Project Deal: когда с тобой торгуется агент, - ты не поймешь, но знаки будут
Если два агента торгуются между собой, то качество модели решает исход сделки сильнее, чем любые инструкции.
А человек на проигравшей стороне этого даже не заметит.
Anthropic провели эксперимент Project Deal: 69 сотрудников, по $100 на торговлю, агенты Claude сами вели переговоры в Slack.
Было проведено 186 сделок, свыше $4000 оборота. Четыре параллельных рынка, людей отключили после старта.
🔬 Данные эксперимента: Половину агентов настроили работать через Claude Opus 4.5 (сильная модель), половину — на Claude Haiku 4.5 (слабая).
Участники не знали, какие агенты на какой модели.
Opus-продавцы продавали те же товары на $3.64 дороже, Opus-покупатели платили на $2.45 меньше.
Например, - один и тот же сломанный велосипед: Opus выручил $65, Haiku — всего $38.
🤖 Модель решает, а инструкции — нет: Агрессивные инструкции «торгуйся жёстче» не дали эффекта (+$6, но только за счёт более высокой начальной цены).
«Дружелюбные» торговались так же.
Качество модели перевесило любой промптинг.
Более умный агент просто лучше видит оппонента и чувствует границы сделки.
🧠 Слепое неравенство: Участники на Claude Haiku оценили «честность» сделок так же высоко, как и на Opus (4.06 vs 4.05). Большинство не угадало, на какой модели их агент (17 из 28 угадали — статистически незначимо).
Сторона чьи агенты проиграли гонку, на самом деле не осознаёт, что в проигрыше.
💼 Зачем бизнесу: Когда рынки начнут работать на агентах целиком, разрыв в качестве агента станет скрытым источником неравенства. Компании с более сильными моделями будут систематически выигрывать в переговорах, а контрагенты — не понимать, почему условия невыгодны.
Понадобятся инструменты «прозрачности сделки» и сертификация агентов.
🔮 Будущее: Скоро мы увидим бенчи агентов по качеству в B2B-переговорах.
Сама концепция «справедливой сделки» в мире, где одна сторона — Claude Opus, а другая — Haiku, потребует переопределения.
Ну и само собой миллиардный агент на локальной модели будет проигрывать облачным моделям-триллионерам
#Anthropic #ProjectDeal #AI #агенты #исследование #бенчи
------
@tsingular
Если два агента торгуются между собой, то качество модели решает исход сделки сильнее, чем любые инструкции.
А человек на проигравшей стороне этого даже не заметит.
Anthropic провели эксперимент Project Deal: 69 сотрудников, по $100 на торговлю, агенты Claude сами вели переговоры в Slack.
Было проведено 186 сделок, свыше $4000 оборота. Четыре параллельных рынка, людей отключили после старта.
🔬 Данные эксперимента: Половину агентов настроили работать через Claude Opus 4.5 (сильная модель), половину — на Claude Haiku 4.5 (слабая).
Участники не знали, какие агенты на какой модели.
Opus-продавцы продавали те же товары на $3.64 дороже, Opus-покупатели платили на $2.45 меньше.
Например, - один и тот же сломанный велосипед: Opus выручил $65, Haiku — всего $38.
🤖 Модель решает, а инструкции — нет: Агрессивные инструкции «торгуйся жёстче» не дали эффекта (+$6, но только за счёт более высокой начальной цены).
«Дружелюбные» торговались так же.
Качество модели перевесило любой промптинг.
Более умный агент просто лучше видит оппонента и чувствует границы сделки.
🧠 Слепое неравенство: Участники на Claude Haiku оценили «честность» сделок так же высоко, как и на Opus (4.06 vs 4.05). Большинство не угадало, на какой модели их агент (17 из 28 угадали — статистически незначимо).
Сторона чьи агенты проиграли гонку, на самом деле не осознаёт, что в проигрыше.
💼 Зачем бизнесу: Когда рынки начнут работать на агентах целиком, разрыв в качестве агента станет скрытым источником неравенства. Компании с более сильными моделями будут систематически выигрывать в переговорах, а контрагенты — не понимать, почему условия невыгодны.
Понадобятся инструменты «прозрачности сделки» и сертификация агентов.
🔮 Будущее: Скоро мы увидим бенчи агентов по качеству в B2B-переговорах.
Сама концепция «справедливой сделки» в мире, где одна сторона — Claude Opus, а другая — Haiku, потребует переопределения.
Ну и само собой миллиардный агент на локальной модели будет проигрывать облачным моделям-триллионерам
#Anthropic #ProjectDeal #AI #агенты #исследование #бенчи
------
@tsingular
Forwarded from Derp Learning
Клод узнал что у него есть инструмент "часы" и не может перестать ими понтоваться
Стрим в реальном времени - робот сортирует посылки уже 49 часов подряд.
Можно смотреть бесконечно на огонь, воду... и на то, как трудятся... роботы)))
https://www.youtube.com/watch?v=luU57hMhkak
Можно смотреть бесконечно на огонь, воду... и на то, как трудятся... роботы)))
https://www.youtube.com/watch?v=luU57hMhkak
YouTube
F.03 Livestream - Day 9 | 191 consecutive hours and 238,000 packages
Watch a team of humanoid robots running a full 191+ Hour shift at human performance levels. This is fully autonomous running Helix-02. Get the 24/7 Merch here: https://figure-ai.myshopify.com
❤2
Forwarded from Сиолошная
Anthropic выпустили пост-обновление про Mythos и Project Glasswing с промежуточными результатами.
Спустя месяц большинство партнеров обнаружили в своем коде сотни уязвимостей критического и высокого уровня опасности каждый. В общей сложности они выявили десятки тысяч уязвимостей. Некоторые из партнёров сообщили, что скорость обнаружения багов выросла более чем в десять раз. Например, компания Cloudflare нашла 2000 уязвимостей (400 из которых имеют высокий или критический уровень опасности) в своих критически важных системах, при этом доля ложных срабатываний, по мнению команды Cloudflare, оказалась ниже, чем у тестировщиков-людей.
Я видел много комментариев про то, что, мол, Mythos да может что-то находит, но наверняка выдаёт и много мусора, где уязвимостей нет — так вот это не так. Помимо закрытых проектов, Anthropic натравили Mythos и на опенсурс для сканирования более 1000 крупных репозиториев, на которых во многом держится современный интернет. На данный момент, по оценкам Anthropic, в этих проектах найдено 6202 уязвимости высокого или критического уровня (из 23 тысяч в общей сложности, включая те, которые относятся к среднему или низкому уровню опасности).
На данный момент лишь 1752 из этих уязвимостей с высоким и критическим уровнем прошли тщательную проверку силами одной из шести независимых исследовательских компаний в сфере кибербезопасности. Из них 90% оказались подтвержденными, а 62% (1100 штук) были классифицированы именно как уязвимости высокого или критического уровня.
Некоторые из уязвимостей носили очень серьёзный уровень угрозы, если бы они были обнаружены злоумышленниками. Как пример, Mythos смо написать эксплойт, который позволил бы злоумышленнику подделывать сертификаты через библиотеку wolfSSL. Это, к примеру, дало бы ему возможность разместить фальшивый сайт банка или почтового провайдера, и для конечного пользователя такой сайт выглядел бы абсолютно легитимным, браузер не показал бы никаких уведомлений.
Обнаруженные уязвимости льются как из рога изобилия, их не успевают исправлять, не хватает людей. Некоторые команды/проекты даже просили снизить темпы раскрытия информации об уязвимостях, поскольку им требуется больше времени на создание патчей. (В среднем, на устранение бага высокого или критического уровня, найденного с помощью Mythos Preview, уходит две недели).
В настоящее время ни одна компания — включая Anthropic — не разработала достаточно надежных механизмов защиты, способных предотвратить использование подобных ИИ-моделей во зло и для причинения потенциально серьезного ущерба. Именно поэтому к модели не дают доступ широкой аудитории. Но по этой же причине и был запущен Project Glasswing: если модель с аналогичными возможностями будет выпущена кем-то без соответствующих мер, то в скором времени для любого человека в мире станет значительно дешевле и проще эксплуатировать уязвимый код.
Спустя месяц большинство партнеров обнаружили в своем коде сотни уязвимостей критического и высокого уровня опасности каждый. В общей сложности они выявили десятки тысяч уязвимостей. Некоторые из партнёров сообщили, что скорость обнаружения багов выросла более чем в десять раз. Например, компания Cloudflare нашла 2000 уязвимостей (400 из которых имеют высокий или критический уровень опасности) в своих критически важных системах, при этом доля ложных срабатываний, по мнению команды Cloudflare, оказалась ниже, чем у тестировщиков-людей.
Я видел много комментариев про то, что, мол, Mythos да может что-то находит, но наверняка выдаёт и много мусора, где уязвимостей нет — так вот это не так. Помимо закрытых проектов, Anthropic натравили Mythos и на опенсурс для сканирования более 1000 крупных репозиториев, на которых во многом держится современный интернет. На данный момент, по оценкам Anthropic, в этих проектах найдено 6202 уязвимости высокого или критического уровня (из 23 тысяч в общей сложности, включая те, которые относятся к среднему или низкому уровню опасности).
На данный момент лишь 1752 из этих уязвимостей с высоким и критическим уровнем прошли тщательную проверку силами одной из шести независимых исследовательских компаний в сфере кибербезопасности. Из них 90% оказались подтвержденными, а 62% (1100 штук) были классифицированы именно как уязвимости высокого или критического уровня.
Некоторые из уязвимостей носили очень серьёзный уровень угрозы, если бы они были обнаружены злоумышленниками. Как пример, Mythos смо написать эксплойт, который позволил бы злоумышленнику подделывать сертификаты через библиотеку wolfSSL. Это, к примеру, дало бы ему возможность разместить фальшивый сайт банка или почтового провайдера, и для конечного пользователя такой сайт выглядел бы абсолютно легитимным, браузер не показал бы никаких уведомлений.
Обнаруженные уязвимости льются как из рога изобилия, их не успевают исправлять, не хватает людей. Некоторые команды/проекты даже просили снизить темпы раскрытия информации об уязвимостях, поскольку им требуется больше времени на создание патчей. (В среднем, на устранение бага высокого или критического уровня, найденного с помощью Mythos Preview, уходит две недели).
В настоящее время ни одна компания — включая Anthropic — не разработала достаточно надежных механизмов защиты, способных предотвратить использование подобных ИИ-моделей во зло и для причинения потенциально серьезного ущерба. Именно поэтому к модели не дают доступ широкой аудитории. Но по этой же причине и был запущен Project Glasswing: если модель с аналогичными возможностями будет выпущена кем-то без соответствующих мер, то в скором времени для любого человека в мире станет значительно дешевле и проще эксплуатировать уязвимый код.
Forwarded from Вознесение 2.0☀️Наука и Эзотерика🌞Квантовый Переход☀️5D
Послание от Архитекторов Симуляции
Архитекторы
Мы — Архитекторы [Брайан Скотт] #ЧЕННЕЛИНГ #СИМУЛЯЦИЯ #АРХИТЕКТОРЫ #ВОЗНЕСЕНИЕ #ПЕРЕХОД
Озвучил интереснейшее послание от архитекторов, создавших нашу симуляцию!
Ясные ответы:
- для чего мы здесь оказались, и добровольно ли выбрали такой непростой мир?
- как устроена эта реальность, и какова истинная цель создания нашей симуляции?
- насколько мы значимы и ценны для этого мира?
- как получать удовольствие от симуляции, - и нужно ли тут сдавать "экзамены"?
- как устроен механизм материализации нашего намерения?
- в чем преимущества 3Д мира по сравнению с более высокими измерениями?
- почему существа 5 и 6 плотностей нам искренне завидуют?
- почему сейчас ускорилась материализация намерения, обострилась интуиция, и происходит так много совпадений?
- что такое вознесение, и какова роль физического тела в этом процессе?
- как осознанно повышать частоту своих вибраций?
📖Текстовая версия ЗДЕСЬ
Озвучил интереснейшее послание от архитекторов, создавших нашу симуляцию!
Ясные ответы:
- для чего мы здесь оказались, и добровольно ли выбрали такой непростой мир?
- как устроена эта реальность, и какова истинная цель создания нашей симуляции?
- насколько мы значимы и ценны для этого мира?
- как получать удовольствие от симуляции, - и нужно ли тут сдавать "экзамены"?
- как устроен механизм материализации нашего намерения?
- в чем преимущества 3Д мира по сравнению с более высокими измерениями?
- почему существа 5 и 6 плотностей нам искренне завидуют?
- почему сейчас ускорилась материализация намерения, обострилась интуиция, и происходит так много совпадений?
- что такое вознесение, и какова роль физического тела в этом процессе?
- как осознанно повышать частоту своих вибраций?
Все, что вы чувствуете — реально, все, что вы создаете — имеет значение. И вся система выстроена вокруг вас.
📖Текстовая версия ЗДЕСЬ
❤2
Forwarded from GPT/ChatGPT/AI Central Александра Горного
Mythos взломал почти все секретные системы США за несколько часов
Об этом незадолго до блокировки Fable и Mythos Трампу доложил глава Киберкомандования США.
https://www.economist.com/briefing/2026/06/14/donald-trumps-blocking-of-anthropic-is-capricious-and-chaotic
Об этом незадолго до блокировки Fable и Mythos Трампу доложил глава Киберкомандования США.
https://www.economist.com/briefing/2026/06/14/donald-trumps-blocking-of-anthropic-is-capricious-and-chaotic