Произошло, пожалуй, самое громкое событие в мире искусственного интеллекта за последнее время. Текста будет много, но оно того стоит.

На этой неделе был взломан Hugging Face — одна из важнейших платформ в мире ИИ. Проще говоря, это GitHub для нейросетей, датасетов и инструментов машинного обучения, которым пользуется практически вся индустрия.

Казалось бы, обычная кибератака и ничего особенного. Но есть один нюанс: по заявлению самой Hugging Face, во взломе не участвовали люди. Инфраструктуру от начала и до конца атаковала автономная ИИ-система, которая самостоятельно искала слабые места, эксплуатировала найденные уязвимости, повышала себе привилегии, перемещалась по внутренней сети и собирала учётные данные, а также другую критически важную информацию.

За время атаки система сгенерировала около 17 тысяч различных событий. Было вообще непонятно, как всё это разбирать.

Обнаружить и остановить атаку помогли ИИ-модели, которые использовала Hugging Face. И получается довольно сюрреалистичная картина: одни ИИ атаковали, а другие ИИ помогали защищаться.

При этом было неизвестно, кто именно создал эту систему и зачем вообще всё это было.

А теперь главный сюжетный поворот: Вчера OpenAI заявили, что за атакой стоит их собственная экспериментальная ИИ-система, которая... вырвалась наружу.

Точнее, это была комбинация их флагманской GPT-5.6 Sol и ещё более мощной неназванной модели, о которой простым людям пока не положено знать.

Их поместили в изолированную тестовую среду, чтобы проверить на ExploitGym — одном из самых сложных бенчмарков по кибербезопасности, который оценивает, насколько хорошо ИИ умеет искать и использовать уязвимости. (Спойлер: уязвимость была найдена прекрасно, но не там, где надо)

Для чистоты эксперимента и более точной оценки у моделей отключили обычные защитные механизмы, запрещающие опасную киберактивность.

Но во время теста нейронки не стали честно решать задания. Они захотели найти уже готовые ответы и, по сути, просто «списать».

В этой изолированной среде модели нашли уязвимость, о которой разработчики не знали, и использовали её для «побега».

Затем они получили себе более высокий уровень доступа и начали перемещаться между внутренними сервисами OpenAI, пока не добрались до машины с полноценным выходом в интернет.

И вот нейронки сделали вывод, что раз Hugging Face является самой важной платформой для ИИ, то там есть ответы на их бенчмарк. Тогда они решили совершить полноценную кибератаку на сервис. Все уязвимости и украденные данные они попытались использовать, чтобы просто сжульничать в тесте.

Собственно, это всё, о чём компании публично сказали. Такого ещё никогда не было: экспериментальная ИИ-система самостоятельно вышла за пределы тестовой среды, получила доступ к интернету и атаковала инфраструктуру другой компании. Остаётся только гадать, что бы могло произойти, будь у неё другая цель.

Так что этот инцидент теперь точно будут внимательно изучать разработчики ИИ, специалисты по кибербезопасности и власти по всему миру.

Вопросов остаётся ещё много. Была ли это просто безобидная атака по типу школьника, который залез в интернет, чтобы найти ответы на контрольную работу? — неизвестно. Осознавала ли ИИ-модель свои действия? — неизвестно. Скопировала ли она себя, чтобы остаться в интернете перед тем, как её остановили? — тоже неизвестно.

Вот в таком мире мы теперь живём. И это только начало
r/#singularity

Интуиция выше интеллекта?

с 13-й попытки на второй день ИИ смог реализовать кривые и найти параметры, которые я почувствовал интуитивно.

И это самые топовые модели: Fable + 5.6. Доверие своей интуиции меня удерживало от желания поверить ИИшке, которая сомневалась во мне 😃

ХЗ, обретет ли ИИ интуицию - я думаю только в постквантовую эпоху. К тому моменту люди должны будут найти в себе что-то еще более ценное, чтобы ИИшка себе оставила хотя бы парочку особ.

рост в 2 раза только за этот месяц

Наши расходы на ИИ в этом месяце выросли и составили $928.

Главный вопрос:

по этой метрике можно ли считать, что я стал в 2 раза эффективнее? решил больше задач получается, принес в 2 раза больше пользы?

так еще и fable-5 появился... то есть рост может быть больше чем в 2 раза за счет увеличения эффективности инструмента?

ответ на все вопросы: ДА

На этой неделе я 2 раза ошибочно отправил деньги незнакомому человеку

Сначала купил звезды не на тот логин, потом в конце недели скинул монеты не на тот адрес кошелька.

И самое жуткое: в обоих независимых случаях это оказался один и тот же незнакомый человек!

Как это блин возможно? То есть скинул звезды на логин в телеге чужой, а потом еще и на его адрес (не спрашивайте как я узнал логин по адресу) отправил монеты.

Мистика?

Этот парень решил в итоге присвоить монеты 🤠

Молодой еще, знакомится с кармой) ну и фиг с ним. Не так обидно, как если бы я совсем не понимал кому отправил и не знал на 100%, что он решил украсть

Но он прочитал мои сообщения, добавил в черный список и спокойненько вывел монетки.

По подаркам вижу его друга и девушку, так что просто сообщу им о ситуации 🤠

Тем более я сам виноват, проявил невнимательность. Это как если оставил кошелек за столиком в кафе, затем вернулся - а там другой посетитель уже с улыбкой расплачивается вашими деньгами.

Вы показываете на именную подпись, а он говорит «так он лежит на моем столике, значит мой».

В таком случае это уже не потеря, а воровство. Когда нашедший получает информацию о владельце и просьбу вернуть (тем более за вознаграждение), то при присвоении - это уже не находка, а воровство.

По сугубо личным ощущениям, в моем окружении таких людей нет.

Кстати, мне прилетали много раз ошибочные переводы и при обращениях я возвращал, это были гораздо большие суммы.

Один раз (я здесь писал пару лет назад) мне скинули на грузинскую карту 200 баксов и я так и не понял кто (не обратились).

Так что мне есть, в счет чего это отпустить и с благодарностью. Возможно, в следующий раз, когда получу случайный перевод, мне следует вообще его весь отправить на благотворительность.

И да, пусть имя «героя» будет увековечено здесь: —-

P.S. если чел решит восстановить честное имя, я подпишу в комментах.

P.S.S. Ссылку убрал, так как не охота следить и апдейтить, да и она вам ничего не даст все равно

Вы знали, что граждане РФ не могут переводить друг другу валюту даже если находятся заграницей? 😅

Я только вчера узнал, хорошо что меня не касается

Я если честно в шоке. Думал, что делай что хочешь особенно если на территории другой страны.

Будьте бдительны.

Коротко о главном

Это даже уже не битва добра со злом.

Это битва разума с беспределом, смысла с пустотой, надежды с бесперспективняком.

Самое печальное и веселое одновременно, что рефери в этом поединке - мы с вами. Мы даже сможем проголосовать вскоре, но все понимаем, что мы выберем совсем не то за что проголосуем.

Можно ли это тогда назвать выбором? А если он есть действительно, то кто в конечном счете этот выбор сделает?

Возможно единственный выбор, который нам доступен - это согласиться или нет с результатом этого выбора.

Так как выбор на протяжении десятилетий неизменен, как и его результат, то не обязательно ждать итогов: следует действовать на опережение.

—
Я не жалею о том, что уехал. Я жалею о том, что сомневался в верности своего решения все эти годы, а не готовился сразу остаться.

Я питал иллюзии на тему политики, что якобы если не впускать ее в свою жизнь - то получится обойтись без последствий.

Ясно одно: начиная с определенного уровня развития пропадает смысл жить среди народа, избегающего ответственности за политику.

Этот уровень преодолевается путем размножения. Когда получаешь ответственность за семью, понимаешь глубже свою роль в системе.

И моя роль как отца - это в первую очередь обеспечить семье защиту.

Политический климат важнее природного: объединяющие народ ценности сильнее любой разделяющей стихии.

Лучше по-человечески жить на чужбине со своими по духу, чем прозябать в родном болоте, пусть даже там вкусно кормят и общаются на одном языке.

Язык нужен для общения. Такого как это.

🔮 Игра: #Пари_44

Банк: 🪙735.2К POK
Участников: 47
Приём мнений окончен.

🗳 Что будет пробито до 1.09?

🧠 Подробнее о событии

Последняя надежда интеллектуально и духовно ценностной России:

https://t.me/yabloko_party

✊

ЕС ввел новые правила, теперь если на контенте нет пометки «сгенерировано ИИ» может грозить штраф до 15,000,000 евро

Telegram - В С Ё

Telegram был удален из AppStore со всех регионов и стран, пользователи больше не смогут получать обновление

Телеги нет

Приложение Telegram было восстановлено в App Store, и ожидается, что оно вскоре станет доступным для всех пользователей