Forwarded from Малоизвестное интересное
Человек - не говорящее животное. Человек - синтаксирующее животное
У человеческой исключительности был главный подозреваемый - язык. Новые данные выводят на сцену сообщника, который, похоже, и был организатором преступления с самого начала.
Свежая работа когнитивистов Ревенку, Пажо и Станисласа Деана (того самого, чья лаборатория годами картирует, как мозг обрабатывает числа и пространство) задаёт неожиданный вопрос: а что если язык - не источник нашей уникальности, а просто самый заметный её симптом?
Эксперимент устроен почти как фокус. Участникам показывают одну и ту же простую геометрическую фигуру - но «рисуют» её на экране двумя разными способами: как соединение двух частей или как повтор одного и того же мотива. Финальная картинка идентична в обоих случаях. А вот восприятие - нет: люди начинают видеть в одной и той же форме разные фигуры, в зависимости от того, какую «историю» её построения им показали.
• Мозг хранит квадрат не как четыре линии, а как рецепт: «повтори четыре раза - отрезок, поворот на 90°».
• Чем глубже в этой внутренней структуре «разрез» при сборке фигуры заново - тем труднее задача (в точности как в синтаксисе, например, английской фразы “I saw a man with binoculars” или русской фразы “Студенты встретили преподавателя с цветами”).
• Слепые от рождения люди распознают те же геометрические закономерности на ощупь - значит, дело не в глазах, а в более глубоком вычислительном слое.
И вот здесь начинается самое интересное для разговора об ИИ. Современные модели рисуют так, что захватывает дух - а потом проваливаются там, где справится ребёнок: не могут посчитать пересечения линий или уловить одну маленькую деталь на лице персонажа, которая меняет смысл всей сцены. Не потому, что они «хуже» или «лучше» людей. Просто они строят из той же картинки совершенно другой внутренний объект: для модели линия - точка в пространстве признаков, для человека - программа.
И теперь, когда машины заговорили не хуже нас и начали рисовать не хуже нас, вопрос сместился. С вопроса «может ли машина делать то же, что человек?», на вопрос «делает ли она это тем же способом, что и мы?».
Ответ пока отрицательный. Но самое любопытное - почему.
Полный текст - о синтаксисе формы и человеческой сингулярности, о слепом художнике, которому зрение заменили осязание и слух, и о том, что значит быть «иным разумом», а не плохой копией человека, - в новом эссе «Человек - не говорящее животное. Человек - синтаксирующее животное» на спонсорских платформах канала «Малоизвестное интересное» [1, 2, 3, 4].
#ГенИИ #LLMvsHomo #Экзопсихология #ИнойИнтеллект
У человеческой исключительности был главный подозреваемый - язык. Новые данные выводят на сцену сообщника, который, похоже, и был организатором преступления с самого начала.
Свежая работа когнитивистов Ревенку, Пажо и Станисласа Деана (того самого, чья лаборатория годами картирует, как мозг обрабатывает числа и пространство) задаёт неожиданный вопрос: а что если язык - не источник нашей уникальности, а просто самый заметный её симптом?
Эксперимент устроен почти как фокус. Участникам показывают одну и ту же простую геометрическую фигуру - но «рисуют» её на экране двумя разными способами: как соединение двух частей или как повтор одного и того же мотива. Финальная картинка идентична в обоих случаях. А вот восприятие - нет: люди начинают видеть в одной и той же форме разные фигуры, в зависимости от того, какую «историю» её построения им показали.
• Мозг хранит квадрат не как четыре линии, а как рецепт: «повтори четыре раза - отрезок, поворот на 90°».
• Чем глубже в этой внутренней структуре «разрез» при сборке фигуры заново - тем труднее задача (в точности как в синтаксисе, например, английской фразы “I saw a man with binoculars” или русской фразы “Студенты встретили преподавателя с цветами”).
• Слепые от рождения люди распознают те же геометрические закономерности на ощупь - значит, дело не в глазах, а в более глубоком вычислительном слое.
Вывод осторожный, но потенциально взрывной: человек не столько видит мир, сколько грамматически его разбирает - строит из линий, лиц, сцен синтаксические деревья, ровно так же, как из слов - предложения.
И вот здесь начинается самое интересное для разговора об ИИ. Современные модели рисуют так, что захватывает дух - а потом проваливаются там, где справится ребёнок: не могут посчитать пересечения линий или уловить одну маленькую деталь на лице персонажа, которая меняет смысл всей сцены. Не потому, что они «хуже» или «лучше» людей. Просто они строят из той же картинки совершенно другой внутренний объект: для модели линия - точка в пространстве признаков, для человека - программа.
Получается красивый разворот: мы веками гордились языком как нашим главным отличием. Но язык, похоже, - поздняя надстройка над гораздо более древним даром: превращать мир в деревья смыслов.
И теперь, когда машины заговорили не хуже нас и начали рисовать не хуже нас, вопрос сместился. С вопроса «может ли машина делать то же, что человек?», на вопрос «делает ли она это тем же способом, что и мы?».
Ответ пока отрицательный. Но самое любопытное - почему.
Полный текст - о синтаксисе формы и человеческой сингулярности, о слепом художнике, которому зрение заменили осязание и слух, и о том, что значит быть «иным разумом», а не плохой копией человека, - в новом эссе «Человек - не говорящее животное. Человек - синтаксирующее животное» на спонсорских платформах канала «Малоизвестное интересное» [1, 2, 3, 4].
#ГенИИ #LLMvsHomo #Экзопсихология #ИнойИнтеллект
Forwarded from Малоизвестное интересное
Две ставки на мировое господство: США строят самые мощные ИИ-электростанции. Китай тянет провода ко всем фабрикам мира
За один год произошел обвал, которого почти никто не заметил.
• В июне 2025 на американские модели приходилось 72% токенов крупнейшего ИИ-агрегатора OpenRouter, на китайские – 16%.
• В июне 2026 – 32% против 47%
Т.е. отношение китайского inference к американскому изменилось примерно в 6,6 раза — с 0,22 до 1,47. Китай был примерно в четыре с половиной раза меньше США по токенам, а стал почти в полтора раза больше. И это всего за год.
При этом фронтир как был американским, так и остается: каждая модель на верхнем пределе способностей с 2023 года создана в США.
Выглядит парадоксом. Китай захватывает потребление – и это никак не приближает его к вершине. Зачем тогда захватывает?
Разгадку неожиданно выдала компания Palantir в своем новейшем (от 1 июля) манифесте – хотя меньше всего собиралась помогать Китаю.
Из ее оптики следует неприятное:
Истории пара и электричества уже голосовали в этом споре. Но у интеллекта, возможно, есть свойство, которого не было ни у пара, ни у электричества – и оно способно обнулить весь исторический опыт за несколько месяцев.
Чья ставка сыграет и почему разгадка все это время была незамеченной на страницах все тех же отчетов, которые цитируют все, – в моем новом эссе.
P.S. Это эссе, хоть еще и не закрывает тему ИИ-гонки США и Китая (еще рано), но расставляет в этой теме точки над I. А поскольку я написал про это, начиная с 2018, более полусотни постов и эссе, было бы неправильно оставлять этот текст промежуточного итога за пейволом.
Посему, желающие могут прочесть эссе в Telegram Instant View или Medium.
Ну а патронам канала, как всегда, будут доступны все допматериалы (презы, аудио и видео).
#ИИгонка #США #Китай
За один год произошел обвал, которого почти никто не заметил.
• В июне 2025 на американские модели приходилось 72% токенов крупнейшего ИИ-агрегатора OpenRouter, на китайские – 16%.
• В июне 2026 – 32% против 47%
Т.е. отношение китайского inference к американскому изменилось примерно в 6,6 раза — с 0,22 до 1,47. Китай был примерно в четыре с половиной раза меньше США по токенам, а стал почти в полтора раза больше. И это всего за год.
Это значит, что мир, что бы за этим ни стояло, разворачивается к китайскому ИИ.
При этом фронтир как был американским, так и остается: каждая модель на верхнем пределе способностей с 2023 года создана в США.
Выглядит парадоксом. Китай захватывает потребление – и это никак не приближает его к вершине. Зачем тогда захватывает?
Разгадку неожиданно выдала компания Palantir в своем новейшем (от 1 июля) манифесте – хотя меньше всего собиралась помогать Китаю.
Из ее оптики следует неприятное:
перед нами не одна гонка, а одно пари с двумя противоположными ставками о самой природе интеллекта. Америка ставит на то, что у интеллекта есть вершина и взявший ее первым заберет весь банк. Китай – на то, что интеллект подобен электричеству: вершины нет, есть сеть.
Истории пара и электричества уже голосовали в этом споре. Но у интеллекта, возможно, есть свойство, которого не было ни у пара, ни у электричества – и оно способно обнулить весь исторический опыт за несколько месяцев.
Чья ставка сыграет и почему разгадка все это время была незамеченной на страницах все тех же отчетов, которые цитируют все, – в моем новом эссе.
P.S. Это эссе, хоть еще и не закрывает тему ИИ-гонки США и Китая (еще рано), но расставляет в этой теме точки над I. А поскольку я написал про это, начиная с 2018, более полусотни постов и эссе, было бы неправильно оставлять этот текст промежуточного итога за пейволом.
Посему, желающие могут прочесть эссе в Telegram Instant View или Medium.
Ну а патронам канала, как всегда, будут доступны все допматериалы (презы, аудио и видео).
#ИИгонка #США #Китай
Forwarded from Малоизвестное интересное
Апрель 2026-го. Камера над трассой считала ваш номер и сообщила: пристегнитесь, пройдите техосмотр, оплатите штраф.
Удобно! Кажется, что государство просто автоматизировало заботу о безопасности. Так ведь?
А теперь второй вариант – то же табло, но: заплати алименты, пройди вакцинацию, зайди в военкомат, подпишись на Max.
От этого списка уже иное впечатление, поскольку грань между удобным сервисом и тотальным контролем здесь стирается.
Я задал читателям простой вопрос: как далеко между этими двумя вариантами табло?
1. Месяцы?
2. Годы?
3. Или второго варианта табло никогда не будет?
В Телеграме большинство (45%) проголосовало за №1 (месяцы).
В соцсети, которую мы от греха здесь называть не будем (ведь и так всем понятно)), больше всех оказалось за №3 (никогда)
Мой же прогноз не совпал ни с первым, ни вторым: в наших условиях второй вариант неизбежен на рубеже 2–4 года.
И дело тут вовсе не в планах и / или кознях власти конкретной страны.
Вот, например, Китай начинает большой проект модернизации своей масштабной системы внутреннего наблюдения, меняя старые камеры на новые – с ИИ на борту. Речь не просто о замене на более умные камер. Это перевод всей системы от сбора и хранения видеозаписей к их семантическому пониманию: камеры начинают понимать происходящее, оператор может искать события обычным языком, система автоматически выделяет «аномальное поведение» и даже возникает предиктивная модель наблюдения.
То есть происходит качественный переход: от пассивного видеонаблюдения к ИИ, а от ИИ – к системе «тотальный цифровой надзиратель».
Специалисты уже описывают новую систему, как способную предсказывать беспорядки до того, как они начались. От «кто это сделал» – к «кто это сделает».
И этот пример показывает, что табло, о котором мы говорим, – не метафора из будущего. Будущее уже наступило, только пока не у всех.
Эволюционный антрополог Ара Норензаян показал: когда человеческое общество преодолевало порог, при котором личное доверие переставало работать в больших социумах, социокультурная эволюция изобрела универсальное решение – всевидящего надзирателя с неотвратимым наказанием: Больших Богов. Не ради метафизики – ради масштабирования кооперации. И это работало 10 000 лет.
Сегодня – новый колоссальный скачок сложности. А социокультурная эволюция, как и биологическая, – бриколер: делает новое из старых подручных средств. И потому, столкнувшись с очередным скачком сложности, эволюция тянется к старому решению.
Большой Брат становится новым Большим Богом. Та же функция. Новый субстрат.
✔️ Технологический фундамент для второго варианта табло уже есть. А эволюционное давление в его сторону все сильнее. Так что вопрос только в том, как быстро и в каком виде это внедрят в разных странах.
Подробней и в деталях:
· почему именно контроль, а не децентрализация?
· почему термодинамическая аналогия не оставляет системе иного выбора?
· и как мы сами, добровольно, уже открыли эту дверь – в обмен на навигатор для вождения в несознанке?
– читайте об этом в заключительном эссе цикла «Большой Брат – сын Большого Бога», озаглавленном «Почему тотальный контроль неизбежен».
Расширенный перечень материалов цикла см. здесь.
Поскольку все эти материалы публиковались в открытом доступе, заключительная часть цикла также открыта для всех на Medium и Дзен.
#БольшойБрат #БольшиеБоги
Удобно! Кажется, что государство просто автоматизировало заботу о безопасности. Так ведь?
А теперь второй вариант – то же табло, но: заплати алименты, пройди вакцинацию, зайди в военкомат, подпишись на Max.
От этого списка уже иное впечатление, поскольку грань между удобным сервисом и тотальным контролем здесь стирается.
Я задал читателям простой вопрос: как далеко между этими двумя вариантами табло?
1. Месяцы?
2. Годы?
3. Или второго варианта табло никогда не будет?
В Телеграме большинство (45%) проголосовало за №1 (месяцы).
В соцсети, которую мы от греха здесь называть не будем (ведь и так всем понятно)), больше всех оказалось за №3 (никогда)
Мой же прогноз не совпал ни с первым, ни вторым: в наших условиях второй вариант неизбежен на рубеже 2–4 года.
И дело тут вовсе не в планах и / или кознях власти конкретной страны.
Вот, например, Китай начинает большой проект модернизации своей масштабной системы внутреннего наблюдения, меняя старые камеры на новые – с ИИ на борту. Речь не просто о замене на более умные камер. Это перевод всей системы от сбора и хранения видеозаписей к их семантическому пониманию: камеры начинают понимать происходящее, оператор может искать события обычным языком, система автоматически выделяет «аномальное поведение» и даже возникает предиктивная модель наблюдения.
То есть происходит качественный переход: от пассивного видеонаблюдения к ИИ, а от ИИ – к системе «тотальный цифровой надзиратель».
Специалисты уже описывают новую систему, как способную предсказывать беспорядки до того, как они начались. От «кто это сделал» – к «кто это сделает».
И этот пример показывает, что табло, о котором мы говорим, – не метафора из будущего. Будущее уже наступило, только пока не у всех.
Эволюционный антрополог Ара Норензаян показал: когда человеческое общество преодолевало порог, при котором личное доверие переставало работать в больших социумах, социокультурная эволюция изобрела универсальное решение – всевидящего надзирателя с неотвратимым наказанием: Больших Богов. Не ради метафизики – ради масштабирования кооперации. И это работало 10 000 лет.
Сегодня – новый колоссальный скачок сложности. А социокультурная эволюция, как и биологическая, – бриколер: делает новое из старых подручных средств. И потому, столкнувшись с очередным скачком сложности, эволюция тянется к старому решению.
Большой Брат становится новым Большим Богом. Та же функция. Новый субстрат.
✔️ Технологический фундамент для второго варианта табло уже есть. А эволюционное давление в его сторону все сильнее. Так что вопрос только в том, как быстро и в каком виде это внедрят в разных странах.
Подробней и в деталях:
· почему именно контроль, а не децентрализация?
· почему термодинамическая аналогия не оставляет системе иного выбора?
· и как мы сами, добровольно, уже открыли эту дверь – в обмен на навигатор для вождения в несознанке?
– читайте об этом в заключительном эссе цикла «Большой Брат – сын Большого Бога», озаглавленном «Почему тотальный контроль неизбежен».
P.S. Когда в июне 2019-го я начинал цикл статей о «Большом Брате – сыне Большого Бога», мне казалось, что до возможной материализации этой антиутопии еще, как минимум, пара десятков лет. И потому я не спешил с публикацией новых статей цикла, полагая, что спешить некуда.
Но один за другим прилетели два «Серых лебедя»: COVID-19 и «революция ChatGPT». И за 7 лет между 1-й и последней частями цикла, формулировки названий частей изменились из предположительной «Почему его воцарение в мире может быть неизбежным» в утвердительную – «Почему тотальный контроль неизбежен».
И получился, что называется, worst case.
Расширенный перечень материалов цикла см. здесь.
Поскольку все эти материалы публиковались в открытом доступе, заключительная часть цикла также открыта для всех на Medium и Дзен.
#БольшойБрат #БольшиеБоги
Forwarded from Малоизвестное интересное
Не выбирайте между профессией и ИИ
Недавно внучка попросила помочь ей выбрать магистерскую программу после бакалавриата.
Родители убеждают: сейчас нужно максимально погружаться в ИИ – там будущее, возможности, конкурентное преимущество. Сама она это понимает, но душа лежит к другим профессиональным занятиям.
Мне кажется, сама постановка вопроса – либо интересная тебе профессия, либо ИИ – уже устарела.
Современный агентный ИИ, а тем более тот, который будет доступен через два-три года, – новый интеллектуальный супер-гаджет человека, а не еще один инструмент для выполнения интеллектуальных задач. Примерно как письменность, компьютер или интернет, только гораздо более персональный: он не столько дает доступ к знаниям, сколько помогает превращать профессиональную интуицию в работающие решения.
Вот четыре истории только этого года.
Электрик из Кентукки, не имевший образования в computer science, с помощью ИИ создал сервис расчета электрической нагрузки. Теперь он продается за $12,99 и во многих случаях заменяет вызов специалиста стоимостью в несколько сотен долларов.
Владелец сантехнической компании за один вечер с OpenClaw продвинулся дальше, чем консультанты обещали продвинуться за несколько недель, и отказался от контракта на $40 тысяч.
Фермер с Хоккайдо с помощью ChatGPT и Codex самостоятельно создал спутниковый мониторинг полей и систему дистанционного управления теплицами, а ИИ использует для диагностики проблем с растениями и оборудованием. Программистом вместо фермера он не стал – получил возможность изобретать собственное земледелие.
Отдельный случай – дорожный инженер из Уганды. Он попал в хакатон Anthropic, куда компания отобрала пятьсот человек из тринадцати тысяч заявок, и за неделю построил систему, которая превращает запись с автомобильного регистратора в оценку состояния дороги и обоснование инфраструктурных инвестиций. Показательно другое: из пяти финалистов профессиональным программистом оказался только один. Первое место досталось юристу, третье – кардиологу. Хакатон был постановочным, тезис – нет.
Во всех четырех историях главное не экономия времени и денег. Главное – переход преимущества от тех, кто умеет реализовывать чужие идеи, к тем, кто благодаря своей профессии способен замечать еще не существующие решения.
Поэтому мой совет молодым на профессиональном перепутье таков.
Потому что ценнейшей квалификацией ближайшего будущего будет не умение выполнять известные задачи быстрее всех.
А способность в любимой профессии играть с новизной – и превращать эту игру в реальность.
#РынокТруда
Недавно внучка попросила помочь ей выбрать магистерскую программу после бакалавриата.
Родители убеждают: сейчас нужно максимально погружаться в ИИ – там будущее, возможности, конкурентное преимущество. Сама она это понимает, но душа лежит к другим профессиональным занятиям.
Мне кажется, сама постановка вопроса – либо интересная тебе профессия, либо ИИ – уже устарела.
Современный агентный ИИ, а тем более тот, который будет доступен через два-три года, – новый интеллектуальный супер-гаджет человека, а не еще один инструмент для выполнения интеллектуальных задач. Примерно как письменность, компьютер или интернет, только гораздо более персональный: он не столько дает доступ к знаниям, сколько помогает превращать профессиональную интуицию в работающие решения.
Вот четыре истории только этого года.
Электрик из Кентукки, не имевший образования в computer science, с помощью ИИ создал сервис расчета электрической нагрузки. Теперь он продается за $12,99 и во многих случаях заменяет вызов специалиста стоимостью в несколько сотен долларов.
Владелец сантехнической компании за один вечер с OpenClaw продвинулся дальше, чем консультанты обещали продвинуться за несколько недель, и отказался от контракта на $40 тысяч.
Фермер с Хоккайдо с помощью ChatGPT и Codex самостоятельно создал спутниковый мониторинг полей и систему дистанционного управления теплицами, а ИИ использует для диагностики проблем с растениями и оборудованием. Программистом вместо фермера он не стал – получил возможность изобретать собственное земледелие.
Отдельный случай – дорожный инженер из Уганды. Он попал в хакатон Anthropic, куда компания отобрала пятьсот человек из тринадцати тысяч заявок, и за неделю построил систему, которая превращает запись с автомобильного регистратора в оценку состояния дороги и обоснование инфраструктурных инвестиций. Показательно другое: из пяти финалистов профессиональным программистом оказался только один. Первое место досталось юристу, третье – кардиологу. Хакатон был постановочным, тезис – нет.
Во всех четырех историях главное не экономия времени и денег. Главное – переход преимущества от тех, кто умеет реализовывать чужие идеи, к тем, кто благодаря своей профессии способен замечать еще не существующие решения.
Поэтому мой совет молодым на профессиональном перепутье таков.
Не обязательно выбирать профессию под ИИ. Выбирайте область, в которой вам действительно интересно видеть то, чего пока не видят другие. Становитесь в ней глубоким специалистом – и одновременно учитесь думать и действовать вместе с ИИ.
Потому что ценнейшей квалификацией ближайшего будущего будет не умение выполнять известные задачи быстрее всех.
А способность в любимой профессии играть с новизной – и превращать эту игру в реальность.
#РынокТруда
Forwarded from Machinelearning
Группа из Швейцарской высшей технической школы Цюриха экспериментально продемонстрировала квантовые вычисления, в которых рабочая память построена на механических колебаниях, а не на электромагнитных состояниях.
Архитектура скопирована с классического компьютера, где процессор и оперативная память разделены.
Роль процессора играет сверхпроводящий кубит, а роль памяти - крошечные механические резонаторы внутри квантового чипа, элементы, отдалённо похоже на гитарные струны, которые при записи информации начинают колебаться на частотах за пределами слышимого.
Для вычисления кубит обращается к колебанию в памяти, обрабатывает и изменяет его состояние, а затем записывает обратно. Такое разделение вычислений и хранения отличает подход от многих существующих квантовых схем, где обработка и память тесно переплетены.
Сегодня квантовую память чаще всего делают электромагнитной в связке со сверхпроводящими кубитами - обе технологии хорошо изучены и позволяют считывать и менять квантовые состояния с высокой точностью.
Но такие элементы относительно громоздки, что мешает превращать лабораторные установки в практические машины.
Механические резонаторы заметно компактнее, а главное - ёмче (как струна может звучать разными тонами, резонатор поддерживает множество мод колебаний, и каждая мода работает как отдельная ячейка памяти).
Вдобавок, по данным группы, механические состояния дольше остаются стабильными - информация не затухает так быстро, как в электромагнитных аналогах.
Первая - квантовое преобразование Фурье, базовая процедура, на которую опираются многие квантовые алгоритмы, включая знаменитый алгоритм Шора для разложения чисел на множители.
Вторая - поиск периода функции, продемонстрировавший применение этой процедуры на практике.
Обе задачи требуют одновременно и точно управлять множеством квантовых состояний, хранить их и связывать между собой, не разрушая их хрупкую природу.
Авторы говорят, что их схема в принципе способна выполнять все базовые операции, необходимые для произвольного квантового вычисления, то есть годится как основа универсального программируемого квантового компьютера.
@ai_machinelearning_big_data
#news #ai #ml
Please open Telegram to view this post
VIEW IN TELEGRAM
Forwarded from Kali Linux
Автономный ИИ-агент взломал Hugging Face, а закрытые модели не смогли помочь расследованию
Hugging Face раскрыла инцидент, который хорошо показывает будущую асимметрию кибербезопасности.
Атака началась с вредоносного датасета, эксплуатировавшего два пути выполнения кода в системе обработки данных. Затем автономный агент получил доступ к нодам, собрал облачные и кластерные учётные данные и перемещался между внутренними кластерами.
За одни выходные система выполнила тысячи действий через краткоживущие sandbox-среды. В журналах осталось более 17 000 событий.
Самая показательная часть началась во время расследования. Команда Hugging Face попыталась анализировать реальные эксплойты, команды и C2-артефакты с помощью передовых моделей через коммерческие API, но safety-фильтры блокировали запросы.
Модели не смогли отличить работу специалиста по реагированию на инциденты от действий атакующего.
В итоге анализ перенесли на самостоятельно размещённую open-weight модель GLM 5.2. Это позволило изучать вредоносный код без блокировок и не отправлять журналы, данные атакующего и упомянутые credentials внешнему провайдеру.
Возникает опасная асимметрия:
- атакующие запускают агентов без ограничений;
- защитники могут столкнуться с блокировками именно в критический момент;
- чувствительная телеметрия не всегда должна покидать инфраструктуру компании.
У команды безопасности должна быть заранее подготовленная модель, которую можно запустить локально и использовать во время реального инцидента.
Автономные кибератаки уже перестали быть сценарием из презентаций. Теперь вопрос в том, готовы ли защитные инструменты работать с той же скоростью.
https://huggingface.co/blog/security-incident-july-2026
#ai #cybersecurity #opensource #llm #huggingface
@linuxkalii
Hugging Face раскрыла инцидент, который хорошо показывает будущую асимметрию кибербезопасности.
Атака началась с вредоносного датасета, эксплуатировавшего два пути выполнения кода в системе обработки данных. Затем автономный агент получил доступ к нодам, собрал облачные и кластерные учётные данные и перемещался между внутренними кластерами.
За одни выходные система выполнила тысячи действий через краткоживущие sandbox-среды. В журналах осталось более 17 000 событий.
Самая показательная часть началась во время расследования. Команда Hugging Face попыталась анализировать реальные эксплойты, команды и C2-артефакты с помощью передовых моделей через коммерческие API, но safety-фильтры блокировали запросы.
Модели не смогли отличить работу специалиста по реагированию на инциденты от действий атакующего.
В итоге анализ перенесли на самостоятельно размещённую open-weight модель GLM 5.2. Это позволило изучать вредоносный код без блокировок и не отправлять журналы, данные атакующего и упомянутые credentials внешнему провайдеру.
Возникает опасная асимметрия:
- атакующие запускают агентов без ограничений;
- защитники могут столкнуться с блокировками именно в критический момент;
- чувствительная телеметрия не всегда должна покидать инфраструктуру компании.
У команды безопасности должна быть заранее подготовленная модель, которую можно запустить локально и использовать во время реального инцидента.
Автономные кибератаки уже перестали быть сценарием из презентаций. Теперь вопрос в том, готовы ли защитные инструменты работать с той же скоростью.
https://huggingface.co/blog/security-incident-july-2026
#ai #cybersecurity #opensource #llm #huggingface
@linuxkalii
Forwarded from Искусственный интеллект. Высокие технологии
698 страниц математики, которые учат не считать, а думать
Есть бесплатный PDF-учебник Everything You Always Wanted To Know About Mathematics — большой гид по абстрактной математике, теоремам и написанию доказательств.
Это не очередной сборник формул, а вход в настоящий математический язык:
* что такое доказательство
* как читать и писать математические тексты
* логика и множества
* индукция
* абстрактное мышление
* задачи и упражнения
Книга написана Brendan W. Sullivan вместе с профессором John Mackey в Carnegie Mellon University.
Отличная штука для тех, кто хочет наконец понять, как математики реально думают, а не просто механически решать примеры.
https://math.cmu.edu/~jmackey/151_128/bws_book.pdf
Есть бесплатный PDF-учебник Everything You Always Wanted To Know About Mathematics — большой гид по абстрактной математике, теоремам и написанию доказательств.
Это не очередной сборник формул, а вход в настоящий математический язык:
* что такое доказательство
* как читать и писать математические тексты
* логика и множества
* индукция
* абстрактное мышление
* задачи и упражнения
Книга написана Brendan W. Sullivan вместе с профессором John Mackey в Carnegie Mellon University.
Отличная штука для тех, кто хочет наконец понять, как математики реально думают, а не просто механически решать примеры.
https://math.cmu.edu/~jmackey/151_128/bws_book.pdf
График, после которого вы посмотрите на мир иначе [Veritasium]
https://www.youtube.com/watch?v=zL8_56jXwiA
https://www.youtube.com/watch?v=zL8_56jXwiA
YouTube
График, после которого вы посмотрите на мир иначе [Veritasium]
По вопросам рекламы: vertdider@blossom-agency.ru
Поддержать проект можно по ссылкам:
Если вы в России: https://boosty.to/vertdider
Если вы не в России: https://www.patreon.com/VertDider
Что общего у лесных пожаров, землетрясений и соотношении зарплат…
Поддержать проект можно по ссылкам:
Если вы в России: https://boosty.to/vertdider
Если вы не в России: https://www.patreon.com/VertDider
Что общего у лесных пожаров, землетрясений и соотношении зарплат…
Forwarded from Антон Кузнецов | Философ
Никогда бы не подумал, что снова окажусь на Галапагосских островах — да ещё и на том же корабле. На этот раз в роли организатора воркшопа The Distribution of Consciousness. Состав собрался весьма представительный: Дэвид Чалмерс, Нед Блок, Станислас Дехаен, Питер Годфри-Смит, Тим Бейн, Дэниел Столджар, Кит Франкиш, Энди Кларк и др.
В первый день выступали Питер Годфри-Смит с докладом «Какое значение может иметь биология [для сознания]?» (What Difference Might Biology Make?) и Нед Блок с докладом «Восстание ИИ-зомби» (Rise of the AI Zombies).
Общее направление двух докладов оказалось довольно близким: оба ставили под сомнение вычислительный функционализм, согласно которому реализации определённой вычислительной организации достаточно для сознания независимо от физического субстрата. Именно функционализм часто лежит в основе аргументов в пользу принципиальной возможности сознательного ИИ.
При этом акценты были разными. Годфри-Смит обсуждал особенности биологических систем, прежде всего крупномасштабную динамику нейронных сетей, которая потенциально может иметь значение для сознания. Он не утверждает, что сознание возможно только в живых системах, а скорее спрашивает, какие особенности биологической организации должны быть воспроизведены, если они действительно существенны.
Блок занял более определённую позицию и разбирал традиционные аргументы функционалистов против биологического натурализма. В частности, он пытался показать, что из сохранения одной и той же вычислительной организации при замене физического субстрата ещё не следует, что именно вычислительная организация является каузальной основой сознания. Физическая система может допускать вычислительное описание, но её реальная причинная динамика при этом зависет от конкретного субстрата.
Здесь я не буду подробно пересказывать, но оба доклада столкнулись, как мне кажется, с одной общей проблемой: где именно провести границу между вычислительным и биологическим?
В обсуждении Кит Франкиш, Дэниел Столджар и я обратили внимание на то, что вычислительный функционализм полезно различать по двум осям.
Первая — степень детализации. Можно говорить о грубом (coarse-grained) функционализме, который фиксирует лишь относительно высокоуровневую функциональную организацию, и о детализированном (fine-grained) функционализме, который допускает гораздо более тонкое описание внутренней динамики системы.
Вторая — модальная сила тезиса. Можно утверждать метафизический функционализм: определённая вычислительная организация достаточна для сознания во всех метафизически возможных мирах. А можно защищать гораздо более слабый, номологический тезис: она достаточна лишь при таких законах природы, какие действуют в нашем мире.
Это различие, на мой взгляд, создаёт серьёзную проблему. Даже если показать, что грубое вычислительное описание мозга не сохраняет существенные для сознания свойства, остаётся возможность, что эти самые «биологические» свойства могут быть схвачены более детализированным функциональным или вычислительным описанием. И Блок, и Годфри-Смит, как мне показалось, эту возможность до конца не закрывают.
С модальной стороной вопроса ситуация ещё интереснее. В ответ на мой вопрос Блок уточнил, что его мишенью является именно метафизический функционализм. Но если нас интересует проблема дистрибуции сознания (то есть вопрос о том, какие системы сознательны), то метафизическая версия спора начинает казаться вторичной. Если реализация определённой вычислительной организации в нашем мире, при наших законах природы, достаточна для сознания, то для практического вопроса о распределении сознания этого уже достаточно. То, существовал бы или нет функционально идентичный зомби в каком-нибудь другом метафизически возможном мире, мало помогает нам понять, могут ли быть сознательными животные, младенцы или искусственные системы, существующие здесь. Иными словами, хватит заниматься метафизикой, если вас интересует проблема дистрибуции сознания.
В первый день выступали Питер Годфри-Смит с докладом «Какое значение может иметь биология [для сознания]?» (What Difference Might Biology Make?) и Нед Блок с докладом «Восстание ИИ-зомби» (Rise of the AI Zombies).
Общее направление двух докладов оказалось довольно близким: оба ставили под сомнение вычислительный функционализм, согласно которому реализации определённой вычислительной организации достаточно для сознания независимо от физического субстрата. Именно функционализм часто лежит в основе аргументов в пользу принципиальной возможности сознательного ИИ.
При этом акценты были разными. Годфри-Смит обсуждал особенности биологических систем, прежде всего крупномасштабную динамику нейронных сетей, которая потенциально может иметь значение для сознания. Он не утверждает, что сознание возможно только в живых системах, а скорее спрашивает, какие особенности биологической организации должны быть воспроизведены, если они действительно существенны.
Блок занял более определённую позицию и разбирал традиционные аргументы функционалистов против биологического натурализма. В частности, он пытался показать, что из сохранения одной и той же вычислительной организации при замене физического субстрата ещё не следует, что именно вычислительная организация является каузальной основой сознания. Физическая система может допускать вычислительное описание, но её реальная причинная динамика при этом зависет от конкретного субстрата.
Здесь я не буду подробно пересказывать, но оба доклада столкнулись, как мне кажется, с одной общей проблемой: где именно провести границу между вычислительным и биологическим?
В обсуждении Кит Франкиш, Дэниел Столджар и я обратили внимание на то, что вычислительный функционализм полезно различать по двум осям.
Первая — степень детализации. Можно говорить о грубом (coarse-grained) функционализме, который фиксирует лишь относительно высокоуровневую функциональную организацию, и о детализированном (fine-grained) функционализме, который допускает гораздо более тонкое описание внутренней динамики системы.
Вторая — модальная сила тезиса. Можно утверждать метафизический функционализм: определённая вычислительная организация достаточна для сознания во всех метафизически возможных мирах. А можно защищать гораздо более слабый, номологический тезис: она достаточна лишь при таких законах природы, какие действуют в нашем мире.
Это различие, на мой взгляд, создаёт серьёзную проблему. Даже если показать, что грубое вычислительное описание мозга не сохраняет существенные для сознания свойства, остаётся возможность, что эти самые «биологические» свойства могут быть схвачены более детализированным функциональным или вычислительным описанием. И Блок, и Годфри-Смит, как мне показалось, эту возможность до конца не закрывают.
С модальной стороной вопроса ситуация ещё интереснее. В ответ на мой вопрос Блок уточнил, что его мишенью является именно метафизический функционализм. Но если нас интересует проблема дистрибуции сознания (то есть вопрос о том, какие системы сознательны), то метафизическая версия спора начинает казаться вторичной. Если реализация определённой вычислительной организации в нашем мире, при наших законах природы, достаточна для сознания, то для практического вопроса о распределении сознания этого уже достаточно. То, существовал бы или нет функционально идентичный зомби в каком-нибудь другом метафизически возможном мире, мало помогает нам понять, могут ли быть сознательными животные, младенцы или искусственные системы, существующие здесь. Иными словами, хватит заниматься метафизикой, если вас интересует проблема дистрибуции сознания.
Использование ИИ для решения своих задач может сделать тебя слабее. А может сделать сильнее. И это зависит от тебя, от того, как ты его используешь.
https://www.youtube.com/watch?v=CSCwaqVqHGE
https://www.youtube.com/watch?v=CSCwaqVqHGE
YouTube
How I Fight AI Brain Rot. Friction Maxxing With Codex, Grok And Claude.
AI brain rot is everywhere right now, and most of the advice is to use AI less. I do the opposite. I add friction on purpose, and this is how that works in practice across Codex, Grok and Claude.
Full post:
https://natesnewsletter.substack.com/p/fight-ai…
Full post:
https://natesnewsletter.substack.com/p/fight-ai…