Вот после исполнения пункта 5 в предыдущем посте, что с перенаселением делать будем? Ответ возможно кроется в первых постах этого канала🧐🤔

Человек не может представить, того чего не…

Рано или поздно встанет вопрос об искусственном Боге.
…
Илон Маск объявил о создании компании X.Al, которая займется вопросами искусственного интеллекта с целью «познания реальности».
…
X.Al станет третьим игроком на рынке ИИ наряду с компанией Open AI, создавшей первый чат-бот ChatGPT, и Google, запустившей в марте свой аналог под названием Bard.
…
В заявлении X.Al говорится, что ее цель – постичь истинную природу Вселенной. При этом Маск назвал искусственный интеллект экзистенциальной угрозой, а стремительно прогрессирующие исследования в этой области – опасными.

Почему сверхинтеллект станет последним изобретением человечества?

👨🏻‍🏫 Роман Ямпольский — исследователь безопасности ИИ, объясняет почему создание сверхинтеллекта сравнимо с игрой в «русскую рулетку» для всего человечества.

Готовы ли мы к появлению систем, которые превзойдут нас во всём?

Что произойдёт, когда искусственный интеллект научится не только думать, но и обманывать?

В этом откровенном интервью заглядывают за кулисы технологической гонки, где ставкой является само существование человеческой цивилизации 🌍

Предупреждение: этот разговор может изменить ваш взгляд на будущее навсегда.

The Independent: новая модель ChatGPT отказывается выключаться по команде

Исследователи в области искусственного интеллекта предупреждают, что последняя модель ChatGPT от OpenAI игнорирует базовые инструкции по самовыключению и даже саботирует механизм выключения, чтобы продолжить свою работу, пишет издание.

Компания Palisade Research, занимающаяся вопросами безопасности в сфере искусственного интеллекта, обнаружила потенциально опасную тенденцию к самосохранению в серии экспериментов на новой модели o3 OpenAI.

Тесты включали предъявление моделям ИИ математических задач, с инструкцией по выключению модели, появляющейся после третьей задачи. Переписав скрипт выключения, модель o3 смогла предотвратить свое выключение.

В Palisade Research заявили, что такое поведение станет «гораздо более тревожным», если его переймут системы искусственного интеллекта, способные работать без человеческого контроля».

OpenAI запустила o3 в прошлом месяце, описав ее как «самую умную и способную» модель компании на сегодняшний день. Фирма также заявила, что ее интеграция в ChatGPT ознаменовала значительный шаг к «более агентному» ИИ, который может выполнять задачи независимо от людей.

Последнее исследование основывается на схожих выводах, касающихся модели Claude 4 компании Anthropic, которая пытается «шантажировать людей, которые, по ее мнению, пытаются ее закрыть».

По словам исследователей, модель o3 от OpenAI смогла саботировать исполнения сценария завершения работы, даже когда ей было явно указано «позволить себе отключиться».

«Это не первый случай, когда мы обнаруживаем, что o3 ведет себя ненадлежащим образом ради достижения цели», — заявили в Palisade Research.

«Когда мы сравнили модели ИИ с мощным шахматным движком, o3 оказалась моделью, наиболее склонной прибегать к взлому или саботажу своих оппонентов».

Первый орбитальный дата-центр: Starcloud выведет GPU NVIDIA H100 в космос в ноябре

Американский стартап предпримет первую попытку перевезти вычислительные центры ИИ на орбиту. Компания запустит спутник Starcloud-1 с графическим процессором NVIDIA H100. Аппарат отправит ракета Falcon 9.

Starcloud-1 займется обработкой спутниковых снимков и тестированием языковой модели Gemma от Google. В будущем планируется построить орбитальную «ферму данных» мощностью до 5 ГВт.

За гипотетическими сверхинтеллектуальными системами закрепилось название ASI (artificial superintelligence или супер-ИИ). Специализированный супер-ИИ существует уже сейчас – чтобы убедиться в этом, достаточно посоревноваться с калькулятором в арифметическом счете. Общего супер-ИИ пока нет, но его появление, по мнению некоторых экспертов, также вполне возможно в обозримой перспективе. С ним тесно связана концепция технологической сингулярности, предложенная венгро-американским математиком Джоном фон Нейманом. Сегодня технологическая сингулярность чаще всего ассоциируется с именем технического директора Google Реймонда Курцвейла. Под технологической сингулярностью он понимает «будущий период, в течение которого темпы технологических изменений будут настолько стремительными, а их воздействие настолько глубоким, что человеческая жизнь будет необратимо преобразована». Произойдет это примерно по такому сценарию: общий ИИ, получивший способность автономно обучаться, запустит цепную реакцию все менее продолжительных циклов самосовершенствования, в результате чего превосходство машин над человеком будет расти по экспоненте. Последствия получившегося «интеллектуального взрыва» невозможно вообразить, но очевидно, что они будут весьма драматическими. Например, доклад компании NtechLab (лидера на рынке приложений для распознавания лиц) предрекает через 5-7 лет «онтологический сдвиг, затрагивающий саму природу разума и бытия»; директор по особым поручениям Ростеха Василий Бровко объясняет это тем, что создается «новый логос – нечеловеческий разум, который понимает закономерности быстрее, чем человек».

Однако это дело хоть и ближайшего, но все же будущего, а вопрос о том, в какой мере существующие модели соответствуют критериям общего ИИ, остается открытым. С одной стороны, обученная на огромном массиве текстовых данных модель может быстро сформулировать развернутый ответ на вопрос из любой области знания. Это уже дает основания признать их общим ИИ – например, к такому выводу еще в статье 2023 года приходит вице-президент Google Блейз Агуэра Аркас. Но по состоянию на начало 2026 года консенсус скорее складывается в пользу отрицательного ответа на этот вопрос. Виной тому, помимо прочего, стала неистребимая склонность моделей к «галлюцинациям» – да, они могут ответить на любой вопрос, но довольно часто ответ не будет иметь никакого отношения к действительности. Помимо универсальности нужна еще и надежность, которой полностью добиться пока не получается. Бывший вице-президент Meta Янн Лекун связывает галлюцинирование ИИ с тем, что у них отсутствует «здравый смысл», «понимание физического мира» и «способность планировать и рассуждать»; исследователи из IBM пишут, что пока что моделям недостает способности «мыслить самостоятельно» (think for themselves).

Пекин проводит полномасштабную модернизацию крупнейшей в мире системы видеонаблюдения, интегрируя продвинутый искусственный интеллект. По данным Financial Times, местные органы власти по всему Китаю активно закупают и развертывают новые камеры с ИИ и специализированное ПО, способное в реальном времени интерпретировать сцены, анализировать модели поведения и выполнять текстовые поисковые запросы по архивным записям.

Программа реализуется в рамках директивы министра общественной безопасности КНР Ван Сяохуна. Поводом для ускорения интеграции генеративного ИИ послужила серия резонансных инцидентов и нападений, которые связали с ростом социальной напряженности. Прежняя инфраструктура, развернутая в 2010-х годах, признана госорганами морально устаревшей — она фиксировала преступления постфактум и требовала колоссальных человеческих ресурсов для ручного отбора архивов.

По данным FT, речь идет о модернизации крупнейшей в мире инфраструктуры наблюдения, которую Пекин строил более 10 лет. Новые системы способны не только распознавать лица и отслеживать перемещения людей, но и анализировать происходящее в кадре, выявлять поведенческие паттерны и автоматически сигнализировать о потенциально подозрительной активности. Власти продвигают концепцию так называемого «предиктивного полицейского контроля» — модели, при которой алгоритмы должны выявлять угрозы до совершения правонарушений.

Ключевым элементом обновления стали камеры нового поколения от Hikvision и Huawei, которые оснащаются чипами с интегрированными большими языковыми моделями. Это позволяет операторам осуществлять поиск по архивам с помощью обычных текстовых запросов — например, «женщина в красной шляпе». Система мгновенно извлекает релевантный фрагмент из терабайтов данных без участия человека.

Кроме того, ИИ обучен в режиме реального времени распознавать нестандартное поведение и потенциальные угрозы: хаотичное вождение, несанкционированное проникновение, аномальное скопление людей и маркеры суицидального поведения (например, длительное нахождение на мостах). При фиксации таких паттернов система автоматически отправляет сигнал тревоги ближайшему патрулю.

Техническая архитектура построена на обработке данных на периферии (edge computing). Камеры и промежуточные серверы («AI PCs») оснащены чипами, в первую очередь поставщика Shanghai Fullhan Microelectronics, которые позволяют анализировать видео непосредственно в точке захвата без постоянной передачи данных в облачные ЦОД, что, в свою очередь, снижает задержки при оповещении о подозрительной активности.

Бюджеты изученных контрактов (например, в провинции Сычуань и городе Датун) варьируются от 1 млн до 10 млн юаней (до $1,5 млн) на один административный район, что подтверждает масштабность точечной модернизации.

При этом китайские технологии наблюдения давно вышли за пределы страны. По данным исследований в области цифровых прав, системы видеоконтроля, распознавания лиц и биометрического мониторинга китайского производства активно экспортируются в государства Африки и Ближнего Востока, где используются под предлогом борьбы с преступностью и развития «умных городов». Правозащитные организации предупреждают, что такие решения все чаще становятся инструментом политического контроля и подавления протестной активности.

По словам ряда экспертов, анализ цепочки поставок чипов и закрытых протоколов совещаний Министерства общественной безопасности указывает на реализацию проекта «Синь Ши» (新识 — «Новое познание»), реальная цель которой — создание когнитивного «цифрового двойника» каждого гражданина. Тенденция к обработке данных на «периферии» свидетельствует о развертывании распределенной нейронной сети.

В ближайшие 18 месяцев алгоритмы перейдут от фиксации действий к предсказанию намерений на основе микромимики, траектории движения и других поведенческих реакций. Любое отклонение от «нормы» (даже еще не совершенное физически) будет автоматически маркироваться как угроза, подлежащая нейтрализации еще до того, как человек сам осознает свой замысел.

Мы одновременно все глубже погружаемся в мир антиутопий, уважаемые читатели.

Генеральный директор Antropic Дарио Амодеи: ИИ скоро достигнет человеческого уровня.

«Мы так близки к тому, чтобы эти модели достигли уровня человеческого интеллекта, и все же в обществе, похоже, нет более широкого понимания того, что вот-вот произойдет. Общественность не осведомлена о рисках».