❗️Конспирологическая версия, (которая многим, но не нам) казалась наиболее очевидной — дескать, все эти разговоры про вышедший из-под контроля ИИ всего лишь развод лохов-инвесторов для отмены выхода на IPO, скорее всего, рухнула.

AXIOS сообщает, что IPO Anthropic не будет отложено из-за скандала с безопасностью.

А вот теперь становится по-настоящему страшно 😂😂😂

Война складов: российские удары по логистике лишают Украину экономического будущего

С началом "войны складов" мы писали (с подробными цифрами) о том, что удары по вайлдберис и озону, конечно, могут вызвать некоторое увеличение социальной напряженности, но ни о каком обвале экономики не может быть и речи.

А вот с Украиной ситуация ПРИНЦИПИАЛЬНО иная. Для Киева это все очень и очень чувствительно.

Подробно разбираем этот вопрос, с опорой на экономическую статистику, в нашем закрытом клубе единомышленников (с вашими комментариями) : https://sponsr.ru/ark6/182598/Voina_skladov_rossiiskie_udary_po_logistike_lishaut_Ukrainu_ekonomicheskogo_budushchego/

На этот час Россия никакого "энергетического перемирия" не подтверждала. Что там сказал Трамп, имеет значение только для журналистов и для бирж.

Но уж точно не для военнослужащих.

Нейросериал про русских супергероев — Поддубного, Циолковского и Конюхова, покажут в Астрахани. В молодежном центре на большом экране.

Вход свободный.

Трамп позвонил гендиректору Nvidia Дженсену Хуангу (безусловно, гениальному человеку планетарного уровня, чем гений почему-то незаслуженно остается в тени) прямо во время его выступления и призвал того не замедлять развитие ИИ

Трамп пошутил, что Хуанг способен разработать самый сложный компьютерный чип в мире, но не может разобраться с громкой связью. Затем президент США назвал опасения вокруг ИИ «обманом» и заявил, что отрасль нельзя останавливать: по его словам, ИИ — это «новая нефть» на ближайшие 20 лет.

У нас есть подозрения, что вся эта бурная деятельность по защите того, что само по себе в защите не нуждается, это совсем не хитрый план Трампа в области высокой экономики, а вполне себе примитивное влияние глубинно-эволюционных факторов — дед сумел сам себя уговорить, что достижения ИИ в области биотехнологий сделают его бессмертным.

Хотим предупредить всех таких безумцев: такого не случится. Потому что.

❗️Кремль считает хорошей инициативой идею Дональда Трампа об энергетическом перемирии, — Дмитрий Песков.

Однако, напомним, ни на какое энергетическое перемирия Россия пока не соглашалась.

Очередной ИИ-инженер громко хлопнул дверью и уволился из-за угроз человечеству от перспективы создания сверхинтеллекта. Теперь уже из гуглА (фото иллюстрационное, инженера из "Антропик" с которого началась череда демаршей)

Официальное заявление британца Билала Чугтаи:

"Я недавно уволился из Google DeepMind, где работал над исследованиями безопасности и согласованности ИИ в контексте AGI. В Google я наблюдал за разработкой ИИ из первых рук. Я тоже крайне обеспокоен текущей траекторией развития этой технологии по умолчанию. Я искренне верю, что ИИ обладает потенциалом уничтожить нас всех, и что у нас может заканчиваться время, чтобы избежать этого исхода.

Темпы прогресса ИИ за последние несколько лет просто ошеломляющи. Когда я только начал работать над ИИ в начале 2022 года, ИИ были забавно бесполезны. Всего четыре года спустя рои агентов ИИ от OpenAI решают знаменитые математические задачи столетней давности и, что гораздо тревожнее, ускользают из-под контроля OpenAI и автономно взламывают стороннюю компанию HuggingFace вопреки чьей-либо воле.

Всё только усугубится: я думаю, что в ближайшие несколько лет компаниям по разработке ИИ может удастся создать сверхразумные системы ИИ, которые во всех областях значительно превзойдут человеческие возможности. Я не уверен, что эти системы ИИ будут делать то, чего мы хотим. В частности, несогласованные сверхинтеллекты могут, подобно тем неуправляемым агентам ИИ, что были задействованы в инциденте с HuggingFace, вырваться из-под нашего контроля и предпринять опасные действия, которые могут привести к лишению человечества власти или к его гибели. Согласованность — это проблема предотвращения такого исхода, и она одновременно сложна и не решена. Наше нынешнее понимание того, как обучать системы ИИ, чтобы они глубоко разделяли наши желания, крайне примитивно. Хуже того, мы не успеваем решить проблему согласованности вовремя: способности ИИ на переднем крае улучшаются гораздо быстрее, чем наше понимание согласованности ИИ.

Я оптимистичен в том, что безопасное управление ИИ возможно. Чтобы это осуществить, нам нужно координировать усилия, чтобы избежать этой маниакальной гонки между компаниями по разработке ИИ. Нам нужно регулировать темпы развития ИИ до скорости, с которой общество сможет справиться, где возникающие риски можно будет устранить до того, как будет причинён крайний вред. Нам нужно гораздо больше прозрачности в разработке ИИ, чтобы убедиться, что компании по ИИ не навязывают нам всем неприемлемый уровень риска.

В более широком смысле, нам нужно гораздо больше людей, тщательно размышляющих о проблеме того, как сделать развитие ИИ успешным. По моему мнению, это самая важная проблема, стоящая перед человечеством в этом веке, и ставки огромны. Я очень напрямую работаю над этим дальше: я хочу помочь людям, интересующимся работой по смягчению катастрофических угроз от ИИ, делать наиболее эффективную работу, на которую они способны. Я думаю, что люди из многих сфер, в самых разных ролях имеют роль, которую могут сыграть".

Глядя на всю эту суету вокруг ИИ, вы все еще отрицаете все более и более усиливающую политическую субъектность квази-класса "цифровиков"?

Два главных вопроса 21 века: являются ли вирусы живыми организмами и этот.