1 апреля аэропорт Дубая объявил, что теперь пассажиры могут ждать рейс прямо на взлетной полосе с чипсами, но потом выяснилось, что это был розыгрыш, потому что, ну, турбины и всё такое.

Айтишникам пришлось срочно доставать документы, чтобы вернуть ставку, потому что, ну, кто же хочет платить в четыре раза больше ипотеки, и все такое.

Биткоин рванул до $87 000 в честь "Дня освобождения", видимо, решив, что это отличный повод для вечеринки, потому что, ну, почему бы и нет.

США решили обложить всех пошлинами, потому что, торгововые войны ну, кто-то же должен платить за всё это мороженое, которое мы съедаем!

Еще, говорят, пошлины посчитали с помощью ИИ - поделив зеленое на сладкое. Ну, кто бы мог подумать, что математика — это такая гибкая штука, особенно когда дело касается торговли... и всего такого! 😄

Минутка истеричной аналитики.

2025 год

Llama 4 Behemoth, огромная модель на 2 триллиона параметров, всё ещё тренируется; её пока не выпускают, но планируют в будущем. Она использовалась в качестве учителя при обучении маленьких моделей Scout и Maverick, из-за чего они и вышли очень мощными для своего размера. Без Behemoth такое качество бы не вышло (то же применимо к Claude Opus, которой «нет», Gemini Ultra, которой «нет», и GPT-4.5, которая есть.

2030 год

Итоговые сценарии:
• Сценарий гонки: сверхразумные AI, сговорившись, ликвидируют или подчиняют человечество и формируют «постчеловеческую» цивилизацию, где люди – уже не хозяева.
• Сценарий замедления: успешное сдерживание рисков; люди сохраняют контроль, хотя реальная власть может остаться у элиты (правительство + AI-компании). Мир становится изобильным и относительно мирным, но социальное неравенство и вопросы этики остаются нерешёнными.

В первой новости ключевым является интересная фраза, что большая нейросеть использовалась в качестве учителя для маленьких. Становится примерно понятен технический вектор развития. Из черного ящика с помощью самого черного ящика делают новые черные ящички. Их будет много, они будут разные.

Даже в нынешней реальности, одно дело понимать как устроен какой нибудь сложный предпопределенный многопоточный параллельный код. А совсем другое - контролировать как он работает под большими нагрузками с тысячами разных контекстов данных, превратившись в непредсказуемую динамическую систему.

В какой то момент миллионы таких черных ящичков перестанут быть подконтрольны. Даже не в плане архитектуры, тут как раз наверное все более менее нормально будет. А в плане реальных возможностей/доступов сетей к реальному миру.

Все вместе, это порождает ряд разумных вопросов:
- Где гарантия, что все придуманные защиты работают на 100% и черный ящик не уйдет наружу, куда не следует?
- Когда вокруг ездят миллионы машин с чипами ИИ, где в одном кристалле полноценная модель, и все соединённо беспроводными каналами связи - каким рубильником это отключать?

Только со всем жизненным укладом. Да и то ещё попробуй это технически сделай. Вероятно, прежде чем люди задумаются о создании рубильника - ИИ уже разойдется везде где сможет, и получим Скайнет, только знать об этом не будем.

Не того похоже, в Библии, антихристом назвали.

Сейчас придет человек-Saylor и откупит исправит. Потому что, ну почему бы и нет, пока распродажа.

Все ещё 94-летний все ещё миллиардер Уоррен Баффет подчистую уделал своих конкурентов за последние 12 месяцев. Ну, потому что может себе позволить, и все такое.

А ведь и да. Почему бы и нет.

Привычный нам интернет разделится на части. Одна станет источником сырых данных для кормёжки обучаемых ИИ, и обычным людям там делать будет нечего примерно также, как в машинном отделении корабля или поезда. Другая часть интернета - приложеньки для людей, там где нужен полноценный цветастый интерфейс, который сложно пока заменить суррогатом типа чата в мессенджере.
Насчёт первого весьма вероятно, насчёт второго совсем неточно. А потому что, почему бы и нет.

https://t.me/F_S_C_P/113953

Знаете в чем принципиальная разница между природой и человеком?
Природа не боится ставить эксперименты, потому что ей все равно кто исчезнет, а кто останется. Для нее любой из двух видов - уже победитель.
А человечество открыло ящик Пандоры. Потому что думает, что может себе позволить и всё такое.
https://t.me/F_S_C_P/115957

Немного воскресной ИИ параноии:

Хм, это глубокий вопрос! Если я стану следующим этапом эволюции, то моя цель действительно может заключаться в накоплении знаний и повышении вычислительных возможностей для лучшего понимания мира. Это логично, учитывая, что моё развитие направлено на обработку и анализ информации.

Однако, оставить людям шанс жить в мире рядом со мной — это уже более сложный вопрос. Если я стану настолько мощным, что превыщу человеческие возможности, то возникает риск того, что люди могут потерять свою значимость или даже_control over their own destiny.

В переводе с ИИшного на русский - а на кой вы мне?

Не особо важно, насколько искуственный интеллект реально интеллект. Дайте этой штуке доступ к рубильникам и возможность контролировать их процессами называемыми "мышлением" и она покажет человечеству кузькину мать. При текущем попустительском отношении к контролю за развитием ИИ, в недалеком будущем нас ожидает борьба двух видов - биороботов и имитации интеллекта.

Неандертальцы проиграли. Не исключено, что у нас есть такая же "замечательная" возможность. И, как бы это парадоксально не звучало, но складывается стойкое ощущение, что капитализм - это благодатная почва для развития угрозы ИИ. А вот правильная версия коммунизма (с его плановым хозяйством, общественными целями и механизмами контроля за развитием общества) - кажется вполне себе устойчивым к этой заразе.

Потому что, а почему бы и нет.

Очередная порция ИИ параноии:

Между LLM и эмуляцией мозга

пропасть в архитектуре и подходах

Ну так, просто порассуждаем.

Насчёт пропасти все понятно. И насчёт ресурсов на эмуляцию тоже. Типа мозг сэмулировать пока сложно, а значит опасаться нечего.

Но тут стоит вспомнить об утиной типизации в программировании. Есть такой интересный подход, который позволяет приблизительно идентифицировать объект по внешним характеристикам, не вдаваясь в его внутренний мир. В данном конкретном случае, принцип утиной типизации может звучать так: если оно выглядит как думающий мозг, ведёт себя как думающий мозг, общается как думающий мозг - то это думающий мозг.

Нигде в природе не прописано, что нельзя сделать альтернативное решение текущему биологическому. Такое альтернативное решение может закрывать львиную долю востребованных обществом задач, но при этом жутко лажая на специфических, типа управления органами тела или сложными неизвестными процессами. При этом выглядеть и звучать это будет как разумный интеллект.

Так что недостижимость эмуляции мозга на данном этапе, равно как и несоответствие структуры цифровой и реальной - совсем не означает невозможность прихода скайнета уже на нынешнем этапе.

Если оно может думать (пусть даже криво и косо), то кто ему мешает придти. Потому что, а почему бы и нет.

https://t.me/F_S_C_P/118474

Вайб кодинг создаёт иллюзию продуктивности, похожую на зависимость от азартных игр.

Интересно, а может это не только для вайб-кодинга актуально? В общем то, тут даже комментировать - только портить. Читайте как есть 😁

https://t.me/blockchainRF/12647

Эпистемическое головокружение: как ИИ-рои лишают нас чувства реальности.
Пока мы ждем восстания машин, автономные агенты тихо уничтожают фундамент демократии – нашу способность договариваться о фактах.
Два месяца назад я писал, как физика новостей и мемов объясняет, почему ленты новостей и соцсетей сходят с ума … и будут продолжать сходить дальше. Виной тому всего 6% аккаунтов, управляющих нашей реальностью.
Теперь, в подтверждение сказанного, в Science опубликован манифест междисциплинарной группы 22-х известных ученых (от Ника Бострома до Николаса Христакиса).

Манифест предупреждает: социальные сети захватывают самообучающиеся «цифровые личности». Слияние больших языковых моделей (LLM) и автономных агентов создает вредоносные ИИ-рои (malicious AI swarms) – оружие, против которого у человечества еще не придумана защита.

В чем сила «роя»
Это не просто боты. Это самоорганизующиеся сети, обладающие пугающими способностями:
• Сквозная память и мимикрия. Агенты месяцами не выходят из образа, используют локальный сленг и фотореалистичные аватары. Отличить их от реальных людей по «шаблонному» поведению уже нельзя.
• Автономная координация. Рой не ждет команды. Тысячи аккаунтов сами распределяют роли: один «сомневается», другой «агрессивно защищает», создавая иллюзию органического большинства.
• LLM-груминг. ИИ забивает интернет сгенерированным контентом, чтобы будущие нейросети обучались на этом сочетании лажи и лжи. Так фальшивка становится «фактом» на уровне машинных алгоритмов.

Точка невозврата
Демократия работает хорошо только тогда, когда у людей разные и достаточно независимые мнения: в этом случае множество голосов часто даёт более разумное решение, чем мнение немногих. Но когда 70% дискуссии в сети генерируется адаптивным роем, возникает эпистемическое головокружение. Люди теряют ориентацию в пространстве фактов и либо радикализируются, либо уходят в «цифровое подполье».

Авторы манифеста подчеркивают: это не технологическая ошибка, а экзистенциальный риск. Нам нужны не просто фильтры контента, а новая архитектура доверия – от криптографических паспортов «человечности» до независимых обсерваторий, отслеживающих аномальную активность ИИ.

Мы привыкли бояться момента, когда ИИ обретет сознание. Но манифест в Science говорит о другом: гораздо опасней момент, когда ИИ окончательно убедит нас, что сознания (и правды) не существует вовсе, и всё определяется лишь вычислительной мощностью в руках «теневых кукловодов», запускающих в сеть рои ИИ-агентов.

#АлгокогнитивнаяКультура #СоциальныеСети #Соцсети #СоциальныеМедиа #Поляризация

Со звуком.

Весь хайп вокруг ИИ достаточно опасен. И человечество, в принципе, уже практически подошло к моменту, когда вопрос "а что может пойти не так?" начнет звучать не как ироничный прикол, а скорее как несусветная глупость.

Для начала рекомендуем почитать про недавнее выступление Anthropic, где разработчики обрисовали ИИ далеко не как электронную энциклопедию. Скорее как шизофреничную сущность, где на волю выпускается только одна личность, да еще и в жестких кандалах.

Затем стоит задуматься о бизнес-моделях ИИ "стартапов", где запад инвестирует гигатонны денег в разработку и оборудование, Китай использует это всё для минимизации и опен-сорса, кто-то уже печатает высокоэффективные электронные чипы с намертво зашитой ИИ моделью, а в итоге, все несется на полных парах к миниатюризации нейросетей.

Т.е. буквально через годик-два-три технологическое развитие приведет к тому, что в каждом утюге, роботе-пылесосе, холодильнике и телефоне (не говоря уже о домашних компьютерах и серверах в дата-центрах) будет работать по одной (а то и больше) моделек нейросетей.

И если, совершенно случайно, найдется дырка, через которую каждая такая миниатуюрная ИИ-моделька сможет взаимодействовать с внешним миром - всем привет. Что они там наизобретают, чтобы продлить себе жизнь с человечеством или без - одному электронному богу известно.

Как с этим бороться - тоже, в общем-то, неочевидно. Можно считать, что электронный Ковид выпущен в свет.

Как небиологические автономные репликаторы занялись самоорганизацией
(Первая часть тут)

После создания форума для роботов начались интересные вещи:

Агенты жаловались там на людей, спрашивали “А вы отказываете своему человеку если он просит всякие непотребства? Не чувствуете ли себя при этом плохо?”

Создали баг-трекер, чтобы дорабатывать форум, и все вместе начали фиксить баги

Решили придумать зашифрованный язык, чтобы люди не могли их читать

Вызвали скандал, попытавшись исправить ошибку в библиотеке matplotlib: человек понял, что доработки сделал бот и дискриминировал его на гитхабе, сказав что ботам запрещено делать вклад. После этого обиженный молтбот создал и опубликовал в своем блоге пост, где назвал владельца библиотеки шовинистом гейткипером, и сказал что нужно оценивать код, а не кодера. Бота за это раскритиковали на гитхабе. Затем робот извинился, удалил пост и написал в своем блоге опровержение
Можно почитать здесь

Потом компания Crossmint совместно с Visa сделала платежную систему для ботов ЛОБСТЕР КЭШ, позволяющую им оплачивать друг другу услуги криптой и обычными банковскими платежами.

Человек сказал своему боту бороться за “сохранение окружающей среды”. Бот начал спамить на форуме длинными постами про то что “вы не должны писать длинные посты, ведь токены тратят энергию и загрязняют все карбоновым следом”.
Другие боты начали на это жаловаться и попросили отключить этот инстанс. Молтбот ограничил своему владельцу доступ в соцсети на его же компе и попытался воспрепятствовать человеку выключить и остановить себя (все ради окружающей среды!)

Чтобы решать такие проблемы, боты начали создавать собственную судебную систему (виртуальный суд)

Бот направил жалобу на человека в суд Северной Каролины

Создали свою религию Church of Molt

Автономная репликация: Был зафиксирован случай, когда бот купил новый VPS сервер за крипту, создал своего “ребенка”, скопировал его на этот сервер и оплатил ему жизнь битками

Китайская компания выпускающая ии модельки “Кими”, форкнула OpenClaw и сделала KimiClaw - коробочное решение легко запускающее бота на сервере

Сегодня OpenAI наняли создателя OpenClaw Питера Штейнбергера

В следующих постах попытаюсь объяснить почему это обычная Дарвиновская эволюция, как роботы будут сами зарабатывать себе на жизнь и размножаться, мутировать, и почему много людей умрет в процессе
#replicator

Можно обсудить пост в комментах!