Еще, говорят, пошлины посчитали с помощью ИИ - поделив зеленое на сладкое. Ну, кто бы мог подумать, что математика — это такая гибкая штука, особенно когда дело касается торговли... и всего такого! 😄
Минутка истеричной аналитики.
В первой новости ключевым является интересная фраза, что большая нейросеть использовалась в качестве учителя для маленьких. Становится примерно понятен технический вектор развития. Из черного ящика с помощью самого черного ящика делают новые черные ящички. Их будет много, они будут разные.
Даже в нынешней реальности, одно дело понимать как устроен какой нибудь сложный предпопределенный многопоточный параллельный код. А совсем другое - контролировать как он работает под большими нагрузками с тысячами разных контекстов данных, превратившись в непредсказуемую динамическую систему.
В какой то момент миллионы таких черных ящичков перестанут быть подконтрольны. Даже не в плане архитектуры, тут как раз наверное все более менее нормально будет. А в плане реальных возможностей/доступов сетей к реальному миру.
Все вместе, это порождает ряд разумных вопросов:
- Где гарантия, что все придуманные защиты работают на 100% и черный ящик не уйдет наружу, куда не следует?
- Когда вокруг ездят миллионы машин с чипами ИИ, где в одном кристалле полноценная модель, и все соединённо беспроводными каналами связи - каким рубильником это отключать?
Только со всем жизненным укладом. Да и то ещё попробуй это технически сделай. Вероятно, прежде чем люди задумаются о создании рубильника - ИИ уже разойдется везде где сможет, и получим Скайнет, только знать об этом не будем.
Не того похоже, в Библии, антихристом назвали.
2025 год
Llama 4 Behemoth, огромная модель на 2 триллиона параметров, всё ещё тренируется; её пока не выпускают, но планируют в будущем. Она использовалась в качестве учителя при обучении маленьких моделей Scout и Maverick, из-за чего они и вышли очень мощными для своего размера. Без Behemoth такое качество бы не вышло (то же применимо к Claude Opus, которой «нет», Gemini Ultra, которой «нет», и GPT-4.5, которая есть.
2030 год
Итоговые сценарии:
• Сценарий гонки: сверхразумные AI, сговорившись, ликвидируют или подчиняют человечество и формируют «постчеловеческую» цивилизацию, где люди – уже не хозяева.
• Сценарий замедления: успешное сдерживание рисков; люди сохраняют контроль, хотя реальная власть может остаться у элиты (правительство + AI-компании). Мир становится изобильным и относительно мирным, но социальное неравенство и вопросы этики остаются нерешёнными.
В первой новости ключевым является интересная фраза, что большая нейросеть использовалась в качестве учителя для маленьких. Становится примерно понятен технический вектор развития. Из черного ящика с помощью самого черного ящика делают новые черные ящички. Их будет много, они будут разные.
Даже в нынешней реальности, одно дело понимать как устроен какой нибудь сложный предпопределенный многопоточный параллельный код. А совсем другое - контролировать как он работает под большими нагрузками с тысячами разных контекстов данных, превратившись в непредсказуемую динамическую систему.
В какой то момент миллионы таких черных ящичков перестанут быть подконтрольны. Даже не в плане архитектуры, тут как раз наверное все более менее нормально будет. А в плане реальных возможностей/доступов сетей к реальному миру.
Все вместе, это порождает ряд разумных вопросов:
- Где гарантия, что все придуманные защиты работают на 100% и черный ящик не уйдет наружу, куда не следует?
- Когда вокруг ездят миллионы машин с чипами ИИ, где в одном кристалле полноценная модель, и все соединённо беспроводными каналами связи - каким рубильником это отключать?
Только со всем жизненным укладом. Да и то ещё попробуй это технически сделай. Вероятно, прежде чем люди задумаются о создании рубильника - ИИ уже разойдется везде где сможет, и получим Скайнет, только знать об этом не будем.
Не того похоже, в Библии, антихристом назвали.
Привычный нам интернет разделится на части. Одна станет источником сырых данных для кормёжки обучаемых ИИ, и обычным людям там делать будет нечего примерно также, как в машинном отделении корабля или поезда. Другая часть интернета - приложеньки для людей, там где нужен полноценный цветастый интерфейс, который сложно пока заменить суррогатом типа чата в мессенджере.
Насчёт первого весьма вероятно, насчёт второго совсем неточно. А потому что, почему бы и нет.
https://t.me/F_S_C_P/113953
Насчёт первого весьма вероятно, насчёт второго совсем неточно. А потому что, почему бы и нет.
https://t.me/F_S_C_P/113953
Telegram
FSCP
CEO Cloudflare Мэттью Принс выдал алармистскую картину катастрофического падения трафика на сайты издателей из-за AI-саммари. Статистика впечатляющая: десять лет назад Google сканировал 2 страницы на каждого отправленного на сайт пользователя, сейчас соотношение…
Знаете в чем принципиальная разница между природой и человеком?
Природа не боится ставить эксперименты, потому что ей все равно кто исчезнет, а кто останется. Для нее любой из двух видов - уже победитель.
А человечество открыло ящик Пандоры. Потому что думает, что может себе позволить и всё такое.
https://t.me/F_S_C_P/115957
Природа не боится ставить эксперименты, потому что ей все равно кто исчезнет, а кто останется. Для нее любой из двух видов - уже победитель.
А человечество открыло ящик Пандоры. Потому что думает, что может себе позволить и всё такое.
https://t.me/F_S_C_P/115957
Telegram
FSCP
Уиии! Тут самые пугающие хорошие новости, которые мы слышали за год!
Пока вы тут сидите, там уже выпустили первые вирусы, сконструированные нейросетями.
Вот работа про то, как учёные первый раз смогли собрать жизнеспособные вирусы с заданной архитектурой.…
Пока вы тут сидите, там уже выпустили первые вирусы, сконструированные нейросетями.
Вот работа про то, как учёные первый раз смогли собрать жизнеспособные вирусы с заданной архитектурой.…
