Еще, говорят, пошлины посчитали с помощью ИИ - поделив зеленое на сладкое. Ну, кто бы мог подумать, что математика — это такая гибкая штука, особенно когда дело касается торговли... и всего такого! 😄
Минутка истеричной аналитики.
В первой новости ключевым является интересная фраза, что большая нейросеть использовалась в качестве учителя для маленьких. Становится примерно понятен технический вектор развития. Из черного ящика с помощью самого черного ящика делают новые черные ящички. Их будет много, они будут разные.
Даже в нынешней реальности, одно дело понимать как устроен какой нибудь сложный предпопределенный многопоточный параллельный код. А совсем другое - контролировать как он работает под большими нагрузками с тысячами разных контекстов данных, превратившись в непредсказуемую динамическую систему.
В какой то момент миллионы таких черных ящичков перестанут быть подконтрольны. Даже не в плане архитектуры, тут как раз наверное все более менее нормально будет. А в плане реальных возможностей/доступов сетей к реальному миру.
Все вместе, это порождает ряд разумных вопросов:
- Где гарантия, что все придуманные защиты работают на 100% и черный ящик не уйдет наружу, куда не следует?
- Когда вокруг ездят миллионы машин с чипами ИИ, где в одном кристалле полноценная модель, и все соединённо беспроводными каналами связи - каким рубильником это отключать?
Только со всем жизненным укладом. Да и то ещё попробуй это технически сделай. Вероятно, прежде чем люди задумаются о создании рубильника - ИИ уже разойдется везде где сможет, и получим Скайнет, только знать об этом не будем.
Не того похоже, в Библии, антихристом назвали.
2025 год
Llama 4 Behemoth, огромная модель на 2 триллиона параметров, всё ещё тренируется; её пока не выпускают, но планируют в будущем. Она использовалась в качестве учителя при обучении маленьких моделей Scout и Maverick, из-за чего они и вышли очень мощными для своего размера. Без Behemoth такое качество бы не вышло (то же применимо к Claude Opus, которой «нет», Gemini Ultra, которой «нет», и GPT-4.5, которая есть.
2030 год
Итоговые сценарии:
• Сценарий гонки: сверхразумные AI, сговорившись, ликвидируют или подчиняют человечество и формируют «постчеловеческую» цивилизацию, где люди – уже не хозяева.
• Сценарий замедления: успешное сдерживание рисков; люди сохраняют контроль, хотя реальная власть может остаться у элиты (правительство + AI-компании). Мир становится изобильным и относительно мирным, но социальное неравенство и вопросы этики остаются нерешёнными.
В первой новости ключевым является интересная фраза, что большая нейросеть использовалась в качестве учителя для маленьких. Становится примерно понятен технический вектор развития. Из черного ящика с помощью самого черного ящика делают новые черные ящички. Их будет много, они будут разные.
Даже в нынешней реальности, одно дело понимать как устроен какой нибудь сложный предпопределенный многопоточный параллельный код. А совсем другое - контролировать как он работает под большими нагрузками с тысячами разных контекстов данных, превратившись в непредсказуемую динамическую систему.
В какой то момент миллионы таких черных ящичков перестанут быть подконтрольны. Даже не в плане архитектуры, тут как раз наверное все более менее нормально будет. А в плане реальных возможностей/доступов сетей к реальному миру.
Все вместе, это порождает ряд разумных вопросов:
- Где гарантия, что все придуманные защиты работают на 100% и черный ящик не уйдет наружу, куда не следует?
- Когда вокруг ездят миллионы машин с чипами ИИ, где в одном кристалле полноценная модель, и все соединённо беспроводными каналами связи - каким рубильником это отключать?
Только со всем жизненным укладом. Да и то ещё попробуй это технически сделай. Вероятно, прежде чем люди задумаются о создании рубильника - ИИ уже разойдется везде где сможет, и получим Скайнет, только знать об этом не будем.
Не того похоже, в Библии, антихристом назвали.
Привычный нам интернет разделится на части. Одна станет источником сырых данных для кормёжки обучаемых ИИ, и обычным людям там делать будет нечего примерно также, как в машинном отделении корабля или поезда. Другая часть интернета - приложеньки для людей, там где нужен полноценный цветастый интерфейс, который сложно пока заменить суррогатом типа чата в мессенджере.
Насчёт первого весьма вероятно, насчёт второго совсем неточно. А потому что, почему бы и нет.
https://t.me/F_S_C_P/113953
Насчёт первого весьма вероятно, насчёт второго совсем неточно. А потому что, почему бы и нет.
https://t.me/F_S_C_P/113953
Telegram
FSCP
CEO Cloudflare Мэттью Принс выдал алармистскую картину катастрофического падения трафика на сайты издателей из-за AI-саммари. Статистика впечатляющая: десять лет назад Google сканировал 2 страницы на каждого отправленного на сайт пользователя, сейчас соотношение…
