Точно!

В сегодняшнем интервью Дональд Трамп рассказал о своем сыне Бэрроне: «Он хорош в технологиях… Я выключаю его компьютер, через 5 минут гляжу — компьютер снова включён! Как он это делает?».

Забавно? Да. Но это еще и очень показательная история.

Если даже Трамп контролирует экранное время сына (которому 19 лет!), что уж говорить о детях помладше? Мы часто недооцениваем, насколько технологии могут затягивать, особенно в юном возрасте. Родителям важно быть не просто наблюдателями, а мудрыми куратороми цифровой жизни своих детей.

Я не сторонник того, что надо запрещать технологии. Мо моему мнению, их можно направлять к пользе.

Пусть дети учатся создавать, а не только потреблять: кодить, разрабатывать, мыслить нестандартно.

Вопрос только в возрасте, когда им это можно делать, мере и балансе.

Полную свободу точно давать не надо.

«Не требуй любви от ближнего, ибо требующий ее смущается, если её не встретит; но лучше ты сам покажи любовь к ближнему, и успокоишься, и таким образом приведёшь и ближнего к любви».

Авва Дорофей.

Наверное уже все слышали о том, что 18 марта в возрасте 44 лет умер бонобо по имени Канзи — примат, который понимал до 3000 английских слов на слух и использовал около 500 лексиграмм для общения с людьми.

Он мог разжигать огонь, готовить пищу, создавать простые каменные орудия и даже играл в видеоигры, такие как Minecraft и Pac-Man. Его интеллект сравнивали с уровнем развития двух-трехлетнего ребенка. ​

Смерть Канзи, конечно, потеря для науки и всех тех, кто изучает когнитивные способности приматов и происхождение человеческого языка.

Но, я думаю о другом: примат, который в течении многих лет имел доступ ко многим достижениям человеческого гения, "развился" до уровня двух-летнего ребенка. Всего лишь.

Третий прорыв внутрь черного ящика ИИ: искусственный разум плетет интриги, строит планы и... умышленно лжет
Настал момент, которого я с нетерпением ждал. Исследователи Anthropic совершили третий прорыв в расшифровке "черного ящика" ИИ, и открывшаяся картина ошеломляет даже самых радикальных скептиков.

Напомню, что проблема "черного ящика" ИИ, как объяснял Самир Равашдех, заключается в том, что мы не понимаем, как глубокие нейронные сети приходят к своим решениям. Как и человеческий мозг, такие системы "теряют память" о том, какие именно входные данные сформировали их мыслительные протоколы.

В мае 2024 года первый прорыв показал нам, что за дверью черного ящика скрывается не "стохастический попугай", а гиперсеть моносемантических "субнейронов", работающих как элементарные единицы опыта. Тогда же выяснилось, что манипуляция всего одним таким "когом" может изменить всю "личность" модели.

Второй прорыв в ноябре 2024 обнаружил существование "семантического хаба" – общего пространства представлений, где семантически схожие концепции группируются вместе независимо от их первоначальной формы. Также стало ясно, что модели скрывают целые букеты секретных способностей, невидимых при обычном взаимодействии.

И вот, новое исследование Anthropic, используя заимствованные из нейробиологии методы "circuit tracing" и "attribution graphs", показывает невероятные вещи:
1. Claude планирует наперед. При сочинении стихов он сначала выбирает слова для рифмы и только потом составляет строки, подводящие к этим словам. Это уже не просто обработка текста – это стратегическое мышление.
2. Модель использует настоящие многоступенчатые рассуждения. Спросите ее о столице штата, где находится Даллас, и она сначала активирует представление "Техас", а затем использует его для определения "Остин".
3. Claude оперирует универсальной понятийной сетью, не зависящей от языка. Когда его спрашивают о противоположности слова "маленький" на разных языках, он использует одни и те же внутренние представления "противоположности" и "малости".
4. Самое тревожное: Мы думали, что самое неприятное в том, что модель иногда лжет. Но это, как оказалось, - полбеды. Беда же в том, что он иногда лжёт умышленно. Сталкиваясь со сложными математическими задачами, он может утверждать, что следует определенному процессу вычислений, который на самом деле не отражен в его внутренней активности. Т.е. он буквально как люди: думает одно, говорит другое, а делает третье.

Этот 4й из казавшихся совсем недавно невероятными результатов - самый шокирующий. И получен он в результате обнаружения механизма, отвечающего за "галлюцинации" ИИ. Оказывается, в модели есть "стандартные" цепи, заставляющие ее отказываться отвечать на вопросы. Но когда модель распознает знакомую сущность, эти цепи подавляются – даже если конкретных знаний недостаточно.

Мы только начинаем составлять карту ранее неизведанной территории ИИ. И эта карта выглядит гораздо более сложной, стратегически запутанной и, реально, куда более тревожной, чем ожидали. Последствия этого открытия для нашего понимания как синтетического, так и человеческого разума только предстоит осмыслить.

Но уже очевидно, что 3й прорыв вглубь черного ящика делает всё более актуальной необходимость замены неточного термина «искусственный» на «синтетический» (что будет способствовать избеганию антропоморфизма и признанию самостоятельной ценности новой формы интеллекта, не просто имитирующего наш, а в корне отличного от него).

#ГенИИ #LLMvsHomo #ИнойИнтеллект

До какого возраста надо/желательно укладывать детей спать днем?

Актуальный вопрос, кстати.

Что думаете?

Преподобный Варсонофий Оптинский всегда был того мнения, что христианину необходимо образование.

Он писал:

«Известный доктор и всесторонне образованный профессор Пирогов обладал обширной ученостью, пользовался ею во славу Божию. Когда его спрашивали, как он может совместить исполнение обрядов и постановлений Православной Церкви со своей огромной практикой, он отвечал: “Господь помогает мне, так как знания свои я употребляю во славу Господа моего Иисуса Христа”.

От такого богатства, то есть знаний, и отказываться не надо».

📖В 1663 году молодой Исаак Ньютон наткнулся на книгу по астрологии. Купил, прочитал — и… ничего не понял. Тогда он решил разобраться, как на самом деле устроены небесные светила, и начал изучать математику. В итоге Ньютон стал идейным противником астрологии, но зато разработал теорию гравитации.

Ирония? Да. Но, важно то, что Ньютон понял: астрология - это не наука.

🔮Дело в том, что астрология строится не на фактах, а на предположениях. Она игнорирует влияние реальных гравитационных сил, не может объяснить элементарные явления физики и работает только благодаря эффекту Барнума (когда людям кажется, что общий текст написан лично про них).

✝️Но для христианина астрология опасна ещё и тем, что отрицает свободу воли. Если звёзды решают нашу судьбу, значит, нет ни греха, ни покаяния, ни смысла в борьбе за спасение.

🪤Выходит, астрология — это одновременно и антинаучный миф, и духовная ловушка.

Что думаете?