Metaprogramming
716 subscribers
108 photos
1 video
168 links
μετά- «между, после, через» (греч.)

Жизнь программиста за пределами программирования: алгоритмы, психология, инвестиции, иное.
Download Telegram
Язык в языке — звуковая проторечь

Периодически буду писать всякие заметки про детей, благо знаю что среди читателей достаточно интересующихся темой (да и в целом вопросы не малоинтересные в контексте общей психологии).

Положим начало вот каким наблюдением.

Развитие речи у младенцев наводит на вот какую мысль: в естественном языке есть "вложенный" язык (набор слов и семантик, правил грамматики), который, будучи корректной частью "основного" языка (например, русского), является минимальным "оформлением" (если угодно, "доформализацией") некоей по сути врождённой звуковой проторечи.

Понять это можно как расширенный принцип звукописи. Слова типа "шуршать" или "жужжать" являются самыми простыми примерами (обозначают то, что слышится: шшш, жжж). Однако если немножко настроить слуховое восприятие, то окажется что весьма не малое подмножество языка является воплощением того же принципа.

Тишина ("ш-ш-ш!"), прыгать ("прыг!"), хватать ("хвать"), рычать ("р-р-р"). Очевидные "мама" (подобное сочетание слогов, кажется, даже у щеночков-котят-телят проскакивает), "ляля" ("лä-лä-лä" говорят ляльки), "не-а". Зачерпнуть можно довольно широко без особой натяжки: колобок ("о"), кидать, дрыгать, ходить, думать ("у-у-у..."), ...

Если присмотреться, то в хорошей поэзии всегда подобный феномен идёт одним из слоёв. Стихотворение всегда говорит "р-р-р!", или "ля-ля-ля", или "о-о-о! у-у-у!", или что-то в этом роде.

Лачужка - печальна - старушка - приумолкла - буря - друг - утомлена ("Зимний вечер" Пушкина).

Вторичный язык (или двухсоставной смысловой рефлекс) на чередовании опорных звуков. Впрочем, буду удивлён, если не выяснится, что у филологов тема хорошо пропахана.
🔥72
Почему-то на языке вертятся слова "каждое лыко в строку" :)

"Содружество наций".

2.5 миллиарда населения (для сравнения: Китай 1.5, ЕС 0.5, США 0.3).

$10 триллионов ВВП (США $27, Китай $18, ЕС $19).

Технически главой является Карл III, который, так сложилось, занял позицию после смерти своей матери (Елизаветы II), что является не более чем совпадением (позиция не передаётся по наследству).
🔥12👍1
Английская наука и техника

Изучая историю науки и техники рано или поздно натыкаешься на следующую закономерность: многие изобретения англичанами сделаны за несколько десятилетий до их изобретения.

В 1684 году Готфрид Лейбниц публикует основы исчисления производных, создав тем самым фундамент современного математического анализа. В 1687 году Исаак Ньютон публикует свои основы математики, где в менее формальном виде – через геометрические иллюстрации – даёт свою интерпретацию той же темы.

В 1693 году Ньютон публикует более строгие рассуждения со своим подходом к производной. Далее, в 1737, спустя 53(!) года после выхода оригинальной работы Лейбница, и спустя 10 лет после смерти самого Ньютона, выходит, наконец, окончательная версия ньютоновской формализации производной.

Раньше руки не доходили у научного английского сообщества извлечь из стола важнейший манускрипт: подумаешь, спор о приоритете в важнейшей теме математики, империя никуда не спешит, как асфальтовый каток.

Ну дальше-больше, выясняется что англичане успели съездить на машине времени в 1666 год и там подкинуть Ньютону идеи, которые он окончательно оформит только спустя 70 лет от этого момента (через 10 лет после собственной смерти). Текст этих заметок был опубликован уже как бы не в 20-м веке.

Аналогично с постройкой разностной машины Беббиджа. В 1788 немец Иоганн Мюллер публикует идею. В 1823 англичанин Чарльз Беббидж, будучи незнакомым с работой коллеги (джентельменам следует верить на слово) строит вычислительную машину. Ну как строит, осваивает грант на 17000 фунтов стерлингов (~$5M на сегодняшние деньги) и что-то собирает из шестерёнок. Рабочий же вариант построили, вдохновившись его наработками, в 1991 году (для музея).

Можно сказать: ну ладно, 19 век (тем более 18), стимпанк, мало ли чего там было, дело прошлое. Хорошо, обратимся к 20 веку.

В 1987 году находят "потерянную записную книжку Рамануджана" – гениального математика-самоучки из Индии, которому дал путёвку в свет Годфри Харди (кстати, также выступавший старшим научным братом другого гениального математика-самоучки с бывшей колонии – Норберта Винера, основателя кибернетики).

Сам Рамануджан умер в 1920 году, Харди в 1947. Так ничего, на извлечённой из завалившейся за шкаф рукописи 1920-го года (последнего года жизни Рамануджана) чётко опознают как почерк самого Рамануджана, так и визу Харди. Оказывается в огромном наборе формул с как всегда пропущенными выкладками (фирменный гений Рамануджана) отчётливо видится идея так называемых "фальшивых тета-функций".

История открытия – очередное чудо. Следите за руками. Рамануджан умер, Харди умер, Вилсон умер (коллега Харди, получивший от него записную книжку). Затем Виттакер (ещё один Кембриджский математик) находит в архиве Вилсона записную книжку, но она снова теряется в библиотеке Кембриджа на 8 лет! Затем Эндрюс (математик, занявшийся впоследствии содержательной разработкой фальшивых тета-функций) ещё через 10 лет после находки (а куда торопиться с исторической сенсацией?) публикует финальную редакцию. Так, спустя 67 лет, очередная заслуга простого трудящегося индийского гения получает официальное признание!

Математика там уже совсем не для профанов, глубины теории чисел (даже не буду пытаться пересказать суть). Но в сухом остатке имеем снова отменённый приоритет – и снова немца – Ганса Маасса. Впрочем тот был и не против. После второй мировой (надо как-то устраиваться в мире победивших Союзников) несколько раз ездит в Бомбей, ведёт лекции в Институте фундаментальных исследований Тата (на тему модулярных функций – прекурсоров фальшивых тета-функций). Институт Тата – организация, по случайному совпадению, отвечавшая за наследие Рамануджана :) Почему такой странный выбор места проведения лекций – да наверное национальная музыка и искусство нравилось!

За незримый вклад в дело науки Содружества Маасс получает в 1983 году членство в Индийской академии наук.

Win-win!

На тему достоверности истории раньше говорили ещё здесь:

Краледворская рукопись – древнечешский эпос (26.09.2023)
🔥16👍139
Please open Telegram to view this post
VIEW IN TELEGRAM
1🔥1
Пять мифов о младенцах

Продолжение серии коротких заметок про младенцев. Разоблачаем мифы! Стоит иметь в виду, что младенцы все разные, пишу исходя из своего опыта и общеизвестных фактов. При сомнениях обращайтесь к педиатрам и думайте сами :)

1. Детей надо тепло укутывать. Более мягкая формулировка: детей следует одевать "плюс один слой" по сравнению со взрослыми.

Дети это маленькие печки, тепловые реакторы, которых перегреть гораздо проще, чем переохладить.

Грудь и задняя часть шеи на ощупь должна быть нейтральной (не слишком тёплой и тем более не горячей).

Щёчки и носики с ушками могут быть прохладными, а ручки с ножками должны быть слегка прохладными на ощупь при оптимальном тепловом режиме.

Эти ориентировочные правила по факту означают, что ребёнок – по крайней мере, в тёплое время года – должен быть одет на один слой меньше (а не больше), чем взрослый.

2. Чтобы ребёнок себя не поцарапал, можно использовать закрытые перчатки на руки.

У младенца две основные когнитивные задачи на первые годы жизни: освоить азы речи и базовую моторику рук. Второе, по-видимому, даже важнее: сильнее связано с будущими успехами в жизни.

Закрывать пальцы это что-то аналогичное ослеплению для взрослого, приведёт к (вероятно небольшой, но значимой) задержке развития.

Касаться руками собственных щёк, тянуть пальцы в рот, щупать всё что вокруг под них попадётся – основной канал сенсорного восприятия (особенно в первые дни и месяцы жизни, когда зрение и слух совсем рудиментарны).

Чтобы себя не царапал надо стричь/подпиливать ногти, следует это делать (по необходимости) с первого дня жизни.

3. Удобней всего держать младенца, запеленав и прижав к себе, когда он лежит на спине.

Младенцы больше любят лежать на животе, в так называемой "позе тигра". В таком положении, кроме прочего, тренируется контроль за мышцами спины, шеи, пресса и т.д. Давление, создаваемое собственным весом на живот, помогает младенцу взять под контроль неприятные ощущения от неустоявшегося процесса пищеварения.

4. Младенцы до 3 месяцев вовсе не понимают речь из-за неразвитости соответствующих зон мозга.

Младенцы понимают речь с первого дня (а вероятно и ранее): в том числе способны ухватывать отдельные слова и однозначно их опознавать. Это выгодно отличает человеков от всяких кошечек-собачек: в то время как у последних развитие в целом идёт быстрее (почти сразу начинают бегать и т.п.), конкретно со словами человеческая "нейросетка" сразу же справляется лучше.

5. Для того чтобы ребёнок вырос более умным, надо общаться с ним как со взрослым: не "сюсюкать" и т.п.

Для того, чтобы развитие ребёнка шло оптимальным образом, надо сюсюкать (по-английски называется infant directed speech, IDS). Т.е. использовать "детские" интонации, замедление речи, говорение по слогам. Это облегчит изучение языка и укрепит связь с родителями и, тем самым, ускорит общее когнитивное развитие.

Словарный запас, сложную грамматику и прочее ребёнок сам подхватит из среды проживания или, уже позже, из образовательного процесса.

Думаю данное правило следует даже усилить: надо совмещать "сюсюканье" (использование упрощённого языка и речи) с "агуканьем" (использованием детской проторечи-междометий). Младенец вам "гу-гу-гу", а вы ему в ответ "гу-гу-гу, сейчас пойдём гулять", в таком стиле.

Ранее тему детской психологии затрагивали здесь:

Язык в языке — звуковая проторечь (12.07.2025)
20👍7🔥4👎1
Forwarded from Гиперкаталог
На входе, начиная с 1948, имеем: успешное рождение кибернетики, первые публикации, широкое международное признание. Появление термина "искусственный интеллект" (придумал Джон МакКарти, создатель языка программирования LISP). Далее бурный социальный рост движения, череда интересных технических открытий, проникновение в популярную культуру.

На выходе, к 1972: "есть мнение, что ИИ переоценили". Прекращение финансирования, фактический роспуск движения, всеобщее разочарование прогрессом. Кувырок через голову.

Что произошло? Куда всё делось?

Рассказывают, что наступила "зима ИИ". То есть объективное погодное явление, ничего не поделать, таков, мол, прихотливый, но естественный и даже ожидаемый ход научного прогресса.

Евгений написал большую статью об истории искусственного интеллекта, в которой затронул самые разные темы: от понятной кибернетики до неочевидной групповой психотерапии. В материале охвачен период от рождения отца кибернетики до первой Зимы ИИ.
🔥15👍82
Авторегрессия рекомендаций

Современные лингвистические ИИ (большие лингвистические модели) работают по принципу "авторегрессии": предыдущие символы предсказывают следующие. Не удивительно, что рано или поздно подобное "самопредсказание" должно выходить на некое плато.

Плохие модели начинают буквально спамить одинаковым текстом, каким-нибудь зациклившимся словом.

Хорошие пытаются выжать из пользователя что-нибудь новенькое, переходя на касательную тему, или пытаются вызвать желание прекратить диалог, делая некие как бы подводящие итог беседы замечания.

Важно, что источником новизны – а значит, вообще, источником осмысленности – является пользовательская активность. Для конкретного диалога активность конкретного пользователя, а для развития моделей в целом активность миллионов общающихся с ними людей (и десятков тысяч нанятых профессиональных рецензентов).

Модели как бы выжимают смыслы из массива текстов – похоже на буквально извлечение полезных ископаемых из недр. Сначала выжали смыслы из архива интернета за 2021 год. Выжали, по-видимому, до суха, и теперь остаётся выжимать смыслы уже из общения пользователей с самими ИИ. Большой интернет контаминируется продуктами моделей, которые неуёмно используют на всех основных публицистических площадках, использовать его "как есть" посему не выйдет – а логи диалогов с ИИ, ну понятно, априори несут отпечаток ИИ минимум на половину.

На эту систему можно взглянуть шире – вот уже сами люди вовлекаются в авторегрессионную модель, обучаясь на ИИ-продуктах и ИИ-взаимодействиях и стараясь (вольно или невольно) породить контент, который вписывается в шаблоны, который случайно подцепил ИИ (сам или через произвольный выбор ИИ-тренеров).

Особенно ярким примером такой человеко-машинной авторегрессии являются рекомендательные системы. Это всё то программное обеспечение (с элементами ИИ), которое подкидывает видео в ютюбах и тиктоках, посты в дзенах и фейсбуках, игры в стиме, музыку и фильмы в стриминговых сервисах.

В известный момент во всех этих сервисах отменили всякую возможность упорядочивать контент – отменили жанры и теги. В итоге Dota и Slay The Spire, например, оказались в Стиме в едином разделе Strategy games. А облако тегов из забавной картинки, помогающей ориентироваться в содержании, превратилось в произвольный список, который стоило бы добавить в блокировщик рекламы.

Зачем это сделали? Чтобы "рексистемы" давали пользователям индивидуальные рекомендации на основе их фактической активности, чтобы навязанные схемы не искажали произвольный и свободный человеческий выбор.

Но привело это к противоположному результату (хоть и закономерному). Вместо расцвета сотен жанров видим классическое авторегрессионное схлопывание: миллионы rogue-like deck-building "indie" "strategy" games. В какой-то момент случайно выпал такой вот вектор в рексистемах, а потом люди, лишённые возможности обучаться всё более тонкому выбору (что возможно единственно через развитие онтологии всё более тонких различий – т.е., для игр, формализации жанров в частности и игровых компонентов в общем), сработали как усилитель этого схлопывания.

Кстати, настойчивое нежелание заниматься определением слова "интеллект" (из словосочетание "искусственный интеллект") ведь результатом имеет в точности то же: авторегрессионный коллапс "интеллектуальности" в информационной среде в целом.

Ранее сходные темы обсуждали здесь:

Двойное определение разума (27.03.2023)
Дискриминатор разумности (21.05.2023)
Коллапс модели (01.10.2023)
👍13🔥3
Терминологический диспут

В довесок к предыдущему посту: читатели упрекают в использовании термина "лингвистический ИИ/модель" (используется мало и в публицистике) вместо "языковой ИИ/модель" (используется часто, в т.ч. в академической среде).

Но позвольте, какая же LLM "языковая модель"? И вообще, что такое "языковая модель", в отличие от "модели языка"?

Массив текстов (что изначально не вполне "язык") нарезают на токены, токены скармливают по порядку модели, модель учится предсказывать следующий токен. У недоученных моделей вылезает показательный артефакт – отвечают на смеси языков (например, посередине китайского текста вылазит английский), приходится исправлять дополнительными манёврами.

Какого же конкретно "языка" "языковая модель" является моделью? Праиндоевропейскосинотибетского?

Нет, братцы, использование здесь слова "язык" является искажением того же порядка, что и использование слова "интеллект" в словосочетании "искусственный интеллект".
🔥6👍3
Общество тишины

Существует массовое движение экологов, озабоченных проблемами загрязнения окружающей среды. Пришло недавно в голову, что должно быть такое же движение против шумового загрязнения.

Область почему-то крайне слабо проработанная не смотря на то, что существует актуальный запрос со стороны населения планеты.

Как и у экологов, движение должно состоять из самых разных отделений: интеллигенты должны писать научные статьи и книги, журналисты заниматься общей популяризацией целей и подходов, ну а активисты пресекать враждебные действия и уничтожать инструменты их совершения.

Включил телефон на громкую связь в общественном месте – тут же дружинник показал визитку, попросил так не делать. Дети балуются с пиротехникой – поиск родителей, проведение профилактических бесед, проработка вопроса через социальные службы при отсутствии понимания. Город согласовал концерт на открытом воздухе в жилой зоне – проведение официальных замеров децибел, организация массовых жалоб, грамотное составление коллективных исков, параллельно физическое воздействие на источник шума.

Думаю, название легко завирусится, число сторонников будет расти экспоненциально. Появятся специализированные крылья. "Мировая тишина" – интернациональный орган, "Тишь да гладь" – юридическая поддержка, "Тихие люди" – ренегады-боевики (общество тишины их осуждает и отрицает всякую связь), "Слушатели тишины" – философски-эзотерическое направление.

Конечно, отсутствие подобных организаций показывает тотальную фиктивность текущего мирового политического процесса и отсутствие всяких причин в него вовлекаться хоть каплей эмоций, не говоря уже про какое-либо поведение.

UPD. "Адвокаты тишины" – правовые вопросы, "Диалектики тишины" – военизированные службы (почему диалектики? работают громко!)
👍20🔥21
Доля смартфонов на рынке США. Apple и Samsung потихоньку едят всю мелочёвку, нарастили за 11 лет совместную долю рынка с 70% до 84%.
👍3
Рыночные соображения

Считается, что цель коммерческой компании извлекать максимальную прибыль и захватывать наибольшую долю рынка.

При этом в реальности подобное агрессивное поведение мы всё же видим скорее от молодых и смелых стартапов – причём не всех, а определённого сорта – а устоявшиеся компании как-то скучнеют и подобными банальными вопросами перестают интересоваться.

Так что, по-видимому, как минимум можно сказать что нечто им следовать заявленной цели мешает, причём значительно. Но внутренние душевные терзания миллиардеров сейчас не очень важны, взглянем отстранённо: так или иначе, пусть не по своей воле, от подобной цели зрелые компании (тем более монополисты) отказываются.

Задумался недавно, зачем Samsung в новой прошивке телефона испортил значительную часть элементов интерфейса, а оставшиеся перелицевал так, что их стало не узнать (круглое заменили на квадратное, квадратное на круглое и т.д.). Полоску управления плеером – самый важный элемент экрана блокировки – запихнули под несколько неочевидных кликов. Попробуй найди её ещё, когда надо поставить быстро на паузу или пролистать трек.

Пропустим такты не имеющей смысла конспирологии типа "да там дураки работают" (в компании мирового уровня) или "продуктовые менеджеры должны получать за что-то премии" (справедливо, но кто-то им эти премии должен назначать), и предположим, смеха ради, что ухудшают ради того, чтобы ухудшить.

А зачем надо ухудшать продукт? Ну если улучшают ради увеличения доли рынка, то ухудшают ради уменьшения. А что, логично!

Если разного размера компании, сформировавшие олигополию, дорастают до полноценного картеля (формальных договорённостей об ограничении взаимной конкуренции), то наверное в основаниях подобных отношений и соглашения о причитающихся долях рынка прописаны должны быть. А как иначе картель вообще работать будет, на честном слове что ли – убеждать друг друга будут что ничего не нарушали и "оно само", "мы просто лучше продукт выпустили"? Так дела не делаются.

Ну вот видимо Самсунгу и отписали долю в 20-25%, и с некоторой задержкой происходит самокоррекция лишнего процентика. Упадёт обратно до 18%, может и плеер вернётся на место.

Кстати, на рынке игр для ПК – Steam vs Epic Games Store – это вообще до смешного доходит. Epic Store с момента выхода на проектную мощность занимает долю ровно 15%, и ни граммом больше (как официально говорят – а это здесь даже важней того, что на самом деле). Игры дело серьёзное, не железяки продавать, думаю там такого пинка отвесят в случае работы не по правилам, ради которого не стыдно пойти на всё: и логин на семи страницах, и отсутствие отзывов, и прочее.

Ну, может ещё как-нибудь выторгуют себе повышение market share на процентик-другой, и качество продукта повысится вслед за запланированной долей – поживём!

Ранее на тему рыночной экономики говорили здесь:

Дайте два (06.05.2022)
👍9🔥2