Робот обслуживает полку с принтерами. Еще один шаг в сторону кибермастерской.

@ntstg

Тысяча агентов и один архитектор

Коллега хорошо написал о когнитивном долге при работе с ИИ: система может развиваться быстрее, чем человек успевает понимать созданное.

Но проблема шире. Масштабировать исполнение значительно проще, чем архитектурное осмысление. Типизированную работу можно распараллелить между людьми, КБ, подрядчиками, вычислительными мощностями, а теперь и ИИ-агентами.

Сегодня один инженер работает с несколькими агентами. Завтра их вклад в одном проекте может измеряться сотнями и тысячами параллельных исполнителей.

Причём речь уже не только о коде. ИИ всё лучше работает с CAD, электроникой, проектированием плат, программированием, анализом и отладкой оборудования. Не за горами кибермастерские, где все это будет соединено со станками, роботами и испытательными стендами.

Но возникает фундаментальная асимметрия: тысячу локальных инженерных задач можно выполнять почти в тысячу раз параллельнее. Понимать систему как целое в тысячу раз параллельнее нельзя.

Фредерик Брукс считал концептуальную целостность одним из важнейших качеств сложной системы: реализовывать её могут тысячи, но общий замысел должен удерживаться одним архитектором.

Дробить работу необходимо. Дробить мышление о системе опасно.

В сложной технике главные проблемы часто находятся не внутри блоков, а между ними. Масса влияет на механику, механика на энергетику, энергетика на охлаждение, охлаждение на компоновку, ремонт, логистику и производство.

Каждый специалист или агент может быть локально прав, а система в целом уже нежизнеспособна.

Причём административно это может выглядеть прекрасно. Задачи закрываются. Отчёты сдаются. Этапы принимаются. Графики соблюдаются. KPI зелёные.

Есть старый анекдот: один рабочий копает лунки, другой тут же их закапывает. Третий, который должен был класть в ямки картошку, сегодня не вышел. Каждый выполняет свою операцию правильно. Исчез только смысл целого процесса.

Формализм хорошо отвечает на вопрос, выполнена ли отдельная задача. Намного хуже - на вопрос: имеет ли ещё смысл система целиком? Для этого нужен кто-то, кто смотрит поверх границ подразделений, контрактов и модулей.

Советская ракетно-космическая программа хорошо показывает уязвимость таких систем. В воспоминаниях её участников повторяется мысль: пока был Королёв, существовал человек, способный среди огромного числа специалистов и противоречивых требований сказать, куда идти. После его смерти машина в основном  двигалась в последнем заданном им направлении.

Исполнителей можно нарастить. Носителя целостного понимания - почти нет.

Поэтому с ростом возможностей ИИ человеческое внимание должно смещаться не к ещё большему числу локальных задач, а к удержанию целого. И сам ИИ становится ценен не только как армия исполнителей, а как средство расширения зрения архитектора: искать противоречия между подсистемами, прослеживать дальние последствия решений, восстанавливать причины старых решений и показывать связи, которые человек уже не способен одновременно удерживать в голове.

Иначе наша способность производить инженерные решения будет расти на порядки, а способность понимать их совокупность -  нет. «Сила, лишённая разума, рушится от своей громадности сама собой».

Каждый руководитель наверное, помнит моменты, когда подчинённые простаивают, ожидая простых и понятных задач, а эффективно помочь в осмыслении ситуации в целом - попросту некому. И приходится  раздавать либо какие попало задания, либо второстепенные.

Поэтому главным дефицитным ресурсом больших технических систем будущего может оказаться не число инженеров и не вычислительная мощность.
Им окажется архитектор и пропускная способность его понимания. Именно на этих людей и эти способности должна быть ориентирована образовательная система будущего.

@ntstg

ИИ сделает людей тупее? Да. И одновременно умнее, чем они когда-либо были

В критике ИИ как «вечной шпаргалки» есть серьёзная правда. Если ребёнок при первом затруднении спрашивает модель, получает готовое решение и идёт дальше, обучения не происходит. Он получает результат, минуя деятельность, которая должна была изменить его собственный мозг.

Но отсюда совершенно не следует неизбежность массового отупения.

Ту же ошибку делали в начале индустриальной эпохи. Когда машины избавили человека от необходимости постоянно таскать тяжести, копать землю, ходить пешком и работать руками,  футурологи пророчили физическое вырождение человечества.

Однако индустриализация одновременно дала человеку дешёвую пищу, белок, тепло, медицину и возможность тренировать тело не случайной каторжной работой, а целенаправленно.

У Ма Цяньцзу есть хороший образ: "индустриализация - это когда есть мясо". Промышленный синтез аммиака превратил атмосферный азот в удобрения и позволил кормить миллиарды людей. Человек стал меньше махать мотыгой, но получил гораздо больше белка и возможностей физического развития.

Современный спортсмен становится сильным, не бегая впроголодь по джунглям. Он пользуется научно рассчитанными тренажерами, нагрузкой, медициной, питанием и восстановлением.

С интеллектом будет то же самое.

ИИ действительно позволяет ленивому стать ещё ленивее. Можно поручить ИИ письмо, отчёт, код, диплом, всю свою жизнь и постепенно вообще перестать понимать, что происходит.

Но ИИ позволяет построить и прямо противоположную систему.

Представьте ребёнка, у которого, вместо одного замордованного учителя на тридцать человек - персональный институт разработчиков учебных программ, методистов,  наставников.

Они знают всю историю его успехов и ошибок, все его особенности его когнитивного аппарата и направляют его развитие с колыбели. Один объясняет физику. Другой ставит эксперимент. Третий спорит. Чераертый специально даёт убедительный неправильный ответ. Пятый знает главное: когда нельзя подсказывать.

На вопрос «как решить?» такой ИИ не обязан отвечать решением.

Он может спросить: что ты уже попробовал?

Потребовать три гипотезы.

Дать половину подсказки.

Изменить условия задачи и проверить, понял ли человек принцип.

Через неделю дать похожую задачу без помощи.

Через месяц - совершенно другую, но на ту же причинную структуру.

ИИ способен не уничтожить продуктивную фрустрацию, а дозировать её намного точнее, чем современная массовая школа.

И тут возникает неудобный вопрос: а разве нынешняя школа действительно массово выращивает творческое мышление?

Ребёнку сообщают правило, показывают тип задачи, дают двадцать похожих упражнений, ставят оценку, и через полгода значительная часть материала забыта.

Где здесь самостоятельное открытие? Где длительная борьба с неизвестным?

Абсолютное большинство людей и до ИИ не переоткрывало самостоятельно математику и физику. Им выдавали готовые знания: медленно, скучно и одинаково.
Поэтому выбор на самом деле не между мышлением и ИИ.

Напротив, ИИ даёт возможности, которых раньше почти ни у кого не было.

Он может в реальном времени подобрать задачу ровно на границе возможностей, в самой зоне ближайшего развития конкретного ребёнка. Может видеть слабые места. Может часами вести сократический диалог. Может подключить симуляцию, лабораторию, робота, станок. Может отличить «я прочитал и мне всё понятно» от настоящего понимания простым способом: хорошо, теперь реши новую задачу самостоятельно.

Особенно важно, что такая система образования впервые может оказаться в руках семьи.

Государственная школа по самой своей конструкции производит результат, ориентированный на то, чтобы "не портить отчетность по успеваемости" - то есть, на отстающих. А с завершением индустриализации у государств (особенно попавших в колониальную зависимость и разрушивших свою промышленность и амбиции) пропала сама цель готовить созидателей, и осталась лишь цель готовить послушное тупое стадо.

Семья может поставить совсем другую задачу: "Мы не хотим, чтобы ИИ думал вместо ребёнка или накачивал его официальной  пропагандой. Мы хотим, чтобы ИИ сделал нашего ребёнка сильнее нас".

И настроить образование именно на это.

Не давать ответ до самостоятельной попытки. Тренировать рабочую память. Заставлять удерживать длинные причинные цепочки. Регулярно работать без ИИ. Учить спорить с моделью. Ставить реальные эксперименты. Повышать интеллектуальную нагрузку так же, как тренер повышает вес на штанге.

Поэтому я думаю, что ИИ не уравняет людей по уровню интеллекта.

Он, наоборот, резко раздвинет вилку. Ленивый сможет стать тупее, чем когда-либо раньше, потому что машина позволит ему десятилетиями успешно имитировать компетентность, да и вообще выпасть из жизни. А тот, кто действительно хочет развиваться, получит интеллектуальную инфраструктуру, которой прежде не было даже у самых богатых людей: персональных учителей, оппонентов, лаборатории, тренажёры и программу развития, непрерывно подстраиваемую именно под него.

Индустрия уничтожила необходимость быть физически сильным и одновременно дала лучшие в истории средства стать сильным. ИИ уничтожит необходимость быть умным для выполнения огромного количества повседневных задач. И одновременно даст лучшие в истории средства стать умным.

Поэтому главный вопрос не в том, будет ли ИИ думать вместо человека. Главный вопрос: кто будет управлять ИИ, который формирует самого человека.

И серьёзный ответ заключается не в облачных, а в верифицированных локальных автономных ИИ, передаваемых из поколения в поколение. Но это уже совсем другая история.

@ntstg

Позавчера на Международном технологическом конгрессе презентовали новую разработку Ушкуйника — пока в макете (в металле покажем позже, делаем). Суть — полностью автоматизированный цех финальной сборки FPV-дронов, размещённый внутри транспортируемого стандартного 40-футового грузового контейнера.

Принцип Dark Plant. Людей внутри нет, только линия автоматических манипуляторов-сборщиков. Человек нужен лишь для того, чтобы в приёмное окно снаружи загружать картриджи с комплектующими (рамы, моторы, камеры, контроллеры, аккумуляторы, блоки связи) и принимать ящики с готовой продукцией. Мониторинг процесса сборки — удалённый, с внешнего пульта (при наличии нормальной связи — хоть из Новой Зеландии). В системе управления присутствует ИИ-агент, помогающий оператору выявлять отклонения в работе системы и предлагать решения.

Сценарий простой. Контейнер привозится судном, ж/д транспортом или фурой на точку, разгружается, устанавливается. В случае, если это, например, прифронтовой ПВД — ставится в подземное укрытие и маскируется (принудительная вентиляция предусмотрена). Организуется доступ персонала к точкам загрузки картриджей и приёмки готовой продукции, подключается к питанию и вуаля: фабрика, способная выдавать 400 дронов в сутки в режиме 24/7, готова к работе.

Что это даёт на войне. Можно будет возить фурами на фронт не готовые дроны (80% воздуха), а плотно упакованную комплектуху (не более 20% воздуха). То есть одной фурой привозить столько же, сколько сейчас везут четыре. То же самое со складским хранением — ёмкость складов увеличивается ровно в 4 раза, кроме того, их легко делать более распределёнными. Плюс стандартное машинное качество сборки, исключающее ошибки человеческого фактора. Плюс снижение требований к правилам хранения — комплектующие можно хранить в вакуумных упаковках, без проблем с влажностью, коррозией и т.д. Плюс возможность быстро перемещать контейнер на новое место, как можно ближе к точке применения.

Мы рассчитываем, что такие контейнеры можно будет поставить даже в бригадных и полковых ПВД, в непосредственной близости к ТЭЧам.

Ну и если вдруг захочется повоевать где-нибудь на другом конце географии — опять же четырёхкратная прибавка к компактности.

Несостоявшаяся промышленная революция династии Сун

В XI–XIII веках Китай эпохи Сун пережил необычайный технологический и экономический подъём, который некоторые историки называют «сунской экономической революцией». Это общество подошло к ранней индустриализации значительно раньше Европы.

Главное достижение Сун состояло не в отдельных изобретениях, а в том, что они начали складываться в единую хозяйственную систему. Китай имел огромный внутренний рынок, развитую сеть каналов и речного транспорта, крупные города, интенсивную торговлю, денежное обращение, массовое производство и глубокое разделение труда. Одни районы специализировались на чае, шёлке, сахаре и других товарных культурах, покупая часть продовольствия у других регионов.

Особенно впечатляющей была металлургия. В XI веке Китай производил железо в масштабах, необычных для средневекового мира. В металлургии и городском хозяйстве всё шире применялся каменный уголь, что означало постепенный выход за энергетические ограничения традиционной экономики, основанной на древесине, мускульной силе, воде и ветре. Однако Китай не научился превращать энергию угля в универсальную механическую работу. Уголь давал тепло, но не возникла цепочка «уголь — паровая машина — машины — рост добычи угля», которая позднее запустила самоускоряющуюся индустриализацию в Британии.

Сунская эпоха была также временем информационной и финансовой революции. Ксилографическая печать стала массовой, возникли коммерческие издательства, резко расширился рынок книг. Би Шэн около 1040 года изобрёл подвижный шрифт. В Сычуани появились первые бумажные деньги — цзяоцзы, первоначально как частные расписки, а с 1024 года их выпуск был поставлен под государственный контроль.

Военная техника также развивалась чрезвычайно быстро. Именно при Сун порох превратился из алхимической смеси в военную технологию: появились бомбы, огненные стрелы, огненные копья и другие устройства, ставшие предшественниками ракетного и огнестрельного оружия.

Символом научной культуры Сун может служить Шэнь Ко (1031–1095), чиновник, инженер, астроном и естествоиспытатель. Он описал магнитное склонение компаса, исследовал нефть, использовал нефтяную сажу для изготовления туши, делал выводы об изменениях климата по ископаемому бамбуку и о древнем положении морей по раковинам в горных породах. Его подход строился по современному принципу: наблюдение, сравнение, измерение и поиск причинного объяснения.

Другой выдающийся инженер, Су Сун, в 1092 году построил гигантскую астрономическую часовую башню с водяным приводом, сложной системой передач, цепным приводом и механизмом периодического регулирования движения. Это показывает, что сунские инженеры уже умели создавать сложные автоматизированные системы.

Почему же промышленная революция не произошла? Простое объяснение вроде «слишком дешёвая рабочая сила» или «государство задушило частную инициативу» недостаточно. Государство Сун одновременно ограничивало некоторые отрасли и активно строило инфраструктуру, поддерживало рынки, финансировало инженеров и формировало огромный спрос. Более существенным могло быть отсутствие универсального двигателя, способного связать уголь, машины и производство в самоускоряющийся цикл. Дополнительную роль сыграли войны и потеря Северного Китая, где находились важные металлургические и угольные районы.

Сун оказалась «несостоявшейся Англией XVIII века» - крайне развитой доиндустриальной цивилизацией, которая подошла очень близко к массовому рынку, специализации, крупной металлургии, ископаемому топливу, печатной культуре, сложной инженерии и финансовым инновациям. Не хватило прежде всего технологического механизма, который заставил бы эти достижения непрерывно усиливать друг друга.

@ntstg

Про умение работать на перспективу.

У любой интересной истории есть предыстория. Про атомный проект в раззоренном войной СССР слышали все. Но на самом деле, этот проект начался гораздо раньше.

В 1932 году мололой Курчатов (всего 29 лет) откладывает перспективные работы по сегнетоэлектричеству (мирового уровня, отличная прикладная тема). И погружается в физику атома. Просто потому что чуйка. Как пишет его ученик Флеров:

"Были для такого заключения какие-то видимые причины? Для „трезвого“ человека, пожалуй, не было. Тогда многие помнили слова Резерфорда о том, что внутриядерная энергия найдет практическое применение в XXI веке. От ядерных исследований не ждали практического выхода, „овса“, как любил шутить Курчатов. Среди людей „дела“ изучение атомного ядра было непопулярно.

Игорь Васильевич не сразу определил направление своих работ: некоторое время работал на ускорителях в Харькове, занимался реакциями на легких ядрах. В начале 1933 г. вслед за Э. Ферми он понял значение нейтронной физики. Главным его увлечением стала физика медленных нейтронов.

Примерно в 1936 г. начал действовать еженедельный нейтронный семинар, организованный И. В. Курчатовым и сыгравший в развитии советской науки выдающуюся роль."

Ещё разок: в стране 1936 год, репрессии. А Курчатов занимается никому не нужной атомной физикой. И организует семинар на котором "резерфордовские работы были Курчатовым превращены для нас как бы в шахматные этюды. Каждому давалась отдельная статья или глава из книги, и мы должны были разобраться во всем. Объяснить, почему для такого-то эксперимента взята установка такого-то размера — был ли в этом особый смысл, или она просто осталась от предыдущего опыта. Почему использован такой-то источник излучения, а не другой. Разбирали всё, как разбирают куклу на части, препарировали и сами опыты, и авторские рассуждения. Курчатова интересовал вопрос: можно ли тот или иной опыт поставить иначе, с современной техникой тридцатых годов? Будет ли лучше?"

А в стране идут репрессии и каток совсем рядом. "В марте 1936 года, на специально созванной сессии АН СССР, институт был подвергнут жесточайшей критике именно за «отрыв от практики», от «нужд промышленности», за развитие «далеких» от жизни направлений, таких как ядерная физика"

Но Иоффе , руководитель Курчатова и ЛФТИ упорно добивался возможности продолжать и развивать в нем научные исследования по ядерной физике, "мудро согласившись с некоторыми замечаниями, предпринял ряд мер по укреплению связей с промышленностью: поддержал проводимые в ЛФТИ оборонные работы по размагничиванию кораблей и по радиолокации." Вплоть способа получения резины из жестких сортов синтетического каучука для снижения износа автопокрышек на автомобилях «ЗИС» . Но параллельно выбивает деньги на строительство циклотрона.

К 1940му году дипломники Курчатова Флеров и Петржак экспериментально обнаружат спонтанное деление ядер урана. Короткую заметку об открытии, подписанную Флеровым и Петржаком, А. Ф. Иоффе направил по трансатлантическому кабелю (каблограммой) в американский журнал «Physical Review», и в июне 1940 года она увидела свет. Правда ответа на нее уже не получили : в то время эти исследования в США были уже засекречены и новые публикации перестали выходить. Да и в других странах постепенно происходило то же самое.

Флеров подытоживает: Курчатовым "выиграны многие годы, требовавшиеся для освоения Советским Союзом ядерной энергии, создания ядерного щита для социалистических стран. Как ни спешить, физиков — специалистов по атомному ядру не воспитаешь на краткосрочных годичных курсах. На отбор способных, талантливых людей, которые бы смогли взять на себя научное руководство советским атомным проектом, на приобретение ими экспериментальных навыков в новой научной области потребовалось бы время, много времени, годы".

Так что тридцатые годы были у каждого свои.