Вчера решали кейс с угоном аккаунта в Telegram одного знакомого.

Товарищ продвинутый и матерый в ИТ

В технические детали вдаваться не буду, но если вы используете клиент Telegram на Mac, то пользуйтесь версией скаченной с AppStore, а не самостоятельно скаченным и установленным дистрибутивом с официального сайта Telegram.

На прошлой неделе был на форуме Silk Road, посвященный AI и Fintech

Что для себя вынес

1. Все делают ИИ платформы

2. Мало кто понимает что такое ИИ платформа, где-то это GPT Wrapper чата, где-то неплохой harness поверх моделей и on prem инфры

3. Главный конкурент аналогичных рыночных платформ - внутренние команды + open source и прогресс самих моделей

4. Разрыв в возможностях ИИ и понимании ИИ топ менеджерами колоссальный. Поэтому много спекуляций. Все показывают агентов, никто не говорит что стало лучше в цифрах.

5. Пока всем все равно на законодательную базу и штрафы. Все сознательно сливают кодовые базы в Claude и ChatGPT. Основной тейк «Да нафиг мы им там сдались? Ну слили и слили». Ну ок, время покажет.

6. В целом есть какая-то полярность в мнениях из дискуссий. Либо ИИ евангелизм на грани прихода спасителя, либо сборище скуфоф скептиков уверенных, что «этот ваш ИИ - пузырь».

7. Тейк выше думаю возникает, потому что мало где нормально построены механизмы инновационных пересборок компаний с понятным run, change, disrupt подходами. Отсюда к технологиям отношение не инструментальное с гипотезами и тестами, а немного религиозное. А не много ли я хочу, скажете? Нет, это уже база в 26 году.

8. Зарабатывают при этом те, кто строит дата центры, продают токены и всякие трафикные мусорные враперы.

9. При этом везде большое личное проникновение GenAI. Те, реальное проникновение обеспечивается снизу вверх и без грандиозных стратегий. Просто это неуправляемо для организаций.

10. Будет либо очень круто, либо очень глупо

Пост про знание в День знаний

Сейчас принято говорить, что знание обесценивается из-за ИИ. Используют формулировку, что мы живем в эпоху почти бесплатного и бесконечного знания.

Что же останется важным в сути знания в такую эпоху?

Емко я бы сформулировал это так:

Ценность в осознанном анализе и синтезе знания.

Давайте разберем этот тезис

Обесценивается энциклопедическое знание, а вот умение выделить главное, найти противоречия, построить новые завязи - это уже анализ и синтез.

Поэтому математика, аналитическая философия, логика становятся еще более актуальны, потому что именно эти дисциплины тренируют способность к анализу и синтезу информации.

Это технические навыки и без навыка осознанно их применять - человек рискует остаться инструментом.

Теперь про осознанность. Человек от инструмента отличается тем, что способен понимать и придавать смысл деятельность.

Не просто как это делать? А почему это важно?

Поэтому я верю в большой ренессанс гуманитарных дисциплин: философия, литература, искусство. Все что исследует природу человеческого смыла.

Человек, который откажется не способен работать со смыслом деятельности, рискует не превзойти инструмент.

Давайте увидимся 9 сентября в 19:00 и познакомимся с доксологическим подходом к познанию.

Согласно ему, человеческое знание по своей сути является разновидностью «доксы». Что это значит и как с этим жить, расскажет кандидат философских наук, доцент Центра академического образования Института iSpring Дмитрий Николаевич Воробьев.

Он проведет семинар «Почему археологи не видели нарисованных бизонов? Ловушки нашего восприятия и доксологический урок пещеры Альтамира»

Семинар бесплатный, но нужно записаться вот тут @okashin

Часто в контексте дискуссий про ИИ проводится линия незаменимости эмоционального контакта человек - человек.

Но если честно, в большинстве рабочих процессов - это ведь главная неэффективность

Для меня самое сложное в работе с людьми - это когда ты хочешь обсудить конкретный вопрос, а в ответ выслушиваешь факты биографии, ощущаешь себя невольным объектом самореализации человека или случайной целью атак его багажа комплексов.

Для меня это буквально всегда как-то так выглядит:

Смотри, 2 + 2 =4, а у тебя почему-то 5, а в ответ слушаю (Да ты! Да я! Да мы! Да они!)

Сколько часов жизни сжигается в попытке не обидеть человека и дослушать его непрошеные монологи.

И хороший сервис сложно построить, потому что сервис на масштабе это способность того же официанта вежливо улыбнуться, даже если день у него паршивый. Те это в большей степени про управление эмоцией, а не проявление ее.

Эмоциональная коммуникация катастрофически неэффективна в утилитарных процессах. Она создает шум и искажения, вместо скорости и точности.

Поэтому, глобально, исчезновение людей из производственных процессов во многом будет оправдано и полезно.

Система 3

Тут исследователи решили дополнить классику Канемана про Систему-1 и Систему-2 и предложили в эпоху ИИ рассматривать еще и Систему-3 — внешнее алгоритмическое мышление ИИ, которое использует человек в процессе решения задачи. Авторы не без оснований полагают, что ИИ уже стал активным внешним участником принятия решений.
Авторы различают два режима работы с ИИ.
• Когнитивный аутсорсинг (offloading): человек делегирует ИИ часть работы, но сохраняет контроль, сверяет ответ с задачей и при необходимости отменяет рекомендацию.
• Когнитивная капитуляция (surrender): человек принимает выданный ИИ ответ без достаточной проверки; собственная аналитика фактически не включается.
В ходе нескольких разумно сдизайненных экспериментов получили ожидаемый вывод: качество человеческого ответа стало зависеть от качества подсказки ИИ: правильный вариант ИИ добавил около 25 процентных пунктов к базовому уровню, ошибочный — отнял около 15. Контраст между двумя типами рекомендаций был крупным по размеру эффекта: Cohen’s h = 0.81.
Вроде бы выглядит как большая опасность, но, как и в большинстве подобных экспериментов, сама среда их проведения примитивна: просто ChatGPT (а в данном случае еще и неявно управляемый экспериментаторами).
Принципиально ошибочным при этом является неявно используемое утверждение “ChatGPT = AI" Все выводы, таким образом, сводятся к тому, что в лоб и бездумно использовать первый же ответ ChatGPT на сложную задачу опасно.
Для бытовых пользователей ИИ-чатиков статья несет важное предупреждение — вот только они его не прочитают. А в реальных рабочих процессах с использованием ИИ, в правильной обвязке и с разработанными процедурами вариант “когнитивной капитуляции” становится куда менее вероятным, ради этого harness и существует.
Тем не менее прочитать полезно, хотя это совсем не популярный текст (а уже появившиеся популярные пересказы с призывами “не сдавайтесь ИИ!” поверхностны и местами истеричны).
А вообще интересно, приживется ли концепция “системы-3”, она по сути своей заметно глубже примитивного “ИИ — это инструмент”
https://papers.ssrn.com/sol3/papers.cfm?abstract_id=6097646
Если кому трудно по ссылке пройти, вот статья в PDF

Верховный суд Марий Эл оправдал Юрия Ускова. Ура!

10 замечаний о стратегии

Я люблю изучать стратегирование в разных сферах. Вот несколько выводов о стратегии к которым я сам часто возвращаюсь в мыслях

1. Хорошая стратегия - это когда на следующем такте ты создаешь большее пространство ходов, а не сужаешь их

2. Чем длиннее горизонт планирования, тем более контринтуитивны лучшие из ходов

3. Любое преимущество, в динамике станет недостатком, и наоборот

4. Максимальная реализация потенциала преимущества, породит симметричное раскрытие потенциала. Лучше выбирать оптимально хороший ход, а не самый лучший в каждом такте.

5. Никогда не реагируй на ходы в рамках чужих стратегий. Выходи из рамки, навязывая свои правила, темп, ритм.

6. Стратегия - это длинный горизонт. Средний горизонт - оперативное искусство, короткий - тактический. У военных эта метрика пространства, для гражданских метрика времени.

7. Если у компании нет стратегии, значит она часть чьей-то стратегии

8. Гибкость - это не про отсутствие стратегии, а про постоянное приведение ее к реальности

9. Львиная часть хороших стратегий проваливается, потому что недокоммуцирована внутри. Директора живут в стратегии, исполнители о ней знать не знают.

10. Обычно хорошая стратегия - это красивая история. Применима фраза Туполева «Некрасивый. Не полетит».

Мои взгляды на прогресс можно популярно выразить понятием технооптимизма

Однако, для себя я формулирую систему моих взглядов как технофатализм

Я считаю прогресс - неизбежностью в логике развития разума

Разумное обречено на прогресс

Многие проблемы людей, компаний и стран происходят из-за попыток с этого пути свернуть, остановиться, перепрыгнуть этап. Из-за неприятия судьбы разумного.

Немецкий мистицизм скажете вы, ну а когда я это отрицал

Я бесконечно уважаю Аркадия Воложа, как человека создавшего Яндекс.

Тем не менее, мне сложно понять эту логику.

Он вышел из активов и уехал из России, в рамках антивоенной позиции.

Теперь его компания подписывает контракт с одной из главных компаний в сфере военных технологий США. Palantir - это не просто ИТ компания, это боевой искусственный интеллект, который работает на Украине, в Палестине и в Иране.

На прошлой неделе принял участие в дискуссии «Экономика Татарстана в эпоху цифровизации» с участием Топилина Максима Анатольевича - Председателя Комитета Государственной Думы по экономической политике

Вот несколько тезисов про ИИ экономику, которые высказал в дискуссии

Нельзя в моменте мерить эффективность от инвестиций в ИИ только через анализ повышения производительности труда в реальном секторе. ИИ сейчас скорее создает принципиально новые структуры, которые агрегируют талант и капитал, создавая новые рабочие места и компетенции.

ИИ - это очередной цивилизационно-технологический вызов. От способности сформировать компетенции, технологии, конкурентоспособные компании зависит стратегический успех страны.

ИИ - это один из ответов на демографическую проблему. Новых людей больше не станет. ИИ позволит высвободить людей из структур, которые неэффективно раскрывают человеческий капитал и направить их в новые структуры с более эффективной метрикой раскрытия человеческого капитала.

Кстати, довольно интересно как дискуссия про угрозы генеративного ИИ сработала чучелом для отведения внимания от реально опасного ИИ

В реально опасный ИИ это не GenAI, а рекомендательные алгоритмы а лентах социальных сетей. Это вполне себе классический ML.

Именно этот тип ИИ ответственен за снижение порога внимания, эксплуатирует дофаминовый механизм, огромное количество людей заставляет ощущать себя подавленными.

Уверен, что вокруг алгоритмической выдачи через лет 10-15 разгорится скандал как вокруг табачников, что утаивали реальные эффекты от курения. (Запомните этот твит!)

Может ли ИИ быть опасным, да, но не там где вы думаете.

Кстати, Telagram давно мог ввести ленту и заработать больше денег, но не делает этого.

В последнее время возникает много поводов задуматься, что гиперэмпатичность точно такой же порок, как не эмпатчиность

Люди не эмпатичные обычны движимы каким-то идеалом, абстрактным конструктом. На пути достижения этого идеального, они могут пренебречь чужой болью, трагедией. Это некий классический образ диктатора 20 века.

Люди с повышенной чувствительностью, обычно это люди творческие: поэты, музыканты, художники. Выступают для общества неким индикатором коллективной боли общества и способны давать сигнал, что что-то не так. Безусловно полезная функция.

Однако, гиперэмпатичность - это эмоциональная реакция без содержания. Словно у человека резко повысилась чувствительность глаз к свету или слуха к звуку. Человек постоянно ослеплен и оглушен, он кричит и реагирует, но абсолютно не понимаем смысловое содержание своей реакции. Такой человек - идеальный объект для манипуляций, он словно нервная клетка передает через себя боль, умножая ее, абсолютно не понимая контекста.

Меня беспокоит мода на такой тип поведения. В сущности это мода на реакцию, до ее осмысления. Мода на реакцию, в разрыве от смысла реакции.

Это как эволюция в обратном направлении.

Рассчитываю на контртренд этой динамики

Социальное раскулачивание

Пост развивает вчерашнюю мысль

Гиперэмпатичность - это эмоциональная реакция на событие, опережающая понимая события.

Сделаем экономический твист. В современном мире социальный капитал - это точно такой же капитал, как деньги, земля, недвижимость.

Если вы смогли собрать внимание большого количества людей, вы легко конвертируете его в деньги. Наработать такой капитал - это тяжелый труд.

Один мой старший товарищ в беседе прямо это сформулировал так

«в эпоху капитализма был важен капитал, в эпоху соцкапитализма социальный капитал»

Мода на гиперэмпатичность поощряет поведение, когда без интеллектуального суда и следствия человека можно лишить социального капитала. Когда вы предлагаете отмену или играете в отмену, вы отбираете у человека капитал. Это мародерство, которое в силу инертности машины правосудия пока безнаказанно.

Это ничем, повторяю ничем, не лучше чет толпа раскулачивающая дворян и купцов в начале 20 века.

Современное социальное раскулачивание только безопаснее, проще и поэтому более массово. Даже за вилы хвататься не надо и казаки не зарубят, если случайной забрел не в ту деревню.

Сходил проголосовал и вам советую найти время.

Да, времена дают повод для скепсиса, но новое само собой не приходит.

За него надо побороться. Использовать малейшие шансы.

Ну а пока все варианты не исчерпаны, финал остается открытым 🦾

Недавно был на одном совещании на тему нового класса атак, порожденных GenAI.

Удивительно, насколько мощный разрыв в понимании происходящего между ребятами из ИИ и безопасности.

Многие накупили вендорских решений и решили, что теперь они в крепости. Мне же это видится как Lada Granta с иконкой.

Пытался как-то понятно объяснить, что это не просто технохайп, а реальная пересборка интернета, которая происходит у нас на глазах.

ИИ — это не приложение. Меняется вся технологическая вертикаль.

LLM становятся новым классом операционных систем.

По вертикали вниз это влечет за собой пересборку глобальных вычислений. Мир массово строит GPU-мощности, потому что новый класс нейросетей требует другого класса вычислительной инфраструктуры.

По вертикали вверх происходит замещение классического софта — от операционных систем до клиентских приложений.

То есть плавно замещается вся привычная технологическая вертикаль.

Многие годами готовили себя к защите, закупая ПО, но теперь меняется сама парадигма ПО.

Можно закрыть глаза и молиться, что пронесет.

А можно уже сейчас вникнуть в то, что происходит, и как можно быстрее начать наращивать технологический стек щита.

В Arete никогда не ставилась цель делать какие-то практически полезные семинары, но пожалуй курс по философии нарратива максимально близок к этому. Ниже детали.

ставим глобальную цель на осень: разобраться с историями!
вообще со всеми и сразу. Для этого подготовили цикл

Философия нарратива

старт: 14 октября 19:00
5 недель, 5 семинаров

читает кандидат философских наук и доцент кафедры общей философии КФУ Евгений Сергеевич Маслов

Вот его письмо, в котором он подтверждает, что будут разобраны ВСЕ истории + это важно для каждого:

Рассказы, истории, повествования составляют важную часть нашей жизни. Мы используем их при общении в быту, они являются основой художественной литературы и кино, с ними работают историки, юристы, рекламщики, проповедники, политики, психоаналитики и геймдизайнеры. В филологии, философии и других гуманитарных науках создано много интересных теорий, позволяющих лучше понять природу повествования и через это эффективнее его использовать. Кроме того, изучение повествований выводит нас на базовые принципы функционирования сознания и культуры, позволяет понять, как формируется то, что мы называем словом «я», как мы воспринимаем время, каким образом мы конструируем мир вокруг себя в своём мышлении.

запись: @okashin
цена: весь цикл сразу — 7500;
один семинар — 2000;

Давние читатели этого канала знают, что я веду его в формате дневника для своих

Здесь не бывает рекламы, интеграций, коллабораций

Однако исторически так сложилось, что этот канал залетел в папку CEO IT

Это подборка авторских каналов директоров ИТ компаний

Загляните в папку, может найдете что-то интересное для себя 🦾