Об искусственном интеллекте и контенте. Обсуждали с коллегой, как нам делать корпоративный контент интереснее и благодаря вдохновению от Сергея Булаева озадачился вопросом, как при помощи ИИ улучшить наш процесс.

Задавая правильные вопросы OpenAI и Google быстро нашел инструменты, которые уже начали использовать журналисты https://www.perplexity.ai/ (новая поисковая система от бывших сотрудников OpenAI) и Make.com (интеграционная шина данных Celonis c визуальным интерфейсом).

За пару часов вечером по видео с YouTube собрал Proof of concept бота журналиста, который понимает твой контекст и собирает твой контент вместе с новостью во что-то интересное.

По итогам сделал несколько выводов.

1) В дефиците будет оригинальное мировоззрение и наборы убеждений, понимание сути вещей, которые легко донести огромной аудитории за очень короткий срок через призму сегодняшнего контекста.

2) Поисковым системам и людям будет сложно отделять мусорный контент от бестолковых копирователей контента, который будет плодиться так быстро как никогда ранее

3) Ремесленники программисты, которые создают экранные формы, форматируют отчеты, работают с простыми базами, пишут базовые приложения с простым набором алгоритмов будут стремительно терять работу, как и специалисты по интеграции. Журналисты без специального образования уже могут сами это сделать и не заказывать работу программистов

4) Базисные специалисты и системные администраторы пока быстро терять работу не будут. В моем эксперименте больше всего времени ушло на соединение систем и устранение ошибок подключений и навык терпения из прошлой жизни MS DOS, Unix и командной строки очень помог (тоже ремесло, но в котором много интуиции)

Ссылки на видео
https://www.youtube.com/watch?v=VAG7zAET5RM&ab_channel=TimVance
https://www.youtube.com/watch?v=H0YRniHh2tg&ab_channel=HelenaLiu

О книге «Deep work”, Cal Newport . О глубокой и вдумчивой работе.

Понравилась книга, хотя манера изложения достаточно нудная.

Книга описывает наш мир, где сосредоточенность становится роскошью. Автор утверждает, что в современном обществе мы настолько привыкли к постоянным отвлечениям, что способность к глубокому, сконцентрированному труду практически исчезла. Но именно она, по его мнению, является ключом к успеху — и не просто успеху в карьере, а к созданию чего-то действительно значимого. Понравился разбор слова distraction (отвлечение) и противопоставление слову traction (тяга, сцепление).

Один из ярких примеров, которые приводит Ньюпорт, — это история Карла Юнга. Когда Юнг начал строить свою карьеру в психологии, ему нужно было найти способ выделиться среди коллег и создать уникальный вклад в науку. Вместо того чтобы постоянно участвовать в конференциях или обсуждениях, как большинство его коллег, Юнг решил построить себе уединённую башню в швейцарских Альпах. Именно там, вдали от шумного мира, он смог полностью погрузиться в глубокие размышления, что впоследствии привело к созданию его теории коллективного бессознательного.

Другой пример — Билл Гейтс. Когда он был главой Microsoft, Гейтс регулярно уходил в так называемые «недели размышлений» (think weeks), изолируясь от всех отвлекающих факторов, чтобы глубоко задуматься над будущим компании и стратегическими направлениями развития. Именно в такие периоды тишины и уединения рождались ключевые идеи, которые определяли будущее технологий.

Глубокая работа — это выбор, который может сделать каждый из нас. Но для этого нужны дисциплина и осознанность.

Чтобы сосредоточиться и поймайть traction или свой поток (flow) я по совету друзей использовал таймер Pomodoro и заметил, что час сосредоточенной работы дается мне непросто.

В книге подчёркивается важность ритуалов и структур. Он советует создать специальные рутины для глубокого труда, чтобы сделать концентрацию привычкой.

Вспоминал интервью Акунина, который составил в разных городах пешеходные маршруты и на каждом отдельном маршруте писал отдельную книгу, и таким образом, паралельно вдумчиво смог работать над несколькими произведениями.

Отказ от социальных сетей — ещё один важный аспект. Ньюпорт призывает не бросаться в крайности и полностью их удалять, но использовать их осознанно и только тогда, когда это действительно необходимо для профессиональных или иных целей.

Дж. К. Роулинг. Когда она писала последнюю книгу из серии о Гарри Поттере, Роулинг столкнулась с тем, что её постоянно отвлекали. Чтобы справиться с этим и завершить работу над книгой, она решила изолироваться в отеле в Эдинбурге. Вдали от привычных отвлекающих факторов — семьи, друзей, звонков — она смогла погрузиться в процесс письма и закончить книгу, которая позже стала мировым бестселлером.

Вуди Аллен — известный режиссёр и сценарист, который стал легендой кинематографа, никогда не пользовался компьютером. Он писал свои сценарии исключительно на печатной машинке, избегая всего, что могло отвлекать. Аллен не пользовался электронной почтой и социальными сетями, чтобы избежать мелочей, которые отвлекают внимание от создания качественного контента. В результате его карьера охватывает более 50 лет, а фильмы регулярно номинируются на престижные награды.

Питер Шанкман, предприниматель и автор, однажды, оказавшись в ситуации крайнего дедлайна, купил билет в один конец до Токио. Он полетел туда и обратно без остановки, проведя 30 часов в воздухе, чтобы закончить работу над книгой без единого отвлечения. В самолёте, без интернета и внешних помех, он написал 60 тысяч слов за один перелёт.

Концентрация внимания и глубокая работа даются мне нелегко, тем не менее, примеры из книги очень вдохновили исследовать свои способности и собрав и применив некоторые рекомендации из книги я уже вижу прогресс.

Про влияние алкоголя на мозг.

Мое отношение к алкоголю сформировалось благодаря моему близкому другу Александру Дегтяреву, который помогает последние несколько десятилетий людям встать на путь трезвости, а также встречами с его пациентам (а после лечения - убежденными трезвенниками) и наблюдением за масштабом горя, который принёс алкоголь окружающим меня людям.

Хочу поделиться с вами интересной статьей.

Исследование важно объемом выборки - 36000 взрослых (big data) "Обладать таким набором данных - все равно что иметь микроскоп или телескоп с более мощным объективом", - благодаря более высокому разрешению (большим данным) исследователи увидели то, что раньше часто подвергали сомнению даже в официальной литературе по безопасности этанола, где приводились «безопасные дозы».

Один алкогольный напиток в день связан с уменьшением объёма мозга. Исследование на базе данных более чем 36 000 взрослых показало, что увеличение ежедневного употребления алкоголя с одного до двух напитков связано с изменениями в мозге, эквивалентными старению на два года. Более интенсивное употребление вызывает ещё более серьёзные изменения.

Научные данные свидетельствуют, что у тех, кто много пьёт, наблюдаются изменения в структуре и размере мозга, которые могут привести к когнитивным нарушениям. Исследование показывает, что даже умеренное потребление алкоголя — несколько бокалов вина или бутылок пива в неделю — также может негативно сказаться на мозге, уменьшая его объём.

Полный текст исследования во вложении на русском и по ссылке оригинал https://penntoday.upenn.edu/news/one-alcoholic-drink-day-linked-reduced-brain-size

Специально посмотрел
каковы диетические рекомендации США по употреблению алкоголя и тут явная недооценка риска и несоответствие с результатами более новых исследований (выше).


Диетические рекомендации США “рекомендуют здоровым взрослым людям” (непонятно, как можно такое рекомендовать), которые предпочитают пить и не имеют вышеуказанных исключений, минимизировать, но не устранять риски, связанные с употреблением алкоголя, ограничив его потребление следующим образом:

Для женщин - 1 напиток или меньше в день
Для мужчин - 2 напитка или меньше в день
В Диетических рекомендациях США на 2020-2025 годы четко указано, что эти легкие и умеренные количества не являются средним показателем, а скорее количеством, потребляемым в каждый отдельный день.

Даже в этом неактуальном документе признается, что
последние и наиболее тщательные исследования ставят под сомнение результаты прошлых исследований, в которых легкое и умеренное употребление алкоголя связывалось со снижением риска сердечно-сосудистых заболеваний, и указывают на то, что защитные эффекты были переоценены. Более ранние методы исследования не позволяли сделать вывод о том, были ли положительные сердечно-сосудистые результаты обусловлены малым потреблением алкоголя или, например, диетой, генетикой, историей болезни или поведенческими различиями между людьми, которые пьют и не пьют. Последние исследования также показывают, что даже умеренное употребление алкоголя повышает риск инсульта,рака, и преждевременной смерти.

О социальных сетях и алгоритмах.

Отмечаю у себя массу позитивных эффектов от почти полного отказа от ежедневного прочтения новостей и пролистывания ленты Instagram и Facebook, также после удаления всех новостных каналов в Телеграмм.

Никаких осознанных решений или действий эти инструменты в мою жизнь не добавляли, но явно съедали много времени впустую и формировали тревогу, также создавали напряжение в диалогах, когда, я чувствовал что собеседник «читает» другие новости или придерживается иных взглядов, которые не соответствуют моему информационному пространству.

Очевидно, что социальные платформы, использующие алгоритмы для формирования ленты новостей имеют следующие побочные эффекты, кроме формирования зависимости.

Самый неприятный - создание “пузырей фильтров”: Алгоритмы стремятся показывать пользователям контент, с которым они уже взаимодействовали, что приводит к созданию информационных пузырей. Люди начинают видеть только тот контент, который соответствует их взглядам, что ограничивает их способность видеть другие точки зрения и способствует поляризации мнений.

Алгоритмы явно поощряют токсичный контент контент, вызывающий сильные эмоциональные реакции, такие как гнев или страх.
Также нарушают покой и психическое здоровье. Постоянный поток контента, отобранного алгоритмами нацелен на удерживание внимания пользователей, что приводит к избыточному использованию и негативному влиянию на психику.

Telegram — несмотря на дыры в безопасности, в отличие от многих социальных сетей, пока не использует алгоритмическую рекламу или новостные ленты, сформированные алгоритмами, но совсем от «пузырей» не спасает, так как успешные каналы распространяют рекламу связанных с ними каналов.

Про зону комфорта и способность создать что-то новое из ничего и сервисные компании.

Часто вспоминаю книгу "Zero to One" Питера Тиля и наши недавние дискусси с коллегами о зоне комфорта. Тиль критикует сервисные компании за неспособность создать монополию. Когда мы открываем двери в новую большую компанию для нас открывается новый рынок, тоже происходит переход от 0 к 1. Сравнимого уровня по сложности задача - успешный запуск новой практики и технологической экспертизы.

Это цепь из сотен событий с низкой вероятностью успеха, требующая очень высокого уровня фокусировки усилий команды и терпения и веры в успех. В IT-сервисах критически важны талантливые люди и экспертиза, к которой прислушиваются, уверенность в том, что команда справится с задачей и успешно выполнит потом этот проект.

Последние годы мы активно строим свой бренд, и это начинает приносить плоды. В череде "чудес", основанных на высокой фокусировке усилий, появились элементы, повышающие дополнительно вероятность успеха. Но создание бизнеса "из воздуха" остается титанической задачей, требующей невероятной командной работы и фокусировки.

Часто это не просто выход из зоны комфорта, а постоянный дискомфорт и бесконечное количество негативных результатов, критически малое количечтво позитивных событий, за которыми важно сохранять веру в то, что ты на правильном пути.

Процитирую объявление, которое часто вспоминаю, чтобы проиллюстрировать, через что приходилось пройти, чтобы получить новый большой контракт в многомиллиардный компании.

«Требуются мужчины для опасного путешествия. Низкая оплата, горький холод, долгие месяцы полной темноты, постоянная опасность, сомнительное возвращение. Честь и признание в случае успеха.»
— Эрнест Шеклтон.

Это знаменитое объявление приписывается Эрнесту Шеклтону перед его экспедицией на корабле “Эндьюранс” в 1914 году, когда он готовился к исследованию Антарктики. Согласно биографическим книгам рядом с офисом выстроилась очередь из тысяч желающих. Хотя современные историки не нашли убедительных доказательств, что такое объявление действительно публиковалось, его дух передаёт реалии экспедиции, во время которой корабль “Эндьюранс” затонул, а команда Шеклтона пережила невероятные испытания. Несмотря на все трудности, Шеклтону удалось спасти всех членов своей команды, что стало одним из величайших примеров лидерства и мужества в истории полярных исследований.

В нашей повседневности очень нелегко сохранять бодрость духа команды в циклах продаж, которые могут длиться годы, но такова непростая миссия IT сервисных компаний и людей, которые занимаются продажами и маркетингом.

Хроника экспедиции Шеклтона.

Экспедиция длилась 753 дня с момента отплытия из Англии до спасения оставшихся членов экипажа. Интересно, что корабль недавно нашли на дне и сняли на видео. Среди экипажа был очень крутой фотограф, который снимал хронику и фото сохранились.

1. Отплытие из Англии
Отправление:
8 августа 1914 года

2. Отплытие с китобойной станции Грютвикен, Южная Георгия
3 месяца и 27 дней
5 декабря 1914 года

3. Вход во льды
3 месяца и 29 дней
7 декабря 1914 года

4. «Эндьюранс» застрял во льдах
5 месяцев и 10 дней
18 января 1915 года

5. «Эндьюранс» разрушен, корабль покинут
14 месяцев и 19 дней
27 октября 1915 года

6. «Эндьюранс» затонул
15 месяцев и 13 дней
21 ноября 1915 года

7. Спуск лодок к Острову Элефант

20 месяцев и 1 день
9 апреля 1916 года – прибытие на Остров Слонов 15 апреля 1916 года

8. Путешествие на лодке к Южной Георгии
2-недельное путешествие – 21 месяц и 2 дня по прибытии в Южную Георгию
24 апреля – 10 мая 1916 года

9. Шеклтон, Уорсли и Крин достигают китобойной станции Стромнесс
21 месяц и 12 дней
20 мая 1916 года

10. Трое членов экипажа спасены с пляжа на Южной Георгии
21 месяц и 13 дней
21 мая 1916 года

11. Остальная часть экипажа спасена с Острова Элефант
24 месяца и 22 дня
30 августа 1916 года

Про обобщение "Мы" и фигуры речи. Опыт жизни среди разных культур, религий и мировоззрений, обострил мой индивидуализм, и я поймал себя на мысли, что начинаю остро реагировать, когда собеседники обобщают себя с какой-либо социальной группой или идеологией и говорят "мы", хотя на деле их поддержка ограничивается лишь словами и возможно внутренним представлением об устройстве мира. Понимаю, что люди часто действуют из самых лучших и искренних побуждений, но такое "мы" создаёт ложное впечатление единства, при этом индивидуальные позиции теряются, а реальные действия подменяются словами. В этом есть доля лицемерия: если ты говоришь "мы", но не действуешь в соответствии с этой позицией, это вызывает диссонанс.

Принимать решения и нести ответственность за свои поступки очевидно проще в контексте себя самого. Если ты соглашаешься с "мы" и начинаешь его использовать, то фактически поддерживаешь общую повестку и должен быть готов отвечать за последствия, которые исходят от тех, кто эту повестку навязал.

Сергей Булаев пишет о нереально крутых ускорителях создания контента. В прошлых постах я писал про роботов-журналистов, но тут мы наблюдаем «рождение чего-то великого» в формате производства и потребления информации, когда ты можешь почти автоматически перевести любые нудные документы, найти в них различия и новости и моментально перевести в формат интересного подкаста созданного на лету на твоем родном языке.

О синдроме «основателя против менеджера»

На мероприятии Y Combinator Брайан Чески затронул одну важную мысль: как только компания начинает расти, принято считать, что её основателям необходимо «нанять хороших людей и дать им свободу работать», чтобы они масштабировали бизнес и вели компанию к прекрасному будущему. Проблема в том, что этот совет чаще всего приводит к катастрофе.

Когда Airbnb начал масштабироваться, Чески понял, что классические принципы управления крупными корпорациями не работают для стартапов. Он решил идти своим путём, вдохновляясь подходом Стива Джобса, который не просто делал skip level встречи с сотрудниками, а вывозил на ретрит топ 100 самых важных сотрудников Apple вне зависимости от их формальных должностей.

Суть в том, что существует два способа управления: «режим основателя» и «режим менеджера». Большинство учат переходить ко второму, когда бизнес растёт, но это ведёт к провалу. Основатели должны оставаться в «режиме основателя», что подразумевает глубокое вовлечение в процессы и отказ от стандартных подходов.

От души стараемся поддерживать режим внутреннего предпринимательства - intrapreneurshrip, но даже на нашем скромном объеме тяга к изобилию процессов и правил создает сильное сопротивление, особенно когда люди приходят из более зрелых корпоративных культур.

Текст статьи - https://paulgraham.com/foundermode.html

О боксе, управлении гневом, ИИ и новостной ленте.

Несколько лет уже занимаюсь боксом 3-4 раза в неделю. В боксе у меня большой прогресс в плане физической формы и выносливости, но в поединках пока очень тяжело. Усталость и боль от пропущенных ударов стал переносить гораздо легче и замечаю, что теперь могу быстро восстанавливаться и спать на следующий день глубоким сном, несмотря на ощущения в теле, которые раньше влияли довольно сильно и негативно, но с чем реально сложно, - сохранять свой план на бой и держать ритм.

Оба моих тренера в прошлом профессиональные боксеры 200+ и 300+ боев в любителях и 30+ на профессиональном ринге и шикарные спарринг партнеры, потому что знают игру, знают как не нанести травм, но научить тебя вести поединок в приближенном к реальности режиме.

Я часто расспрашивал их о том как настрой и мысли во время боя влияют на результат и каждый поделился опытом своим и других боксеров, исходя из которого думать в процессе боя о чем-то в постороннем крайне опасно и часто заканчивается поражением. Ранее писал об идеальном состоянии потока в стрельбе по тарелкам и своем опыте нахождения «правильного потока» на соревнованиях.

Например, мой тренер рассказывал, как выигрывал весь бой с разгромным счетом, время начало тянуться медленно и он начал думать, о том что будет отвечать сейчас на вопросы журналистам на английском языке и бой закончился неожиданно его полным и очень внезапным поражением.

Вторая важная тема это гнев и его контроль. В профессиональном боксе принято разжигать ненависть в прессе, на взвешивании, пресс-конференциях и социальных сетях у противника и вызывать сильные эмоции у аудитории. Мои наставники также отмечали, что если получается задеть человека за живое и обидным словом или действием вызвать гнев, то шанс выиграть бой значительно повышаются, потому что противник открывается в бою, забывает про свой план и работает на рефлексах. В процессе боя у каждого боксера тоже есть арсенал обидных фраз, небольших трюков незаметных и работающих на грани нарушения правил, просто обидных взглядов и смешков, чтобы тебя задеть и заставить открыться, забыть про защиту и план боя и нарваться на эффективный встречный удар, самый оптимальный с точки зрения затрат энергии.

Стараюсь минимум времени уделять просмотру новостей и даже заголовков, но замечаю, что почти каждая новость, за которую цепляется сознание имеет яркую эмоциональную окраску и чаще гнев или возмущение, хотя выдает факт, который почти невозможно детально разобрать из короткого текста. Алгоритмы социальных сетей также усиливают этот эффект отупления. Думаю с AI/ИИ можно будет за выходные сделать раскарску цветами таких манипуляций в тексте, чтобы выделять для своего сознания желания авторов сломать твой план и разумное мышление при прочтении новости и заставить тебя двигаться на рефлексах.

О креативности и искусственном интеллекте.

Прочитал интересную статью "The Originality of Machines: AI Takes the Torrance Test". Авторы исследовали творческие способности GPT-4 с помощью тестов Торренса, которые измеряют оригинальность, беглость и гибкость идей. GPT-4 попал в топ 1% по оригинальности и беглости среди всех тестируемых, что удивило исследователей.

В то же время гибкость ИИ оказалась ниже в некоторых заданиях, что указывает на ограниченные способности к адаптации и многоплановому мышлению. Интересно, что студенты в контрольной группе учатся в колледже предпринимательству и финансам, а тесты проводились преподавателем, обладающим опытом и знаниями в области тестирования и администрирования данной методики.
Тесты Торренса на творческое мышление разработаны для оценки креативности человека. Они измеряют способности к оригинальности, гибкости и беглости идей через задания, требующие нестандартного подхода, такие как придумать необычные использования для повседневных предметов или предположить последствия необычных ситуаций.

Сделал при помощи Google notebook подкаст по тексту статьи. Звучит вполне удобно для прослушивания

Дублированная версия подкаста при помощи Eleven Labs. Имеет много недостатков, хотя инструмент совсем не бесплатный

О фармацевтике, AI и No-code инструментах. Недавно был в гостях у Ryan Stanley, где мы обсуждали, как технологии, особенно искусственный интеллект, меняют фармацевтику и здравоохранение. Еще затронули Agentforce от Salesforce и low code/no-code инструменты вроде Make.com. Ryan интересный собеседник и до того как включил запись, говорил в очень спокойном темпе и на совсем другие темы, а на камеру включил скоростной режим. Получил полезный опыт блиц-интервью. Интересно, что контент для него - один из основных двигателей новых продаж и знакомств.

Про RAG, LLM и Databricks и будущее корпоративных баз знаний и чатботов.

LLM (Большие языковые модели) способны создавать правдоподобные и связные ответы на вопросы и многие из моего окружения активно используют в жизни и работе OpenAI, Claude, Perplexity вместо Google поиска. Благодаря обучению на огромных массивах данных LLM учитывают нюансы и контекст, однако они не всегда являются надежными источниками знаний. Модели склонны к “галлюцинациям” — созданию откровенно ошибочных фактов при ответах пользователям. Кроме того, LLM не могут учитывать события, произошедшие после их обучения, и не имеют доступа к закрытой корпоративной информации.

Эти ограничения можно преодолеть с помощью дополненной генерации (RAG). RAG использует дополнительные данные, позволяя LLM предоставлять более точные и актуальные ответы. В процессе RAG происходит автоматический поиск релевантной информации в базе данных, что улучшает качество ответов и снижает вероятность ошибок. Это особенно полезно для компаний, где важен доступ к закрытым или специализированным данным, недоступным в открытых источниках.

RAG также помогает получать свежие данные, что актуально, когда LLM обучена на старой информации. Кроме того, RAG позволяет использовать систему с учетом прав пользователя, обеспечивая безопасность при работе с конфиденциальными данными.

Мы уже некоторое время являемся партнерами Databricks - платформы для обработки больших данных и машинного обучения и сегодня меня их маркетологи приятно удивили отличной методичкой по RAG с очень понятными схемами и отличным контентом.

Об искусственном интеллекте - за один час. Очень понравилась лекция Андрей Карпаты — специалиста в области искусственного интеллекта и машинного обучения, который ранее был директором AI в Tesla, возглавляя разработку технологий автономного вождения. Он также был исследователем в OpenAI, где занимался глубоким обучением и нейронными сетями.

Интересные факты из статьи:

- Языковая модель может работать на небольшом компьютере и это всего 2 файла. Один содержит параметры модели, а второй это исполняемый код, например, на C++ длиной в районе всего 500 строк кода

- Opensource (открытые системы) отстают от закрытых тип OpenAI, но незначительно

- Чтобы обучить большую и бесплатную модель на промышленном объеме текста, собранного с веб-сайтов понадобилось 6 000 GPU, работающих непрерывно в течение 12 дней, и стоило ~2 миллиона долларов.

- В процессе обучения происходит сжатие текста в файл с параметрами, который в отличие от ZIP архивов (которые сжимаются без потерь) сжимается с потерями и скорее передает суть текста

- ChatGPT, Claude или Gemini- очень дорогие системы, которые на порядок более емкие чем open source. Стоимость их обучения может составлять десятки и даже сотни миллионов долларов, в них задействованы гораздо большие наборы данных и вычислительные кластеры

- Llama2-70b очень популярна, потому что на данный момент это, пожалуй, самая мощная модель с открытыми весами. Meta AI не просто выпустила модель, они выложили в открытый доступ весовые коэффициенты, архитектуру и даже статью о ней

- Несмотря на некоторые внешние сходства с сознанием человека - правильнее воспринимать нейронные сети как эмпирические артефакты. Мы вводим данные, наблюдаем ответы и оцениваем их поведение по тексту, который они генерируют в различных ситуациях. Поэтому оценка их работы очень сложная в силу их эмпирической природы.

- Известно как оптимизировать параметры нейросети, чтобы добиться лучшего предсказания следующего слова, но как эти параметры работают вместе, чтобы достичь этого, не совсем понятно. У нас есть модели и теории, которые предполагают, что они создают и поддерживают некую базу знаний, но даже это не совсем просто. Знания в этих сетях могут быть одномерными. Например, если спросить нейросеть кто является мамой Тома Круза - то она выдаст точный ответ, а если спросить чей он сын, то признается, что не знает.

- Важно знать, что вы не всегда можете быть уверены в том, что полученный результат точен или является галлюцинацией. Часть информации может быть запомнена из обучающих данных, а часть - нет.. По большей части они придумывают интернет-текст на основе своих обширных данных, создавая контент, представляющий собой смесь заученных знаний и творческой экстраполяции.

- Процесс доучивания моделей также дорогой и в нем задействовано много ручного труда. Как правило, компании нанимают команды для сбора наборов данных. Этим командам даются подробные инструкции по маркировке и ставится задача придумать вопросы и подготовить соответствующие ответы.

- На пути превращения нейронных сетей в ИИ-помощников ключевым моментом является процесс тонкой настройки (fine tuning) Вместо общих интернет-текстов, использовавшихся при предварительном обучении, используются документы с вопросами и ответами (Q&A).

- После предварительного обучения и тонкой настройки можно использовать третий этап: Reinforcement Learning from Human Feedback или RLHF, как его называют в OpenAI. На этом этапе применяется уникальный подход - использование сравнительных меток, - когда люди выбирают наиболее подходящие ответы из предложенных.

- Интересно, что по аналогии с человеческим разумом у LLM выделяют две системы мышления быструю и медленную (почти как сознание и подсознание

- Большое влияние на качество результатов работы нейросети оказывает размер оперативной памяти (контекстное окно), с которым сеть работает в моменте

- В настоящее время ни одна языковая модель не обладает способностью взять больше времени на обдумывания и повысить за несколько подходов качество выдаваемых решений и их точность.

Про сингулярность. Обсуждали с другом ИИ в создании контента, вспоминали Голливудский фильм «Хвост виляет собакой» видимые элементы ИИ в текущей избирательной гонке.

Сингулярность — это гипотетический момент в будущем, когда развитие искусственного интеллекта и технологий станет настолько быстрым и мощным, что произойдут радикальные изменения в обществе, экономике и человеческом опыте. После достижения этой точки ИИ может превзойти человеческий интеллект, что приведет к последствиям, которые невозможно предсказать. Этот концепт тесно связан с идеями технологической экспоненциальности и автономного самоулучшения ИИ.

По сути в некоторых аспектах ИИ людей обогнал, но креативный процесс, при всех технологических возможностях пока идет как и шел, потому как внедрение и даже базовое осознание требует глубокого погружения и высокой степени абстрактности мышления.

Роботы журналисты уже вовсю собирают и пишут новости, фильмы снимают уже без актеров, а полностью при помощи ИИ, но в тоже время, пиарщики, маркетологи, креативные агенства, DSP-системы продолжают работать как работали в парадигме Голливуда и газетной рекламы 20-летней давности. Удивительно, что даже с бюджетом Elon Musk и компания в избирательной кампании из видимых элементов сгенерировали при помощи ИИ только кошечек и собачек, которых спасают от нелегалов.