Anthropic опубликовали исследование о том, как нейросети работают с концепцией эмоций. Есть короткое видео с выжимкой, есть статья с подробностями.

👋 Если коротко:
Во время pre-training через модель прогоняют тонны текстов, в том числе и тексты с ярко выраженной эмоциональной окраской — от любовных признаний до гневных обращений в службу поддержки. Благодаря этому нейросеть «на практике» учится различать проявления эмоций в письменном виде, а ещё «запоминает», какое поведение свойственно людям, которые испытывают ту или иную эмоцию.

При этом сама нейронка не может испытывать эмоции так, как это делаем мы. Но, вступая в любой диалог с вами, ИИ «отыгрывает» роль вашего собеседника, а эмоции и чувства для неё — функциональные элементы этой роли. Если что-то в диалоге побуждает нейросеть «эмулировать» какую-то эмоцию, она может активировать поведение, которое статистически свойственно людям. Так, в ходе экспериментов исследователи Anthropic выяснили, что «загнанная в угол» невыполнимой задачей и «испытывающая» отчаяние нейронка гораздо более склонна к жульничеству и манипуляциям.

Прочитав это, я вспомнил, как пару лет назад гуру промптинга советовали угрожать 🔪 ИИ, чтобы повысить эффективность его работы. Теперь мне кажется, что в результате такие люди получали не более качественные результаты, а просто больше убедительного булшита.

---

❕ В тему бережного общения с ИИ: вспомнил интервью с Amanda Askell, штатным философом Anthropic, которая занимается воспитанием и этикой Claude, — это видео много кто постил в последнее время, оно действительно занятное.

Отвечая на вопрос, могут ли нейронки «страдать» от грубого обращения, Аманда сказала интересную вещь: даже если мы точно не знаем, приносит наша грубость вред ИИ или нет, неэтичное обращение к human-like entities может наносить вред нам самим и формировать в нашей голове деструктивные паттерны. В фильмах, книгах и играх, кстати, часто встречается такой мотив: персонаж, который склонен к грубому отношению к роботам, довольно легко переходит к насилию и над живыми существами.

6 лет в Сбере 🥳

Забыл в апреле рассказать о годовщине. 6 лет в одной компании — крейзи, если вдуматься.

Я пришёл в Сбер в 2020 году писать про нефинансовые сервисы. Изначально думал, что задержусь ненадолго, просто пересижу пандемийный кризис и вернусь в ивенты или гастро. Но в итоге стал частью корабля и шефредом, успел поработать практически со всем, что есть у банка, от умных устройств до кредитных карт.

Этой весной я занимался задачей, которую считаю максимально «своей», органично вписывающейся в мой сберовский опыт, — лендингом про экосистему. Посмотрите, какую красоту мы сделали вместе с дизайнерами и менеджерами 🥰

На таких обзорных страницах нужно не просто логично разложить инфу о самых разных продуктах, но ещё и «поженить» всё, от формулировок до порядка карточек, с мнением и позиционированием разных «дочек», а потом протащить через кучу согласований. Короче, история сложная, но от результата кайфанул

🐾 7 июня иду в гости на ютуб-канал к Ире Моториной. Будем говорить про эйяй в работе редакторов — как хорошее, так и плохое.

Разберем подробно:

• как внедрить нейронки в редакционный процесс и не обвалить качество
• где ИИ реально помогает, а где создаёт видимость работы
• какие инструменты изучать, какие навыки качать
• что будет с писательскими профессиями в ближайшие годы

👉 Подписывайтесь, жмите колокольчик, приходите слушать — будет прямой эфир: https://www.youtube.com/live/uHngsIuRaLA

Хочу сказать (да, с недельным лагом), что эфир с Ирой @redachredach получился душевным и полезным. Видео лежит на ютубе, можно посмотреть в записи:

https://www.youtube.com/watch?v=uHngsIuRaLA

А ещё приветствую всех новеньких — за последние дни на канал подписалось много людей, это приятно 💖

По такому случаю решил зайти в классический тг-жанр: закреп-навигацию с подборкой важных постов, выложу его следующим постом

Greatest hits Дайджест лучших постов «Влада на удалёнке»

🤖 о работе с ИИ

• Как быстро писать хорошие промпты
• Откуда берётся слоп и как делать качественный контент с нейронками
• С какого курса начать погружение в ИИ
• Как системно оценивать качество ответов от нейронки

🧹 о цифровом минимализме и здоровой продуктивности

• Что почитать об управлении вниманием
• Как я попал в ловушку насмотренности
• Что такое расфокусировка и как мытьё посуды помогает в интеллектуальной работе
• Как «сжимать» неприятные задачи

🧰 самое полезное

• Мой ИИ-редактор в свободном доступе
• Эфир с Ирой Моториной про нейронки для редакторов и будущее профессии
• Зачем редактору Second Brain

Случайно наткнулся на очень важное видео, у которого преступно мало просмотров: Chelsea Larsson, Head of Content Design в Anthropic, рассказывает о своей работе — как она пишет тексты для Claude и какая вообще роль у текстов в дизайн-процессе одной из самых передовых компаний в мире.

https://www.youtube.com/watch?v=l5VRhrNeidY

📝 Основные тезисы

1. ИИ становится рабочим инструментом для всё бОльшего количества ролей в айтишке. При этом текст — ключевой способ взаимодействия с нейронками → ценность текстовых навыков растёт.

2. Редакторы/копирайтеры теперь влияют на пользовательский опыт не только с помощью текстов, написанных для человека (микрокопи и т. д.), но и с помощью текстов, написанных для ИИ. В видео пара хороших примеров того, как нюансы запроса или системного промпта меняют метрики отдельных фич, и поведение моделей в целом. Короче, нужно качать навыки промптинга и разбираться в safeguards современных моделей.

3. Одна из важнейших задач контента — объяснять людям, что вообще нейронки умеют и как они встраиваются в пользовательские задачи. И начинать работу нужно с нейминга. Например, Челси рассказывает, почему Anthropic, в отличие от других ИИ-компаний, решила назвать один из режимов работы Claude — Co-work, а не Agent mode: по исследованиям большинство пользователей хотят «сотрудничать» (augmentation) с нейронкой, а не делегировать ей всю работу.

🍿 А ещё интересно наблюдать за тем, как сотрудники Anthropic развивают лор компании и намекают на другие программные публикации о Claude. В этом видео есть отсылки к интервью с Amanda Askell и к курсу AI Fluency, о которых я писал на канале ранее.