В начале года у меня был пост про объяснимость и интерпретируемость ИИ. Потом был еще один – про конкретный инструмент для объяснения результатов работы языковых моделей и совсем недавно – про полезность объяснений.
Почти всегда, когда речь заходит об этических вопросах применительно к ИИ, я пишу с точки зрения пользователя. И здесь все понятно, а вот компаниям эта вся этика, объяснимость и интерпретируемость зачем? Сегодня представлю вам одну точку зрения на этот счет.

Авторы статьи «Creating meaningful work in the age of AI: explainable AI, explainability, and why it matters to organizational designers» указывают на то, что необъяснимая работа ИИ мешает компаниям получить от него максимум пользы. Клиенты компаний не понимают, как работает продукт и можно ли ему доверять. Разработчики тоже не то чтобы могут эти объяснения предоставить. Попытки заменить алгоритмы на более прозрачные снижают эффективность, и использование ИИ уже не выглядит полезным.
В 1951 году Трист и Бэмфорт (Trist & Bamforth) исследовали, почему внедрение нового оборудования для британских шахтеров привело не к повышению, а снижению эффективности добычи угля. Результаты их работы легли в основу принципов разработки социотехнических систем – таких систем, в которых человеку необходимо взаимодействовать с технологией.
Во-первых, изменения должны предлагаться снизу вверх, а не сверху вниз: работники, которые непосредственно взаимодействуют с технологией, лучше знают, чего ей не хватает. И им же отвечать за конечный результат.
Во-вторых, организации должны становиться более адаптивными за счет снижения контроля за каждым действием сотрудников. Больше свободы для работников «на местах» – быстрее реагирование на меняющиеся обстоятельства.
В-третьих, каждая группа сотрудников должна работать над «целой задачей» («whole task»). Это значит, что в распоряжении группы должны быть все процессы разработки конкретного решения от начала до конца. Это даст больше свободы относительно выбора подхода к выполнению задачи и позволит избежать превращения работы в письмо Дяди Федора родителям.
Наконец, каждая задача должна быть значимой и иметь видимое завершение. Работа не должна нигде зависнуть и потеряться, а ее результаты должны быть встроены в большие процессы компании.
Автоматизация должна применяться там, где это необходимо, и настолько, насколько необходимо для улучшения результата.
Если вы подумали: «Хм, это напоминает методологию Agile для разработки программного обеспечения,» – вы не одиноки, оно правда напоминает. Принципиальная разница в том, что идея социотехнической системы относится к устройству организации в целом и была придумана для «традиционных» организаций, где кто-то стоит за станком и вытачивает детали. Agile – это набор принципов конкретно для разработки ИТ-продукта. ИТ-команда может быть частью «традиционной» организации и работать как социотехническая система. Сама организация тоже может быть построена по принципам социотехнической системы, и внутри нее будет гармонично работать ИТ-команда по принципам Agile. Это разные концепции, но они хорошо подходят друг другу.
Если организация построена по принципу социотехнической системы,
сотрудники знают, на что жалуются клиенты;
сотрудники, которые работают с клиентами, также плотно работают с разработчиками;
команда специалистов с разными навыками работает вместе над одним продуктом и делает так, чтобы объяснимость ИИ появилась там, где нужно и выглядела так, как нужно;
каждый член команды может объяснить клиенту, что, как и зачем было сделано.
Так объяснимость ИИ будет всем понятна и полезна.

Сегодня обсуждаем немного мудреную статью, но очень важную для развития ИИ в целом

Демо-видео

Anthropic одной рукой с военными сотрудничают, а другой пишут исследования про сохранение конфиденциальности пользователей ИИ. Я по это причине смотрю на них с некоторым недоверием.
Недоверие, однако, не должно помешать добросовестному исследованию: есть статья – оцениваем статью, а не автора. Постараюсь сегодня честно придерживаться этого принципа и расскажу вам про статью «Clio: Privacy-Preserving Insights into Real-World AI Use» [1], выпущенную сотрудниками Anthropic в конце прошлого года.
Тем более, что тема интересная: исследование того, как ИИ-ассистенты используются в реальном мире. При этом авторы задались целью сохранить персональные данные пользователей в безопасности

[1] https://arxiv.org/abs/2412.13678v1

Всё говорим о том, что ИИ умеет. А давайте посмотрим, чего он не умеет

Немного надежности в эту нашу сумасшедшую жизнь

У меня сложился круг любимчиков под разные задачи

* если надо сделать что-то несложное четко по инструкции – gpt-4o
* если нужен детальный план или критика – qwen-qwq-32b
* для написания и исправления кода – gemini-2.5 pro
* для картинок –
imagen 4

Сижу думаю всякие мысли по этому поводу

(Картинка сгенерирована с использованием imagen 4)

Так, ну пришло время поговорить про Deepseek, да?
В момент своего появления он наделал много шума, но теперь, кажется, круги на воде разошлись, можно и занырнуть

The Open Source Initiative*
Пост с перцептронами

*оттуда ушли основатели из-за несогласия с некоторыми решениями организации. Есть у нее проблемы, в частности, с результатами выборов в совет директоров. Но на данный момент это, насколько мне известно, все еще наиболее авторитетная организация в вопросах открытого лицензирования ПО. Буду писать пост про лицензии, влезу туда поподробнее

Свет был нормальный во время записи, при отправке его съел телеграм :( Как-то не очень он подходит для видеоконтента

Философская мысль тут меня посетила, ее навеяло вот это видео.
Когда кто-то говорит: «ИИ отнимет у нас работу», - как будто подразумевается, что есть ограниченный объем работы, и его надо разделить сначала на всех людей, а потом на людей и ИИ.
Но работа, как Вселенная, бесконечно расширяется, и делает это быстрее, чем мы успеваем напрограммировать себе ИИ-агентов, которые сделали бы ее за нас. Во всяком случае, моя работа так себя ведет.
Я это решила написать, потому что сегодня работаю. И завтра. И послезавтра. И потом тоже. И вообще

Воскресный пост подъехал