Про внедрение этических практик.

Прочла тут отличную статью о том, как на практике можно внедрить этические принципы в разработку программного обеспечения, особенно ИИ. Меня всегда интересовал вопрос практических инструментов для внедрения этики, а здесь дают несколько прикладных решений.

Авторы статьи рассуждают о двух этических принципах: прозрачности (transparency) и справедливости (fairness).

1. Прозрачность. Как оказалось, часто компании неправильно понимают, что означает этот принцип. Прозрачность не обязательно связана с разглашением коммерческой тайны или публикацией исходного кода. Она помогает лучше понять, как работают алгоритмы, и создать доверие к продукту, не раскрывая конфиденциальные данные. Интересно, как именно описать и раскрыть информацию о системах ИИ? Авторы рекомендуют составить документацию, которая содержит технические аспекты (архитектуру, выбор данных, методы моделирования) и нетехнические компоненты (цели использования продукта, экономическое обоснование и т.д.). Кстати, существуют уже стандарты документации ИИ, которые предлагают шаблоны для удобного описания систем. И отдельно тут нужно подчеркнуть, что мало просто описать, нужно описать понятно. И для того, чтобы описывать понятно, научным сообществом тоже придуманы лайфхаки.

2. Справедливость. Он гарантирует отсутствие предвзятости при принятии решений алгоритмами. Авторы статьи предлагают несколько критериев для достижения справедливости:
✔️ Статистический паритет. Этот критерий позволяет определить, является ли модель справедливой по отношению к защищенным атрибутам, измеряя разницу между благоприятными результатами для большинства и защищенных классов. Значение 0 означает полную справедливость модели.
✔️ Несоизмеримое влияние. Этот критерий сравнивает процент благоприятных исходов для разных групп, что позволяет определить, есть ли предвзятость в принятии решений. Например, если модель выдает кредиты 60% людям среднего возраста и только 50% остальным, то несоизмеримое влияние составляет 0,8, что указывает на положительный уклон в сторону группы среднего возраста.
✔️ Равенство шансов. Этот критерий измеряет баланс между истинно положительными и ложноположительными результатами для защищенных и незащищенных групп, позволяя выяснить, одинаково ли работает модель для этих групп.
✔️ Определение справедливости. Компании, разрабатывающие или использующие системы ИИ, должны определить, что они понимают под понятием справедливости и как они планируют достичь этого.
✔️ Разнообразие в командах. Обеспечение широкого представительства в продуктовых командах помогает достичь справедливости через разнообразие мышления и опыта.
✔️ Образование и самоанализ. Чем лучше образованы специалисты в области данных и чем более критически они относятся к вопросу предвзятости, тем больше вероятность того, что они заранее распознают риски, связанные с справедливостью.
✔️ Учет мнения конечных пользователей. Консультации с представителями конечных пользователей, т.е. с профессионалами в соц.-эк. области, являются ключевым элементом обеспечения справедливости проекта.
✔️ Этические советы по ИИ. Советы, отделенные от команд разработки позволяют внести дополнительный вклад в этичность проекта.

Особенно радостно, что решения довольно простые и понятные. А если еще учесть то обстоятельство, что требования к прозрачности и справедливости алгоритмов ИИ сейчас пытаются вписать в законодательство, то особенно хорошо начать чуть раньше, чем заставят.

#переходкэтичному

#короткиезаметки

В журнале Rolling Stone в разделе (sub)culture вышла статья о пяти известных женщинах в сфере ИИ и их опасениях о последствиях развития ИИ. Среди них, например, профессор Тимнит Гебру, известная скандальным увольнением из Google. Принципиально новых идей там нет, но в статье классно описывается история их опасений. Да и сам факт того, в каком журнале эта статья, прекрасен. Я тоже очень хочу, чтобы дискурс об этике данных и ИИ стал более широким.

Про интеллектуальные права.

Прочитала классную статью-размышление о том, что будет с интеллектуальными правами в контексте развития генеративного ИИ и больших лингвистических моделей.

Я уже задавалась вопросами, как учитывать права источника. Но не менее интересно, как присваивать права сгенерированному контенту. Вот пара гипотетических ситуаций из статьи для размышления.

Если попросить Midjourney создать изображение в стиле определенного художника, для некоторых это будет воровством. Но специалисты из Christie’s или Sotheby’s, или же люди, посещающие галереи в Манхэттене или Мэйфэер, скорее всего, не согласятся с таким утверждением. Создав что-то "в стиле" Синди Шерман, вы же её не крадете. Не все будут видеть ваше творение как замену её работам. На самом деле, как-то же мы пришли к согласию о семплировании в хип-хопе?

Или такая ситуация. Большинство понимает, что если кто-то делится ссылкой на новостную статью в Facebook и просит друзей её прочитать, новостному сайт не следует требовать за это оплату. Если же этот кто-то попросит ChatGPT прочитать десять новостных сайтов и дать резюме или объяснить главное событие дня, претензии сайтов становятся более обоснованными: технологическая компания действительно "использует новости". Неудивительно, что когда ChatGPT анонсировал собственный веб-сканер, новостные сайты начали блокировать его. Но этот пример интересен тем, что новостные сайты вышли на тропу этой войны еще несколько лет назад, когда попросили соц.сети платить за новостные заголовки, т.к большинству пользователей этого достаточно и читать саму новость они на новостной сайт уже не идут. Т.е и тут разобрались.

Да, впереди очередная юридическая тряска в сфере интеллектуальных прав. Будет много судов и законодательных изменений. Но мы уже лет двести проходим через такие тряски, и после появления фотоаппарата, и после появления граммофонных пластинок, и еще кучи других технологических прелестей. Так что утрясается все :)

#почитатьнатему #кейсдатаэтики

Про использование ИИ в работе.

Пока я тут немного привыкала к новой обстановке и не писала сюда, забастовка сценаристов закончилась. Напомню, они протестовали против использования ИИ для написания сценариев в течение пяти месяцев. Им удалось договориться на весьма выгодные условия:

- ИИ не может быть использован для написания или переработки сценариев.
- Сгенерированный ИИ текст не может рассматриваться как источник.
- Если сценарист захочет, он может использовать ИИ-инструменты, однако студии не могут его заставить это делать.
- Студии должны уведомлять сценаристов, если они будут должны использовать ИИ-сгенерированные тексты.
- Ну и пока тексты сценаристов не могут быть использованы для обучения ИИ.

Интересно, станет ли это прецедентом?

#кейсдатаэтики

#короткиезаметки

Исландцы, как и многие малочисленные нации, переживают за сохранение собственного языка в условиях глобализации. И вот они запартнерились с OpenIA и выделили ресурс, чтобы обучить модель правильно говорить по-исландски. Дело, конечно, идет со скрипом, но идет. Сейчас chatGPT может, например, написать стихотворение о капризах современной жизни в стиле Völuspá, древней исландской поэмы из «Поэтической Эдды» скандинавской мифологии.

Про внедрение этических принципов.

Мы всё думаем о том, чтобы сделать небольшой практичный гайд по дата-этике для компаний. Вот с чего можно начать, например? Если возвращаться к основам, то можно обратиться к пяти принципам дата-этики от Гарвардской бизнес школы:

1. Владение данными (Ownership)
Спрашивайте владельца данных о возможности собирать и использовать его данные/данные о нем.

2. Прозрачность (Transparency)
Рассказывайте, как и зачем вы собираете, храните и используете данные.

3. Конфиденциальность (Privacy)
Даже если вам разрешили собирать перс.данные, это не значит, что их можно опубличить. Делайте все, чтобы защитить данные.

4. Намерения (Intention)
Убедитесь, что ваши намерения работы с данными - ради блага. (Этот пункт, думаю, как раз об этике в целом, а не только о дата-этике)

5. Последствия (Outcomes)
Даже если вы работаете с данными ради блага, это не значит, что последствия ваших решений будут положительными. Думайте о том, как результат вашей работы может отразится на отдельном человеке и на обществе в целом.

#переходкэтичному

#короткиезаметки

В ФБ небольшой скандал. В галерее Гельмана открылась выставка Владимира Сорокина «Голубое сало». Там иллюстрации, созданные ИИ. Сорокин был автором идей. Но вот промт-инженером был другой человек - Евгений Никитин. И его имя нигде не упомянуто. Он возмущен, потому что считает себя со-автором. Если отвечать на вопрос «Кто является автором?», то какой был бы с вашей точки зрения ответ? Вот навскидку:
- ИИ
- промт-инженер
- автор идеи
- авторы, на основе которых тренировался ИИ
Может кто-то еще? Или кто-то лишний?

Про этичность VR-очков и рост неравенства.

Интересное наблюдение о том, что в отрасли VR тоже возникают свои этические проблемы, хоть и не такого размаха, как в отрасли ИИ. Интересно, со временем мы наверное тоже придем к каким-то этичным решениям, которые закрепятся в этикете, как снять перчатку при рукопожатии или наушники при встрече.

#кейсцифровойэтики
⬇️⬇️⬇️

Как только появляется очередная технологическая новинка, возникает масса предположений о ее воздействии на людей по отдельности и общество в целом. В случае с ИИ недостатка в в самых экзотических и панических гипотезах нет, а вот вокруг технологий смешанной реальности оригинальных причин для тревог я давно не видел. Пока не прочитал эту статью, где рассматривается неожиданное на первый взгляд преимущество, которое получают люди, которые в процессе общения носят очки дополненной реальности.
В таких очках можно реализовать привычную по соцсеточкам функцию фильтров, накладываемых на реальное изображение; в данном случае — на лицо собеседника (без его ведома).
Вот, предположим, фильтр добавит вашему собеседнику видимые только вам кошачьи ушки и усы — что изменится?
И дотошные социологи поставили такой эксперимент. Оказалось, эффект присутствует: добавление шуточных фильтров снижает тревогу при общении с незнакомцами, и вообще действует расслабляющее. Но все не так просто — те, кто без очков, начинают как раз дополнительно тревожиться, не зная, в каком обличии их сейчас наблюдает собеседник (а вдруг вообще голыми??).
В итоге, утверждают исследователи, люди без очков оказываются в уязвимом положении, и технология опять дает преимущества пользователям перед непользователями, усиливая неравенство.
Кажется, после недавнего анонса Цукербергу и от этого придется отбиваться:)
https://spectrum.ieee.org/ar-glasses

#короткиезаметки

Скарлетт Йохансон подала в суд на разработчиков ИИ-приложения, которое использовало ее внешность в рекламных целях без ее разрешения. Начинают копится преценденты и скоро появится юридическая практика. Конечно, тут вопрос не в том, кто прав, а сколько это будет стоить.

Про новые законы и практики.

Что-то за осень накопилось много новой нормативки. Спасибо, коллеги, что делитесь. Особое внимание, конечно, вот у этих инициатив:

1️⃣ Лидеры G7 подписали «Соглашение о международных руководящих принципах ИИ» и «Добровольный кодекс поведения разработчиков ИИ» в рамках «Хиросимского процесса ИИ» — форума, посвящённого перспективам и проблемам развития искусственного интеллекта. Эти документы дополнят на международном уровне юридически обязательные правила, которые в настоящее время дорабатываются законодателями ЕС в соответствии с «Законом об ИИ» (AI Act).

Немного про принципы. Многие страны в ситуации отсутствия нормативки обращаются к таким утвержденным принципам, поэтому это не просто декларация о намерениях, но и законодательная основа.

В новых принципах мне особенно отзывается принцип о приоритезации разработок тех ИИ систем, которые направлены на решение мировых проблем, таких как климатический кризис, всемирное здравоохранение и образование.

2️⃣ США опубликовали указ в области доверия в работе с ИИ

3️⃣ Великобритания опубликовала «Декларацию Блетчли», направленную на активизацию глобальных усилий по сотрудничеству в области безопасности искусственного интеллекта, подписанную 28 странами и ЕС.

В документе изложена программа, направленная на выявление рисков, вызывающих общую обеспокоенность, и формирование их научного понимания, а также на разработку международной политики по их смягчению. Декларация поощряет прозрачность и подотчётность участников, разрабатывающих передовые технологии ИИ, призывая к мониторингу и смягчению потенциально вредных возможностей.

4️⃣ Китай принял первый в мире закон в сфере генеративного ИИ. Этот закон - последний в серии регуляций, нацеленных на разные аспекты ИИ. Он вводит новые ограничения для компаний, предоставляющих такие услуги потребителям, как в отношении данных, используемых для обучения, так и в отношении результатов.

#почитатьнатему #переходкэтичному

#короткиезаметки

Слово «hallucinate» (галлюцинировать) было выбрано Кембриджским словарем словом года. В этом году оно получило новое значение в контексте ИИ: если ИИ галлюцинирует - значит он выдает ложную информацию.

Хочется добавить тут остроумный комментарий, но я не буду :)

Про использование данных в урбанистике.

Очень люблю примеры этичного использования данных. Вот, кстати, интересный пример использования данных для реализации принципов про которые я писала в прошлом посте.

Автотранспорт является значительным источником выбросов парниковых газов как на мировом уровне, так и в городах. Эта проблема особенно актуальна на перекрестках в городах, где загрязнение воздуха может быть намного выше, чем на открытых участках дорог. На перекрестках половина выбросов происходит из-за того, что автомобили ускоряются после остановки на светофоре. Хотя некоторое количество stop-go движения нельзя избежать, часть его можно предотвратить, оптимизируя работу светофоров. Для улучшения этой ситуации города должны либо устанавливать дорогостоящее оборудование, либо проводить ручной учет движения автомобилей. Оба эти способа дороги и не дают всей необходимой информации.

Green Light использует ИИ и данные о движении на основе Google Maps, чтобы анализировать трафик и разрабатывать рекомендации для городских инженеров, как улучшить поток движения. Первые результаты показывают, что это может сократить число остановок на 30% и выбросы парниковых газов на 10%. Путем оптимизации работы каждого перекрестка и их согласования друг с другом, можно создавать "зеленые волны" и помогать городам снижать stop-go движение. Green Light уже работает на 70 перекрестках в 12 городах на 4 континентах, от Хайфы в Израиле до Бангалора в Индии и Гамбурга в Германии.

Green Light - это часть усилий Google Research в борьбе с изменением климата и улучшении жизни в городах по всему миру с помощью искусственного интеллекта.

#кейсдатаэтики

Про важность больших данных.

Судя по тому, что думают сами разработчики об ИИ, и сколько скандалов возникает из-за использования данных для обучения моделей, вполне возможно, что скоро обладание большими и качественными датасетами станет настоящим конкурентным преимуществом.

Довольно очевидно, у кого такие датасеты есть:
1. Google - поисковое поведение, пользовательские видео-предпочтения (YouTube)
2. Meta - предпочтения реальных людей и поведенческие паттерны
3. Amazon - покупательские предпочтения.

Из неочевидных:
а) Tesla - знание об окружающем мире
б) Apple, Google - маршруты людей

Кто-то еще? И скоро ли появятся инициативы о том, что большие данные, которые многие уже давно называют "новой нефтью", начнут регулироваться как ресурс (государственный)?

#подуматьнатему

#короткиезаметки

Stability AI презентовали модель для генерации видео. Скоро-скоро - фильмы, созданные за пять минут.

#короткиезаметки

Была вчера на мероприятии, посвященном внедрению ИИ в организациях. Один из участников озвучил мысль, про которую я уже читала, но не помню где. Мы массово и быстро начнем использовать GenAI везде, потому что это pull технология, а не push. Никто ее не внедрят, люди сами хотят использовать. Как в свое время смартфоны и онлайн поиск.

#короткиезаметки

В качестве итогов года скажу, что очень много в этом году пользовалась ChatGPT - и для работы, и для развития, и для развлечения. Умение пользоваться поиском Google в итоге вылилось в отдельный навык и слово "гуглить". Умение пользоваться ИИ-чатами тоже скоро не будет чем-то особенным. А прокачать умение можно здесь (гайд от OpenAI) - отличное занятие на каникулы.

PS: Спасибо, что были тут со мной в этом году, очень ценю!

Про ИИ и экологию.

Тренировка и разработка крупных языковых моделей, таких как ChatGPT, требуют значительного количества энергии, что приводит к серьезным экологическим последствиям. Например, ChatGPT в год выделяет около 8.4 тонн углекислого газа. Однако, некоторые инициативы разработчиков ИИ направлены на снижение влияния человека на экологию. Я уже писала про автоматизацию светофоров. Еще тот же Google и American Airlines использовали ИИ для снижения количества конденсационных следов самолетов, способствующих глобальному потеплению. Кроме того, Google применяет ИИ для прогнозирования наводнений на реках и предложения экологически чистых маршрутов в своем картографическом сервисе.

Интересно, приведут ли эти инициативы в совокупности с генерируемыми выбросами к NetZeroWorld?

#кейсдатаэтики

Про скорость внедрения новых технологий.

На международном экономическом форуме в Давосе основным из основных вопросов в повестке стал ИИ.

Итоги интересного исследования были рассказаны PwC. В своем последнем годовом опросе глав компаний было выявлено, что около половины (42%) британских руководителей внедрили новейшие технологии в прошедшем году. Это существенно превышает мировой показатель, который составил 32%.

Исследование, охватившее 4702 генеральных директоров из 105 стран, показало, что Великобритания является одним из лидеров в применении генеративного ИИ, который управляет такими чат-ботами, как ChatGPT, и создателями изображений, например, Midjourney. В сравнении, только 9% немецких и 20% французских глав компаний начали использовать GenAI. Среди американских и китайских руководителей этот показатель составил 38% и 25% соответственно. Более высокие темпы внедрения показали только Норвегия (53%), Япония (50%) и Финляндия (49%).

Кевин Эллис, ведущий партнер в PwC UK, отметил: «Преодолевая экономические трудности, британские руководители ищут новые решения для прорыва. GenAI открывает критически важный момент: если его правильно использовать, он может значительно повысить эффективность, конкурентоспособность и, в конечном счете, прибыльность компаний».

Вот у вас в компании внедряют GenAI?

#почитатьнатему

Про обучение ИИ и интеллектуальные права.

Не первая попытка СМИ заставить платить за свой контент может окончиться провалом. Вообще тут я на стороне СМИ в части оплаты их труда, но хорошее решение все еще не найдено, как мне кажется.

#кейсдатаэтики
⬇️⬇️⬇️