Этика искусственного интеллекта: начало доверия

Я всегда говорю, что технологии без психологии - деньги на ветер. Продолжается рост понимания, что совместить "цифру с сердцем" сложно. Обычно программисты плохо понимают клиентский опыт, а алгоритмы машинного обучения тем более не учитывают интересы стейкхолдеров. Накопленные большие данные не всегда применяются компаниями во благо людей. В связи с этим вопросы этики применения big data и AI звучат всё чаще и громче, в том числе и на законодательном уровне.

В вопросах этики при разработке и использовании искусственного интеллекта в 2021 году произошли два основных события:

1. принятие глобальной рекомендации по этике ИИ на уровне ЮНЕСКО, один из первых глобальных мировых документов, де-факто посвященным регулированию ИИ.

2. в России незадолго до этого — принятие Национального кодекса этики ИИ. https://ict.moscow/projects/ai/news/1936/
И хотя положения отечественного Кодекса изначально носят рекомендательный характер, они определяют правила, которые потом легче будет закрепить в отдельных нормативных актах.

В 2022 году рост тренда продолжится.

Андрей Незнамов, управляющий директор центра регулирования AI Сбербанка:
«В России, надеюсь, будет создана развернутая сеть уполномоченных по этике искусственного интеллекта, создана национальная комиссия по этике ИИ. Думаю, реализация Кодекса этики станет одним из трендов развития регулирования в стране. Обязательно будет продолжаться построение системы технической стандартизации».

Среди других заметных тенденций в российской ИИ-регуляторике эксперты называют утверждение новых нацстандартов, разработку стратегий цифровой трансформации с применением #ИИ, рост числа профильных образовательных программ.

#технологические #регуляторика #правовые #социальные

Большинство россиян хотели бы покупать алкоголь с доставкой (данные "Ромир"). Такое желание выражают 63% потребителей.

🍺 Самой ожидаемой оказалась доставка пива и сидра (47%), вина и шампанского (38%), а также крепкого спиртного (33%).

👛 За доставку вина и шампанского россияне готовы платить 72 руб., водки — 68 руб., а прочих крепких напитков — 58 руб.

Сейчас 11% потребителей покупают #алкоголь исключительно онлайн, а еще 13% — #онлайн и в традиционной рознице. В среднем один житель России покупает #спиртныенапитки, не считая пива, раз в две недели.

Так что доставка спиртного могла бы стать популярной в случае ее реализации. Но закон о торговле алкоголем онлайн не принят.

Несмотря на стереотипы, последние 15 лет в России потребление водки и спиртного снижается. https://t.me/futurin/647

#правовые #социальные

Как 5 тенденций влияют на #медицинские компании.
В отчете "Цифровое здоровье и MedTech" (англ., Accenture)

➕Пациент - потребитель
Люди уже привыкают к цифровым технологиям, и это устанавливает стандарт технологических ожиданий от взаимодействия с медиками. Они ждут персонализированного подхода.
#кастомизация

➕Забота везде и всегда
Здравоохранение расширяется: переходит от больниц больше к амбулаторному лечению и дистанционному уходу на дому под цифровым присмотром врача. #клиентоцентричность #телемедицина

➕Цифровое здоровье на подъёме
99% респондентов опроса заявили, что разработка и коммерциализация цифровых решений в области здравоохранения ускорились за последние 2 года.

➕#Сотрудничество между отраслями
Комплексное медицинское решение нельзя сделать в одиночку, оно вовлекает множество партнеров.

➕Новое регулирование
Технологии и медицина регулируются различными нормативными рамками, но требуют общей практики правоприменения новых законов в интересах здоровья потребителей.
#правовые #медицина

Минцифры планируют штрафовать компании за утечку пользовательских данных до 3% от оборота.

О чем это говорит? Что проблема утечек персональных данных приобрела массовый характер, и даже министерство подключилось.

В чьих интересах?
Краткосрочно выиграют те, кто занимаются услугами защиты, #кибербезопасность

Косвенно это снизит беспокойство общества, и так поводов для тревог хватает. #социальные
Будут проще засыпать отдельные уважаемые люди, которые не хотят, чтобы их телефоны попадали в сеть, а знания о покупках давали пищу для оценки их здоровья, психики и благосостояния.

Долгосрочно и в большей степени, если такой закон будет принят, выиграет тот, кто будет контролировать IT-компании.
#правовые

Для маркетплейсов на транзакционной модели 3% могут привести к серьезным финансовым дырам. Штраф и даже просто его угроза может быть существенным рычагом давления.

Маркетплейсы продолжают расти, и их давно хотят контролировать властные группы - от ЦБ и Сбера до цифровых начальников.

Программистов можно начинать увольнять?

Всего за $19 в месяц с человека стал доступен сервис GitHub, пишущий половину кода проекта.
https://www.cnews.ru/news/top/2023-02-15_nejroset_github_budet_pisat

Тут пересекается сразу несколько трендов: сервис применяет #ИИ на основе ChatGPT, Microsoft меняет #бизнесмодель, авторские права людей и нейронок смешиваются, "простое" программирование переходит в разряд инфраструктуры, а junior программисты превращаются в "сантехников", которые умеют чинить цифровые трубы.

Для меня было непонятно, зачем Microsoft в 2018 купила GitHub за $7.5 млрд. Казалось, что эти инвестиции при бесплатном хранении кода не отобьются.

Кто не знает, GitHub - крупнейший депозитарий кода, которым там делятся сами разработчики со всего мира.
Правда, у Microsoft был к тому моменту облачный хостинг Azure с искусственным интеллектом, и лишние сервера для кода не были сильно заметны.
Но как зарабатывать? Оказывается, у компании была долгосрочная стратегия.

В 2019 Microsoft делает инвестиции $1 млрд в лабораторию OpenAi, что сделало Azure «эксклюзивным» поставщиком услуг облачных вычислений для OpenAI.

OpenAI привлекла внимание благодаря генератору текста с искусственным интеллектом GPT-3 и причудливому генератору изображений с искусственным интеллектом Dall-E. https://t.me/futurin/1183

И теперь оказывается, ChatGPT также обучалась на гигантском объеме выложенных на GitHub программного кода. Кроме того, ИИ продолжает обогащаться новыми примерами, анализируя реакцию пользователей-программистов на предложенные правки.

Сервис достаточно быстро обрел популярность – за первый год своего существования его аудитория превысила 1,2 млн человек. К осени 2021 г. около 33% всего нового кода на GitHub было написано с помощью Copilot.
В 2021 году Microsoft делает повторные инвестиции в OpenAI, разработчика Copilot.

Copilot for business создает ещё один инструмент для киберкоманд, "цифровых кентавров" https://t.me/futurin/975, когда люди и алгоритмы работают вместе. Но вызывает вопросы о правах на код, важный живым программистам.

Разработчик Тим Дэвис (Tim Davis) обратил внимание, что ИИ-помощник выдает принадлежащий ему код в качестве подсказки другим программистам, при этом не соблюдая условия лицензии LGPL и никак не упоминая причастность специалиста к его созданию. #правовые

Как применять?
Это существенно меняет бизнес-модель не только Microsoft, но и организаций с IT-задачами, но без своего штата разработчиков, особенно на редких языках программирования. Copilot позволяет писать программы до 55% быстрее. В ряде проектов на долю инструмента пришлось около 40% от суммарного объема кода.

Параллельно развивается #nocode программирование, но у #нейропрограммирование высокие шансы изменить #рыноктруда

@futurin

Парад суверенитетов приведет к хайтек-национализму

Мировой технологический сектор стоимостью в несколько триллионов долларов сильно пострадает от нарастающих #в2023 геополитических осложнений.

Обостряющаяся конкуренция, новые ограничения на трансграничные потоки технологий и данных, сбои в цепочках поставок и нарастающий технологический национализм подтверждают, что пересечение технологий и геополитики является критической проблемой для глобального бизнеса и всей мировой экономики.

Отчет «Стратегический техно-ландшафт 2023: риски возможности и дикие карты» консалтинговой компании по стратегической аналитике Albright Stonebridge Group (ASG) показывает, как в течение 2023 года:

❎ Каркас технологической взаимозависимости США и Китая окончательно разрушится в результате политического давления в США с целью ужесточения ограничений на технологии и данные, которые могли бы ускорить военное развитие Китая и его способность обходить западные санкции.

❇️ «Эффект Starlink» Речь про нарастающую зависимость национальной безопасности от горстки компаний, базирующихся в основном в США. "Незаменимость" может обогатить корпорации, но также может привести к ужесточению регулирования. Давление на компании с целью сотрудничества с правительствами по
геополитическим приоритетам будет расти. #безопасность #правовые

✳️ В цифре начнется период неопределенностей и пробуксовок:

⚧ парад суверенитетов (по полупроводникам, данным, базовым моделям #ИИ, алгоритмам глубокого обучения 2.0) сильно усугубит текущий тренд хайтек-национализма по всему миру;

🚮 мета-технопраздник испортят регулирующие органы многих стран, а #Китай вообще оградит свой мета-верс «великой китайской мета-стеной» #метавселенная;

↘️ в цифре утратят актуальность такие "естественные ранее" международное сотрудничество, обмен потоками данных и совместные инициативы регулирования ИИ.

🔀 Биотехнологии станут главным полем геополитической битвы #биотех А пока здесь нет равных #США – см. приложенную диаграмму количества компаний по секторам биотеха (сравните с данными той же Biotech Gate по России)

❇️ Джокером в рисковой игре смычки геополитики и хайтека будет #Тайвань.

Почему доклад достоин внимания?
Закрытый доклад подготовлен ASG, где первая буква аббревиатуры принадлежит бывшему госсекретарю США Мадлен Олбрайт, которая собрала команду экспертов в политике и корпоративной стратегии, бывших дипломатов и министров, агентов спецслужб разных стран.
Самореклама им не нужна, поэтому в отчетах ASG больше здравого смысла, и их читают президенты корпораций и руководители стран.

#деглобализация #технологические #геостратегия #политические #риски

Настоящее будущее

У Европы нет своего мощного AI, а лоббисты IP есть

Поэтому неудивительно, что искусственный интеллект хотят запретить, а владельцем интеллектуальной собственности выплатить компенсацию.
https://t.me/antidigital/6194
https://t.me/svobodakassa/5895

+++
Соблюдение авторских прав
OpenAI и других разработчиков хотят обязать раскрывать, на каких материалах учится генеративный #ИИ. Потенциально это позволит авторам требовать соблюдения авторских прав или платы за использование своего контента.

Кстати, такие дела уже есть. Например, Getty Images, а также создатели контента в США подали иски к Stability AI. Они утверждают, что для генерации изображений использовался их контент без согласия.

#законодательство #правовые

ChatGPT и другие ИИ-модели в промышленности.

Генеративный #ИИ не только про создание контента. Скорость раскрутки генеративных нейросетей дает нам видение того, как быстро могут трансформироваться другие отрасли. Вот ключевые направления применения в промышленности для генеративного ИИ:

1️⃣Разработка лекарств
2️⃣Создание новых материалов
3️⃣Дизайн чипов
4️⃣Синтез данных, например в медицине
5️⃣Инжиниринг компонентов в машиностроении

Инженерам, промышленным дизайнерам и фармотрасли стоит готовиться к резкому изменению ситуации за счет генеративного ИИ. Следующий тренд после трансформеров, о котором говорят многие аналитики – базисные модели (Foundation Models). Они уже будут заточены не под конкретные типы задач, как современные text-to-image и языковые модели, а смогут выполнять практически любой запрос. Пока сложно предсказать кто выпустит первую коммерческую базисную модель, которая наделает столько же шума сколько Midjourney или ChatGPT, но есть подозрение что это будут те же компании что стоят в авангарде ИИ сейчас.

Промышленным компаниям, ориентированным на дизайн продуктов, критически важно оставаться в курсе трендов в генеративном ИИ. Уже сейчас нужно начинать отстраивать систему безопасности, сертификации сгенерированных продуктов, политики работы с вендорами и закупки технологий. Это потребует уже не просто этических кодексов, а полноценных стандартов, законов, экспериментальных правовых режимов.

#технологические #правовые #промышленность #фарма #медицина