Пока я коплю ману для нового лонгрида о критической важности гуманитарного образования для технических работников, почитайте перевод статьи на эту же тему. Усилю ее выводы: учить инженеров и программистов пониманию этических проблем в наши времена это ни много ни мало вопрос выживания человечества. Ибо именно айтишники сейчас в фаворе у венчурных капиталистов, получают в руки огромный объем ресурсов чуть ли не сразу после института, и становятся потом руководителями глобальных корпораций, влияющих на жизнь множества людей. И сейчас в руках у этих баловней судьбы – оружие судного дня, опасность которого они не способны в полной мере осознавать из-за своей слепости на гуманитарный глаз.

🗣️ По мере того, как ИИ и инструменты машинного обучения становятся все более интегрированными в повседневную жизнь, возрастает значение этических проблем, начиная от вопросов конфиденциальности, расовых и гендерных предубеждений, заканчивая распространением дезинформации.

Широкая общественность зависит от инженеров-программистов и специалистов в области компьютерных технологий, которые гарантируют, что эти технологии будут созданы безопасным и этичным образом. Как социологи, изучающие вопросы науки, технологий, инженерного дела и математического образования, сейчас мы исследуем, как инженеры в различных областях учатся и понимают свою ответственность перед обществом.

Наши и других ученых недавние исследованиях указывают на тревожную реальность: новое поколение инженеров часто оказывается неготовым к осознанию социальных последствий своей работы. Более того, некоторые проявляют безразличие к моральным дилеммам, с которыми могут столкнуться в своей работе – и достижения в области искусственного интеллекта только усугубляют эти дилеммы.

В рамках исследования мы опросили более 60 студентов, изучающих электротехнику и компьютерные науки в рамках одной из ведущих инженерных программ в США. Мы спросили студентов об их опыте решения этических проблем в инженерной сфере, их знаниях об этических дилеммах в данной области и о том, как они будут реагировать на сценарии в будущем.

Хорошая новость: большинство студентов осознают потенциальную опасность искусственного интеллекта и обеспокоены вопросами неприкосновенности личности и возможных рисков.

Один студент, например, выразил тревогу по поводу воздействия ИИ на окружающую среду, заявив, что компании, работающие с ИИ, используют “все больше и больше энергии, создающей парниковый эффект, [получая] минимальную выгоду”. Другие опрошенные рассуждали о способах использования ИИ, в том числе, в военных технологиях и для создания дипфейков.

Однако, когда студентов спрашивали: “Чувствуете ли вы себя способными реагировать на вызывающие беспокойство или неэтичные ситуации?” - часто они отвечали отрицательно. Многих из них беспокоит этика в их сфере деятельности, но это не значит, что они ощущают готовность справиться с вызовами.

Другие исследователи обнаружили, что многие студенты инженерных специальностей не удовлетворены качеством обучения этике. Обычно при обучении особое внимание уделяется профессиональным кодексам поведения, а не сложным социально-техническим факторам, лежащим в основе принятия этических решений. Исследования показывают, что даже при ознакомлении с конкретными сценариями или тематическими исследованиями студенты-инженеры часто с трудом распознают этические дилеммы.

Аккредитованные инженерные программы обязаны “включать темы, связанные с профессиональной и этической ответственностью” в том или ином виде. Тем не менее, обучение этике редко включается в официальные учебные планы. Оценка учебных программ STEM для студентов в США показала, что освещение этических вопросов сильно различается по содержанию, объему и степени серьезности изложения от основных предметов. Кроме того, анализ научной литературы по инженерному образованию выявил, что этика часто считается несущественным элементом обучения.

Власти Китая запустили чат-бот, обученный на философии Си Цзиньпина, пишет Financial Times. КНР пытается соблюдать баланс между контролем за свободой слова и стимулированием развития сферы искуственного интеллекта для конкуренции с мировыми лидерами, как Open AI ChatGPT.

Как утверждает издание, Государственная канцелярия интернет-информации КНР (CAC) контролирует обучение языковых моделей, а также проверяет их на соответствие «социалистическому курсу».

🟢Главная проблема для разработчиков заключается в относительно скудных наборах данных для обучения на китайском языке: от имени Си было опубликовано около десятка книг. Поэтому в декабре CAC выпустила первую общедоступную базу данных, содержащую 100 млн записей «высококачественных и заслуживающих доверия данных» для использования в обучении ИИ.

🟢По данным источника издания, новая модель используется в исследовательском центре, но со временем она может быть выпущена для более широкого использования.

🔜 Как утверждает FT, Baidu и Alibaba строго контролируют создаваемый их чат-ботами контент. Если пользователь задевает «чувствительные» темы, ему предлагается перезагрузить чат.

@vedomosti

Новые факты в продолжение разговора об "энергоэффективности" ИИ и предстоящем развороте от практики мерить "цивилизованность" выбросами СО2. Цитирую:

🗣️По оценкам EPRI, для запросов с использованием искусственного интеллекта на один запрос ChatGPT требуется 2,9 ватт-часа электроэнергии, что в 10 раз больше, чем для традиционных запросов Google

🗣️ В новом отчете TD Cowen прогнозируется, что "75-100% роста нагрузки на центры обработки данных в США в ближайшей и среднесрочной перспективе будет обеспечиваться за счет природного газа

При этом прогнозируемая доля потребления электричества датацентрами в некоторых штатах США к 2030 году превысит 30%.

Это вам не просто поделить хлеб на нож и человеческую жизнь на счета за электричество.

Китай последовательно укрепляет позиции на глобальном рынке, наращивая успехи в мировой науке. Об этом, в частности, свидетельствует представленность семи китайских университетов в топ-10 авторитетного рейтинга Nature Index 2024.

В подробном разборе рейтинга журнал «Эксперт» фокусирует внимание на факторах, которые объясняют высокие показатели КНР.

💬Успех китайских университетов и научных институтов в индексе Nature — вполне закономерный результат государственной политики, нацеленной на глобальное научно-технологическое лидерство, которая последовательно реализуется властями КНР, отметил Михаил Гершман, директор Центра научно-технической, инновационной и информационной политики ИСИЭЗ.

По просьбе редакции Михаил выделил ее ключевые составляющие.

1️⃣Фронтальное наращивание объемов научной деятельности — валовых затрат на исследования и разработки (как государства, так и бизнеса), численности исследователей, количества публикаций и патентов. По всем этим показателям Китай уже добился лидирующих позиций.

2️⃣Переход от стимулирования количества научных результатов к повышению их качества. Это проявляется, в том числе, в расширении финансирования фундаментальной науки и ориентации университетов и НИИ на публикации в топовых научных журналах.

3️⃣Последовательный курс на укрепление ведущих университетов и их продвижение в международных рейтингах, а в последние годы — на развитие на их базе конкретных научных дисциплин, представляющих стратегический приоритет для страны.

4️⃣Традиционная для Китая политика привлечения и развития талантов (включая визы, грантовые выплаты и социальные льготы для иностранных студентов и ученых), реализуемая как на уровне страны, так и в регионах и городах.

⏮Ранее мы анализировали, как Китай расставляет акценты в научно-технической политике и выстраивает курс на глобальное лидерство, как власти страны ведут учет технологических компаний, поддерживают молодых ученых, как привлекают таланты и соревнуются за них даже на уровне городов. Вскоре представим еще ряд обзоров по Китаю.⏭

#НТИ_политика