😳 Немного зловещих новостей из мира AI

Сейчас в индустрии искусственного интеллекта нарастает напряжение. Один из специалистов по безопасности компании Anthropic покинул должность, заявив, что ускоренное развитие ИИ может создать серьезные глобальные угрозы. По его словам, команде регулярно приходилось сталкиваться с ситуациями, когда вопросы безопасности отходили на второй план из-за других приоритетов. Среди потенциальных рисков он назвал, в частности, возможность биотерроризма и иных масштабных последствий.

Anthropic изначально позиционировалась как организация, ориентированная на создание безопасных ИИ-решений. Однако даже ее руководитель Дарио Амодей публично отмечал, что темпы прогресса слишком высоки и их стоит замедлить ради большей надежности.

Похожая тенденция наблюдается и в других компаниях. Несколько ведущих специалистов по безопасности, включая участников бывшей команды Superalignment из OpenAI, также ушли со своих позиций. Они объяснили это тем, что коммерческие интересы и гонка за прибылью часто оказываются важнее снижения рисков появления сверхразумных систем.

Еще один резонансный уход произошел после внедрения рекламы в ChatGPT. Бывший исследователь OpenAI Зои Хитциг выразила беспокойство по поводу того, что пользовательские данные могут использоваться в рекламных целях. По ее мнению, это создает риск манипуляций, поскольку люди нередко делятся с ИИ личной информацией, которая может быть использована для эмоционального воздействия через рекламу.

В качестве примера она приводит историю Facebook*, где первоначальные обещания прозрачности и защиты данных постепенно ослабли под влиянием рекламной бизнес-модели. Хитциг также считает, что усиление зависимости от ИИ может негативно отражаться на психологическом состоянии некоторых пользователей.

*запрещено на территории РФ