На каких данных тренируют нейросети — и почему это возмущает пользователей 😕

AI обучают на массивах данных: первично — на собранных вручную, вторично — на общедоступных или обезличенных. Но иногда компании пытаются тренировать свои нейросети на конфиденциальной информации.

Например, файлообменник WeTransfer недавно обвинили в использовании загруженных в него файлов для обучения AI. Сервис добавил в свою политику разрешение на сбор данных для тренировки нейросети. Когда об этом написали в соцсетях, компания отказалась от обновления.

Рассказываем, на чём тренируют нейросети и этично ли обучать их на закрытых данных пользователей.

Как в целом учат нейросети?

Перед выпуском нейросети тренируют на учебных наборах данных. Они называются аннотированными, потому что информация из них проходит контроль человека, а к каждому факту или изображению добавляют объяснение — аннотацию. Это нужно для того, чтобы нейросеть правильно трактовала данные. Например, чтобы автомобиль помог вам припарковаться, он должен понимать, как выглядят другие машины, асфальт, земля, деревья и здания.

После выпуска нейросети обучают на более специфической информации — например, на научных статьях или статистике использования сервисов.

А много данных для обучения нужно?

Размер учебных датабаз зависит от целей использования нейросети. Чтобы научить нейросеть распознавать лицо, например, нужно собрать базу из 450 000 изображений. Для обучения чат-бота потребуются около 200 000 вопросов и 2 000 000 ответов. AI-приложения для перевода обучают на 300 000 аудиозаписей с речью носителей языка.

Можно ли использовать конфиденциальные данные пользователей для тренировки AI?

🙂 Дмитрий Григоров, директор по искусственному интеллекту и данным, старший вице-президент Альфа-Банка, считает, что тренировать нейросети на закрытых клиентских данных нельзя:

Обучать нейросети на конфиденциальной информации клиентов без их согласия неэтично

. Конечно, пользуясь такими данными, сервис может повысить качество своих AI-моделей и создать уникальные предложения для клиентов. Например, разработать функции, недоступные конкурентам, просто потому, что тренирует нейросеть на уникальных наборах данных.

Но, несмотря на это,

для пользователя в такой ситуации минусов больше, чем плюсов

. Ваши данные становятся частью чужой AI-модели, и атака на нейросеть может привести к утечке личной информации. А ещё AI может усвоить, например, бизнес-модель вашего проекта, о которой вы никому не хотели бы рассказывать, — и выдать её в ответах другим пользователям.

Обучать нейросети можно на обезличенных данных. Например,

мы в Альфа-Банке инвестируем в технологии анонимизации и агрегации информации

. Это позволяет обезличивать сведения о транзакциях, категориях трат, кредитной истории и использовать их для улучшения пользовательского опыта. Мы

чувствуем высокую ответственность при работе с финансовыми данными

, поэтому не используем конфиденциальную информацию пользователей.

@alfa_trends