Forwarded from собачий кайф
друзья я опозорилась и перевариваю пост это покуши дмитра димы это мне наказание за то что я осуждаю сладкую гречку ну тут за июль
Forwarded from Пиратская партия России А++
Британский эксперимент с «социальным рейтингом» закончился провалом
В Великобритании расследование WIRED раскрыло подробности масштабного эксперимента полиции Эйвона и Сомерсета по использованию машинного обучения для оценки «рисков» граждан.
С 2016 года полиция совместно с городским советом Бристоля развивала базу Think Family, в которой содержались сведения почти о 500 тысячах жителей. Помимо полицейских данных туда попадали сведения о жилье, психическом здоровье, школьном обучении, получении бесплатного питания, участии в социальных программах и другие чувствительные данные. На их основе было создано не менее 23 моделей машинного обучения, которые должны были прогнозировать вероятность совершения краж, неявки в суд, исчезновения человека, домашнего насилия, а также риск стать жертвой эксплуатации.
Полученные по запросам о свободе информации документы и независимый аудит компании Eticas показали, что многие модели работали крайне плохо. Например, модель прогнозирования краж со взломом более трёх лет имела точность менее 10%: из десяти человек, признанных алгоритмом «высокорисковыми», преступление впоследствии совершал менее один. При этом некоторые модели присваивали более высокий уровень риска людям, ранее ставшим жертвами преступлений, чем осуждённым преступникам.
Попытка использовать только полицейские данные вместо широкого массива социальных сведений также закончилась неудачей: сотрудники социальных служб сообщили, что алгоритмы перестали выявлять многих детей, действительно нуждавшихся в защите. В результате модели, предназначенные для выявления риска сексуальной и криминальной эксплуатации детей, были выведены из эксплуатации к июню 2023 года.
Несмотря на это, Великобритания продолжает масштабное внедрение ИИ в полиции. Правительство финансирует программу PoliceAI стоимостью 75 млн фунтов стерлингов для внедрения алгоритмов в полицейских подразделениях Англии и Уэльса. Одним из руководителей этого направления является Энди Марш - бывший начальник полиции Эйвона и Сомерсета, при котором развивалась описанная система.
История показывает, что даже при наличии больших массивов персональных данных и современных алгоритмов предсказание поведения человека остаётся крайне сложной задачей. А ошибки подобных систем способны затронуть сотни тысяч людей, зачастую без их ведома.
В Великобритании расследование WIRED раскрыло подробности масштабного эксперимента полиции Эйвона и Сомерсета по использованию машинного обучения для оценки «рисков» граждан.
С 2016 года полиция совместно с городским советом Бристоля развивала базу Think Family, в которой содержались сведения почти о 500 тысячах жителей. Помимо полицейских данных туда попадали сведения о жилье, психическом здоровье, школьном обучении, получении бесплатного питания, участии в социальных программах и другие чувствительные данные. На их основе было создано не менее 23 моделей машинного обучения, которые должны были прогнозировать вероятность совершения краж, неявки в суд, исчезновения человека, домашнего насилия, а также риск стать жертвой эксплуатации.
Полученные по запросам о свободе информации документы и независимый аудит компании Eticas показали, что многие модели работали крайне плохо. Например, модель прогнозирования краж со взломом более трёх лет имела точность менее 10%: из десяти человек, признанных алгоритмом «высокорисковыми», преступление впоследствии совершал менее один. При этом некоторые модели присваивали более высокий уровень риска людям, ранее ставшим жертвами преступлений, чем осуждённым преступникам.
Попытка использовать только полицейские данные вместо широкого массива социальных сведений также закончилась неудачей: сотрудники социальных служб сообщили, что алгоритмы перестали выявлять многих детей, действительно нуждавшихся в защите. В результате модели, предназначенные для выявления риска сексуальной и криминальной эксплуатации детей, были выведены из эксплуатации к июню 2023 года.
Несмотря на это, Великобритания продолжает масштабное внедрение ИИ в полиции. Правительство финансирует программу PoliceAI стоимостью 75 млн фунтов стерлингов для внедрения алгоритмов в полицейских подразделениях Англии и Уэльса. Одним из руководителей этого направления является Энди Марш - бывший начальник полиции Эйвона и Сомерсета, при котором развивалась описанная система.
История показывает, что даже при наличии больших массивов персональных данных и современных алгоритмов предсказание поведения человека остаётся крайне сложной задачей. А ошибки подобных систем способны затронуть сотни тысяч людей, зачастую без их ведома.
Сосать британский цифровой гулаг
Наш отечественный цифровой гулаг будет намного эффективнее
Наш отечественный цифровой гулаг будет намного эффективнее