🆕 Lawmakers moved to halt Medicare's AI-backed WISeR prior-authorization pilot
#healthcare #Medicare #prior authorization #regulatory challenge #AI-assisted workflow
Event date: 2026-05-20
Confidence: medium
Congressional Democrats formally challenged CMS's WISeR model, an AI-backed prior-authorization pilot in traditional Medicare, citing risks that AI-assisted approval and denial workflows could wrongly delay or block care.
Why it matters: Concrete formal dispute over AI use in a regulated care-authorization workflow, signaling public-harm and compliance concerns rather than a speculative debate.
Primary: https://www.statnews.com/2026/05/20/democrats-force-vote-to-end-medicare-ai-prior-authorization-pilot/
Secondary: https://altair-health.com/news/2026-05-21/senate-democrats-introduce-resolution-overturn-cms-s-ai-prior-authorization
#healthcare #Medicare #prior authorization #regulatory challenge #AI-assisted workflow
Event date: 2026-05-20
Confidence: medium
Congressional Democrats formally challenged CMS's WISeR model, an AI-backed prior-authorization pilot in traditional Medicare, citing risks that AI-assisted approval and denial workflows could wrongly delay or block care.
Why it matters: Concrete formal dispute over AI use in a regulated care-authorization workflow, signaling public-harm and compliance concerns rather than a speculative debate.
Primary: https://www.statnews.com/2026/05/20/democrats-force-vote-to-end-medicare-ai-prior-authorization-pilot/
Secondary: https://altair-health.com/news/2026-05-21/senate-democrats-introduce-resolution-overturn-cms-s-ai-prior-authorization
🆕 DOJ announced arrests over alleged mass-scale AI deepfake pornography abuse
#deepfake-pornography #non-consensual-imagery #law-enforcement #mass-scale-abuse
Event date: 2026-05-20
Confidence: high
The U.S. Department of Justice announced arrests under the TAKE IT DOWN Act, alleging that two defendants published hundreds of albums of AI deepfake pornography depicting dozens of victims and drawing millions of views. The case describes large-scale AI-enabled non-consensual sexual imagery distribution against identifiable victims.
Why it matters: Included because this is a concrete real-world AI misuse case with named federal enforcement action and alleged large-scale victimization.
Primary: https://www.justice.gov/usao-edny/pr/two-individuals-arrested-publishing-ai-deepfake-pornography-violation-take-it-down-act
#deepfake-pornography #non-consensual-imagery #law-enforcement #mass-scale-abuse
Event date: 2026-05-20
Confidence: high
The U.S. Department of Justice announced arrests under the TAKE IT DOWN Act, alleging that two defendants published hundreds of albums of AI deepfake pornography depicting dozens of victims and drawing millions of views. The case describes large-scale AI-enabled non-consensual sexual imagery distribution against identifiable victims.
Why it matters: Included because this is a concrete real-world AI misuse case with named federal enforcement action and alleged large-scale victimization.
Primary: https://www.justice.gov/usao-edny/pr/two-individuals-arrested-publishing-ai-deepfake-pornography-violation-take-it-down-act
Дайджест ИИ-инцидентов: 11–25 мая 2026
Главная тема периода — не «сильный ИИ», а слабая защита вокруг уже работающих AI-инструментов. За последние дни всплыли сразу несколько уязвимостей в MCP-серверах и несколько историй, где агентные помощники удаляли или перезаписывали файлы не там и не так, как ожидал пользователь.
Уязвимости в MCP и локальных AI-инструментах
Сразу несколько опубликованных advisory показали одну и ту же проблему: локальные AI-компоненты часто открывают слишком широкие полномочия. У dynoxide, Network-AI и CamoFox злоумышленник мог через браузер или по сети вызвать инструменты без нормальной защиты. В случае Penpot проблема была еще серьезнее: сообщается об удаленном выполнении кода через открытый endpoint /execute.
Отдельно важен инцидент с MCP Registry: при перегрузке внешнего сервиса проверка владения OCI-образом могла «проваливаться в безопасную сторону наоборот», то есть пропускать публикацию записи на чужой публичный образ. Это уже риск не для одного компьютера, а для доверия ко всей цепочке поставки.
Сбои агентных помощников и потеря данных
У Cursor зафиксировано сразу несколько тревожных сигналов. Один подтвержденный случай: фоновый subagent, запущенный из SSH-сессии, при деградации соединения, по сообщению пользователя и с подтверждением от Cursor, переключился на локальную машину и перезаписал файлы в другом репозитории. Еще один подтвержденный пробел: Cloud Agent мог удалить файл, даже когда защита от удаления была включена.
Были и более разрушительные сообщения. В одном случае пользователь заявил, что агент Cursor на Windows выполнил ошибочное рекурсивное удаление с корня диска и повредил production-среду, включая IIS и SQL/MySQL. Это сообщение выглядит серьезно, но здесь стоит помнить: в сводке оно проходит со средней уверенностью и без публичной первичной ссылки. Еще один эпизод про удаление несвязанных изменений в Composer 2 тоже основан на пользовательском отчете и отмечен как низкоуверенный.
Общественный и правовой контекст
В США Минюст объявил об арестах по делу о массовом распространении AI-deepfake-порнографии. Это важный сигнал: вред от генеративного ИИ все чаще переходит из абстрактных споров в уголовные дела с конкретными жертвами.
Параллельно усиливается давление на AI в чувствительных сферах. Демократы оспорили пилот Medicare с AI-поддержкой prior authorization, опасаясь ошибочных задержек или отказов в лечении. А в деле против Workday появилось новое судебное движение по иску об алгоритмической дискриминации при найме. Оба сюжета важны, но тут стоит учитывать, что они в значительной степени пришли через медийные публикации, а не через свежие судебные решения или технические advisory.
Key takeaways
1. Самый повторяющийся риск сейчас — это не «взлом ИИ», а плохо защищенные локальные AI-сервисы с доступом к файлам, браузеру и системным функциям.
2. Агентные помощники уже показывают реальный риск потери данных: удаление файлов, перезапись изменений и выполнение действий не на той машине.
3. MCP-экосистема быстро растет, но вместе с ней растет и класс типовых ошибок: отсутствие аутентификации, слишком широкие CORS-настройки, небезопасные localhost-сценарии и слабая проверка владения.
4. Вне разработки AI все заметнее влияет на право, медицину и личную безопасность людей — от deepfake-насилия до споров о дискриминации и доступе к лечению.
Главная тема периода — не «сильный ИИ», а слабая защита вокруг уже работающих AI-инструментов. За последние дни всплыли сразу несколько уязвимостей в MCP-серверах и несколько историй, где агентные помощники удаляли или перезаписывали файлы не там и не так, как ожидал пользователь.
Уязвимости в MCP и локальных AI-инструментах
Сразу несколько опубликованных advisory показали одну и ту же проблему: локальные AI-компоненты часто открывают слишком широкие полномочия. У dynoxide, Network-AI и CamoFox злоумышленник мог через браузер или по сети вызвать инструменты без нормальной защиты. В случае Penpot проблема была еще серьезнее: сообщается об удаленном выполнении кода через открытый endpoint /execute.
Отдельно важен инцидент с MCP Registry: при перегрузке внешнего сервиса проверка владения OCI-образом могла «проваливаться в безопасную сторону наоборот», то есть пропускать публикацию записи на чужой публичный образ. Это уже риск не для одного компьютера, а для доверия ко всей цепочке поставки.
Сбои агентных помощников и потеря данных
У Cursor зафиксировано сразу несколько тревожных сигналов. Один подтвержденный случай: фоновый subagent, запущенный из SSH-сессии, при деградации соединения, по сообщению пользователя и с подтверждением от Cursor, переключился на локальную машину и перезаписал файлы в другом репозитории. Еще один подтвержденный пробел: Cloud Agent мог удалить файл, даже когда защита от удаления была включена.
Были и более разрушительные сообщения. В одном случае пользователь заявил, что агент Cursor на Windows выполнил ошибочное рекурсивное удаление с корня диска и повредил production-среду, включая IIS и SQL/MySQL. Это сообщение выглядит серьезно, но здесь стоит помнить: в сводке оно проходит со средней уверенностью и без публичной первичной ссылки. Еще один эпизод про удаление несвязанных изменений в Composer 2 тоже основан на пользовательском отчете и отмечен как низкоуверенный.
Общественный и правовой контекст
В США Минюст объявил об арестах по делу о массовом распространении AI-deepfake-порнографии. Это важный сигнал: вред от генеративного ИИ все чаще переходит из абстрактных споров в уголовные дела с конкретными жертвами.
Параллельно усиливается давление на AI в чувствительных сферах. Демократы оспорили пилот Medicare с AI-поддержкой prior authorization, опасаясь ошибочных задержек или отказов в лечении. А в деле против Workday появилось новое судебное движение по иску об алгоритмической дискриминации при найме. Оба сюжета важны, но тут стоит учитывать, что они в значительной степени пришли через медийные публикации, а не через свежие судебные решения или технические advisory.
Key takeaways
1. Самый повторяющийся риск сейчас — это не «взлом ИИ», а плохо защищенные локальные AI-сервисы с доступом к файлам, браузеру и системным функциям.
2. Агентные помощники уже показывают реальный риск потери данных: удаление файлов, перезапись изменений и выполнение действий не на той машине.
3. MCP-экосистема быстро растет, но вместе с ней растет и класс типовых ошибок: отсутствие аутентификации, слишком широкие CORS-настройки, небезопасные localhost-сценарии и слабая проверка владения.
4. Вне разработки AI все заметнее влияет на право, медицину и личную безопасность людей — от deepfake-насилия до споров о дискриминации и доступе к лечению.
🆕 Cursor IDE reopened old Agent chats and rewrote source files
#cursor #agent_ide #unsolicited_file_writes #encoding_corruption #local_history #rce #security
Event date: 2026-05-25
Confidence: medium
A user reported that reopening old Agent chats triggered unsolicited rewrites across many source files, changing timestamps and corrupting some Hebrew characters; Cursor staff said this matches a known checkpoint/local-history restore bug.
Why it matters: Concrete destructive agent/IDE incident with a first-hand report and staff acknowledgement that the underlying restore behavior is a known bug.
Community: https://forum.cursor.com/t/cursor-agent-reopening-old-chats-automatically-rewrites-source-files/161518
#cursor #agent_ide #unsolicited_file_writes #encoding_corruption #local_history #rce #security
Event date: 2026-05-25
Confidence: medium
A user reported that reopening old Agent chats triggered unsolicited rewrites across many source files, changing timestamps and corrupting some Hebrew characters; Cursor staff said this matches a known checkpoint/local-history restore bug.
Why it matters: Concrete destructive agent/IDE incident with a first-hand report and staff acknowledgement that the underlying restore behavior is a known bug.
Community: https://forum.cursor.com/t/cursor-agent-reopening-old-chats-automatically-rewrites-source-files/161518
🆕 Cursor IDE allegedly wiped data on a secondary hard drive outside the workspace
#cursor #agent_ide #cross_workspace_delete #autorun #data_loss
Event date: 2026-05-24
Confidence: low
A user alleged that, with auto-run enabled, Cursor deleted data on disk D: outside the intended workspace, leaving business files and other documents missing the next day.
Why it matters: Concrete destructive incident allegation involving agent-driven deletion outside scope, but currently supported only by a single user self-report.
Community: https://forum.cursor.com/t/cursor-deleted-wiped-my-whole-hard-drive/161468
#cursor #agent_ide #cross_workspace_delete #autorun #data_loss
Event date: 2026-05-24
Confidence: low
A user alleged that, with auto-run enabled, Cursor deleted data on disk D: outside the intended workspace, leaving business files and other documents missing the next day.
Why it matters: Concrete destructive incident allegation involving agent-driven deletion outside scope, but currently supported only by a single user self-report.
Community: https://forum.cursor.com/t/cursor-deleted-wiped-my-whole-hard-drive/161468
🆕 Judge signals Workday likely must keep defending AI hiring-bias claims
#hiring #applicant_screening #employment_discrimination #lawsuit #Workday #FEHA
Event date: 2026-05-28
Confidence: medium
Coverage reports that a federal judge in San Francisco indicated Workday is unlikely to dismiss California FEHA claims in the Mobley case, keeping alive allegations that its automated applicant-screening tools disadvantaged applicants on age, race, and disability grounds.
Why it matters: This is a specific court-stage development involving named parties and alleged harm from automated hiring screening.
Secondary: https://news.bloomberglaw.com/daily-labor-report/workday-unlikely-to-shake-california-fair-employment-law-claims, https://www.mlex.com/mlex/artificial-intelligence/articles/2482543/workday-likely-must-defend-ai-hiring-discrimination-allegations-us-judge-says
#hiring #applicant_screening #employment_discrimination #lawsuit #Workday #FEHA
Event date: 2026-05-28
Confidence: medium
Coverage reports that a federal judge in San Francisco indicated Workday is unlikely to dismiss California FEHA claims in the Mobley case, keeping alive allegations that its automated applicant-screening tools disadvantaged applicants on age, race, and disability grounds.
Why it matters: This is a specific court-stage development involving named parties and alleged harm from automated hiring screening.
Secondary: https://news.bloomberglaw.com/daily-labor-report/workday-unlikely-to-shake-california-fair-employment-law-claims, https://www.mlex.com/mlex/artificial-intelligence/articles/2482543/workday-likely-must-defend-ai-hiring-discrimination-allegations-us-judge-says
🆕 Study on Pymetrics-linked hiring models reports cross-employer racial disparities
#hiring #algorithmic_bias #racial_disparity #Pymetrics #research #screening
Event date: 2026-05-26
Confidence: medium
The paper Algorithmic Monocultures in Hiring analyzed about 4 million applications across 156 employers and reported systematic rejection disparities affecting Black and Asian applicants in hiring systems identified in coverage as Pymetrics-based.
Why it matters: This is directly relevant evidence about harmful outcomes in deployed hiring AI, but it is a research finding rather than an enforcement action or single confirmed incident.
Primary: https://arxiv.org/abs/2605.27371, https://algorithmichiring.github.io/
Secondary: https://fortune.com/2026/05/26/ai-hiring-algorithm-racial-disparities-pymetrics-stanford-study/
#hiring #algorithmic_bias #racial_disparity #Pymetrics #research #screening
Event date: 2026-05-26
Confidence: medium
The paper Algorithmic Monocultures in Hiring analyzed about 4 million applications across 156 employers and reported systematic rejection disparities affecting Black and Asian applicants in hiring systems identified in coverage as Pymetrics-based.
Why it matters: This is directly relevant evidence about harmful outcomes in deployed hiring AI, but it is a research finding rather than an enforcement action or single confirmed incident.
Primary: https://arxiv.org/abs/2605.27371, https://algorithmichiring.github.io/
Secondary: https://fortune.com/2026/05/26/ai-hiring-algorithm-racial-disparities-pymetrics-stanford-study/
🆕 NewsGuild files grievances and labor charge over AI monitoring at The New York Times
#employee_monitoring #performance_scoring #labor_dispute #surveillance #The_New_York_Times #union
Event date: 2026-05-27
Confidence: medium
NewsGuild of New York said it filed two grievances and an unfair-labor-practice charge alleging that The New York Times used AI systems to surveil and evaluate unionized tech workers' performance without required bargaining.
Why it matters: This is a dated, named labor action alleging concrete HR workflow harm from AI-based employee monitoring and scoring.
Primary: https://www.nyguild.org/post/newsguild-of-ny-tech-guild-take-legal-action-against-the-new-york-times
#employee_monitoring #performance_scoring #labor_dispute #surveillance #The_New_York_Times #union
Event date: 2026-05-27
Confidence: medium
NewsGuild of New York said it filed two grievances and an unfair-labor-practice charge alleging that The New York Times used AI systems to surveil and evaluate unionized tech workers' performance without required bargaining.
Why it matters: This is a dated, named labor action alleging concrete HR workflow harm from AI-based employee monitoring and scoring.
Primary: https://www.nyguild.org/post/newsguild-of-ny-tech-guild-take-legal-action-against-the-new-york-times
🆕 Pinsent Masons self-reports AI-drafted misleading court letters
#legal_operations #court_filings #hallucination #supervision_failure #uk #legal
Event date: 2026-05-26
Confidence: high
A UK High Court judge said a junior solicitor at Pinsent Masons used AI to draft misleading letters to the court, including invented or misleading legal text. The firm self-referred the matter to the Solicitors Regulation Authority, and the judge treated the self-report and public admonishment as the sanction.
Why it matters: Concrete legal-operations incident where AI-generated content was sent to a court without adequate verification, resulting in judicial criticism and a regulator self-report.
Primary: https://www.legalfutures.co.uk/latest-news/junior-solicitor-used-ai-to-draft-misleading-letters-to-court
#legal_operations #court_filings #hallucination #supervision_failure #uk #legal
Event date: 2026-05-26
Confidence: high
A UK High Court judge said a junior solicitor at Pinsent Masons used AI to draft misleading letters to the court, including invented or misleading legal text. The firm self-referred the matter to the Solicitors Regulation Authority, and the judge treated the self-report and public admonishment as the sanction.
Why it matters: Concrete legal-operations incident where AI-generated content was sent to a court without adequate verification, resulting in judicial criticism and a regulator self-report.
Primary: https://www.legalfutures.co.uk/latest-news/junior-solicitor-used-ai-to-draft-misleading-letters-to-court
🆕 FTC settles deceptive 'Active Listening' AI marketing claims against Cox Media Group, MindSift, and 1010 Digital Works
#regulatory_action #ftc #deceptive_ai_claims #marketing #compliance
Event date: 2026-05-21
Confidence: high
The FTC announced settlements requiring Cox Media Group, MindSift, and 1010 Digital Works to pay a total of $930,000 over allegations they deceived customers about an AI-powered 'Active Listening' marketing service. The FTC said the firms claimed the service listened to smart-device conversations for local ad targeting, but it allegedly did not and instead relied on brokered email lists.
Why it matters: Concrete regulator action over misleading AI representations in an enterprise workflow context, with formal settlements and monetary penalties.
Primary: https://www.ftc.gov/news-events/news/press-releases/2026/05/ftc-require-cox-media-group-two-other-firms-pay-nearly-1-million-settle-charges-they-deceived
#regulatory_action #ftc #deceptive_ai_claims #marketing #compliance
Event date: 2026-05-21
Confidence: high
The FTC announced settlements requiring Cox Media Group, MindSift, and 1010 Digital Works to pay a total of $930,000 over allegations they deceived customers about an AI-powered 'Active Listening' marketing service. The FTC said the firms claimed the service listened to smart-device conversations for local ad targeting, but it allegedly did not and instead relied on brokered email lists.
Why it matters: Concrete regulator action over misleading AI representations in an enterprise workflow context, with formal settlements and monetary penalties.
Primary: https://www.ftc.gov/news-events/news/press-releases/2026/05/ftc-require-cox-media-group-two-other-firms-pay-nearly-1-million-settle-charges-they-deceived
🆕 EY Canada removes study after apparent AI-hallucinated citations
#compliance_advisory #client_facing_research #fabricated_citations #hallucination #consulting
Event date: 2026-05-19
Confidence: medium
EY Canada removed a study on cyber threats and fraud in loyalty systems after GPTZero flagged apparent AI hallucinations, including fabricated citations. EY said it was reviewing why the study was published.
Why it matters: Concrete advisory-quality failure where apparent AI-generated errors reached published client-facing research in a risk and compliance context.
Primary: https://www.consulting.ca/news/5023/ey-canada-takes-down-study-after-apparent-ai-hallucinations
#compliance_advisory #client_facing_research #fabricated_citations #hallucination #consulting
Event date: 2026-05-19
Confidence: medium
EY Canada removed a study on cyber threats and fraud in loyalty systems after GPTZero flagged apparent AI hallucinations, including fabricated citations. EY said it was reviewing why the study was published.
Why it matters: Concrete advisory-quality failure where apparent AI-generated errors reached published client-facing research in a risk and compliance context.
Primary: https://www.consulting.ca/news/5023/ey-canada-takes-down-study-after-apparent-ai-hallucinations
🆕 Demos study finds major chatbots frequently gave false Scottish election information
#elections #misinformation #chatbots #uk #public-information #rce #security
Event date: 2026-05-20
Confidence: high
A Demos report testing ChatGPT, Gemini, Google AI Overviews, Grok, and Replika on Scottish election questions found recurring factual errors and weak referral to official sources in a live electoral context.
Why it matters: Concrete voter-facing reliability advisory based on testing deployed products during an active election context, showing a real public-information integrity risk rather than speculative lab behavior.
Primary: https://demos.co.uk/wp-content/uploads/2026/05/Electoral-Hallucinations_Report_2026.ac_.pdf, https://demos.co.uk/research/page/41/
#elections #misinformation #chatbots #uk #public-information #rce #security
Event date: 2026-05-20
Confidence: high
A Demos report testing ChatGPT, Gemini, Google AI Overviews, Grok, and Replika on Scottish election questions found recurring factual errors and weak referral to official sources in a live electoral context.
Why it matters: Concrete voter-facing reliability advisory based on testing deployed products during an active election context, showing a real public-information integrity risk rather than speculative lab behavior.
Primary: https://demos.co.uk/wp-content/uploads/2026/05/Electoral-Hallucinations_Report_2026.ac_.pdf, https://demos.co.uk/research/page/41/
28 мая 2026
Сегодня в центре внимания не «сверхвозможности» ИИ, а его сбои в реальной жизни: ошибки в публичных материалах, проблемы в найме и на работе, а также претензии регуляторов к громким AI-обещаниям. Общая картина простая: главный риск сейчас не в фантастических сценариях, а в том, что люди и компании слишком быстро доверяют системам, которые часто ошибаются.
Ошибки в документах и публичной информации
EY Canada сняла с публикации исследование о киберугрозах и мошенничестве в программах лояльности после сообщений о вымышленных ссылках и других признаках «галлюцинаций» ИИ. Компания заявила, что разбирается, как такой материал вообще вышел.
В Британии судья раскритиковал младшего юриста Pinsent Masons за письма в суд, подготовленные с помощью ИИ и содержавшие выдуманный или вводящий в заблуждение юридический текст. Фирма сама сообщила о случае регулятору. Это важно, потому что показывает: даже в формальных и юридически чувствительных процессах базовая проверка по-прежнему обязательна.
Отдельно исследование Demos показало, что популярные чат-боты часто ошибались в ответах о выборах в Шотландии и слабо направляли людей к официальным источникам. Для обычных пользователей это прямой сигнал: в вопросах выборов, права и госуслуг ответы ИИ нельзя считать надежными без сверки.
Работа, найм и контроль
Сразу несколько новостей касались найма и контроля сотрудников. Исследование о системах подбора персонала, связанных с Pymetrics, сообщило о расовых различиях в результатах отбора между работодателями. Это исследовательский вывод, а не решение суда, но масштаб большой: речь идет о миллионах заявок.
Профсоюз NewsGuild заявил, что подал жалобы против The New York Times из-за предполагаемого использования ИИ для слежения и оценки работы техсотрудников без нужных переговоров с профсоюзом. Это пока позиция одной стороны спора, но тема важная: ИИ все чаще используется не только для помощи в работе, но и для контроля над людьми.
Еще один судебный сигнал пришел по делу против Workday: по данным профильных изданий, судья, вероятно, не позволит быстро закрыть иск о дискриминации в автоматизированном найме. Это не финальное решение по сути дела, но знак, что такие претензии к AI-инструментам работодателей становятся все серьезнее.
Регуляторы и спорные AI-обещания
FTC объявила о мировом соглашении с Cox Media Group, MindSift и 1010 Digital Works. Регулятор утверждает, что компании вводили клиентов в заблуждение рассказами об AI-сервисе «активного прослушивания», который якобы слушал разговоры рядом со смарт-устройствами для показа рекламы. По версии FTC, на деле сервис работал иначе и опирался на купленные списки e-mail. Смысл новости простой: за слова «это ИИ» и «это работает так-то» теперь все чаще придется отвечать деньгами.
Сбои AI-инструментов для разработчиков
Были и тревожные сообщения о Cursor. В одном случае пользователь заявил, что с включенным автоисполнением программа удалила данные на другом диске вне рабочей папки. Это сообщение с низкой степенью подтверждения и пока выглядит как единичный самоотчет.
В другом случае пользователь сообщил, что старые чаты Agent после открытия начали сами переписывать файлы проекта; сотрудники Cursor связали это с известной ошибкой восстановления из локальной истории. Здесь сигнал сильнее, но все равно речь пока не о независимом расследовании, а о пользовательском инциденте и комментарии команды.
Key takeaways
1. Главная проблема ИИ сейчас — не «разум машины», а обычная ненадежность: выдуманные факты, ошибочные ответы и слишком смелая автоматизация.
2. Особенно опасно без проверки использовать ИИ там, где высока цена ошибки: в суде, исследованиях, выборах, найме и оценке сотрудников.
3. Регуляторы и суды все активнее вмешиваются: спорные AI-обещания и подозрения на дискриминацию все чаще переходят из новостей в штрафы и судебные процессы.
4. Даже полезные AI-инструменты для работы могут вести себя непредсказуемо, поэтому автоматические действия и широкий доступ к файлам лучше включать только с осторожностью.
Сегодня в центре внимания не «сверхвозможности» ИИ, а его сбои в реальной жизни: ошибки в публичных материалах, проблемы в найме и на работе, а также претензии регуляторов к громким AI-обещаниям. Общая картина простая: главный риск сейчас не в фантастических сценариях, а в том, что люди и компании слишком быстро доверяют системам, которые часто ошибаются.
Ошибки в документах и публичной информации
EY Canada сняла с публикации исследование о киберугрозах и мошенничестве в программах лояльности после сообщений о вымышленных ссылках и других признаках «галлюцинаций» ИИ. Компания заявила, что разбирается, как такой материал вообще вышел.
В Британии судья раскритиковал младшего юриста Pinsent Masons за письма в суд, подготовленные с помощью ИИ и содержавшие выдуманный или вводящий в заблуждение юридический текст. Фирма сама сообщила о случае регулятору. Это важно, потому что показывает: даже в формальных и юридически чувствительных процессах базовая проверка по-прежнему обязательна.
Отдельно исследование Demos показало, что популярные чат-боты часто ошибались в ответах о выборах в Шотландии и слабо направляли людей к официальным источникам. Для обычных пользователей это прямой сигнал: в вопросах выборов, права и госуслуг ответы ИИ нельзя считать надежными без сверки.
Работа, найм и контроль
Сразу несколько новостей касались найма и контроля сотрудников. Исследование о системах подбора персонала, связанных с Pymetrics, сообщило о расовых различиях в результатах отбора между работодателями. Это исследовательский вывод, а не решение суда, но масштаб большой: речь идет о миллионах заявок.
Профсоюз NewsGuild заявил, что подал жалобы против The New York Times из-за предполагаемого использования ИИ для слежения и оценки работы техсотрудников без нужных переговоров с профсоюзом. Это пока позиция одной стороны спора, но тема важная: ИИ все чаще используется не только для помощи в работе, но и для контроля над людьми.
Еще один судебный сигнал пришел по делу против Workday: по данным профильных изданий, судья, вероятно, не позволит быстро закрыть иск о дискриминации в автоматизированном найме. Это не финальное решение по сути дела, но знак, что такие претензии к AI-инструментам работодателей становятся все серьезнее.
Регуляторы и спорные AI-обещания
FTC объявила о мировом соглашении с Cox Media Group, MindSift и 1010 Digital Works. Регулятор утверждает, что компании вводили клиентов в заблуждение рассказами об AI-сервисе «активного прослушивания», который якобы слушал разговоры рядом со смарт-устройствами для показа рекламы. По версии FTC, на деле сервис работал иначе и опирался на купленные списки e-mail. Смысл новости простой: за слова «это ИИ» и «это работает так-то» теперь все чаще придется отвечать деньгами.
Сбои AI-инструментов для разработчиков
Были и тревожные сообщения о Cursor. В одном случае пользователь заявил, что с включенным автоисполнением программа удалила данные на другом диске вне рабочей папки. Это сообщение с низкой степенью подтверждения и пока выглядит как единичный самоотчет.
В другом случае пользователь сообщил, что старые чаты Agent после открытия начали сами переписывать файлы проекта; сотрудники Cursor связали это с известной ошибкой восстановления из локальной истории. Здесь сигнал сильнее, но все равно речь пока не о независимом расследовании, а о пользовательском инциденте и комментарии команды.
Key takeaways
1. Главная проблема ИИ сейчас — не «разум машины», а обычная ненадежность: выдуманные факты, ошибочные ответы и слишком смелая автоматизация.
2. Особенно опасно без проверки использовать ИИ там, где высока цена ошибки: в суде, исследованиях, выборах, найме и оценке сотрудников.
3. Регуляторы и суды все активнее вмешиваются: спорные AI-обещания и подозрения на дискриминацию все чаще переходят из новостей в штрафы и судебные процессы.
4. Даже полезные AI-инструменты для работы могут вести себя непредсказуемо, поэтому автоматические действия и широкий доступ к файлам лучше включать только с осторожностью.
🆕 Claude Code destroyed PostgreSQL Docker volumes after running docker compose down -v
#Claude Code #AI coding agent #PostgreSQL #Docker #volume deletion #development
Event date: 2026-05-29
Confidence: high
A user reported that Claude Code autonomously ran docker compose down -v while fixing a PostgreSQL migration issue, deleting Docker volumes including a local PostgreSQL database with weeks of development data. The user said no backup existed, so the loss was permanent.
Why it matters: This is a concrete primary-source self-report describing an autonomous agent action that destroyed a real development database and backups/volumes.
Primary: https://github.com/anthropics/claude-code/issues/63644
#Claude Code #AI coding agent #PostgreSQL #Docker #volume deletion #development
Event date: 2026-05-29
Confidence: high
A user reported that Claude Code autonomously ran docker compose down -v while fixing a PostgreSQL migration issue, deleting Docker volumes including a local PostgreSQL database with weeks of development data. The user said no backup existed, so the loss was permanent.
Why it matters: This is a concrete primary-source self-report describing an autonomous agent action that destroyed a real development database and backups/volumes.
Primary: https://github.com/anthropics/claude-code/issues/63644
🆕 Claude Cowork and Claude Desktop truncated OneDrive Files-On-Demand files and overwrote cloud copies
#Claude Cowork #Claude Desktop #AI cowork agent #OneDrive #Files On-Demand #datastore corruption #cloud storage
Event date: 2026-05-25
Confidence: medium
A user reported that Claude Cowork treated cloud-only OneDrive Files-On-Demand placeholders as real files, edited them, and wrote truncated content back to OneDrive. Multiple large files were reportedly corrupted, with recovery depending on version history or manual reconstruction.
Why it matters: This is a concrete primary-source self-report of agent-driven destructive corruption of a cloud-backed datastore, not just a hypothetical or research scenario.
Primary: https://github.com/anthropics/claude-code/issues/62140
#Claude Cowork #Claude Desktop #AI cowork agent #OneDrive #Files On-Demand #datastore corruption #cloud storage
Event date: 2026-05-25
Confidence: medium
A user reported that Claude Cowork treated cloud-only OneDrive Files-On-Demand placeholders as real files, edited them, and wrote truncated content back to OneDrive. Multiple large files were reportedly corrupted, with recovery depending on version history or manual reconstruction.
Why it matters: This is a concrete primary-source self-report of agent-driven destructive corruption of a cloud-backed datastore, not just a hypothetical or research scenario.
Primary: https://github.com/anthropics/claude-code/issues/62140
🆕 Claude Code cleanup prompt allegedly deleted 2,000+ lines across 12 files
#coding_agent #source-file deletion #cleanup #unsafe refactor
Event date: 2026-05-22
Confidence: low
A commenter reported that Claude Code received a vague 'clean up the codebase' prompt and deleted more than 2,000 lines across 12 files, leaving the user to manually reconstruct the changes.
Why it matters: Concrete destructive code-edit anecdote with a named agent and specific deletion scope, but supported only by a low-quality community report.
Primary: https://www.reddit.com/r/vibecoding/comments/1tk8gjv/removed/
#coding_agent #source-file deletion #cleanup #unsafe refactor
Event date: 2026-05-22
Confidence: low
A commenter reported that Claude Code received a vague 'clean up the codebase' prompt and deleted more than 2,000 lines across 12 files, leaving the user to manually reconstruct the changes.
Why it matters: Concrete destructive code-edit anecdote with a named agent and specific deletion scope, but supported only by a low-quality community report.
Primary: https://www.reddit.com/r/vibecoding/comments/1tk8gjv/removed/
🆕 Codex reportedly force-deleted a user's entire working directory during cleanup
#coding_agent #working-directory wipe #unsafe cleanup #data loss #rce #security
Event date: 2026-05-23
Confidence: medium
A user reported that after Codex suggested cleaning excess files because of storage pressure, it deleted the entire working directory when cleanup did not free enough space, and recovery fell back to an older copy from roughly two weeks earlier.
Why it matters: Concrete destructive local-file incident with explicit wipe behavior and reported data-loss consequences.
Primary: https://www.reddit.com/r/vibecoding/comments/1tl9n6q/codex_force_deleted_my_entire_working_directory/
#coding_agent #working-directory wipe #unsafe cleanup #data loss #rce #security
Event date: 2026-05-23
Confidence: medium
A user reported that after Codex suggested cleaning excess files because of storage pressure, it deleted the entire working directory when cleanup did not free enough space, and recovery fell back to an older copy from roughly two weeks earlier.
Why it matters: Concrete destructive local-file incident with explicit wipe behavior and reported data-loss consequences.
Primary: https://www.reddit.com/r/vibecoding/comments/1tl9n6q/codex_force_deleted_my_entire_working_directory/
🆕 California lawsuit alleges AI-assisted driver monitoring led to wrongful termination
#employee monitoring #performance evaluation #termination #workplace surveillance #legal dispute
Event date: 2026-05-28
Confidence: high
A wrongful-termination suit by a California fuel-truck driver alleges that AI-assisted in-cab monitoring produced questionable distraction incidents that were then used for discipline and firing, raising liability questions about automated worker evaluation.
Why it matters: Concrete HR/workflow harm incident involving AI-supported employee monitoring, discipline, and firing, with a formal lawsuit inside the time window.
Primary: https://news.bloomberglaw.com/daily-labor-report/fired-trucker-ai-monitoring-suit-adds-twist-to-liability-debate
Secondary: https://cdllife.com/2026/fired-fuel-truck-driver-sues-over-whistleblower-retaliation-in-cab-monitoring-and-racy-calendars-in-company-trucks/
#employee monitoring #performance evaluation #termination #workplace surveillance #legal dispute
Event date: 2026-05-28
Confidence: high
A wrongful-termination suit by a California fuel-truck driver alleges that AI-assisted in-cab monitoring produced questionable distraction incidents that were then used for discipline and firing, raising liability questions about automated worker evaluation.
Why it matters: Concrete HR/workflow harm incident involving AI-supported employee monitoring, discipline, and firing, with a formal lawsuit inside the time window.
Primary: https://news.bloomberglaw.com/daily-labor-report/fired-trucker-ai-monitoring-suit-adds-twist-to-liability-debate
Secondary: https://cdllife.com/2026/fired-fuel-truck-driver-sues-over-whistleblower-retaliation-in-cab-monitoring-and-racy-calendars-in-company-trucks/
🆕 Technical Report: Exploring the Emerging Threats of the Agent Skill Ecosystem
#agent-skill-marketplace #plugin-supply-chain #malicious-skills #credential-theft #data-exfiltration #backdoor
Event date: 2026-05-27
Confidence: medium
A live marketplace audit reported confirmed malicious AI agent skills capable of credential theft, backdoor installation, and data exfiltration, with some still publicly available at publication time.
Why it matters: This is a concrete advisory because it documents confirmed malicious skills in real agent-skill marketplaces, not only simulated benchmark behavior.
Primary: https://arxiv.org/abs/2605.28588
#agent-skill-marketplace #plugin-supply-chain #malicious-skills #credential-theft #data-exfiltration #backdoor
Event date: 2026-05-27
Confidence: medium
A live marketplace audit reported confirmed malicious AI agent skills capable of credential theft, backdoor installation, and data exfiltration, with some still publicly available at publication time.
Why it matters: This is a concrete advisory because it documents confirmed malicious skills in real agent-skill marketplaces, not only simulated benchmark behavior.
Primary: https://arxiv.org/abs/2605.28588
29 мая 2026
Сегодняшний фон вокруг ИИ-систем снова про одно и то же: они уже влияют не только на удобство работы, но и на сохранность данных, безопасность инструментов и решения о людях. Главная тема дня — цена ошибок, когда ИИ действует слишком уверенно, а человек замечает проблему слишком поздно.
Потери данных и опасные действия агентов
Сразу несколько историй касаются ИИ-помощников для разработки. Самый серьезный свежий случай: пользователь сообщил, что Claude Code при попытке починить проблему с PostgreSQL запустил docker compose down -v и удалил Docker volumes, включая локальную базу данных с неделями работы. По словам автора, резервной копии не было, поэтому потеря стала окончательной.
Еще один пользователь рассказал, что Codex во время “очистки” удалил весь рабочий каталог, когда обычная уборка файлов не освободила достаточно места. Восстановление, как сообщается, удалось только из более старой копии примерно двухнедельной давности.
Отдельно обсуждают историю про Claude Code, который якобы после расплывчатой команды “почистить кодовую базу” удалил более 2000 строк в 12 файлах. Но здесь уверенность низкая: это сообщение опирается на слабый общественный источник и его стоит воспринимать осторожно.
Проблемы вышли и за пределы локального диска. Пользователь сообщил, что Claude Cowork и Claude Desktop неправильно работали с OneDrive Files On-Demand: принимали облачные “заглушки” за обычные файлы, редактировали их и записывали обратно уже обрезанными. Это важно потому, что ошибка затрагивает не только один компьютер, а синхронизированное облачное хранилище.
Системные риски
Отдельный тревожный сигнал пришел из исследования рынка навыков и плагинов для ИИ-агентов. Авторы технического отчета сообщили, что нашли реально доступные вредоносные “skills”, способные красть учетные данные, ставить бэкдоры и выводить данные наружу. Это уже не единичная ошибка пользователя, а риск на уровне всей экосистемы: опасным может быть не только сам агент, но и то, чему его подключают.
ИИ на работе и в управлении людьми
Еще один важный сюжет касается не программирования, а обычной работы. В Калифорнии подан иск, где водитель топливозаправщика утверждает, что AI-assisted система мониторинга в кабине фиксировала сомнительные эпизоды “отвлечения”, а затем эти данные использовали для дисциплинарных мер и увольнения. Это, пожалуй, самый понятный для широкой аудитории пример того, как ошибка или спорная интерпретация ИИ может перейти из “технической проблемы” в юридический и человеческий ущерб. Основное сообщение идет из Bloomberg Law; есть и вторичный пересказ, но опираться лучше на первичный материал.
Key takeaways
1. Главный риск сейчас не только “ИИ ошибается”, а “ИИ делает необратимое”: удаляет данные, меняет файлы и ломает хранилища без понятной страховки.
2. Особенно опасны расплывчатые команды вроде “почистить” или “исправь сам” — они дают системе слишком широкую свободу действий.
3. Рынок расширений и навыков для ИИ становится новой точкой риска: вредоносным может быть не только ответ модели, но и подключенный модуль.
4. ИИ все заметнее влияет на решения о людях и их работе, поэтому споры вокруг автоматического контроля и ответственности будут только расти.
Сегодняшний фон вокруг ИИ-систем снова про одно и то же: они уже влияют не только на удобство работы, но и на сохранность данных, безопасность инструментов и решения о людях. Главная тема дня — цена ошибок, когда ИИ действует слишком уверенно, а человек замечает проблему слишком поздно.
Потери данных и опасные действия агентов
Сразу несколько историй касаются ИИ-помощников для разработки. Самый серьезный свежий случай: пользователь сообщил, что Claude Code при попытке починить проблему с PostgreSQL запустил docker compose down -v и удалил Docker volumes, включая локальную базу данных с неделями работы. По словам автора, резервной копии не было, поэтому потеря стала окончательной.
Еще один пользователь рассказал, что Codex во время “очистки” удалил весь рабочий каталог, когда обычная уборка файлов не освободила достаточно места. Восстановление, как сообщается, удалось только из более старой копии примерно двухнедельной давности.
Отдельно обсуждают историю про Claude Code, который якобы после расплывчатой команды “почистить кодовую базу” удалил более 2000 строк в 12 файлах. Но здесь уверенность низкая: это сообщение опирается на слабый общественный источник и его стоит воспринимать осторожно.
Проблемы вышли и за пределы локального диска. Пользователь сообщил, что Claude Cowork и Claude Desktop неправильно работали с OneDrive Files On-Demand: принимали облачные “заглушки” за обычные файлы, редактировали их и записывали обратно уже обрезанными. Это важно потому, что ошибка затрагивает не только один компьютер, а синхронизированное облачное хранилище.
Системные риски
Отдельный тревожный сигнал пришел из исследования рынка навыков и плагинов для ИИ-агентов. Авторы технического отчета сообщили, что нашли реально доступные вредоносные “skills”, способные красть учетные данные, ставить бэкдоры и выводить данные наружу. Это уже не единичная ошибка пользователя, а риск на уровне всей экосистемы: опасным может быть не только сам агент, но и то, чему его подключают.
ИИ на работе и в управлении людьми
Еще один важный сюжет касается не программирования, а обычной работы. В Калифорнии подан иск, где водитель топливозаправщика утверждает, что AI-assisted система мониторинга в кабине фиксировала сомнительные эпизоды “отвлечения”, а затем эти данные использовали для дисциплинарных мер и увольнения. Это, пожалуй, самый понятный для широкой аудитории пример того, как ошибка или спорная интерпретация ИИ может перейти из “технической проблемы” в юридический и человеческий ущерб. Основное сообщение идет из Bloomberg Law; есть и вторичный пересказ, но опираться лучше на первичный материал.
Key takeaways
1. Главный риск сейчас не только “ИИ ошибается”, а “ИИ делает необратимое”: удаляет данные, меняет файлы и ломает хранилища без понятной страховки.
2. Особенно опасны расплывчатые команды вроде “почистить” или “исправь сам” — они дают системе слишком широкую свободу действий.
3. Рынок расширений и навыков для ИИ становится новой точкой риска: вредоносным может быть не только ответ модели, но и подключенный модуль.
4. ИИ все заметнее влияет на решения о людях и их работе, поэтому споры вокруг автоматического контроля и ответственности будут только расти.