恶意指令还能藏进网页、邮件、文档或数据库中。AI读取这些内容后，可能把攻击指令当成正常任务执行，导致个人隐私、账号信息泄露，企业内部文件、商业机密和核心数据也可能被窃取。

攻击方式包括直接诱导AI突破安全限制、提前在外部文件中埋入恶意指令、通过多轮对话逐步诱导，以及改变指令形式绕过关键词过滤。

企业部署私有大模型时，如果没有同步设置安全护栏和权限控制，攻击风险会进一步增加。防护重点包括限制AI访问权限、识别异常指令、保存操作日志，并对敏感数据访问进行持续审计。

利用这种方式突破AI安全机制实施犯罪，已经出现判刑案例。

浙江余姚警方2025年7月侦办一起利用生成式AI制作淫秽物品案件，两个月内抓获郑某等6人。

郑某原是一名游戏公司程序员。2024年7月，他产生开发色情聊天AI牟利的想法，随后组建团队。2025年1月，涉案AI模型在境外平台上线，通过修改系统提示词、设置色情角色和对话场景，突破模型原有内容过滤机制。

用户付费后可以进行色情聊天，并生成大量淫秽图片。涉案模型共生成37万多张静态图片和6000多张动态图片，用户充值约2.4万美元，折合人民币约17万元。

鉴定结果中，抽取的12500张静态图片有9000多张被认定为淫秽物品，5000多张动态图片同样被认定为淫秽物品。

今年2月，这伙人在泰国芭提雅一处度假村包下3层楼，搭建呼叫中心，冒充市政府、教育部门、大学、监狱等机构人员，专门向韩国中小商家下手。

他们先假装大批采购商品取得商家信任，再以急需采购灭火器等物品为由，让商家向指定“供应商”垫款。所谓供应商同样由团伙控制，钱一到账就被迅速转走。

2月24日至4月8日，共有22人被骗约6亿韩元，单名受害者最高损失约5000万韩元。