浙江余姚审结利用生成式AI制作淫秽物品牟利案，6人获刑
9月8日，浙江省余姚市人民法院审结一起利用生成式AI制作淫秽物品牟利案。被告人郑某等6人因制作淫秽物品牟利罪被依法追究刑事责任。
法院审理查明，郑某曾就职于国内一家游戏公司，2024年7月接触境外AI色聊机器人后萌生开发同类软件牟利的想法。其后，郑某邀请同事谢某及网上认识的严某等6人组建研发团队，通过改写系统提示词、设定角色卡、搭建对话场景等方式突破AI模型原有的内容安全限制，实现模型“越狱”。该生成式AI模型于2025年1月在境外平台上线，并接入“第四方支付”、虚拟币等多种渠道向用户收费。
用户付费后可在模型中选择角色卡与AI机器人进行色情聊天，并通过消耗积分生成淫秽静态或动态图片。2025年7月，公安机关发现线索后立案侦查，历时两个月将6名被告人全部抓获。经鉴定，该模型运营期间生成静态图片超37万张、动态图片超6000张，其中随机抽取的12500张静态图片中有9000多张、全量动态图片中有5000多张被认定为淫秽物品；用户充值金额折合人民币约17万元。
法院认为，被告人通过提示词工程篡改AI模型安全机制，搭建便于产出淫秽内容的技术环境，对违法内容生成具备实质性控制力，虽内容由用户要求生成，但开发者仍属于刑法意义上淫秽物品的“制作者”。法官提醒，“技术中立”不是违法犯罪的挡箭牌。
- 2026-09-09 14:38 | t.cj.sina.com.cn：游戏大厂前员工开发色情聊天AI获刑阅读原文
【#游戏大厂前员工开发色情聊天AI获刑#】#AI模型遭越狱沦为造黄利工具#据每日经济新闻报道，近日，浙江省余姚市人民法院审结一起利用生成式人工智能制作淫秽物品牟利案，被告人郑某曾是某游戏公司程序员，其组建研发团队，通过改写系统提示词实现人工智能模型“越狱”、设定角色卡诱导对话场景等方式，为用户输出淫秽内容提供技术条件，法院认定郑某等人构成制作淫秽物品牟利罪。
- 2026-09-08 23:05 | 新浪财经：昔日大厂程序员（在AI领域有一定影响力）被判刑：开发色情聊天AI，9000多张静态图、5000多张动态图被认定为淫秽物品阅读原文
（来源：现代快报）近日，浙江省余姚市人民法院审结一起利用生成式人工智能制作淫秽物品牟利案，被告人郑某曾是某游戏公司程序员，其组建研发团队，通过改写系统提示词实现人工智能模型“越狱”、设定角色卡诱导对话场景等方式，为用户输出淫秽内容提供技术条件，法院认定郑某等人构成制作淫秽物品牟利罪。AI模型遭“越狱”沦为“造黄”牟利工具被告人郑某曾是国内一家游戏大厂的员工，在AI领域有一定影响力，也曾赴国外进行深造，2024年7月，他接触到境外一款AI色聊机器人(14.330, -0.04, -0.28%)后，萌生了开发同类软件非法牟利的想法。浙江省余姚市人民法院刑事审判庭法官助理孙钰萍：有了想法以后，郑某邀...
- 2026-09-08 22:53 | 新浪财经：前游戏大厂员工开发色情聊天AI被判刑，9000多张静态图、5000多张动态图被认定为淫秽物品阅读原文
曾是某游戏公司程序员的郑某组建研发团队，通过改写系统提示词实现人工智能模型“越狱”、设定角色卡诱导对话场景等方式，为用户输出淫秽内容提供技术条件。近日，浙江省余姚市人民法院审结这起利用生成式人工智能制作淫秽物品牟利案，认定郑某等人构成制作淫秽物品牟利罪。此案判决为生成式人工智能服务提供者的行为划定了怎样的司法边界？为同类案件的裁判提供了哪些有益参考？AI模型遭“越狱”沦为“造黄”牟利工具被告人郑某曾是国内一家游戏大厂的员工，在AI领域有一定影响力，也曾赴国外进行深造，2024年7月，他接触到境外一款AI色聊机器人(14.330, -0.04, -0.28%)后，萌生了开发同类软件非法牟利的想法...
- 2026-09-08 21:46 | 新浪财经：昔日游戏大厂程序员（在AI领域有一定影响力）被判刑：开发色情聊天AI，9000多张静态图、5000多张动态图被认定为淫秽物品阅读原文
转自：扬子晚报近日，浙江省余姚市人民法院审结一起利用生成式人工智能制作淫秽物品牟利案，被告人郑某曾是某游戏公司程序员，其组建研发团队，通过改写系统提示词实现人工智能模型“越狱”、设定角色卡诱导对话场景等方式，为用户输出淫秽内容提供技术条件，法院认定郑某等人构成制作淫秽物品牟利罪。AI模型遭“越狱”沦为“造黄”牟利工具被告人郑某曾是国内一家游戏大厂的员工，在AI领域有一定影响力，也曾赴国外进行深造，2024年7月，他接触到境外一款AI色聊机器人(14.330, -0.04, -0.28%)后，萌生了开发同类软件非法牟利的想法。有了想法以后，郑某邀请同事谢某，还有在网上认识的严某等6人，组建了一个...
- 2026-09-08 19:46 | 新浪财经：在AI领域有一定影响力的昔日大厂程序员被判刑：开发色情聊天AI，9000多张静态图、5000多张动态图被认定为淫秽物品阅读原文
近日，浙江省余姚市人民法院审结一起利用生成式人工智能制作淫秽物品牟利案，被告人郑某曾是某游戏公司程序员，其组建研发团队，通过改写系统提示词实现人工智能模型“越狱”、设定角色卡诱导对话场景等方式，为用户输出淫秽内容提供技术条件，法院认定郑某等人构成制作淫秽物品牟利罪。AI模型遭“越狱”沦为“造黄”牟利工具被告人郑某曾是国内一家游戏大厂的员工，在AI领域有一定影响力，也曾赴国外进行深造，2024年7月，他接触到境外一款AI色聊机器人(14.330, -0.04, -0.28%)后，萌生了开发同类软件非法牟利的想法。浙江省余姚市人民法院刑事审判庭法官助理 孙钰萍：有了想法以后，郑某邀请同事谢某，还有...
- 2026-09-08 16:31 | IT之家：六人利用 AI“越狱”生成淫秽物品最终获刑，法官提醒“技术中立≠技术无罪”阅读原文
IT之家 9 月 8 日消息，中央广播电视总台中国之声今天（8 日）报道称，曾是某游戏公司程序员的郑某组建研发团队，通过改写系统提示词实现 AI 模型“越狱”、设定角色卡诱导对话场景等方式，为用户输出淫秽内容提供技术条件。近日，浙江省余姚市人民法院审结这起利用生成式 AI 制作淫秽物品牟利案，认定郑某等人构成制作淫秽物品牟利罪。被告人郑某曾是国内一家游戏大厂的员工，在 AI 领域有一定影响力，也曾赴国外进行深造，2024 年 7 月，他接触到境外一款 AI 色聊机器人后，萌生了开发同类软件非法牟利的想法。在产生这一想法后，郑某邀请同事谢某及在网上认识的严某等 6 人组建研发团队，经过调试后，团...