AI生成色情视频在中国属于违法行为，受到法律明确禁止和严格监管。根据检索到的信息，这类利用深度伪造技术制作、传播淫秽内容的行为，已经触犯了我国多部法律法规，公安机关正在持续加大打击力度。
近年来，Deepfake技术被滥用于制造色情视频的问题日益突出。新华网报道指出，太原市某公安分局的王警官介绍，这类犯罪的受害者主要是女性，有些是穿着校服的女高中生照片被恶意合成到裸体表情包上。更令人担忧的是，相关预训练模型在黑灰产中几元钱就能买到，技术门槛极低，导致犯罪成本大幅降低。东方财富网也报道了韩国发生的类似案件，多名犯罪分子盗用女性同学、熟人的照片，通过深度伪造技术合成色情制品，在Telegram群聊中传播，参与者多达22万人，这一案件今年年中已告破。澎湃新闻9月的报道也提到，韩国Telegram上存在大量涉及未成年人的深度伪造色情群组，事件曝光后引发国际社会广泛关注。
针对这类违法行为，我国已经建立了较为完善的法律监管框架。《网络安全法》《治安管理处罚法》《刑法》以及相关司法解释都对利用信息技术手段制作、传播淫秽物品作出了明确规定。最高法、最高检等部门也多次出台文件，要求加强对生成式人工智能服务的监管，防止技术被用于制作非法内容。2024年8月韩国事件曝光后，微博等国内社交平台迅速删除了相关话题，监管部门也发布了紧急提醒，呼吁公众不要随意上传个人照片，避免被不法分子利用。雷锋网2020年的报道显示，早在几年前国外就出现过名为"一键脱衣"的AI软件，短短几天就有68万女性受害，这类工具如今已被各大平台封杀。
这类内容不仅违法，更会对受害者造成严重的身心伤害。警方提醒公众，尤其是年轻女性，要提高隐私保护意识，谨慎在社交平台分享个人照片和视频，避免被用于深度伪造。如果发现相关信息，应第一时间向平台举报或报警。目前，国内主流AI平台如百度AI开放平台等都建立了严格的内容审核机制，禁止生成任何违法不良信息。从国际经验来看，韩国、美国等国也在加强对Deepfake色情犯罪的立法和执法力度，但这类技术滥用仍然是全球性难题，需要社会各界共同努力应对。