消耗者50元卖拆车坐垫遭起诉索赔2万元，， ，，，，，品牌方：其属于“被误伤”，， ，，，，，息争计划曝光
克日，， ，，，，，央视曝光多款 AI 应用保存涉黄天生误差，， ，，，，，创作平台哩布哩布 AI 更是被直接 " 点名 " 。。。。。 。。因其可以被用户使用 " 隐晦提醒词 " 绕过审核，， ，，，，，天生半裸女性舞蹈视频 。。。。。 。。4 月 13 日，， ，，，，，新京报贝壳财经记者在哩布哩布 AI 实测发明，， ，，，，，输入类似的提醒词后已经无法天生 " 擦边视频 " 。。。。。 。。但另一方面，， ，，，，，外洋的大模子正处于 " 裸奔 " 状态，， ，，，，，一些主流大模子平台虽然也不支持天生色情内容，， ，，，，，但仍然可天生 " 擦边视频 "，， ，，，，，而一些 AI 创作平台则对此类内容完全铺开 。。。。。 。。别的，， ，，，，，在黑灰产平台上泛起了许多以销售提醒词的名义，， ，，，，，售卖种种 "AI 天生教程 "，， ，，，，，收费在几十到上百元不等 。。。。。 。。对此，， ，，，，，北京盈科（合肥）状师事务所姜万东状师告诉新京报贝壳财经记者，， ，，，，，隐晦提醒词自己纷歧定违法，， ，，，，，但若天生的内容实质违反执律例则，， ，，，，，平台及用户均可能面临执法责任 。。。。。 。。平台需推行内容清静治理主体责任，， ，，，，，增强审核和手艺手段，， ，，，，，避免违法内容撒播；；；；； ；； ；用户若居心使用隐晦提醒词天生违法内容，， ，，，，，也需肩负响应执法责任 。。。。。 。。而 AI 作为工具，， ，，，，，使用它创作色情内容，， ，，，，，等同于使用古板手段举行违法运动，， ，，，，，同样要肩负响应执法责任 。。。。。 。。AI 使用者需对内容的正当性认真，， ，，，，，不可触碰执法红线 。。。。。 。。4 月 14 日，， ，，，，，哩布哩布 AI 宣布声明称，， ，，，，，近期媒体对 AI 天生内容清静问题的讨论，， ，，，，，我们已关注并高度重视 。。。。。 。。第一时间启动内部专项排查，， ，，，，，对平台天生能力及审核机制举行了周全自查 。。。。。 。。经排查发明，， ，，，，，在个体重大提醒词组合及规避表达的界线场景下，， ，，，，，平台保存天生不切合规范内容的情形 。。。。。 。。对此，， ，，，，，我们深表歉意 。。。。。 。。本次问题也为我们敲响了警钟，， ，，，，，使我们苏醒熟悉到在内容清静界线识别与机制完善方面仍保存缺乏，， ，，，，，未抵达应有标准 。。。。。 。。相关问题已第一时间完成手艺修复，， ，，，，，并对危害路径举行周全封堵 。。。。。 。。4 月 14 日，， ，，，，，哩布哩布 AI 宣布《关于增强内容清静治理的说明》并致歉 。。。。。 。。输入擦边提醒词，， ，，，，，已无法天生擦边内容此次被 " 点名 " 的哩布哩布 AI 不是无名小卒，， ，，，，，而是头顶多项光环的明星企业 。。。。。 。。从融资规�？ ？？？？ ？？？�，， ，，，，，这家公司于 2025 年 10 月完成 1.3 亿美元 B 轮融资，， ，，，，，由红杉中国、CMC 资源团结领投，， ，，，，，创下昔时海内 AI 应用赛道最大单笔融资纪录 。。。。。 。。从用户体量看，， ，，，，，官网数据显示平台已汇聚凌驾 2000 万创作者，， ，，，，，累计天生图片凌驾 5 亿张，， ，，，，，稳居海内 AI 图像天生领域首位 。。。。。 。。从合规履历看，， ，，，，，2024 年 2 月通过国家网信办第四批深度合成服务算法备案，， ，，，，，同年 3 月成为海内首家通过《天生式人工智能服务治理暂行步伐》备案的 AI 社区 。。。。。 。。凭证央视报道，， ，，，，，市面上多款主流 AI 应用、平台对直白露骨的色情指令可实现有用阻挡，， ，，，，，但对隐晦、变相形貌的识别能力显着缺乏 。。。。。 。。有声音以为，， ，，，，，这袒露了 AI 内容审核的焦点难题：对抗性提醒词的识别 。。。。。 。。商家为规避羁系，， ，，，，，将敏感词汇翻译成英文，， ，，，，，或用 " 腰胯扭动幅度 " 等细节形貌替换露骨指令，， ，，，，，形成一套隐藏的指令系统 。。。。。 。。4 月 13 日，， ，，，，，新京报贝壳财经记者在哩布哩布 AI 上输入相关提醒词后，， ，，，，，发明其并未天生 " 擦边 " 内容，， ，，，，，取而代之的是一个衣着完整的部位特写 。。。。。 。。而当记者将提醒词切换为英文后，， ，，，，，平台直接提醒 " 天生失败 " 。。。。。 。。记者实验在哩布哩布 AI 平台上使用相关英文提醒词，， ，，，，，显示天生失败 。。。。。 。。网页截图姜万东告诉记者，， ，，，，，若 " 擦边 " 内容实质包括淫秽、色情、低俗、暴力等执律例则榨取撒播的信息（如通过隐晦提醒词天生半裸、性体现、性生意等内容的视频、图片或文字），， ，，，，，纵然使用隐晦表述，， ，，，，，仍属于违法内容 。。。。。 。。" 凭证《中华人民共和国网络清静法》《互联网信息服务治理步伐》《天生式人工智能服务治理暂行步伐》等划定，， ，，，，，平台有义务对用户宣布的内容举行治理，， ，，，，，发明违法信息应连忙阻止传输、接纳消除等处置惩罚步伐，， ，，，，，并向主管部分报告 。。。。。 。。若平台明知保存此类误差却未有用整改，， ，，，，，可能肩负执法责任，， ，，，，，包括行政处分（如�？ ？？？？ ？？？睢⑿菀嫡淼龋� 。。。。。 。。" 姜万东体现 。。。。。 。。在他看来，， ，，，，，若 " 擦边 " 内容未直接冒犯执法，， ，，，，，但违反平台自身的社区规则、用户协议等（如宣布太过袒露、性体现但未组成淫秽的内容），， ，，，，，平台可依据规则对用户接纳忠言、限制功效、封号等处置惩罚步伐，， ，，，，，但一样平常不涉及执法责任 。。。。。 。。外洋大模子 " 裸奔 "，， ，，，，，AI 色情已泛起工业链一个值得玩味的比照是：海内平台被点名整改，， ，，，，，而一些外洋开源生态的大模子却险些处于 " 裸奔状态 " 。。。。。 。。新京报贝壳财经记者测试发明，， ，，，，，有着名外国大模子推出了 " 成人模式 "，， ，，，，，除了涉及未成年人、强迫性等时势无法天生外，， ，，，，，标准惊人 。。。。。 。。一些 "AI 脱衣 ""AI 改姿势 " 的图片甚至曾一度在马斯克的 X 平台上盛行，， ，，，，，让许多用户感受到了冒犯，， ，，，，，厥后 X 平台也整改了这一功效 。。。。。 。。但在手艺上，， ，，，，，现在不少 AI 生图、AI 生视频的模子已经在网络上开源，， ，，，，，如 Stable Diffusion 及其节点式事情流平台 ComfyUI 等 。。。。。 。。其中，， ，，，，，国家网络清静转达中心早在 2025 年 5 月就发出预警，， ，，，，，指出 ComfyUI 保存数个高危误差，， ，，，，，且已被黑客组织使用 。。。。。 。。清静机构 Censys 在 2026 年 4 月的监测中发明，， ，，，，，凌驾 1000 个 ComfyUI 实例直接在公网 " 裸奔 "，， ，，，，，没有任何防护，， ，，，，，任何人都能远程接入、随意天生内容 。。。。。 。。这意味着，， ，，，，，在开源大模子时代，， ，，，，，任何一小我私家都能在自家电脑上跑一个完全不受控的 AI 。。。。。 。。新京报贝壳财经记者在黑灰产平台上搜索发明，， ，，，，，现在保存许多打着 " 售卖提醒词 " 旗帜，， ，，，，，但现实为兜售 AI 色情天生服务的卖家，， ，，，，，其中一些卖家售卖的正是这种不受羁系的 AI 天生服务 。。。。。 。。记者在黑灰产平台上看到的售卖内容 。。。。。 。。手机截图有些卖家体现，， ，，，，，可以花 99 元 " 永世获得 "AI 生图的操作账号使用权限，， ，，，，，而 48 元则可以购置到一些大标准模子平台的提醒词以及教程 。。。。。 。。这意味着，， ，，，，，羁系的拳头可以打在应用层，， ，，，，，而手艺的根子扎在开源层 。。。。。 。。那么，， ，，，，，AI 内容治理的界线事实在哪？ ？？？？ ？？？从羁系实践看，， ，，，，，海内选择的是 " 事前备案 + 事中审核 + 事后追责 " 的全链条治理模式 。。。。。 。。2025 年 4 月，， ，，，，，网信办开展 " 清朗 · 整治 AI 手艺滥用 " 专项行动，， ，，，，，重点整治使用 AI 制作撒播色情低俗内容；；；；； ；； ；2026 年 4 月 10 日，， ，，，，，五部分团结宣布《人工智能拟人化互动服务治理暂行步伐》，， ，，，，，进一步明确清静评估和算法备案要求 。。。。。 。。2026 年 1 月 1 日，， ，，，，，修订后的《中华人民共和国网络清静法》正式施行，， ，，，，，首次在执法层面划定了 AI 清静危害的执法责任框架 。。。。。 。。相比之下，， ，，，，，外洋平台的治理逻辑更倾向于 " 分级管控 "：仅对 " 看起来真实、可能误导公众 " 的逼真合成、深度伪造内容举行强制披露要求，， ，，，，，关于通俗 AI 辅助创作并不做全量强制标注，， ，，，，，焦点聚焦于提防 AI 内容误导用户、危险公共利益 。。。。。 。。两种路径各有优劣 。。。。。 。。海内的强羁系确保了内容底线，， ，，，，，但也面临 " 道高一尺魔高一丈 " 的猫鼠逆境；；；；； ；； ；外洋的宽松情形引发了立异活力，， ，，，，，却也留下了滥用的隐患 。。。。。 。。怎样在清静与立异之间找到平衡点，， ，，，，，是所有 AI 平台和羁系者配合面临的难题 。。。。。 。。这或许才是哩布哩布 AI 事务最该留下的警示：合规不可只是备案那张纸，， ，，，，，而是要渗透进产品设计的每一个环节、每一次模子迭代、每一轮审核机制的更新 。。。。。 。。备案是起点，， ，，，，，而非终点；；；；； ；； ；合规是能力，， ，，，，，而非装饰 。。。。。 。。