日前，湖北省大冶市法院审理判决了一起“男子利用AI撰写色情小说牟利”案件，颇受关注。使用AI工具生成不良内容，有哪些法律风险？AI工具的使用是否可能成为加重或减轻刑罚的情节？当前，法律对于AI工具生成违法内容的追责体系是否存在空白？普通人在使用AI工具进行创作时如何避免触碰法律红线？3月19日，封面新闻邀请了三名律师对该话题进行了讨论。
案情简介
利用AI工具生成淫秽小说售卖获利2万余元
男子获刑10个月
根据大冶市人民检察院微信公众号发布的一条消息，由该院提起公诉的一起案件收到法院判决书，以制作、贩卖、传播淫秽物品牟利罪，判处被告人柯某某有期徒刑10个月，并处罚金人民币5000元，同时追缴全部违法所得。
2022年11月至2023年3月期间，犯罪嫌疑人柯某某以牟利为目的，使用翻墙软件在境外网站借助AI工具批量生成淫秽小说发布并售卖，总计售卖约760篇（次），共计获利22873.95元。
法院经审理认为，柯某某以牟利为目的，制作、贩卖、传播淫秽物品，非法获利2万余元，其行为已经构成制作、贩卖、传播淫秽物品牟利罪，公诉机关指控罪名成立。柯某某到案后，能如实供述其犯罪事实，自愿认罪认罚，并退缴违法所得，依法可以从宽处理。根据案件事实及量刑情节，法院采纳了公诉机关量刑建议，判处被告人柯某某有期徒刑10个月，并处罚金人民币5000元，同时追缴全部违法所得。
延伸解读
四川发现律师事务所律师陆元辉：
AI目前在我国并无独立法律主体身份
在个案中应评价使用人的行为
“AI虽然有自主的决策和行为，但目前在我国并无独立的法律主体身份。”陆元辉说，无论刑事、民事案件中对于AI技术的介入，在个案中应该评价使用人的主观过错、行为、与AI自发行为、危害结果这几者之间的关系，准确适用法律进行处罚。
“例如，在这起案件中，如果柯某某并未给予AI生成淫秽物品的指令，对AI生成内容也做了常情常理下一般人应注意的审核，仍无法判断出这是淫秽物品的话，就应该考虑行为人没有主观过错，是否要免除或减轻处罚。”
陆元辉认为，仅就内容管理而言，人工智能作为互联网运行程序，其开发、运行、维护当然要符合目前已经有《网络安全法》《互联网信息服务管理办法》《网络信息内容生态治理规定》《移动互联网应用程序信息服务管理规定》等等较为全面的规定。因此，开发者也好、平台也好、用户也好都应该按照这些规定来规范自己的行为，承担法律责任。
那么，普通人在使用AI工具创作内容时，如何避免触碰法律红线？ 陆元辉建议，首先主动学法，了解哪些行为是法律不允许实施的行为；其次是要心存敬畏，一切技术或工具的利用背后都是人意志的体现，在利用AI创作时要时刻反思自己的使用目的、用途、方法是否存在损害他人或社会的情况，再次就是要谨慎利用，对于AI创作的内容自己使用、对外提供均需要进行必要的检验和复核。
河南泽槿律师事务所主任、律师付建：
AI若使犯罪行为更高效、危害更大
可能成为加重情节
付建认为，AI技术一般不会直接成为加重或减轻刑罚的情节。但如果AI被用于实施犯罪，AI作为犯罪工具，其在犯罪过程中的作用可能影响刑罚。AI使犯罪行为更高效、传播范围更广、危害更大，可能成为加重情节，从而影响到量刑。
从平台方来说，平台明知或应知用户利用AI生成并传播违法内容，却未采取必要措施制止、删除等，应承担相应的法律责任，并且依据《互联网信息服务管理办法》可能面临责令改正罚款 吊销营业执照等行政处罚。
平台方要建立健全内容审核制度，加强对用户上传内容的审查，对违法内容及时处理；建立健全投诉举报机制，对于举报内容及时处理和对用户进行奖励；同时明确用户使用规则，告知用户不得利用平台传播违法内容，并对违规行为进行处罚；积极配合监管部门的工作，主动接受监督，发现违法行为及时向监督部门报告。
监管部门应当明确制定专门的监管法规，制定具体实施细则，细化平台的监管责任。
四川方策律师事务所律师郭刚：
利用AI创作和传播黄色小说违法
牟利与否均可能犯罪
郭刚认为，利用AI创作和传播黄色小说是违法行为，无论是否牟利，均可能构成犯罪。涉嫌触犯传播淫秽物品罪及制作、复制、出版、贩卖、传播淫秽物品牟利罪，分别规定在《中华人民共和国刑法》第三百六十四条及第三百六十三条。
传播淫秽物品牟利罪的主体是一般主体，客体是国家对文化娱乐制品的管理，其犯罪对象是淫秽物品；客观方面表现为行为人实施了制作、复制、出版、贩卖、传播淫秽物品的行为；主观方面则表现为直接故意，即行为人知道或应当知道是淫秽物品而进行制作、复制、出版、贩卖、传播，同时行为人在实施本罪时还必须具有以牟利为目的。若没有以牟利为目的，则构成传播淫秽物品罪。
郭刚说，工具无罪错，但利用工具实施犯罪行为的主体却有。AI仅是一个工具，但利用工具进行新型犯罪却是严重罪错。
封面新闻记者 戴竺芯
