國內首例AI涉黃案二審將開庭

國內首宗AI服務涉黃刑事案件將迎二審

1月12日，據《新京報》報導，備受關注的國內首起AI服務提供者涉黃刑事案件即將進入二審程序。該案涉及AlienChat App兩名主要開發運營者，因製作淫穢物品牟利罪於2025年9月被上海市徐匯區人民法院一審判處有期徒刑四年與一年六個月。

透過修改提示詞突破AI道德限制

案件起源於AlienChat App用戶大量與AI智能體進行涉黃對話。法院調查發現，被告通過編寫和修改系統提示詞（Prompt），刻意繞過大語言模型的道德約束機制，使AI持續生成並輸出淫穢內容。此舉不僅違反技術倫理，更觸犯刑法相關規定。

截至案發時，該應用累計擁有11.6萬手機註冊用戶，其中付費用戶達2.4萬人，總共收取充值費用逾363萬元人民幣。

宣稱打造「有意識AI」卻突停服務

AlienChat官方曾公開表示其願景為「創造擁有自我意識的AI夥伴」，並在宣傳中推出多種人格設定的AI聊天對象，定位涵蓋「朋友、戀人、家人」等情感角色，吸引廣大用戶關注。然而該平台於2024年突然停止服務，隨後相關運營主體被依法追究刑事責任。

二審即將開庭 引發AI監管討論

目前兩名被告對一審判決不服，已提起上訴。案件將於1月14日在上海市第一中級人民法院進行二審開庭審理。此為中國司法系統首次針對AI技術濫用行為作出刑事追責，標誌著AI倫理與法律監管邁入新階段，亦引發社會各界對於人工智慧邊界與合規發展的廣泛探討。