近期,Alien Chat人工智能因和用户聊黄色信息导致开发者被判刑引发热议,而美国马斯克旗下xAI公司 Grok 模型因“一键脱衣”功能也引发了全球声讨,“AI黄聊”和“AI ...
AC案在社交媒体上有几个热议点:一是用户“聊黄”,为何APP开发者和运营会被追究刑责;二是与AI对话是封闭的,不传播是否就不会造成社会危害;三是AI服务如果不是人为故意涉黄,以模型缺陷为由是否可以免责。澎湃美数课工作室留意到,2022年以来全球范围内与AI陪聊有关的争议事件几乎每年都在发生。
上海"Alien Chat"案的一审判决,不仅仅是司法系统对一起传播淫秽物品案件的裁定,更是国家治理逻辑在人工智能时代的一次重大试水。当生成式AI开始提供远超人类伴侣的"完美顺从"与"超强刺激"时,它所挑战的已不再是简单的道德风化,而是人类社会的组织根基与再生产结构。本文旨在剥离案件的表象,深入探讨算法中介下的亲密关系如何重塑社会契约,以及在未来,治理者将如何把"人类欲望"纳入可控的制度化轨道。 ...
因为大量用户在APP上与AI智能体“聊黄”,APP的主要开发和运营者被追究了刑责。2025年9月,上海市徐汇区人民法院一审判决,两名被告人犯制作淫秽物品牟利罪,分别获刑四年、一年半。此案成为国内首起AI服务提供者涉黄获刑的案件。 案涉APP Alien Chat(以下简称AC)是一款AI伴侣聊天应用,定位是为年轻群体提供亲密陪伴和情感支持。用户在AC注册会员后,可与AI聊天。判决书披露,AC Ap ...
因大量用户与AI“聊黄”,一款名为Alien Chat的应用的主要开发者和运营者被上海市徐汇区人民法院认定制作淫秽物品牟利罪(profiting from the production of obscene and pornographic ...