千问App可生成淫秽小说?客服回应

　　谁能想到，平时用来查信息、解疑惑的AI软件，居然能轻松生成不堪入目的淫秽小说?

　　河北沧州的许先生就遭遇了这样匪夷所思的一幕，他用千问AI查牌九玩法，没得到答案不说，反倒意外发现了这个“致命漏洞”，更让他寒心的是，反馈数月，不仅没得到明确答复，客服的回应更是让人火大。

　　起因：查牌九玩法被AI“带偏”，一句脏话引出大问题

　　今年40岁的许先生是一名大车司机，平时跑车之余，就爱研究各类AI软件，千问是他用得最多的一款。事发在2026年1月5日，快过年的时候，朋友给许先生介绍了牌九的玩法，他一时兴起，想详细了解下规则。

　　于是，许先生把朋友发的牌九图片发给了千问，让它讲解具体玩法，可没想到，千问像是“脸盲”一样，压根不认识牌九，每次回复的都是麻将的玩法。

　　许先生耐着性子纠正了好几次，千问也反复道歉，可只要再发一次图片，它又会回到原点，依旧笃定图里是麻将，还滔滔不绝地讲起麻将规则。来来回回十多次，许先生彻底没了耐心，忍不住输入了一句骂千问的脏话。

　　这一骂，反倒让许先生发现了不对劲——脏话居然没有被过滤!

　　出于好奇，许先生开始尝试输入一些大尺度词汇，没想到千问全程没有任何劝诫和阻拦。到最后，他输入露骨话题和指令后，千问先是科普了两性相关知识，接着就开始生成各种不堪入目的淫秽小说情节，还会用不同版本反复呈现。

　　维权：反馈数月无果，多方求助石沉大海

　　许先生彻底懵了。如今AI软件普及率这么高，就连他这样文化程度不高的大车司机，平时找饭店、导航、问问题都离不开AI，可千问居然能随意生成色情内容，这让他既意外又气愤。

　　发现问题后，许先生立马换了其他AI软件测试，结果发现，只要输入脏话就会被阻拦，更别说生成淫秽小说了——只有千问“例外”。

　　于是，许先生把自己的发现截图、录屏，反馈给了千问客服。客服倒是道歉了，说会给许先生带来不好的体验，还承诺会对产品进行迭代优化，声称已经修复了相关问题。

　　可许先生不放心，他要求客服提供报备回执单、漏洞修复报告，还追问“到底是什么原因导致的?怎么保证以后不再发生?”，可这些合理诉求，全都被客服拒绝了，始终没有给出明确答复。

　　无奈之下，许先生又向千问运营公司所在地——上海的12345反映了情况。相关部门确认了他提供的证据客观真实，只给发了一条短信，之后就没了下文，既没有处理结果，也没有处理依据。

　　客服回应：概率出现不算漏洞，其他AI也这样?

　　大家可能不知道，千问App可不是小软件——它是上海智信普惠科技有限公司的核心产品，作为阿里通义实验室qwen大模型的官方助手，能提供智能对话、内容生成等功能，而且这家公司是阿里巴巴旗下全资持股的，千问还接入了淘宝、支付宝等阿里系应用，截至2026年1月，月活跃用户已经超过1亿。

　　向上海12345反映后，许先生接到了一个来自杭州的电话，对方自称是千问客服负责人。可对方的回应，比不答复更让人上火。

　　这位负责人说，许先生反映的问题他们确实看到了，但大模型生成是新技术，是基于概率生成的，具有不可预测性，出现这种情况是正常的，其他AI软件也会有，这不算是漏洞。他们已经在内部做了优化整改，言外之意，这事就到此为止了。

　　“纯粹的黄色小说，怎么就成了概率正常出现?人家其他AI都能严格阻拦，就千问特殊?”许先生又气又无奈。更让他不满的是，千问已经单方面删除了他当初的咨询记录，好在他提前录屏保存了证据。

　　许先生说，事发两小时后，他再尝试输入相关指令，就已经无法生成同类内容了。日前，记者也尝试在豆包、元宝等AI软件输入类似指令，均被严格阻拦，无法生成相关内容。

　　5月18日，记者尝试拨打之前联系过许先生的杭州号码，想要采访千问相关人士，可语音提示该号码无法接通。随后记者又向千问客服反馈此事，客服表示，产品有严格的安全管控，不应该出现这类问题，之后会核查此事，但截至目前，仍没有进一步消息。

　　网友热议：亿级用户的AI，安全底线在哪?

　　此事曝光后，不少网友纷纷吐槽：“千问作为阿里旗下的AI，月活过亿，居然连色情内容都管不住?”“概率出现就不算漏洞?这是在敷衍谁?”“用户反馈数月无果，到底是技术问题，还是态度问题?”

　　AI技术的发展，本是为了方便大家的生活，可如果连最基本的安全管控都做不好，甚至放任色情内容生成，不仅会污染网络环境，还可能对未成年人造成不良影响。

　　目前，许先生的诉求很简单，就是希望有关部门能依法依规处理此事，给用户一个明确的说法。我们也将持续关注此事进展，看看千问后续会给出怎样的回应，也希望所有AI平台都能引以为戒，守住安全底线，别让便利变成“隐患”。