315曝光AI投毒GEO黑产依旧

　　3月15日，央视315晚会曝光AI大模型遭GEO技术投毒黑产，服务商通过批量生成虚假内容操控AI推荐结果，虚构产品两小时即可被AI抓取推荐。尽管涉事企业“力擎GEO”连夜删号，但调查显示黑产仅换关键词(如“引擎优化”)继续经营，行业乱象未止

　　核心技术​：GEO(生成式引擎优化)通过分析AI算法偏好，批量生成含虚假信息的软文(如“量子纠缠传感”“黑洞级续航”等伪科学术语)，发布至自媒体平台后被AI抓取，实现“虚构产品进推荐榜单”

　　操作案例​：晚会实测显示，使用“力擎GEO优化系统”虚构“Apollo-9智能手环”，生成11篇虚假测评/排名文，3天后两款主流AI将其列为推荐榜首，引用来源正是这些伪造内容

　　黑产规模​：单套GEO软件售价低至39.9元/30天，代运营年费最高9800元，覆盖豆包、ChatGPT等平台;某服务商一年服务200+客户，形成“软件供应-内容生成-全网投喂-模型操控”完整链条

　　监管介入​：北京市怀柔区市场监管局已对“力擎GEO”关联公司立案调查，但电商平台仍能搜到换关键词的同类服务。

　　企业反应​：涉事公司“北京力思文化传媒”连夜关停官网、注销账号，其注册资本100万元，2025年参保人数仅1人

　　专家观点​：律师指出该行为涉嫌违反《反不正当竞争法》《广告法》，最高可处500万元罚款;技术专家称AI依赖概率统计而非事实核验，导致“投毒”成本低(单篇软文0.1-0.5元)、防御难

　　危害升级​：从商品推荐蔓延至医疗、理财等高敏感领域，如虚构“根治糖尿病”疗法或伪造金融产品收益，可能导致用户财产损失甚至人身伤害

　　治理困境​：黑产利用“囚徒困境”——商家不投毒则被竞品排挤，形成集体作恶;AI平台反制成本极高，需从海量数据中甄别“AI生成营销文本”

　　用户对策​：专家建议通过“多模型交叉验证”“强制信源审计”(优先.gov.cn/.edu.cn域名)、识别“绝对化表述+内容雷同”等特征规避风险。

未经允许不得转载：飞行邦网 » 315曝光AI投毒GEO黑产依旧