最近公司换了新算法系统,领导要求她把公司的推荐逻辑报备给有关部门。她一头雾水,问了隔壁法务才知道这叫算法备案。只要企业用了推荐算法,哪怕只是把商品按用户喜好排序,都得向国家备案。
算法备案就是把企业用的那套推荐、排序、决策系统的底细,比如数据来源、运行逻辑、应用场景这些,都向有关部门说明白。
拿李琪公司举例,他们的内容推荐系统根据用户浏览习惯推送文章和视频。按照新规定,这种涉及算法推荐的产品必须进行备案,还得写清楚有没有诱导沉迷、是否用过用户隐私数据等问题。
社交平台、电商、新闻资讯、出行服务、金融科技、智能硬件,只要你背后有算法推荐或排序功能,都得备案。
主要包括算法怎么运作、数据从哪来、影响范围多大、有没有带来风险,甚至还要提交风险防控措施和应急预案。
她们用的热搜推荐机制,是不是人工干预了?这种也得写出来。系统是否会让用户困在信息茧房、是否歧视不同人群,也必须提前评估并提交报告。
这项制度不是为了管企业,而是为了防止黑箱算法伤害普通人。有些公司用算法悄悄操控用户,让人沉迷刷短视频,有些平台根据用户信息乱定价。这些都是监管部门要管住的。
而备案制度能推动企业从源头上自查,规避潜在风险。
以前有用户觉得推荐太精准很吓人,现在平台开放了部分算法规则,让用户能查到为什么给我推荐这篇文章。这种透明度,变成了品牌口碑。
金融行业很多算法以前不敢公开,现在有了备案机制,反倒清楚边界,省得被投诉。
本文链接: https://www.zqsws.com/mfwz/1815.html 未经授权,禁止转载。
上一篇:美瞳也属于医疗器械么?
下一篇:大模型和算法备案的区别在哪?