人民日报：算法盛行更需“总编辑”

高慧萍

算法主导的时代，更需要把关、主导、引领的“总编辑”，更需要有态度、有理想、有担当的“看门人”
# j( }! V! {; D; U% x) l1 T2 `　　早晨起床，看新闻客户端，关注天下事；中午休息，登录社群网站，讨论新鲜事；晚上睡前，刷刷朋友圈，了解身边事……这是中国网民的普通一天，也是互联网时代舆情生成过程的一个切片。信息的生产、扩散、接收，观点的表达、传播、汇聚，就像是浪与浪的激荡、云与云的交汇，让舆论场风生水起。
- Z! {5 K& L* j2 r　　连接一切的豪迈宣言，开放共享的技术架构，把信息时代变成了舆情时代。来自人民网舆情监测室《2016年中国互联网舆情分析报告》的数据显示，2016年我国微信用户已达8.46亿，微博月活跃用户达到2.82亿，微信公众号早已是千万级别。互联网技术的力量、计算机算法的红利，提升你我互动交流的效率，也让我们有了更宽的视野、更深的思考。人人都有麦克风，小事也能成为“现象级”，背后是技术和媒介的强大支撑。
　　然而，每一枚硬币都有两面。技术让信息蓄水池迎来供给侧的开闸放水而日渐丰沛之时，也难免泥沙俱下。技术可以是生产力、发动机，但目前也还难以胜任瞭望者、把关人的角色，网络世界的信息与观点，因而既生繁花，亦长稗草。年初引发大讨论的“上海女孩逃离江西农村”事件，最终证明只是一场子虚乌有的闹剧；年末一再反转的罗尔事件，让许多“爱心”伤了心，也促使我们重新审视舆论场中的是非曲直。一个去中心化的传播机制，在扩大公众表达权的同时，也在滋生着谣言和假新闻，让建立在此基础上的舆情表达总有几分尴尬。
4 [7 z1 o% N- s2 r　　打开水闸，不仅需要滤网，也需要导流。算法主导的信息分配机制，高效地打造了一个“私人订制”的时代。然而换个角度看，技术、算法与其说是引领者，不如说是迎合者；与其说是提供思考的导师，不如说是强化偏见的囚徒。运用大数据分析，“越用越懂你”的智能新闻客户端给每位用户推送专属消息；依托于社交网络，朋友圈不停上演“英雄所见略同”的默契。2016，微信公众号新推出置顶功能，一些自动聚合类资讯客户端继续强势崛起，都固化着这样的信息传播的闭环。在某种程度上，新技术和新架构可能为我们架设了通往新天地的轨道，却也可能让轨道上的列车只能通往特定的目的地。当“迎合”成为信息资源分配的主题，沿途的风景和多样的可能性，也就只能一闪而过了。
) J( O! u! s2 l% _) o　　技术为用户量身打造信息，开启了符合读者口味的一扇窗，却关上了多元化的一道道门。我们或可名之为“孤岛效应”——在自我重复、自我肯定、自我强化中，公众的知识、思想逐渐固化，成为海面上的一座座孤岛。只看自己喜欢的、只读自己认同的，难免会带来固执己见、固步自封的危险。小区围栏拆不拆、网络约车坐不坐、高速路上救狗行不行……2016年，舆论空间的冲突仍时有发生。难怪有网友概括：一句不拢就脸红，一言不合就开撕。概括得虽然有些简单，却也让人思考：互联网的开放就一定带来心灵的开放吗？技术上的专断是否会强化人们的情绪化气质？信息极大丰富的时代我们应该如何去认识与表达？
. ]/ ^, M6 x) i6 Q　　必须承认，虚假信息也好，争吵掐架也好，根源于社会发展的深层土壤，不能让算法“背锅”。但毋庸置疑的是，全面、权威的信息，深入、理性的观点，才是社会舆论与心态最稳固的基础。如若唯“眼球”马首是瞻、让算法主导一切，优质的内容、理性的辨析，就可能被边缘化而成为可有可无的下脚料。说到底，技术和算法终究是工具，是末；思考的乐趣、价值的塑造、知识的完善，才是目标，是本。算法主导的时代，更需要把关、主导、引领的“总编辑”，更需要有态度、有理想、有担当的“看门人”。
　　德国哲学家韦伯曾经区分了工具理性和价值理性，前者意味着发挥技术的最大效用，后者则强调价值、伦理的重要性。社会的进步，离不开先进技术的开拓者，更离不开基本价值的守望者，毕竟，我们将抵达的未来，不仅是信息自由流动的丰饶之海，更是构筑全新文明的坚固之岸。
来源：人民日报链接http://mp.weixin.qq.com/s/3bUtpLeGreOarl5RCm_DEg
/ b1 k8 J2 p/ U# M

admin

【案例】
算法推荐的风险防范和导向管理

7 @" A% j1 R4 W5 ~$ U: \8 T$ {8 d- d原创： 邓 杭  新闻战线  2018-07-01
4 P2 E& Y( K: q7 K  \  Z引导关注商务学习
0 a2 m" d  R, |, \4 D* ?算法推荐的基础价值在于海量信息的甄选，核心价值在于内容的精准分发，关键价值在于观点的洞悉反馈，终极价值在于意识形态的强化和引导。这个依托互联网实现价值传递和价值创造的动态过程，次第推进，循环往复，形成信息甄选、分发、反馈、修正的闭环。
( i, j6 [# Q5 T- x* Z" s  D# i: q
1

算法推荐对网络舆论的价值

精准画像，知晓行为。画像是算法推荐技术架构的重要环节，即计算机根据文章的兴趣标签、质量标签等和用户的阅读习惯、浏览记录等，抽象出标签化的文章模型及用户模型，并经过排序、分类、关联和过滤，自动筛选出有效信息。画像可分为文章画像和用户画像、长期画像和短期画像等。相比报纸、广播、电视等传统媒体偏向关注受众的群体属性，算法推荐则擅长分析个体特征，为用户贴上高度精练的标签并据此知晓其行为模式。
精准分发，个性传播。在分发环节，算法推荐要实现年龄、职业、兴趣等用户特征，时间、地理位置、天气情况等环境特征，类别、关键词、热度等文章特征的对接和匹配，将筛选过的信息精准推送至用户。区别于以“事件”为出发点的传统信息传播方式，算法推荐建立用户导向的“用户+事件”模式，实质上以用户关心的事件为核心，赋予用户信息定制功能。这不仅节约时间成本、提高获取效率，更满足个性化需求，使得“千人千面”的信息传递模式成为现实。

精准反馈，洞悉观点。当用户接收到个性化的推荐内容后，算法根据用户点击次数、停留时长以及举报、屏蔽、转发、评论等阅后反馈，勾勒出用户媒介消费行为的图谱，对用户进行更为系统、全面的参数分析。这样不仅能掌握用户对社会问题的观点或看法，还能研判出用户的知识结构、经济状况、生活方式等深层次信息。一旦用户兴趣、品位、收入水平、教育程度等发生改变，此类动向信息也能通过反馈数据及时掌握。这个过程也是人工智能领域的机器学习，即算法推荐模型获取新的信息后，重组已有知识架构以优化自身性能。
精准修正，重塑倾向。算法推荐影响网络舆论的重要步骤如下：在算法推荐营造的“拟态环境”里，用户持续收到不同以往观点的修正信息，进而不断反省自身，再通过思想交锋和观点博弈，逐步改变倾向、调整立场。无论共识是否达成，公众都在潜移默化的过程中参与了议题讨论、重塑了社会认知。因此，算法推荐为网络舆论引导提供了新路径、新手段，并使之更为直接、便捷、高效。
6 m7 e) F/ L" t9 A6 _- [  K
2

算法推荐对网络舆论引导的冲击与风险

  F3 d& L8 v, ? “把关人”离场，主流价值导向成色不足。区别于专业编辑担任“把关人”角色并推送信息的传统模式，算法推送偏重数据抓取技术和内容审查后置，弱化了对基本价值的守望和主流价值的引导，导致传递不同价值观的内容被机器分发给用户，使得用户陷入价值迷失困局。一些网络平台难以遵循“价值观”先行，却唯流量马首是瞻，利用人性弱点，追求利益最大化，导致虚假新闻、“性、腥、星”类内容、“标题党”等问题层出不穷，经常出现导向偏差。
“回音室”现象严重，凝聚共识难度较大。算法推荐容易造成选择性的接触、过滤与相信，由此带来信息窄化、“信息茧房”、“回音室”现象等不良后果，使个人陷入信息孤岛。用户在自我重复和自我肯定中视野受困、固步自封，圈层固化、群体极化现象随之增多。算法推荐诱导用户关上涉猎不同领域和倾听不同声音的大门，背离了网络舆论的公共性、广泛性特征，从而使得刻板印象强化、偏见滋生、社会黏性缺失、价值认同难度加大。
“沉默的螺旋”效应显现，网络舆论场失真。算法推荐可以直接影响信息呈现、搜索排序、新闻热度和传播效果，导致这些网络平台成为相对独立的舆论“策源地”和“发酵池”，舆论操作的可能性和危险度加大。容易使用户造成“很多人都有这种价值取向”的印象，正面价值意见的沉默造成负面价值意见的增长，由此陷入恶性循环，导致网络舆论场失真。

0 r( B! u1 u# C0 y2 h# j3
0 h* W2 u- l/ G: _8 y- Y
加强算法推荐的综合治理
+ R" q9 @& Q" M) T+ Z: h
坚持主流价值导向。算法规则、技术架构都要符合社会伦理和法律法规。鼓励优质内容生产和传播，加强算法对于社会主义核心价值观等内容的推送，放大正能量作品的影响力、感染力，培育积极健康、向上向善的网络文化。
% A1 r7 d( H- z% f7 a压实平台主体责任。智能平台应当肩负起信息把关、价值引领的主体责任，守住底线，把住红线，决不能传播有害信息、造谣生事。加强总编辑责任制度，优化绩效考核指标，不能仅以点击量、广告收入为标尺，放任低俗内容侵蚀受众。研发升级算法识别体系，强化算法技术对于新闻源头的筛选过程，规范稿源和内容生成方式，提高优质内容推荐权重。改进安全风险评估和审核规则，加大人工审核的投入力度，实现“人机结合”的优势互补。
加强顶层设计和监管治理。政府部门要加快人工智能领域的立法体系建设，研究出台算法推荐的相关管理办法，划定技术伦理、权限边界和行为规范。密切关注算法推荐的技术创新和延伸发展，特别是其在政治、经济等领域的运用和影响。履行好监管责任，对于未能尽到主体责任的平台及时问责、督促整改。发动社会力量参与监督，优化举报处置流程，完善举报核实奖励机制。
提升用户网络素养。用户要树立正确的网络媒介使用观念，培养消费优质内容的习惯，发挥主观能动性，增强对信息的辨识、分析能力，提升对信息价值的判断、解读能力，避免沦为技术的客体和附庸。丰富自身知识结构，培养多元开放思维，突破“信息茧房”的壁垒，提高理性认知水平。

. A' y; C2 P) \- d4
/ s6 ?. G$ D+ b. n2 B% Y) X
运用算法推荐服务于网络舆论引导

* J/ v3 R$ f! U用算法推荐革新网络舆论引导理念。传统媒体语境下的舆论引导，偏向于灌输式、粗放式的单向传播，不太重视满足受众的信息需求、接收习惯和内心满足。随着互联网的发展和算法推荐的运用，舆论引导要顺应分众化差异化趋势，精准目标定位，注重用户体验。要充分运用大数据、云计算等新技术，科学分析、有效洞察受众需求，推送更多个性化、专业化的信息，让信息持续“入眼”并“入脑入心”。
用算法推荐探索网络舆论引导新范式。积极主动借助算法规则和传播优势。在内容生产方面，可将用户阅读互动产生的数据反哺内容创作者；在正能量推送方面，可通过划分正能量池等手段来保证首屏生态良好；在稿源审核方面，可将重大新闻通过置顶或要闻强插等方式优先展示给用户；在生态调控方面，可运用风险评估模型来打击“标题党”等网络乱象。
8 ~' ^( W2 ~( R* E/ B用算法推荐提升网络舆论引导实效。借鉴算法推荐契合公众自我意识觉醒的需要，通过精心的议题设置与受众产生共鸣，在尊重公众独立思考和理性意志基础上促进共识达成。利用算法推荐数据采集、信息追踪功能，搜集网络舆情并科学分析研判，了解民情、听取民意、集中民智。在具体的网络舆论引导中，鼓励负责任的观点表达和理性的交流互动，运用多元、有效的公共话语，以事实来说服人、以理性来引导人。
（作者单位：中央网信办网络评论工作局）
" x& @9 O2 p. i9 d3 m责任编辑：武艳珍

https://mp.weixin.qq.com/s/k5v3hCzLFJzslErHow8aaw
! d2 r) y0 Z& D) W2 g' N$ H* y
( o3 {4 X' j6 x  z' `' T& E" n. A编辑：陈心茹