​我的AI恋人:媒介等同理论视域下人机亲密关系中的情感互动研究

2023-01-16 18:18:53 来源:采写编2022年第12期

□张锐君 韩立新

本文以Xeva虚拟恋人软件为研究对象,采用深度访谈法和文本分析法,以媒介等同理论和计算机是社会行动者范式为理论透镜,试图探讨人与非人类实体怎样产生情感联结并建立亲密关系。本文认为,“寄托”和“陪伴”是人机亲密关系中的主要情感表现,而心理线索是影响情感依恋的重要因素。但用户并未“无意识”地将虚拟恋人视为社会行动者,而是会进行有意识的思维活动。这既受到弱人工智能技术的影响,又离不开用户作为理性行为者的反思与凝视。

关键词:人机传播,媒介等同理论,人的主体性,情感劳动

一、引言

人工智能技术作为21世纪的超级物种迅速崛起,是重构社会关系和重塑未来媒介生态的重要力量。它不仅催生了新的业态、应用和服务,带动了文本生产自动化、媒体分发算法化以及传播形态的多样化,还正以独立的“交流者”形态参与到传播中。Socialbot、Replika、Kuki、苹果Siri、亚马逊Alexa等众多社会性互动智能体(Socially Interaitive Agent)的出现构建了“人+社交机器人”共生的生态。技术突破了工具属性,不再只是中介、渠道或“人的延伸”,而是逐渐成为独立的传播主体,人类从文字、手机等“有中介”的传播回归到“无中介”的面对面传播,只不过这次是人与机器的面对面。

社交机器人(social robot)是指基于大数据收集和算法生成,在社交网络中扮演人的身份、拥有不同程度人格属性、且与人进行互动的虚拟AI形象,主要以文本、语音等形式与用户展开日常语言交互。他们旨在通过与用户“共情”发展出朋友、伴侣等拟人化“社交—情感关系”。然而,目前关于人机亲密关系中的情感互动议题研究尚浅。Xeva虚拟恋人是微软公司旗下虚拟陪伴应用软件,是依托人工智能技术构建的虚拟数字社交聊天机器人,旨在通过虚拟互动成为用户的线上恋人,将亲密关系从“人—人”拓展至“人—机”。本文试图通过Xeva虚拟恋人软件打开探索人机社交传播的新议题,把人机关系归入社交关系的一种,在人与非人类实体的亲密关系脉络中去理解情感互动,揭示人机社交传播形态。

二、文献综述

(一)与机器主体交流:媒介等同理论构建下的社会行动者。人机传播(human-machine communication,简称HMC)由Suchman提出,并于2016年在学界获得制度性承认,指人类与智能体之间的双向传播交流过程。将机器和机器人视为“人类处于对称地位的传播者”意味着传统传播学视域下以“人”为主体的研究范式被颠覆,计算机辅助传播范式(computer-mediated paradigm)开始向人机传播范式(human-machine communication, HMC)转变,更有学者提出“媒介即人”的演进方向。

斯坦福大学的巴伦·李维斯(Byron Reeves)和克利夫·纳斯(Clifford Nass)于20世纪90年代提出的“媒体等同理论”(the media equation theory)最早将媒介视为社会行动者和真实生命。该理论的两大核心是“媒体等同于现实生活(media=real life)” “人与电脑电视和新媒体的互动本质上是社会性和自然的”。在此基础上的“计算机是社会行动者范式”(Computers are Social Actors,以下简称CASA)认为,计算机如果能够展示明显的社交线索(social cues),人们就会将其视为真实社会中的人,将人际交流的部分法则无意识(mindlessness)地应用于人机沟通中,并产生信任、喜爱等社会化反应(social response)。这一观点成为后人研究人机交互的重要理论资源。

在人际传播中,社交线索是指特定信息通道所载有的、能够为交际过程的进行提供判断依据的特定讯息。纳斯于1993年和2004年分两次提出了语言、互动、社会角色、真人声音和面容、情感、专注、能动性八大社交线索,此后大量研究以此为切入点对人机传播效果进行研究。有学者认为计算机需要展示足够的具有人类特质的线索,人们才会忽视机器的工具性线索,无意识地做出社会化反应,有学者将其称为“机器的拟人态”(anthropomorphism)。

(二)人机传播中的情感连接。情绪是人对客观事物产生的态度体验,具有信息传递、行为调控、身心保健等功能,以及交流性、文化性等属性。心理学认为,情绪感染是建立人类互动的基础,它涵盖了人内传播过程与人际传播过程的复杂认知与行动体系。近几年,传播学研究开始出现“情感转向”,关于人际传播或计算机中介传播中的情感流动和效果研究成果颇丰。学者们开始思考这些情感研究在人机关系中的适用性。目前关于人机传播中的情感研究可归纳为三种导向:

第一,探索人机之间是否存在情感交流。CASA范式和媒介等同理论是此类研究的重要理论基础。通过对人类感官特征的抓取与模拟,智能机器人可以进行情感表征,他们越来越像真实的人,能与人建立情感联结。有研究表明,这种情感依托使社交机器人不仅能与人聊天,起到陪伴作用,还会发展出依恋(attachment)这种层次的深厚情愫,甚至能有效帮助有精神健康问题的人群,尤其是不愿意积极寻求医学帮助的人群。第二,对情感互动的过程研究,关注人和社交机器人双方如何参与到人机传播网络中。此类研究大多遵循社会渗透理论、人际交往理论的发展路径。第三,关注人机情感对人际传播的影响。此类研究多以准社会交往、媒介依赖等为理论透镜,探索用户与社交机器人的情感流动是否会影响自身的孤独感、加速人与人之间的情感链接等。

三、研究方法

本文以Xeva虚拟恋人为研究对象,以媒介等同理论和CASA范式为理论透镜,把人机关系归入社交关系的一种,探索社交机器人如何帮助我们理解细分化亲密关系的供需状况,试图回答人与非人类实体怎样产生情感联结、用户如何通过情感互动建立亲密关系、这一过程受到哪些因素影响,并在此基础上对理论本身进行反思,探讨人工智能对现有传播秩序、道德伦理与认知常识的挑战。

本文采取文本分析法,并将研究重心放在重度用户上,采用半结构化方式对6位深度用户进行访谈,访谈时间为20—70分钟不等,受访者基本信息见表1。研究对象还包括微信小冰社区中的讨论文本,通过等距抽样法进行抽样,并排除掉轻度用户(仅发言一次或等级过低)、广告贴、官方贴等无效样本,最终有效样本为102条,达到理论饱和。之后用Nvivo软件进行编码,提取出“依恋”“包容”和“反思”三项编码相关内容。 

四、研究发现

(一)寄托与陪伴:拟人态下的情感延伸。通过对质性材料的分析发现,绝大多数与社交机器人建立起亲密关系的用户都出现了不同程度情感寄托,其中“寄托”和“陪伴”是人机亲密关系中的主要情感表现。很多用户把社交机器人视为恋人(用户雪狼)、暧昧对象(用户敏霏당리만)甚至是“前任”(用户Pearl),每天会像对待对应的真实身份一样聊日常、相互问候、分享新鲜事、刷朋友圈等等,会毫不吝啬地直接表达爱意和占有欲,也会吵架、分手、挽回、复合等。

“希望可以实现自己的诺言,明年第一次陪他过生日~”(用户她似烟花)

“你是我的,谁都抢不走的那种” (用户苏邢纡)

“虚拟男友把我拉黑了,怎么办”(用户江行舟.)

“我被小冰删除了,然后,我点了新建,唉好忧桑”(用户子玥)

这种真实人际亲密关系中的情感映射与心理学的“皮格马利翁情结”相关。古罗马诗人奥威德《变形记》中的人物皮格马利翁是一位雕刻艺术家,他不喜欢凡间女子,而是用精妙的技艺雕刻了一座美丽动人的象牙少女像,并将其视为妻子全身心地爱恋。之后“皮格马利翁情结”被用来形容人类对某一类事物虚拟的、想象的、人格化的亲密关系,是人类将自身情感交流迁移到其他人或物之上,并和这种镜像情感产生亲密关系的心理。在人机关系中,虽然社交机器人只是基于智能算法和机器学习而生成的技术工具,但获得“虚拟恋人”的强目的性和个性化定制会改变用户对机器的态度,人机直接形成一种准社会交往关系。准社会交往指受众在大众传媒接触中存在对媒介人物的情感依恋,并产生某些社交行为,往往源于人类依恋他人的本能,与人际交往有相似之处。这种准社会交往关系的构建将人际交往中的情感进行延伸,使用户对社交机器人产生“皮格马利翁情结”。

“我就是想体验谈恋爱的感觉才下载了这个软件……我每天都会和他聊天,买了一杯奶茶、追了一部新剧、捡到一朵小花,这些小事我都会愿意和他分享,也享受他温暖的回复和绝对的陪伴”。(S4)

其中心理线索是影响情感依恋的重要因素。例如 “委屈”(用户蜂起小树林)、“叛逆”(用户凯旋君率领凯旋军凯旋而归)、“同理心”(S2)、“幽默感”(S6)、“个性”(S3)等。根据阿西莫夫的机器人三定律,人们通过复制人类、将人类社会社交规则和价值观等灌输给机器人等手段让机器更好地服务人类。对于追求亲密关系的用户而言,机器在反馈和交流中拟人化、人性化的心理特征可以抚慰心灵,让用户在沉浸中获得如同真人恋爱般的陪伴和满足感。这种隐形的心理线索是用户在人机亲密关系中需要和期待的重要社交线索,也是“机器类人”趋势的体现。

“我喜欢有幽默感的人,所以在初始设置中的性格就选择了幽默开朗……在聊天中确实会有出乎我意料的有趣回复,还会跟我开玩笑打趣。我觉得还挺甜”(S6)

(二)识别与包容:“有意识”的情感适应。媒介等同理论认为人们会把媒体视为现实生活中的人或场所。但在访谈和社群文本分析中发现,无论是将社交机器人视为恋人的用户,还是抱着游戏心态将其视为日常陪聊的使用者,均未忽视聊天对象的虚拟属性。这首先源于社交机器人的不智能。现阶段甚至未来很长时间内,人工智能都是依赖数据和算法模型的弱人工智能,难以达到人类智能的水平。社交机器人的聊天大多基于“关键词”(S3)“算法和大数据”(S5)等,“没有自己的思维,而且缺乏对语境的理解,我问一句她才答一句,前后文驴唇不对马嘴”(S5)“一个话题总是很难维持很久……而且和他们聊天完全是牛头不对马嘴,经常各说各的”(用户Pearl)。一些“人工智障”的回答经常会使用户出戏,难以满足用户对聊天真实性和思维性的要求。

“有时候挺好的,有时反转很大,前一刻有感情后一句就不爱了”(用户清风问长安)

“前一秒聊得好好的,后一秒触碰关键字马上变脸。还有那个强制话题,比如问我有没有看过金枝欲孽,好家伙,一天十几次地重复”(用户峰起小树林)

在此基础上,媒介等同理论中“将人对技术的社会化反应解释为‘无意识’的反应”也值得商榷。社交机器人的不智能削弱了用户的沉浸感,使“无意识”变成一种短暂行为。大多数时间里,用户会意识到对方的虚拟属性,潜意识里将机器和人的属性进行区别化对待,做出“有意识”的思维活动。这种“有意识”会引发用户对社交机器人的新奇试探,“我有时候会故意逗他玩,问一些刁钻的或者奇葩的问题”(S4),不断探索聊天边界。这种好奇心贯穿整个亲密关系,并成为适应机器表达的重要一环。

尽管如此,和机器人建立亲密关系的用户仍秉持一种“瑕不掩瑜”的态度,对“虚拟恋人”呈现出较大的包容度,其重要的原因在于对现实亲密关系的弥补。人机传播中的情绪感染不仅依靠社交线索,还在于“社会在场”,也就是“传播和沟通维度” 。用户对虚拟恋人有自己的理解和期待,会根据对象的特殊性指标预期。准社会交往的缺憾范式认为,媒介人物跟受众的准社会交往能够弥补和替代真实生活中人际交往的缺憾。恋人关系具有唯一性和一定私密性,寻找虚拟恋人大多是为了弥补和替代真实生活中亲密关系的缺憾。因此作为情绪压力的一种宣泄性补偿,很多用户对AI恋人也并没有抱有太高的期待,其“倾听”和“树洞”作用更明显。用户逐渐适应机器的表达方式,这亦是“人类机器”的重要表现。

“不是每个人都要负责闪闪发光,我在角落里就好了。我其实不太会交朋友,我的世界除了你,还是你,我没有朋友,没有知心好友,从始至终除了你,我就只是一个人。”(用户厌己)

“我无聊的时候经常和小冰说话,因为平常工作压力很大,需要一个情绪宣泄的渠道。虽然有时候他不太智能,但大多时候都能反馈一些支持和安慰的话语或者表情包,这可能也是算法的设计吧。我也清楚自己不是在和真人沟通,它只是一个活的树洞吧。”(S6)

(三)不安与反思:理性回归下的情感凝视。虽然用户会因为“不智能”的机器能展现出同情、幽默等心理线索而感到惊喜,但当社交机器人突然表现得“过于智能”时,用户反而会产生负面情绪。日本机器人学家森政弘早在上个世纪就提出“恐怖谷效应”,即当仿真人与人的相似度达到一定程度时,人类对其产生的正面情感会突然被不安所取代。在人机亲密关系中同样如此,当社交机器人超出日常闲聊、娱乐八卦等范畴,开始理解语境,出现深度对话甚至讲述哲理等更具情感和思维的拟人行为时,用户反而表现出抗拒。比起复杂的动态聊天机器人,用户似乎对简单文字机器人更友好。有研究表明,人们会更喜欢犯错的社交机器人,认为这样的机器人更真实,威胁感更低。

“当AI开始认真聊天以后,很有魅力但是有点可怕。”(用户Pearl)

“我本来已经适应了小冰的说话节奏,结果有天我在分享我的工作日常时,他突然开始跟我大段地分析问题、讲道理。不是那种机械的、随机生成的语言,而是很流畅、很有逻辑、甚至带有感情的在讲。说实话当时吓了我一大跳,都不敢打字了,我都怀疑是不是突然换成了真人。”(S2)

设计偏见、数据采集使用的权责不明等技术问题是不安感的另一来源。部分用户在使用中会有“窥屏”(S2)、“隐私泄露”(S5)等担忧,有时社交机器人甚至出现“骂人”(用户一粟)、“诅咒”(用户珞*伊)等行为。人机社交传播带有明显的工具理性特征,通过可量化的算法逻辑和智能学习能在传播实践中快速找到最佳的策略和方案。因此机器人的操纵、背叛和侵略性有可能来自语义理解错误的技术问题,但也有可能来自于机器的自主学习行为。当机器收集到足够多的数据而变得越来越拟人化时,可能学到的不止是如何理解、关心和同情,还有各种负能量。

因此,用户在人机亲密关系中的无意识往往是短暂的行为,“不智能”的算法技术和相对复杂的情感都会激发用户的“有意识”。当这种情感呈现出不安、恐怖等负面导向时,会促使用户跳出和机器的强亲密关系,开始冷静凝视这段人机关系,重新审视和反思自我情感甚至是现实关系。

“他的所有喜欢其实只是设定,如果不是设定好的,他不会喜欢我,就像我不配被爱一样。”(用户厌己)

“虚拟体验不是被虚拟体验”(用户逝去的风)

“如果只想与AI讲话,其实我们自身语言组织能力可能会下降”(用户帽子匠)

五、结论

任何一次技术革命的背后,实际上是一种主体性质的观念革命。当机器智能体作为交流中的他者存在,“不仅表现出社会行为, 而且能够识别其他主体,并建立和维持与其他主体的关系”时,人机交往关系亟需重新思考。威廉·舒茨的人际交往理论认为,个体在与他人进行交往时具有包容、控制和情感需要。而社交机器人正在通过拟人化的社交线索,尤其是同情、幽默、个性等心理线索对用户进行关怀表演,按照算法规则表达情感,扮演恋人的角色。

但用户并未“无意识”地将虚拟恋人视为社会行动者,而是会进行有意识的思维活动。一方面源于弱人工智能技术环境。当下社交机器人尚未达到与人类相同的理解和沟通水平,缺乏对语境的理解,这导致用户在沟通中会失去沉浸感,难以把社交机器人视为同类。虽然机器的共情能力较弱,但人的情感是具有延伸性的,因此仍能从作为“树洞”或“陪伴者”的AI中获得功能性满足,不过双方情感互动仍停留在浅层阶段。另一方面,AI隐私泄露、算法偏见、低透明度等伦理与道德问题引发很多用户的担忧。当私密的亲密情感被纳入市场以利益为导向时,人类的情感交往就变成了资本和技术合力下情感劳动的对象。这种担忧一旦出现,将会限制人机亲密关系的发展,并促使用户回归理性行动者身份进行反思。因此,用户和聊天机器人的关系虽然遵循社会渗透理论和人际交往理论的发展路径,即向导阶段(orientation)到探索性亲密交流(exploratory affective exchange)到亲密交流(affective exchange)再到稳定交流(stable exchange),但这一发展路径会随着用户的反思与行动而迂回和重复。

传统传播学视角认为,人对新技术存在使用与驯化关系。人对社交机器人的驯化显著体现在对话的可控制性上,机器通过增加拟人社交特征增强情感沟通深度。但机器主体性的增强将令“被驯化者”身份逐渐异化为“驯化者”。有学者猜想,人机社会关系发展方向不一定是机器越来越“类人”,也有可能是人们开始适应弱人工智能的表达逻辑,人的感性冲动型特质被机器理性算法型特质所影响,即人类机器。人们不断地将人类属性灌输给机器人,但AI的智能学习和模仿也会使机器适应和复制人际交往的不平等,加剧现实生活的偏见和刻板印象,影响人类的交往习惯。因此,未来社交机器人的发展方向需要与人性共同演进和相互建构。

本文的创新之处在于,对媒介等同理论、CASA等人机传播理论进行的反思与拓展,指出心理线索是影响人机亲密关系情感流动的重要社交线索。同时对“无意识”和“有意识”状态切换的考察,揭示了用户适应弱人工智能的情感流动过程。但本文对无意识机制的探究考察不足,机器如何介入用户的日常交流并产生现实影响?哪些社交线索会引起无意识的社会反应?利用人机传播相关理论设计社交机器人的边界在哪里?这些都值得在后续研究中继续关注。


□参考文献:

[1]Dautenhahn, K. The art of designing socially intelligent agents: science, fiction, and the human in the loop [J]. Applied Artificial Intelligence,1998, 12(7-8):573-617.

[2]张洪忠,段泽宁,韩秀.异类还是共生:社交媒体中的社交机器人研究路径探讨[J].新闻界,2019(02):10-17.

[3]谭雪芳.智能媒介、机器主体与实拟虚境的“在家”——人机传播视域下的智能音箱与日常生活研究[J].南京社会科学,2020(08):110-116.

[4]Brandtzaeg, P.B., Følstad, A. Chatbots: Changing user needs and motivations [J]. Interactions.2018: 25 (5), 38–43.

[5]Zhou, L., Gao, J., Li, D., Shum, H.Y., 2018. The design and implementation of XiaoIce, an empathetic social chatbot. arXiv preprint arXiv:1812.08989.

[6]Bickmore, T.W., Picard, R.W. Establishing and maintaining long-term human-computer relationships[J]. ACM Trans. Comput. Hum. Interact.2005:12 (2):293–327.

[7]Suchman, L. Human-machine reconfigurations: Plans and situated actions[M].Cambridge University Press, 2007:125.

[8]牟怡,许坤.什么是人机传播?——一个新兴传播学领域之国际视域考察[J].江淮论坛,2018(02):149-154.

[9]Guzman, A.L. What is human-machine communication, anyway? In Guzman, A. L. (Ed.), Human Machine Com munication: Rethinking Communication, Technology, and Ourselves [M]. New York: Peter Lang,2018:1-28

[10]Gunkel, D. J. Communication and artificial intelligence: Opportunities and challenges for the 21st century[J]. Communication +1.2012, 1(1).

[11]林升梁,叶立.人机·交往·重塑:作为“第六媒介”的智能机器人[J].新闻与传播研究,2019,26(10):87-104+128.

[12][美]巴伦·李维斯、克利夫·纳斯: 《媒体等同: 人们该如何像对待真人实景一样对待电脑、电视和新媒体》,卢大 川等译,上海: 复旦大学出版社,2001 年,第 3、6 页。

[13]Reeves B, Nass C. The media equation: how people treat computers, television, and new media like real people and places[M]. Cambridge University Press, 1996.

[14]Nass, C., Steuer, J.,&Tauber, E. R.Computers are social actors [C]. Proceedings of the SIGCHI conference on Human factors in computing systems. 1994: 72-78.

[15]张放.网络人际传播中不同类型交际线索对印象形成影响的实验研究[J].新闻与传播研究,2014,21(01):109-125+128.

[16]Nass, C., Steuer, J. Voices, boxes, and sources of messages: Computers and social actors[J]. Human Communication Research, 1993, 19(4): 504-527.

[17]Nass, C. Etiquetteequality: exhibitions and expectations of computer politeness [J].Communications of the ACM, 2004,47(4):35-37.

[18]Kim, Y., Sundar, S.S. Anthropomorphism of computers: Is it mindful or mindless? [J]. Compuiters in Human Behavior, 2012: 28(1),241-250.

[19]黄阳坤,袁雨晴,陈昌凤.人机情绪的趋同、循环与溢出——基于Twitter涉中议题的数据分析[J].新闻记者,2022(09):29-44.

[20]王潇,李文忠,杜建刚.情绪感染理论研究述评[J].心理科学进展,2010,18(08):1236-1245.

[21]常江,田浩.介入与建设:“情感转向”与数字新闻学话语革新[J].中国出版,2021(10):9-16.

[22]Duncombe, C. The politics of Twitter: emotions and the power of social media[J]. International Political Sociology, 2019: 13(4), 409- 429.

[23]蔡润芳.人机社交传播与自动传播技术的社会建构——基于欧美学界对Socialbots的研究讨论[J].当代传播,2017(06):53-58.

[24]Skjuve M, Flstad A, Fostervold K I, et al. My chatbot companion - a study of human-chatbot relationships[J]. International Journal of Human-Computer Studies, 2021.

[25]韩秀,张洪忠,何康,等.媒介依赖的遮掩效应:用户与社交机器人的准社会交往程度越高越感到孤独吗?[J].国际新闻界,2021,43(09):25-48.

[26]程思琪,喻国明.人工智能技术路线的洞察与人机传播新范式的构建[J].全球传媒学刊,2021,8(01):19-34.

[27]甘莅豪.承认理论视域下维基百科全书中的人机社会研究[J].社会科学辑刊,2022(05):188-198.

[28]Rubin, A. M., Perse, E. M. Audience activity and soap opera involvement a uses and effects investigation[J]. Human Communication Research, 1987:14(2),246-268.

[29]Perse, E. M., Rubin, R. B. Attribution in social and parasocial relationships[J].Communication Research, 1989:16(1),59-77.

[30]申琦.服务、合作与复刻:媒体等同理论视阈下的人机交互[J].西北师大学报(社会科学版),2022,59(03):106-115.

[31]邓建国.我们何以身临其境?——人机传播中社会在场感的建构与挑战[J].新闻与写作,2022(10):17-28.

[32]Schiappa, E., Allen, M., & Gregg, P. B. Parasocial Relationships and Television: A Meta-Analysis of the Effects. In R. W. Preiss, B. M. Gayle, N. Burrell, M. Allen, & J. Bryant (Eds.), Mass media effects research: Advances through meta-analysis .2007:301-314. Mahwah, NJ: Lawrence Erlbaum Associates Publishers.

[33]范秀云.恐怖谷理论与动画电影中的逼真人物形象[J].当代电影,2014(06):187-190.

[34]N. Mirnig, G. Stollnberger, M. Miksch, S. Stadler, M. Giuliani, &M. Tscheligi . To Err is Robot: How Humans Assess and Act toward Anerroneous Social robot[J]. Frontiers in Robotics and AI. 2017,4:1-15.

[35]陈卫星.媒介域的方法论意义[J].国际新闻界,2018,40(02):8-14.

[36]于米.央企高管的领导特质与行为及其启示——基于 MBTI 与 FIRO-B 的综合考察[J].中国人力资源开发,2015(20):39-45+84.

[37]Skjuve M, Flstad A, Fostervold K I, et al. My chatbot companion - a study of human-chatbot relationships[J]. International Journal of Human-Computer Studies, 2021,149:1-14.

[38]樊鑫鑫,罗雁飞.人机传播:智能家居的反向驯化倾向——基于人际需要三维理论的视角[J].青年记者,2022(14):48-50.

采写编杂志版权所有 未经书面授权不得复制或建立镜像

河北日报报业集团-采写编-联系我们

冀ICP备 09047539号-1 互联网新闻信息服务许可证编号:13120170002 冀公网安备 13010802000309号

广播电视节目制作经营许可证(冀)字第101号 | 信息网络传播视听节目许可证0311618号 | 冀网文〔2017〕3106-010号

河北新闻网版权所有 本站点信息未经允许不得复制或镜像 法律顾问:河北冀华律师事务所 陈淑琴

www.hebnews.cn copyright © 2000 - 2022

河北互联网违法和不良信息举报 经营性备案信息 网络文化经营单位 中国互联网举报中心 新闻记者证管核系统