作者:宋春艳(湖南省社会科学院(湖南省人民政府发展研究中心)哲学研究所)
随着AI对人类认知能力模仿水平的提升,智能机器人能否产生自我意识的问题已从远虑逐渐变成近忧。对此,学界有乐观、悲观和中立的不同立场。目前有可能产生自我意识的智能机器人,是一种高级人工智能,具有互动性、自主性与自适应性等特征。对智能机器人自我意识问题的深切关注,反映了人们对智能机器人失控的忧惧。而消除这种忧惧的最佳方式,就是深刻认识和把握其原理与本质,打开智能机器人自我意识的黑箱,并推动其向善发展。
总的来看,人类自我意识的产生主要有两种方式,一是自我激发,二是他人认同。自我意识与自我认同是不可分割的,而自我认同则离不开群体中他人的认同。所以,自我意识通常在获得社会其他成员的认同中产生。在探索智能机器人自我意识时,这两种路径各自进行了尝试,并取得了不同的进展。按照技术发展路径,智能机器人大致上可以分为数据智能和类脑智能,二者自我意识产生分别采取了了他人认同路径和自我激发路径,其本质也不相同。
一是数据智能机器人“设计”出自我意识,即他人认同路径。这一路径通过算法设计和大数据支持,让机器人表现得具有“自我意识”。无论是数字计算机,还是量子计算机,其产生自我意识的途径都属于数据智能路径。但这一路径存在数据兼容和溢出的风险。很明显,这一路径产生的“自我意识”是环境中的设计者和使用者赋予智能机器人的,认知主体是人体而非机体。这在情感机器人或社交机器人中尤为常见。而社交类智能机器人的使用者,往往会在与其长期相处中产生机器人也有情感和自我意识的错觉。心理学上将此现状称为共情效应。通常情况下,能产生越强共情效应的机器人往往越受消费者欢迎。然而,通过考察情感或自我意识内在的真实内容及其规律性就会发现,这只是特定情境中的使用者认为机器人已彰显出自我意识和情感。因此,并不能说明这类机器人能够自我激发产生自我意识或情感。
二是类脑智能机器人“生长”出自我意识,即自我激发路径。这一路径通过类脑技术上的支持,让机器人拥有能感知的“身体”,形成独立的“自我意识”。这里的“自我意识”虽然源自机体,但却是承载生物芯片的有机体,因此无论是技术悲观派还是乐观派都不能否认其产生自我意识的可能性。比如,曾毅团队在认知神经科学家的实验基础上,用自主研发的类脑机器人成功挑战了自我意识镜像实验,为机器人自我意识建立了受生物激发的模型。虽然镜像实验只能作为机器人自我意识验证的一个视角,但我们大家可以据此展望未来,制造出生物性质的类人自我意识的智能机器人并不是天方夜谭。这一路径存在生物芯片信息难以掌控的风险。目前大多数相关研究都局限于实验室内,而已临床使用的仅是针对脑部疾病的脑机接口技术,并且这种技术的使用需要患者提前进行训练,也就是要通过人的协助才能展现出智能。
智能机器人自我意识的产生可能增加人类对其失控的忧惧,而人机融合发展则能够降低这种危害的可能性。人机融合智能是充分的利用人和机器各自的长处形成的新型智能形式。大数据人工智能、互联网群体智能、感知和跨媒体智能、人机混合智能、自主智能系统等是目前主要的五类人机融合智能。为引导智能机器人向善发展,规避不良社会影响,需要人类主动回应和采取措施。
一是进行前瞻性伦理设计。技术实体论认为,技术是一种实体,是负载着价值的。尤其是现在自主性越来越强的智能机器人,根据算法的设计能够自适应环境自主决策,产生的结果甚至是不可控的。这种算法复杂性和不可控性,很好地支持了技术实体论的立场。由此,对技术风险的治理则需要一种前瞻模式。虽然目前类脑智能对意识和自我意识的研究尚处于初级阶段,但让其自主产生自我意识一直是很多研发者的目标。因此,要在其自我意识研究尚处于初级阶段时提出伦理框架,根据“自上而下”和“自下而上”各自的优势提出组合模式:将“不伤害不作恶”作为底线原则进行价值敏感设计,并在后天学习中通过底线原则对学习到的人类行为进行过滤。倘若完全采取情境学习的路径,一旦投入市场使用,就会出现不可控的后果。因此,必须将底线原则与情境学习相结合,才可能正真的保证智能机器人的安全可控。
二是建立以人为主导的人机协同演化关系。对智能机器人自我意识的深切关注,实质上反映了人们对智能机器人失控的忧惧。在此基础上形成的人机关系,既不利于人工智能的健康发展,也不利于人的自由而全面发展。对此,我们应该探索出一种健康、可持续的人机关系,即以人为主导的人机协同演化关系。以人为主导,可以保证人在协同演化中不丧失主体性。只有保持这种主体性,人类才能理性决定机器人“能够做什么”和“应该做什么”,保证AI产品按照人的价值理念演化,从而掌握协同演化的主动权,实现智能机器人向善发展的目标。同时,以人为主导才能促使人类主动承担协同演化中的过失责任。若智能机器人产生自我意识,将引发其道德地位和道德承担接受的能力的争论。实际上,让机器人拥有一定的道德判断能力,目的是为了更好地为人类服务,最好能够降低甚至避免负面影响,而不是让它们必须拥有权利或承担相应的责任,二者是可以分开的。人是责任的承担者。人的责任不仅包括在风险预防阶段做好价值敏感设计,也包括在风险产生后通过制度构建来降低损失。
三是建立“社会—技术”一体化协调发展的体制机制。若智能机器人产生自我意识,所带来的变化不仅是技术上的颠覆性创新,而且对原有社会运行机制的影响更是难以清楚预判。面对具有自我意识的智能机器人的来临,不仅需要在研发阶段进行提前干预,同时也需要社会体制机制的创新来适应。为保证新的智能机器人产品的向善导向,就必须在研发和使用中进行监管。同时,政府要积极引导第三方机构对其可能引发的隐私、安全、社会公正等问题进行敏感性评估,要求企业对出现一些明显的异常问题的产品建立补偿或召回机制。
四是积极引导公众参与。技术的进步与应用在为人们的生活带来便利的同时,也让人们在某些特定的程度上产生了恐惧。这种技术恐惧源于技术自身的复杂性和不确定性,尤其是对于可能会产生自我意识的智能机器人。要消除技术恐惧的根本方法,就是让公众参与到智能机器人的技术治理过程中。一方面,公众参与有助于提高智能机器人的社会接受度。公众对技术研发的参与程度越深入,对技术细节越了解,也就越容易接受具有自我意识的智能机器人。另一方面,公众参与有助于提高智能机器人社会风险评估的准确性。适当的公众参与对智能机器人的社会风险因素识别更加全面和准确,由此制定的预防性措施将更加有效。总之,更多公众参与将有利于实现AI向善的目标,这也是提出人机融合智能的初衷。
(本文系国家社科基金一般项目“人机融合智能的道德风险及其协同治理研究”(20BZX029)阶段性成果)
随着技术的慢慢的提升和应用的深入,数智化将为经济社会发展全面绿色转型带来更多的机遇和动力,助力中国实现美丽中国建设和“双碳”目标,为全球绿色低碳可持续发展贡献更大力量。
网络梗”越来越成为互联网空间讲好正能量故事的优良载体。加强“梗能力”建设,是推动党的创新理论高质量传播的重要途径。
与“修昔底德陷阱”的预设恰恰相反,构建人类命运共同体遵循共商共建共享原则,推动平等有序的世界多极化和普惠包容的经济全球化向前发展。
“碳中和”背景下,有必要将具有高碳汇水平且集中分布的区域纳入生态保护红线范围当中,实施具有规范性和制度化的用途管制策略。
数字治理,本质上是数字技术向多元治理主体赋能增效的过程,其目的是在数据收集、分析、利用的基础上,从多个层面对治理系统的感知、决策和执行能力进行提升。
在面对错综复杂的国际环境和百年未有之大变局时,我们更需要的是中国特色大国外交的理念,而非吸引眼球的所谓“理论”。
面对复杂多变的国际形势,必须用好总体国家安全观这一强大思想武器,自觉运用其方法论原则武装头脑、指导实践,从整体上把握国家安全,不断开创新时代国家安全工作新局面。
数字基础设施是数字化的经济发展的底座,是网络强国、数字中国建设的基石。要立足不同产业特点和差异化需求,推动经济产业全方位、全链条网络化、数字化、智能化转型。
高质量构建“大思政课”工作体系要聚焦目标、效果和特色,着力破解思政课建设中的重点、难点和核心问题,带动思政课叙事表达体系和场景体验模式的深层变革。
中华文化的主体性植根于5000多年的文化沃土,是在创造性转化、创新性发展中华优良历史传统文化、传承革命文化、发展社会主义先进文化的基础上,借鉴吸收人类一切优秀文明成果的基础上建立起来的。
数字化网络化智能化加速发展,各国既面临着新的发展机遇,也需要应对新的全球性问题,国际社会迫切地需要携手合作,共同打造和平、安全、开放、合作的互联网空间,携手构建互联网空间命运共同体。
中华民族传统节日春节马上就要来临。值此之际回望2023年,中国经济主要预期目标圆满实现。展望新的一年,我们国家的经济发展依然将面临一些困难和挑战,但同时也具有体量大韧性强创新后劲足的竞争优势、宏观经济政策回旋空间大的支撑效应、新一轮全面深化改革开放的增长红利等三重有利支撑。
要聚焦新时代新征程党的中心任务,以加快政府职能转变和优化政府职责体系为重点,在“加减乘除”上做文章,推进机构改革再深化,为在新征程上全方面推进中国式现代化提供新动力。
面对一直在升级的数字社交产品,反而需要青年人意识到沉浸式社交环境背后的经营销售的策略与运作逻辑,从而与社会化媒体生成的感官刺激与虚拟自我保持距离。
“人民美好生活需要”的提出,内含着马克思主义的价值宗旨,体现社会主义的本质要求,根植于中国经济社会发展实际,符合中国的初心使命,体现合规律性与合目的性的高度统一。
冬至阳生,岁回律转。在新的一年,我们站在这一年的不易成果上,对未来充满信心,更加需要接续奋斗、砥砺前行,取得更多发展成果。
针对目前思政课教师供给能力不能有效满足思政课强起来的发展需要这一突出矛盾,要切实提升教师供给能力,改进教育学生的方式,推动新时代思政课朝着高质量发展。
我国始终主动实行扩大进口的战略和政策,连续举办进口博览会,倡导开放合作,与既往的贸易保护理论和政策主张存在根本差异,为维护开放的世界经济注入了强大动力。
面向未来,要逐步扩大“朋友圈”,绘制好“工笔画”,对接好“硬联通”与“软联通”,秉持包容、合作、共赢的原则,为实现民族复兴和推进全人类的福祉而努力奋斗。