人工智能不同于一般的科技产品，可能引发的社会风险与伦理危机是全面而深刻的。首先，人工智能是人类第一次创造并赋予其一定自主能力的智慧体，但目前的人工智能又尚未成为完全自主智慧的个体，致使在人工智能系统生命周期的各个阶段都存在道德主体缺失、不明和责任空白的问题。其次，未来的人工智能有可能具有人类水平的智能，甚至远超人类的智能。从根本上说，人工智能引发的伦理危机，是人类所面临的一种兼具同质性和异质性的智慧体的潜在威胁或可能挑战。因此，我们有必要前瞻研判，适时制定相应的科技伦理治理法律法规，防患于未然。
危机类型
从人工智能的现有水平和未来前景出发，本文聚焦人工智能可能引发的四类科技伦理危机：婚恋情感危机、法律道德危机、文化审美危机和生活生存危机。
婚恋情感危机。婚姻家庭生活是人类的基本生存模式。在两性关系基础上所生发的社会伦常，则是规范人际关系的重要尺度。目前，配合大数据使用的人工智能婚恋匹配算法，已广泛应用于各个在线婚恋交友平台，为单身男女提供了快速精准的匹配交友服务。然而，人工智能在婚恋方面的有益探索，难掩其对人类婚恋关系的潜在威胁。随着陪伴型人工智能的不断发展，人形智能机器人越来越像自然人，曾经由自然人充当关系角色的生活领域将越来越多地出现人工智能的身影。一旦人们选择将情感更多倾注于更为“善解人意”、更能满足自己心理情感和生理诉求的人工智能，人类传统的情感纽带、家庭伦常和社会结构都将遭遇严峻挑战。人类社会是否需要认可自然人与人工智能之间的情感关系，是否需要保障人工智能伴侣享有与自然人相同的权利，在人类社会面临结构化危机时是否又需要限制自然人的婚恋自由？诸如此类的问题，都是处于人工智能迅猛发展时期的我们无法回避的。
法律道德危机。无论是对于人类社会还是对于人类个体，法律和道德都起着至关重要的规约作用。法律道德要正常发挥作用，至少应具备两个前提。一是行为主体的界定相对清晰。二是行为判断的规则相对明确。然而，目前的人工智能虽有一定程度的自主能力，但仍不具有和自然人一样的主体地位。虽然人工智能算法是人类工程师设计的，训练人工智能算法的数据也来自人类，人工智能的配置和使用也是由人类决定的，但人工智能的具体决策过程又往往具有一定的自主性，一些时候人类工程师也无法做到提前预知。因而，人工智能一旦造成事故，就有可能出现责任主体不明或缺失的问题。未来的通用人工智能或许具备完全自主的“人格”，但有可能与人类有着完全不同的认知结构，从而有着截然不同的情绪体验、生活目标和道德标准。一方面，单纯以人类既有的法律道德规范约束人工智能，将会陷入人类中心主义的窠臼，或导致两类智慧体之间不可调和的冲突。另一方面，如果协商制定适应人类与人工智能的新颖社会合作关系的法律道德规范，短期看又势必会对现有的法律道德基础造成严重冲击。
文化审美危机。文艺创作往往被认为是体现人的主观能动性和创造力的领域，即便人工智能可以谱曲、作画和写诗歌，也常被认为只是拙劣的模仿。然而，近年来，随着深度学习、大数据等领域的发展，人工智能已展示出令人叹为观止的“创作”能力。比如，一幅名为《空间剧院》的人工智能画作在一场美术比赛中打败一众人类艺术家，拔得头筹。而在作曲领域，人工智能作曲家爱娃（Aiva）的作品已通过了音乐图灵测试，达到了专家无法辨别的程度。人工智能虽然在文学创作上还很青涩，但是一些文学作品已略有文采，甚至能使读者认为是人类所创作。不过，我们仍有理由相信，人工智能虽然能够创作一些人类无法区分的作品，但并不会造成文化审美危机，反而有助于人类的文艺创作，增进人类文化多样性。如果错误地理解人工智能的创作活动，将其作品与人类作品等而视之，而没有意识到这些作品只是对艺术家风格的模仿，那么就会低估人类文艺作品的真正价值，抑制人类的文艺创作活动。此外，人工智能艺术品的大量上市也会对人类文化的多样性造成诸多负面影响。更有甚者，如果以有著作权的作品作为训练集，训练而成的人工智能还会挤占人类文艺工作者的生存空间，由此导致的结果很可能是，人类文化最终成为同质化的文化沙漠。
生活生存危机。不少人工智能面向人类生活的日常领域，因而有理由相信，以下六点关于人类生活甚至生存的危机是值得认真对待的。第一，目前对人工智能算法的训练，高度依赖于人类生活数据。缺乏有效监管的数据获取，会侵犯个人的数据隐私权。第二，由带有偏好的数据训练而成的人工智能算法，会进一步加剧社会偏见。第三，信息推送算法高度依赖用户阅读习惯，在无形中把用户束缚在自己的偏好牢笼之中，导致“信息茧房”效应。这会对人类获取独立、多元和可信的信息带来严重的负面影响。第四，目前人工智能以深度学习为内核，所用算法模型参数数以亿计，致使人们很难理解人工智能的具体决策过程，从而无法对人工智能的决策作出精准预测，也难以有针对性地修正算法的决策错误。第五，在某些重要领域（如法律审判、贷款审查等），一旦人们过于倚重充满算法黑箱的人工智能，这些人工智能将很有可能大规模损害无辜者的利益。第六，未来可能出现达到类人智能水平的强人工智能，甚至出现远超人类智能的超人工智能。因此，一旦强/超人工智能出现，并且其并不拥有良善的伦理道德水准，那么人类可能将遭遇生存危机。
化解之道
经过对上述四方面危机的分析，可以明白，人工智能导致的伦理危机一部分是由当下的弱人工智能开发和应用所造成，另一部分则是由未来可能的强人工智能、超人工智能的潜在威胁所带来。要解决上述四方面的危机，防患于未然，一个根本原则是，严格区分弱人工智能和强人工智能造成的伦理危机。对弱人工智能所造成的科技伦理危机，要以监管为主；而对强人工智能可能导致的科技伦理危机，则应居安思危未雨绸缪，提前加以预防。当前，很大一部分人工智能伦理问题是在设计、制造和使用过程中所产生的社会伦理问题，因而本质上依然是人类自身所造成的。对此，要加强对有关各方的监管。同时，我们也不应低估强人工智能潜在的威胁，不能因为制造出强人工智能还有很长的路要走就放松警惕，认为是杞人忧天，对此类研究不加严格伦理审查和规约。有鉴于此，我们认为上述四类伦理危机，可通过如下方式分别加以化解。
婚恋情感危机化解之道。首先，应当承认，拥有自主人格的陪伴型人工智能的到来及其应用，很可能是无法阻挡的。但是，人类对持久、稳定又亲密的婚恋关系的追求，却不会因为出现人工智能伴侣而发生变化，只是选择的对象扩展到了人工智能。因此，保障婚恋自由仍是应对人工智能进入人类情感关系的必要前提。其次，人工智能与人类的情感关系，并不意味着人类传统的伦常模式和社会关系会因此瓦解。有理由相信，如果人工智能与人类和谐相处，形成的新模式原则上仍有望实现人类社会传统的伦常模式和社会关系。理由就是，伦常模式和社会关系说到底都是功能化的结构，而功能化的结构本质上具有多重可实现性的特征。因此，关键不是设法阻止人机共处，而是要设法考虑如何做到人机和谐共处。
法律道德危机化解之道。目前，拥有某一专长的弱人工智能是应用最为广泛的人工智能类型，而弱人工智能的全生命周期都依附于人类。即使弱人工智能有部分自主决策能力，但正如尚未成年的儿童需要成年人的监护一样，弱人工智能一旦出现事故，人类作为其设计者、使用者和维护者，将负有不可推卸的责任。而强/超人工智能则是和人类一样具有完全自主能力的智慧体，因此或应独自承担法律和道德责任。为避免强/超人工智能对人类法律和道德造成严重威胁，专家在研制强人工智能时要时刻关注人工智能的伦理设计问题，整合多学科资源，重点是解决人工智能的伦理原则及其算法化问题。
文化审美危机化解之道。解决目前的文化审美危机，关键是要保护人类文艺作家的知识产权。因为没有他们的原创性作品，就不会有人工智能作品。在人工智能艺术作品被用于商业领域时，或可对训练集中的作品收取一定的著作权使用费，以保障人类文艺作家的权益，维续人类文化的多样性。而未来的强/超人工智能一旦有了自我意识之后，或具备了真正的艺术创新能力。在这种情形下，我们应抛弃人类中心主义的文化艺术观，坦然地将人工智能艺术家与人类艺术家一视同仁。此时，人类遭遇的文化审美危机，或来自人类能否创造出比人工智能水准更高的作品。当然，人工智能与人类艺术家也可以携手一起创造出更加丰富的文艺作品。
生活生存危机化解之道。在严格意义上，弱人工智能导致的伦理危机，与其他科技产品所引发的伦理问题并没有本质区别。因此，加强相关法律法规监管，注重保障个人数据隐私即可，而不应过度强调弱人工智能的部分自主地位，否则会削弱开发者和使用者应负的责任，进而对无辜民众的利益造成影响。在这个意义上，对弱人工智能的研发，应遵照“谁开发、谁受益、谁负责”的原则。同时，要特别重视对强/超人工智能研发的伦理监管。在研发过程中，专家学者应事先做好预案，采取能力限制、信息遏制、激励训练、动机选择等方式，设法防止不受控制又威胁人类生存的强人工智能的出现。并且，或有必要从算法上积极探寻如何让人工智能内嵌“悲天悯人”的道德情怀，这样或可有效阻止未来（失控的）人工智能带给人类灭顶之灾。
总之，发展什么样的人工智能，为谁发展人工智能，怎样发展人工智能，是人工智能是否向善的三大设问。应始终清醒意识到，人工智能是一种有望具有自主决策能力的智慧体，会对人类形成潜在威胁。这种威胁引发的不仅是单纯的科技灾难，更有可能是两大智慧种族之间的生存竞争。因此，在人工智能的研发过程中，要对上述可能危机时刻保持警惕。要始终牢记，人类发展人工智能的最终目的是造福人类。人的尊严、自由、平等和文化的多元性，是人类文明的基本价值，任何科学技术的发展都不能有损这些价值。有朝一日，如果人类能够与自己创造的人工智能和谐共处，那么这无疑展现出，人类文明不仅具有高度的智慧性，还具有伟大的包容性。
（本文系国家社科基金重大项目“人工认知对自然认知挑战的哲学研究”（21&ZD061）阶段性成果）
（作者单位：厦门大学哲学系；西安电子科技大学哲学系）
