人工智能的兴起已经并将继续深刻影响各行各业的发展。目前,人工智能技术已经在飞行、智慧出行以及民航运行等方面应用,人们对人工智能广泛应用下的智慧空管、智慧机场、机票价格管理、飞行安全保障、航班运行管理、客户服务等方面充满期待。
然而,在人工智能应用于民航领域的过程中,一个无法回避的问题是,传统的航空立法是否适用?是否需要新的针对人工智能的航空立法?未来立法的方向又是什么?
毫无疑问,人工智能的应用带来了新的管理模式和行为模式,完全依赖传统的航空立法显然无法解决人工智能应用产生的新问题。因此,制定新的立法是必然的。但这是否意味着传统的航空立法就完全不起作用了?对此,关键在于如何看待人工智能本身以及新的行为模式。
传统的法律规范是以人为目的的,因此法律通过规范社会关系的主体——人——的行为,实现对社会关系的调整。至少目前而言,硅基、硼基生命体无论是不是生命,对人类而言均是手段、工具,是法律关系的客体。人工智能是人类能力的延伸,人工智能的行为本质上是人类行为的延伸。因此,人工智能没有根本改变社会关系,法律对人工智能的监管和规范仍属于对人的行为的监管和规范。
既然人工智能体是法律关系的客体,那么传统的法律应当具有适用性。法律以人为本,人工智能的立法同样应当以人为中心。因此,禁止利用人工智能危害人类健康、安全、基本权利应当是立法的基本原则。人工智能的发展应当坚持安全、可靠、合法、非主体化原则。人工智能的应用是人类对客体的应用,产品的安全可靠性规则同样适用目前的产品制度。因此,人工智能体仍适用物权法、债权法或财产权法、知识产权法、科技合同规范、产品责任制度、行政许可法、刑法、科技管理法律等。
在这样的原则下,航空领域人工智能立法未来的方向应当是:在坚持传统的航空法合理适用性的同时,关注人工智能应用的特殊性,并制定特殊规则。
首先,《民用航空法》维护领空主权和民用航空权利、保障民航活动安全有序进行、保护当事人各方的合法权益、促进民用航空事业发展等立法目的仍然有效。人工智能系统飞行器或以人工智能系统为组件的飞行器需要根据领空主权原则与公约规定进行飞行。民航局对全国民用航空活动具有监管权力,因此对人工智能系统飞行器或以人工智能系统为组件的飞行器的飞行活动具有管理权限。
其次,航空人工智能必须可靠、安全。产品责任制度及航空安全规则适用于人工智能系统飞行器或以人工智能系统为组件的飞行器,但人工智能的应用导致网络安全、算法、程序安全等特殊问题涌现,需要确立人工智能的可靠性、安全性、以人为中心和技术中立等特殊原则。
再次,民航企业作为人工智能产品的运营人或使用人,如同使用航空器一样,对其使用结果负责。人工智能具有自主性,这意味着其输出的结果可能无法预测或不能完全预测。民航企业应当注意其风险,并对该风险承担责任。法律关于承运人的责任并不因为其应用了人工智能而减损;相反,这一责任将增加。机场、航空公司等应当告知旅客、货主其正在与人工智能进行交互,并提供选择退出或与人交互的途径。
最后,旅客信息与隐私保护、数据、网络安全等法律法规同样适用。
人工智能在民航领域的应用具有双刃剑特性,既是民航业发展的契机,也为航空安全和现有的运行秩序带来了挑战。在人工智能时代的航空立法中,需要制定以下禁止性规则:禁止大数据“杀熟”、算法歧视、深度伪造、制造与传播虚假信息、侵犯知识产权、预留运营人或使用人不知晓的后门、传播或编写或使用病毒程序、利用软件漏洞、发布恶意指令等非法侵入、操纵、控制或影响人工智能运行的行为,侵犯隐私与信息、窃取民航运行信息和数据、窃取民航人工智能模型及训练数据等规则。同时,通过设置监管“沙盒”,鼓励人工智能企业安全开发民航应用产品。确立可靠与可信赖原则、安全原则、透明且可解释原则、公平原则,实行全生命周期、全运行周期监管,建立确保所有与人工智能有关的民航工作人员理解实施人工智能的技术、开发过程和操作方法的培训发证制度。建立人工智能系统可信性与可靠性验证制度、适航与合格许可制度,建立问责与治理制度,建立人工智能的提供者、使用者、运营人、部署者的责任分担等制度。
人工智能能否更安全有效地赋能民航业,有赖于行业能否在规则内使用和监管人工智能。(作者王立志,系南京航空航天大学航空法与空间法研究院院长)(编辑:孙文瑾 校对:李海燕 审核:程凌)