FMLC在报告中设置了这样一个案例：一名受托人代表一组债权人持有担保资产。在准备出售其中一项资产时，受托人使用人工智能取得估值、审阅估值并提出出售价格建议。受托人没有自行审阅估值，也没有检查人工智能给出的具体结果，而是直接按照建议价格出售了资产。事后发现，该价格远低于市场价值。

受托人并非完全放任人工智能自行运作。其已经建立了有关人工智能训练和监测的系统与控制机制，也设置了定期审阅人工智能输出的流程，只是不会逐项检查每一个结果。由此，产生了受托人是否满足对债权人所负的信义义务的问题。

人工智能正在表现出越来越强的自主性。所谓“代理型人工智能”，不仅能够与人沟通，还可以代表部署方访问其他系统，自主选择实施步骤并完成特定任务。从技术表现来看，它似乎很像代表他人行事的“代理人”。

但FMLC认为，技术意义上的“AI代理人”与法律意义上的代理人并不是一回事。法律上的代理人应当是自然人或者法人，能够代表委托人创设、变更或者终止法律关系。人工智能既不是自然人，也不是法人，不能拥有资产、取得权利或者承担义务。因此，无论人工智能的功能多么复杂，都不能成为法律意义上的代理人。

FMLC同样不赞成将人工智能类比为雇员。传统替代责任通常需要考察雇员的行为是否与其工作具有足够紧密的联系，以及其是否意在促进雇主的业务。但人工智能没有独立于部署者的主观目的，也不存在与雇佣合同相对应的安排。其输出可能受代码、训练数据、参数和具体输入等多重因素影响，难以直接套用关于雇员授权范围和行为目的的判断方法。

因此，FMLC主张采取更为传统的分析路径：人工智能仍是一种工具。它可能复杂、强大，甚至具有不可预测性，但并不因此成为独立的法律主体。如果金融机构使用人工智能作出陈述、提供建议或者完成交易，相关行为原则上仍应视为部署者的行为。部署者不能以决定系人工智能自主作出为由，将相关行为与自身分离。相应地，人工智能也不能成为承担合同义务、侵权责任或者信义义务的主体。

不过，将人工智能视为工具，并不意味着部署者对其造成的一切损失都承担严格责任。是否承担责任，仍须回到具体法律关系和责任基础。例如，在过失责任中，需要审查部署者在选择、训练、使用和监测人工智能时是否尽到合理注意。

FMLC认为，在金融服务中使用人工智能，原则上不会改变既有的技能注意和勤勉义务。金融机构可能在后台使用人工智能辅助分析，也可能让客户直接与人工智能系统互动。无论采取何种形式，人工智能都只是金融机构提供服务的组成部分。法律所审查的并不是人工智能本身是否属于一个“合理的人工智能”，而是部署人工智能的金融机构是否采取了合理措施。

具体而言，部署者可能需要合理选择和微调现成系统，或者开发、训练定制系统；向系统提供适当的数据、输入和提示；了解人工智能的能力与局限；对系统进行维护和持续监测，并在适当情况下检查其输出。人工智能越复杂，内部运行方式越不透明，这些要求越为重要。报告指出，人工智能的选择、训练、监测以及相关记录，可能成为法院判断部署者是否尽到合理注意的重要依据。随着可解释人工智能的发展，如果存在合理可得且有效的透明系统，金融机构仍在高风险业务中使用难以解释的“黑箱”系统，也可能被认为没有合理管理相关风险。

但这套分析不能直接回答信义义务问题。一般注意义务主要关注部署者是否合理选择和管理工具。信义义务则要求信义义务人对委托人保持忠诚，并在行使权力和裁量时作出有意识的考虑。因此，即使人工智能系统的选择、训练和监测均符合相应标准，也不当然意味着信义义务已经履行。这也解释了前述案例中的矛盾：受托人可能已经建立较为完善的人工智能管理机制，甚至在一般注意义务层面采取了合理措施，但如果其没有亲自行使法律要求其承担的判断和裁量，仍可能违反信义义务。

信义义务产生于信义关系之中，即一方在特定事项上为另一方或者代表另一方行事，并承担相应的忠诚义务。FMLC援引英国判例指出，信义义务的核心是对委托人保持“单一利益原则”。由此至少衍生出“不获利原则”和“不冲突原则”：信义义务人不得利用受信任地位为自己获利，也不得将自己置于个人利益与所负义务可能发生冲突的境地。

在金融市场中，并非所有金融机构与客户之间的关系都会产生信义义务。银行为客户持有存款或者提供一般商业银行服务，通常不会因此形成信义关系。金融机构使用人工智能，也不会在原本不存在信义义务的情况下，仅因使用了新的技术工具而创设信义义务。是否存在信义关系，仍取决于双方关系的内容和背景。

对于已经负有信义义务的主体，FMLC并不反对其使用人工智能。人工智能可以帮助其收集信息、分析数据、进行估值和提出建议。报告甚至认为，未来如果人工智能能够比信义义务人更好地完成某些工作，信义义务人可能需要说明不使用人工智能的理由。但人工智能的使用不能改变信义义务的承担主体。信义义务人仍应对相关决策负责，并确保人工智能的使用符合委托人的最佳利益。例如，在系统训练和设置中，需要防止人工智能作出可能违反“不冲突原则”的决定。FMLC认为，法院不太可能接受这样的主张：信义义务人将职责完全交给人工智能，使决策过程自动化，并以人工智能取代自身判断，却仍然履行了信义义务。

一般注意义务下，部署者未必需要逐一审查人工智能的全部输出。只要系统的选择、训练和监测达到相应标准，其仍可能被认定已经尽到合理注意。但在信义义务下，当事项需要信义义务人行使权力和裁量时，其必须进行有意识的考虑。

回到开篇案例，人工智能可以协助受托人取得和分析估值，也可以提出出售价格建议。但出售担保资产涉及受托人代表债权人作出判断和裁量。受托人在没有审阅估值和具体建议的情况下直接出售资产，实质上是以人工智能取代了自身判断。即使其已经建立人工智能训练和监测机制，FMLC仍预期，法院会认定其没有履行信义义务。

文字 | 王奕心

编辑 | 郑   倩