随着人工智能从试验阶段走向日常专业工作,更高的标准已成为必然要求。
并非所有人工智能的应用方式都相同,因此也不应以单一标准来衡量。在承担专业责任的行业中,人工智能所需达到的标准,必须高于通用生产力工具。当输出结果会影响法律判断、财务披露、监管申报或客户建议时,”大致正确”远远不够。在真正关键的时刻,结果必须准确、透明,并且能够经受现实世界的审视与验证。
受托责任级人工智能(Fiduciary-Grade AI™)是汤森路透针对高风险专业领域提出的人工智能标准。它专为负有注意义务、并受监管约束的专业人士而设计:以权威的、面向特定领域的内容为基础;以严格的隐私与安全保障为防护;由相关领域的专家参与塑造;并致力于产出透明、可验证的结果。
大致正确远远不够
在全面地将人工智能更深地融入日常工作流程之前,高精度领域的专业人士需要确信:他们所使用的人工智能经得起审视,其输出结果是可靠且可验证的。
长期以来,专业信任由标准、资格认证与受托责任所定义。当一个人拥有某项专业资格——例如会计领域的注册会计师资格,或法律领域的专业学位与执业资格——我们同时理解两件事:他们的专业能力,以及约束其行为方式的义务。如果我们期待人工智能承担越来越多原本由人完成的工作,那么正如我们评估一个人是否胜任某项工作一样,我们也必须验证人工智能是否胜任其职责。
高风险专业工作需要不同的标准
在以准确性、问责制与信任为优先的受监管行业中,人工智能必须按照受托责任级的标准来构建。这意味着:真实、可考据的权威来源,可追溯的推理过程,以及透明的、可供人工审阅与验证的输出结果,并能够满足专业与监管层面的要求。
随着人工智能承担越来越多的专业工作,它并不因此承担任何额外的责任。责任始终完全在于人。专业人士仍需对所作出的判断、所提供的建议以及由此产生的结果负责。受托责任级人工智能的设计目标,是支持而非取代人的专业判断——它所产出的工作成果,应当能够在真实的专业与监管审视下被检验、被解释、被辩护。
受托责任级人工智能的四项原则
受托责任级人工智能的定义,不仅在于它产出什么,也在于它被允许访问、留存和依赖哪些内容来生成影响专业判断的结果。
一、以权威为根基,并具备恰当的上下文。
受托责任级人工智能系统的实质性输出,必须源自权威的、经过甄选的、面向特定领域的内容,而不仅仅是从公开互联网上抓取的信息;同时,它还须具备完成专业工作所需的完整上下文。每一项实质性输出,都必须可以追溯到某个来源,并且合格的专业人士能够独立定位、引用、核实并信赖该来源。只有当人工智能能够访问、理解并作用于特定的数据、知识、系统与工具时,它才能完成专业工作所要求的复杂、多步骤任务。
二、数据隐私与安全不可妥协。
在隐私至关重要的场景中,受托责任级人工智能以保护隐私为前提而构建。隐私与安全必须是系统架构中的结构性特征,而不是事后叠加的政策条款或可选配置项。
三、以人的专业能力构建,而不仅仅是人的监督。
专业工作流程必须在相关领域持证专家的实质性参与下进行设计、测试与持续优化。当出现模糊地带或风险时,系统必须能够识别自身的局限,并将专业人士重新引入决策环节,而不是生成一个夸大其可靠性的结果——由此使责任始终归属于人,使结果始终可被辩护。受托责任级人工智能还要求客户能够获得实时的人工支持,以确保透明与信任。
四、透明、可验证的推理过程。
通过清晰地呈现并标注其所依赖的来源,人工智能必须能够提供一条可供审阅的轨迹,说明系统做了什么、依据了什么,并且其详尽程度应足以让一位合格的专业人士——以及在适用情形下,监管机构、法院或审计人员——评估该结果的形成依据,进而判断结果是否可靠、是否经得起辩护。让规划、推理与执行过程中的每一步都对用户可见,对于年轻专业人士的学习与成长也至关重要。
这正是汤森路透所遵循的构建标准。随着人工智能日益深入受监管的专业工作,真正具有决定意义的问题已不再是”系统能否给出一个答案”,而是“专业人士能否验证并为这个结果负责”。
如需进一步了解相关解决方案在您所在区域的适用情况,欢迎联系您的汤森路透客户经理。
