新加坡金融管理局（MAS）近日发布首份针对金融机构的人工智能风险管理指南，要求所有本地行业参与者在部署人工智能前必须接受独立审查。作为全球重要的金融中心，新加坡以严格的监管和低税收环境著称，MAS 旨在通过该指南确保国家维持这一地位。
指南指出，尽管人工智能能提升业务绩效，但其复杂性和概率性质带来了更大的不确定性，可能导致难以识别的偏见或意外行为。MAS 特别强调，生成式人工智能的风险高于传统人工智能。由于模型复杂性更高，训练数据中的噪音、非代表性数据以及模型遇到未见过的场景时产生的不可预测性，均构成潜在风险来源。监管机构进一步警告称，代理型人工智能可能会进一步扩大这些风险。
为应对上述挑战，MAS 呼吁金融机构扩大其风险管理框架以涵盖人工智能应用，并要求董事会和高级管理层对此负责。具体而言，金融机构在将任何人工智能用例（包括基础系统或模型）投入生产之前，必须交由不参与其开发的第三方进行独立审查，以确保符合评估和测试等控制措施。此外，受监管实体还需进行技术和网络安全审查，保证人工智能能以受控且安全的方式部署。
鉴于人工智能的动态特性及模型随时间推移可能出现的性能下降或陈旧化问题，MAS 要求金融机构对自有系统及任何第三方支持的应用程序实施持续监测，以确保其始终按预期运行并保持适用性。对于依赖第三方供应商的情况，MAS 明确表示，供应商缺陷不能作为金融机构推卸责任的借口。金融机构仍需对其服务中使用的所有人工智能（无论由谁开发或运营）承担最终责任，并应从第三方获取充分保证，评估其适用性；若存在约束或保证缺口，则需实施补偿性控制。
指南还规定，新加坡金融机构必须维护一份最新的人工智能库存清单。若因第三方未披露其服务中使用了人工智能而导致无法完全掌握情况，金融机构需制定策略来管理这种“未知”人工智能带来的风险。同时，针对高风险应用中的人工智能，金融机构需制定应急计划和备用方案，包括替代系统或手动流程，以确保在人工智能出现故障或出现意外行为时的业务连续性。该指南将于 2027 年 10 月 7 日正式生效。
