在2026年陆家嘴论坛“全体大会六：科技创新赋能金融高质量发展”的讨论中，中国农业银行董事长谷澍就大模型在金融领域的应用风险发表了看法。他指出，完全消除大模型应用中的风险并不现实，关键在于如何在利用其优势的同时，有效管理其潜在风险。
谷澍提出，防控大模型风险需从四个维度入手。首先，针对金融应用场景的多样性，应采取分类施策的方法，根据不同场景的特点建立模型黑箱的分级管控机制，匹配差异化的技术路径和可解释性标准。例如，在信贷审批等高风险场景中，需强化模型透明度要求；而在客户服务等低风险场景中，可适当放宽技术约束。
其次，他强调需建立动态约束机制，通过设置参数标尺控制大模型的应用边界。由于大模型可能产生“幻觉”或过度泛化，必须结合人工决策机制，确保关键环节由人类专家最终把关。这种“人机协同”模式既能发挥算法效率，又能避免技术失控。
第三，谷澍建议构建AI对抗体系，利用技术手段防御技术风险。通过开发专门的AI监测工具，实时识别模型异常行为，建立多层次防御网络。这种“以AI制AI”的策略可显著提升风险处置的时效性和精准性。
最后，他着重强调了银行内部治理体系的重要性。需完善覆盖AI全生命周期的风险管理框架，平衡创新激励与风险管控。具体措施包括建立模型验证机制、强化数据质量管控、定期开展伦理审查等，确保技术发展始终在可控轨道上运行。
