大模型如何加速落地金融行业？腾讯云推出全栈解决方案

智能化正在成为金融行业变革的核心驱动。

11月23日，腾讯云正式发布金融行业大模型解决方案，让每个金融机构都拥有自己的大模型。

腾讯公司副总裁、腾讯云与智慧产业事业群COO、腾讯云总裁邱跃鹏指出，金融行业的数据资源丰富，实践场景广泛。通过将大模型与行业场景深度结合，有望将智慧金融服务提升到新水准，并催化更多融合创新场景，推动金融服务进入全新智能时代。

腾讯云金融行业大模型解决方案包含四层架构。在算力层，基于HCC高性能算力集群、云原生数据湖仓和向量数据库，提供高性能算力和数据接入能力；在平台层，腾讯云TI平台实现从数据预处理—模型训练—模型部署的一站式训练，配合训练加速套件，大幅提升模型训练的效率。

在大模型层，通过模型商店MaaS，支持接入腾讯混元大模型、金融行业大模型及20多个主流开源模型。金融机构可以根据不同细分场景的业务需求，灵活选择各类大模型，降低大模型使用成本。

今年9月，腾讯自研的超千亿参数规模通用大模型——腾讯混元亮相，并通过腾讯云正式对外开放。近期，腾讯混元还进行了重大升级，正式开放“文生图”能力，且中文能力整体超过GPT3.5水平，代码能力大幅提升20%，达到业界领先水平。

在应用层，腾讯云基于金融行业大模型的能力，结合金融行业前中后台业务场景，打造了一系列智能应用。

此外，腾讯云基于自身的数据隐私、内容安全解决方案，通过模型私有化部署、权限管控和数据加密等方式，确保金融机构在打造模型与使用模型的过程中安全合规。

作为数字化和智能化应用的前沿领域，金融行业数据资源丰富，实践场景广泛，拥有与大模型深度结合的前景。

金融大模型要立足场景和高质量数据，追求效率和成本的最优解，并不是参数越大越好。为了打造专业合规的金融行业大模型，腾讯云通过预训练、金融领域垂类任务精调、强化学习的方式，持续积累和强化金融行业大模型。在通用能力的基础上，腾讯云金融行业大模型解决方案具备金融领域知识推理、研报撰写、智能舆情等专业下游任务能力。

其中，智能客服场景，将金融大模型的对话问答能力和数字人结合，比传统智能客服更加智能精准，提供真人体验和个性服务；单据识别场景，通过零样本和小样本学习即可灵活适配各类识别场景，大幅降低运营成本；投顾辅助和舆情分析场景，支持用户通过自然语言获取目标资讯，高效自动提取要点，自动撰写内容；安全风控场景，用垂直场景的小量样本也可以支撑定制化风控模型的快速构建；代码场景，大幅减轻人工撰写代码的负荷，并提升代码质量，进一步强化敏捷开发的效率。

峰会现场，融360联合创始人、董事长、CEO叶大清指出，融360依托腾讯云金融行业大模型解决方案，构建从基础层到应用层全覆盖，拥有架构灵活低耦合的解决方案。通过合理的产品规划、标准的业务流程设计，建立完善的纠错机制，让AI产品快速在业务中落地。

某交易所联合腾讯云，构建了服务证券行业的智能舆情平台，结合大模型技术，从舆情检索、摘要和内容生成等业务场景进行探索。目前，该平台已在业务系统中投入使用，提供舆情监测服务，助力行业监管。

面向金融行业的特殊合规要求，腾讯云助力金腾科技，采用公私域结合的模式，在公有云环境实现热点分析、行情总结、股市收评等场景应用；在私有云环境下，构建企业专属大模型，帮助金融机构实现产品信息查询、业务指引、投资建议、投后管理等业务场景。

生态共建是加速大模型落地产业最有效的路径。腾讯云携手中国银联，加速大模型的MaaS建设；与某头部保险公司共创，加速大模型的保险场景应用；并启动腾讯云新智能生态拓展计划，首批涵盖11家行业生态伙伴。

腾讯云副总裁胡利明表示，针对金融客户在大模型落地应用中的难点和需求，腾讯云将和行业联创、共创，不断探索新的技术应用和场景落地，让每一个金融机构快速拥有高精度、高性价比的AI助手。