大模型技术发展应用显现三大挑战，微众银行积极探索落地应用

7月2日，微众媒体学院系列活动在北京举行，本期活动以“大模型时代AI前沿与金融应用”为主题，邀请澜舟科技合伙人、联席CEO李京梅，微众银行首席人工智能官杨强，微众银行人工智能首席科学家范力欣等多位行业专家学者与媒体记者分享趋势洞察，探讨AI技术前沿与金融落地实践。

大模型和生成式人工智能的发展进入快车道

近年来，以大模型为代表的AI技术进入发展快车道，成为当下最受大众瞩目的热点话题。伴随大模型技术的飞速发展，全球人工智能技术发展和应用迭代速度都得到了极大提升，大模型技术也被认为是通用人工智能技术的核心引擎。

工信部发布的数据显示，截至2023年6月，我国人工智能核心产业规模已经达到5000亿，人工智能企业数量超过4400家。

澜舟科技合伙人、联席CEO李京梅表示，“近年来人工智能逐步演进，从只能做单个任务的专用模型的AI 1.0时代，到一个通用模型做广泛任务的AI 2.0时代，最终走向通用人工智能（AGI）。人工智能也从感知智能走向认知智能，再到生成智能及决策智能。”她指出，随着AI能力越来越强，其开发和使用越来越简单，结果也越来越可控。同时，AI产业具备广阔潜力，大模型的产业落地应用才刚刚开始，随着各个领域的产业升级对人工智能的需求不断增强，未来的渗透率还将进一步增加。

李京梅在微众媒体学院发表演讲

在业内专家看来，大模型技术在发展应用中显现三大挑战：一是从算力角度，大模型的训练过程中需要庞大的硬件算力资源支撑，大模型参数规模呈持续扩张趋势，对算力提出了更高要求；二是从算法角度，大模型生成内容可能存在安全风险，同时广泛存在隐形偏见的可能性；三从数据角度，近年来各项法律法规对私域数据的使用有“数据可用不可见”的要求，在医疗、金融等行业都存在海量自治的高质量数据，但受限于隐私无法共享利用。

微众银行积极探索AI技术的金融落地应用

在大模型的实践应用中，金融行业由于具备数字化程度高、商业化应用场景潜在价值高等优势，成为了AI大模型落地应用的最佳场景之一。作为一家全球领先的数字银行，微众银行积极探索将大模型等人工智能前沿技术应用于金融领域的多样化可能性，同时坚持“审慎发展”的原则，关注数据安全与隐私保护。以业界领先的隐私计算联邦学习技术为特色，微众银行构建起能够支撑和服务金融业务的场景化生成式AI Agent Store（人工智能业务助理矩阵）。

微众银行首席人工智能官杨强在分享时表示，大模型的应用落地涉及数据管理、算法优化、系统设计和成本控制等多方面的综合挑战，需要持续的技术创新和策略调整，以推动AI技术更加成熟、高效地服务于社会各个领域。他进一步指出，“AI Agent（人工智能业务助理）是大模型面向应用端发展的下一阶段，其基于大模型的通用能力，并结合相关领域知识适应不同场景需求。”

杨强在微众媒体学院发表演讲

据了解，在业务实践中，微众银行自研的生成式AI技术能够有效解决大模型幻觉（大模型在生成内容时产生错误或误导性结果）等技术难点，满足监管合规要求，已深度应用于客服、营销、质检、反欺诈、科技金融等核心业务场景，覆盖金融服务“前-中-后台”各个环节，提升金融服务的质效。

具体而言，在客户服务环节，微众银行通过客服Agent辅助坐席，不断提升24小时线上客服的分析和理解能力，让多轮对话更流畅自然；在营销环节，通过生成式大模型快速生成“千人千面”的海量营销素材，并通过联邦学习等技术更精准地找到需要金融服务的个人和小微企业群体；在风控环节，微众银行将人脸识别、声纹识别等AI技术应用在开户、授信、放款等金融服务多个环节，有效甄别欺诈行为，提升银行风控能力；在知识产权保护与创新方面，基于生成式AI与专利大模型打造的专利系统，帮助降低专利撰写难度，提高专利申请效率。

谈及联邦大模型与前沿探索时，微众银行人工智能首席科学家范力欣提出，联邦学习作为一种先进的分布式机器学习范式，允许参与方在不直接共享原始数据的情况下协作训练模型，为解决大模型应用落地的技术难题提供了创新路径。联邦大模型技术路线通过其独特的设计，不仅解决了数据时效性、模型幻觉、专业知识融合及算力资源消耗等挑战，而且在保护数据隐私和促进AI技术公平性方面迈出了重要一步，为大模型在各领域的广泛应用开辟了新的可能。

范力欣在微众媒体学院发表演讲

目前，微众银行已经在联邦大模型领域进行了诸多研究与探索，将最新研究成果陆续开源发布于联邦大模型开源框架FATE-LLM，推动前沿技术落地应用与普惠，并在多个国际顶级学术会议中发布了相关论文，促进前沿学术研究与交流。