金融实时数据平台建设之路

会议室:钻石宴会厅 B
出品人:陈磊

随着金融业务的深入发展,如何让数据服务满足日益增长的时效性要求,已经成为业界瞩目... 展开 >

专题出品人:陈磊

信也科技副总裁

陈磊本硕毕业于上海交通大学电子工程系,上海市首批人工智能高级职称专家,曾就职于中国移动、eBay、Opera Solutions,长期从事数据挖掘、数据工程、数据产品等相关方向的研发和管理工作。致力于打通数据科技、AI技术在金融场景的价值通路,形成数据、算法、工程的相互促进,最终实现在安全可信前提下的开发和服务的效率和效果的提升。

2017年加入信也科技,负责金融科技智能产品的行业赋能,自2019年开始负责大数据及AI中心,推动数据科技和AI的业务落地和前沿研究,形成了消费金融领域覆盖获客、风控、运营全流程的解决方案,支撑国内和国际多个国家的业务发展。建立了从风控特征到模型服务的高效链路,打造了全渠道智能获客系统,实现了风控在获客阶段的前置,达成了风险指标的持续优化。带领团队深耕机器学习、图计算、自然语言处理、智能语音等算法和工程能力,多篇文章被 KDD、IJCAI、NeurIPS、TKDE 等国际会议期刊收录。多项产品荣获各级奖项,“G-ASR:支持多语种的高性能离线流式一体语音识别系统”获世界人工智能大会算法金奖。

相关链接:
信也科技副总裁陈磊:数据应用与数据合规如何兼顾?

地点:钻石宴会厅 B

专题:金融实时数据平台建设之路

随着金融业务的深入发展,如何让数据服务满足日益增长的时效性要求,已经成为业界瞩目的焦点。这其中,平台化建设的优化将直接影响到数据开发和应用的效率及效果。

本次专题会议,我们将邀请到金融行业的数据技术专家,在充分考虑数据全生命周期和金融业务独特属性的基础上,深入探讨实时数据平台的设计理念、技术难题、组件选择以及场景应用等诸多议题。同时,也将结合 Cloud-Native 和 AI-Native 的最新发展,对实时数据平台的未来走向和演变进行展望。  

by 袁一

中国工商银行
大数据和人工智能实验室/部门经理

本次演讲,将主要介绍工商银行大数据平台在近几年数字化转型过程中,对大数据平台的使用越来越重,因此立足于解决业务痛点,在近几年里主要推进了如下几项工作:

1、业务侧对数据时效的要求越来越高,原先T+1已无法满足,而基于 ORC 文件做定时存增量合并的方式资源开销很大,因此引入了 Flink+Hudi 的实时数仓加工模式,并提炼了设计模式,最终使数据加工时效最快达到了1分钟级。同步通过 CDC 技术,将主机或 Oracle 等数据库中产生的数据实时地同步到大数据平台,实现业务下主机。

2、随着实时数仓技术的不断成熟,工商银行大数据平台逐步将所有数据切换成实时入湖的 Hudi 格式,形成了基于 Flink 开发的实时数仓和基于 Spark 开发的离线数仓的两条并行加工链路,两条加工链路之间数据可以共享,无需冗余存储,同时为配合实时数仓链路中 Flink 中所要关联的维表,工商银行大数据平台根据不同的业务场景,建设了关系型、键值型、多维搜索、时序、空间、向量等多种类型的联机数据库。

3、推进大数据平台向存算分离云原生化演进。工商银行大数据平台最大的 Hadoop 集群目前规模近3000台物理机,随着集群规模越来越大,在资源隔离、弹性扩缩容等方面的不足越来越明显。因此通过参照互联网企业的做法,开始实践云下存算一体向云原生存算分离架构演进,在此过程中同步推动了数据平台信创转型。

4、建设 EasyDI 平台,在2022年面向全集团分析师提供了可视化报表开发工具,使报表开发不再依赖于科技。在2023年中通过策略模板中心形成了不同分行、不同部室之间用数模式复用的能力,构建了出生态。同时2023年2季度起正在研究基于生成式大模型技术实现对话式BI用数助理的课题,旨在通过 AI技术进一步降低用数门槛。

演讲提纲:

  1. 实时数仓技术在工商银行的技术实践及典型案例
  2. 工商银行在运营大规模大数据集群时的若干经验
  3. 工商银行在向大数据平台云原生架构演进的若干实践
  4. 工商银行大数据平台在实践信创转型时的若干经验
  5. 工商银行数据洞察平台(EasyDI)的若干实施

你将获得:

  • 了解到实时数仓技术在工商银行的技术实践及典型案例
  • 了解到工商银行在运营大规模大数据集群时的若干经验
  • 了解到工商银行在向大数据平台云原生架构演进的若干实践
  • 了解到工商银行大数据平台在实践信创转型时的若干经验
  • 了解到工商银行数据洞察平台(EasyDI)的若干实施

by 丁清华

上海华瑞银行
风控数据团队负责人

本次演讲,将主要介绍华瑞银行在推进智慧银行建设过程中,风险特征计算平台在应用过程中遇到的业务痛点,并借助大数据计算技术不断演进深化的过程,在近几年里经历的主要阶段,并推进了如下工作:

  1. 无独立的风险特征计算平台。我行成立初期,风控信息系统尚不完善,风险特征的计算功能耦合在贷款业务系统中。造成了以下问题:一是架构不清晰,风险特征计算功能较弱,依赖于业务系统的功能;二是缺乏统一的特征管理平台,造成重复开发,资源浪费;三是变更频繁,日常特征变更及策略迭代都需要进行生产变更,增加系统运行风险。
  2. 随着大数据计算技术的成熟,我行同阿里云平台合作,使用离线和实时计算技术,建设风险特征计算平台。利用 Blink、DataHub 实现实时风险特征计算,利用 maxcompute建设风险数据集市,离线计算风险特征,建设统一的应用平台实现风险特征的统一定义、计算、管理和服务调用等。
  3. 继续完善风险特征计算平台功能,将产品打造成全行的特征计算平台,并将功能同风险策略、模型等日常场景紧密结合。为策略经理提供更便捷的特征定义、配置、计算、测试、回溯和上线;为模型经理提供特征分布监控、稳定性分析、特征重要性分析等功能;为产品经理提供系统运行监控、元数据管理和分析、使用分析等功能。

演讲提纲: 

  1. 大数据平台的典型架构及发展历史
  2. 大数据技术在上海华瑞银行风控应用中的实践
  3. 上海华瑞银行实时特征计算平台的演进路线
  4. 未来风险特征计算平台的功能展望

你将获得: 

  • 了解到大数据平台的典型架构及在金融业的发展历史
  • 了解到大数据技术结合上海华瑞银行风控应用的真实场景
  • 了解到上海华瑞银行实时特征计算平台的演进路线
  • 了解到未来风险特征计算平台的展望,具备的典型功能

by 连林江

飞轮科技
COO & 联合创始人

当前,金融行业正在经历数字化转型的浪潮,伴随大数据、人工智能和云计算等技术的崛起。在此背景下,金融机构正面临如何融合多源数据、进行实时分析以赋能其业务的挑战。本次演讲旨在分享在多家金融机构中成功实施的现代化数据仓库方案,以及如何实现数据分析的实时性和一致性,以推动业务增长。

演讲提纲:

  1. 金融行业数字化转型的背景和挑战
  2. 现代化实时数据仓库的关键特点和价值
  3. 多家金融机构的成功案例分享
  4. 未来金融数据分析的趋势与展望

你将获得:

  • 了解金融行业数字化转型的趋势和挑战
  • 深入理解现代化实时数据仓库的技术特点
  • 从实际业务案例中学习最佳实践和经验
  • 探讨未来金融数据分析的发展方向

by 刘家闰

兴业银行
大数据基础平台负责人

本次演讲主要围绕兴业银行大数据平台体系,重点介绍实时数据服务模块的技术实践和应用赋能,以及在业务场景的驱动下兴业银行关于流批一体的探索。

1. 大数据基础平台是兴业银行在大数据领域实践和应用的关键底层平台,最早基于 Hive 主要提供历史数据的存储及服务,后经历了全方面的版本及服务升级后现已成为集离线计算、实时计算、联机分析、租户服务等多功能模块为一体的企业级 PaaS 平台。 
2. 近几年,随着业务场景对数据实效性的要求越来越高,传统的 T+1 式离线数据服务已无法满足业务诉求,兴业银行也早早布局,探索实时数据服务技术实践,形成了一套自己的实时数据服务体系,并迅速在行内进行了推广及落地,目前已为实时分析、实时推荐、实时营销、实时风控等多个业务场景赋能。 
3. 在实时数据服务技术不断发展的情况下,离线计算和实时计算如何整合、批量数据和流式数据如何作为一个整体提供服务也成为一个重要课题,兴业银行近两年也在流批一体技术上进行了诸多探索,根据行内数据应用的实际情况,确认了符合兴业银行数字化转型路线方针的流批一体技术建设目标和思路,并开展了对应的架构规划和实践落地。 

演讲提纲: 

  1. 兴业银行大数据平台体系架构
  2. 兴业银行实时数据服务技术实践
  3. 兴业银行实时数据服务赋能业务场景
  4. 兴业银行关于流批一体的探索

你将获得:

  • 了解银行业大数据平台体系架构发展历史
  • 了解兴业银行在实时数据服务上的技术实践,包括难点和解决方案
  • 了解兴业银行如何通过实时数据服务赋能业务场景
  • 了解兴业银行关于流批一体的探索,包括技术选型和业务效果

by 田杰

信也科技
数据开发总监

主要介绍信也大数据助力金融科技探索过程中,如何推进数据治理并平衡业务发展诉求,达成高效协同下的可持续发展思路:

1、效能:作为技术人,我们要干“良心活”,即“管生也要管养”: 通过平台来实现任务/资产/服务的一体化研测&运维及全生命周期管理,尽量降低历史负债风险和研发运维成本;以元数据管理为核心,信也大数据推出了自研的离线&实时一体化研发平台,以及在建设的服务配置化开发平台产品;

2、智能:如何实现数仓团队和业务分析师团队的”1+1>2”:  信也大数据对变量开发平台(玄策)做了2.0版升级,数据开发团队主打数仓基建和玄策任务主动治理,各个分析师团队专注业务变量开发,数据团队会把治理过程中的问题和经验,转化为平台智能的产品能力,面向所有开发者提升变量开发、上架及运维管理的便捷性;

3、传承:数据团队不仅仅有数据技术的经验积累,同样可以主动沉淀业务经验,并且过程里要敢于尝试积极主动的探索,成为场景数据解决方案的输出方;信也大数据目前在主动挖掘核心变量资产沉淀及其标准化管理,包括实时和离线变量,为集团营销和风险场景提效;

4、未来:业务场景的效能提升,云原生 和 大模型应用必然会占有一席之地,信也大数据以业务目标导向为前提,也在积极实践探索 Flink on Kubernetes 和 SQL 智能生成, 期待能对业务降本增效实现更好的助力;

演讲提纲: 

  1. 信也大数据研发运维一体化实践——Plink 实时计算平台案例 
  2. 信也大数据变量协同研发&治理——玄策2.0升级回顾 
  3. 信也大数据实时变量开发及应用的若干经验——Rubik 变量&服务治理 
  4. 信也科技大数据创新历程回顾——业务导向的创新探索简介 

你将获得:

  • 了解金融大数据研发运维一体化的若干经验,以实时计算平台(Plink)作为案例 
  • 了解金融大数据离线变量全域协同开发“1+1>2”的效能实践案例 
  • 了解金融大数据实时变量开发全链路的相关经验 
  • 了解信也科技大数据创新之路,包括 Flink on Kubernetes 等 

交通指南

上海中谷小南国花园酒店

China Grain Hotel
地址:上海市杨浦区佳木斯路777号(近营口路口)
如您在购票过程中遇到问题,请扫码咨询票务小姐姐