金融行业如何通过GPU资源池等提高算力利用率提升大模型训练与推理效率？| 线下同行交流活动（1月20日·深圳站）报名中
金融行业如何通过GPU资源池等提高算力利用率提升大模型训练与推理效率？| 线下同行交流活动（1月20日·深圳站）报名中
talkwithtrend
talkwithtrend.com社区（即twt社区）官方公众号，持续发布优秀社区原创内容。内容深度服务企业内各方向的架构师、运维主管、开发和运维工程师等IT专业岗位人群，让您时刻和国内企业IT同行保持信息同步。
随着人工智能技术的不断发展，大模型训练与推理在金融行业中的应用越来越广泛。为了提高算力利用率，GPU资源池等计算技术逐渐成为金融行业中的重要基础设施。本次活动旨在探讨金融行业如何通过GPU资源池等提高算力利用率，提升大模型训练与推理效率，为金融行业的数字化转型提供有力支持。
目前，金融行业在大模型训练与推理方面存在算力利用率不足的问题。 虽然GPU资源池等计算技术已经得到了广泛应用，但是由于缺乏统一的管理和调度，GPU资源池的算力利用率仍然不高。同时，由于大模型训练与推理的计算复杂度较高，传统的计算方法已经无法满足需求，需要探索新的计算方法和技术。
为了助力深圳地区金融行业企业应对大模型应用算力方面的挑战，twt社区将于1月20日组织主题为 “金融行业如何通过GPU资源池等提高算力利用率提升大模型训练与推理效率？”线下同行交流活动 ，邀请来自银行和其他金融机构的实战专家与来自NVIDIA的解决方案专家共同进行探讨，欢迎深圳地区用户报名参与！
核心探讨问题：
1. GPU卡的跨物理机访问成为性能瓶颈， 如何建设多个GPU服务器的高效算力集群？
2. 如何提高GPU资源池的算力利用率，提升大模型训练与推理的计算方法和技术？
3. 如何将GPU资源池等计算技术应用于金融行业的大模型训练与推理中，并评估效果？
活动时间：
2024年1月20日 14:00-17:00
活动地址：
深圳 （报名后将统一发送具体地址）
报名方式：
1、如您希望参与本次活动，请将您的联系信息（姓名、单位、职务、手机、邮箱）发送邮件至.cn进行邮件报名，我们将在1个工作日内审核反馈；
2、点击文末阅读原文，到社区活动平台上直接点击报名，报名后我们会与您联系。
以上两种方式均可
支持企业：
日程：
| 时间 | 安排 |
|---|---|
| 13:30-14:00 | 签到，会前交流 |
| 14:00-14:20 | 开场介绍 |
| 14:20-14:50 | 银行大模型应用场景探索与基础设施建设趋势与挑战 |
| 14:50-15:30 | 银行大模型基础架构建设与算力资源利用率提升实践经验分享 |
| 15:30-16:00 | NVIDIA 加速计算解决方案在大语言模型方向的端到端应用 |
| 16:00-16:50 | 互动交流 |
| 16:50-17:00 | 结束、领取礼品 |
主持人：
王洋 招商基金 系统架构师
硕士研究生学历，曾就职于蚂蚁金服金融云团队、政府机关信息技术部等。擅长领域：云计算IAAS和PAAS平台规划与建设、系统架构设计、API治理、一体化运维平台建设以及DevSecOps等。ITIL认证，并在IEEE Computer发表论文” on-demand security architecture”，撰写专利“一种数据保护方法、装置及数据保护系统”（专利号：201010538235.8）。TWT社区专家，零信任产业标准工作组成员，基金行业信息安全白皮书编者成员，DevOps Master认证等。
分享嘉宾：
滕召森 某银行 数据分析师
邓俊峰 某金融行业 研发中心AI架构师
某金融拥有10多年金融行业算法研究及应用经验，熟悉大数据、人工智能领域技术及其应用场景，在金融AI领域发表多篇发明专利。紧密跟踪大模型技术，拥有大模型微调训练经验，曾在天池竞赛、kaggle竞赛等比赛中获得奖项。
张然 NVIDIA 金融行业解决方案架构师
NVIDIA中国区金融、零售方向资深解决方案架构师。在机器学习、深度学习方向从业多年，具备丰富的行业应用经验。
冯高锋 NVIDIA 技术市场高级总监
负责NVIDIA公司在中国区的高性能网络技术市场方案，提供关键大客户的技术支持和方案选型，长期从事云计算、人工智能，高性能计算行业支持，在 计算系统架构，软件优化等有多年积累。
席位有限，点击阅读原文，现在就来报名↙↙↙