服务器集成问题，我们服务器现在各种品牌（浪潮、华为、戴尔等品牌2012-2023年不同时期采购）、不同CPU（Intel、AMD），PBS调度无法集成，即当前计算任务只能在一个节点上计算，不能在多个节点上计算，这样资源就不能最大程度发挥出来，之前PBS厂家altair也深入沟通测试，没有好办法解决，未来服...(more)

业务人员的业务需求，如何转换为对数据的请求？在众多数据表中， 如何找到和目标业务有关的数据表

金融行业涉及大量敏感的客户和交易数据，建立大模型需要处理和存储这些数据。确保数据的隐私和安全是至关重要的。在处理大规模金融数据时，有哪些最佳实践和技术措施可以减少数据泄露和滥用的风险？...(more)

随着AI大模型的普及应用，保护隐私和数据安全的重要性愈加突出。通过加强数据安全保护、强化用户隐私保护以及进一步加强技术研究和创新，我们能够更好地应对AI大模型带来的智能涌现，并确保隐私和数据的安全性。...(more)

微调过程中，有很多种种任务，如何收集和标注多种情况的数据，对提升大模型的综合能力应对有重要意义，希望大家可以针对：长尾场景下的数据如何清洗进行探讨，可以从方法，措施，以及注意点方面进行共识交流？...(more)

在私有化部署的场景下，如何利用模型压缩技术降低模型的计算复杂度和内存占用，使得大模型能够在资源有限的设备上运行，以降低大模型的推理训练成本。

1.背景：随着人工智能技术的快速发展，大型企业纷纷投入到大型模型（如大语言模型、多模态大模型等）的研发与应用中。大模型因其强大的理解和生成能力，在各个领域都有着广泛的应用前景。然而，要将大模型真正应用于实际场景，为企业带来价值，就需要进行微调项目，这是一个涉及技术研发、...(more)

1.该议题探讨评估微调后大模型在实际业务场景中效果的性能指标，确保模型优化与业务目标一致。2.一些个人看法：性能指标应反映模型准确性、效率、稳定性及业务相关指标，如用户满意度和成本节省。准确性指标包括精确度等；效率指标关注响应时间；稳定性指标评估模型抗扰动能力；业务...(more)

大模型作为新的应用范式，对数据存储的需求与传统业务有所不同。本议题交流核心是分析大模型应用对数据存储需求的特殊性在哪些方面？ 又有哪些与传统业务数据存储需求一致的地方？...(more)

向量数据库定位为大模型落地解决数据更新、知识图谱构建、消除幻觉等问题，当前向量数据库市场存在不同的技术路线和诸多厂商的产品，企业面临根据自身应用场景和大模型技术栈，选择适合自身需求的向量数据库的难题。通过本话题的探讨重点考察向量数据类型、向量检索算法、数据...(more)

本议题重点围绕：加速训练效率可以采用哪些技术手段？以及存储技术对加载数据减少GPU等待时间、降低训练耗时等方面的作用？

微调后大模型容易出现灾难性遗忘，导致其他能力下降。使用什么数据和技术组合，能提升特定任务的同时，不造成其他能力丧失，对企业处理多业务功能需求有很大意义。

在银行风控领域，模型广泛地应用于舆情监测、客户关系挖掘、客户评级、异常预警等场景，也积累了大量的规则和算法，并产生了较大的价值。在当前大语言模型的讨论中，风控是比较热门的潜在应用场景之一，那么大语言模型的什么能力，有可能应用在风控的什么场景，并产生优于原有策略或模...(more)

大模型能够很好的处理很多自然语言相关的问题，但是在使用的过程中，有时候会给出一些明显的，极端错误的答案，这往往会给客户或者一线人员造成较大的迷惑，我们该如何处理这些极端错误答案？...(more)

1.该议题希望构建大模型的评估框架，以科学选择适宜的大模型，确保在特定业务中实现卓越性能。2.一些个人看法评估标准：准确性、效率、资源消耗、模型透明度和系统兼容性。适配性：评估模型在不同数据和任务中的适应性和泛化力。实践案例：案例研究，指导模型选择与评估。3.该议题的...(more)

金融行业对于决策的解释和透明度要求较高。大模型的黑盒特性和复杂性可能会对模型的解释性和可解释性提出挑战。确保模型的决策过程是可解释和可理解的，以满足监管和合规的要求，是一个重要的问题。如何确保大模型的决策过程是可解释和透明的？有哪些方法可以增加模型的解释性...(more)

大模式如何与原有架构（如数据湖、湖仓一体、数据仓库）相结合，成为了企业架构中需要考虑的问题。企业需要对现有的数据架构进行全面的评估，了解其功能、数据处理能力、存储容量、查询性能等，有助于确定大模型与原有架构结合的方式和可行性。企业还需定义统一的集成接口标准，使大...(more)

大模型训练过程比传统的分布式训练复杂,训练周期长达数月。本议题核心研讨如何运用存储技术手段提高大模型训练的数据存储效率。

当金融行业选择训推一体化架构建设大模型时，需要提前考虑那些方面的因素，通过那些方面进行可行性分析？