Copyright 2009-2023 奥运星 版权所有 京ICP备18049689号-19
金融界2024年2月24日消息,据国家知识产权局公告,OPPO广东移动通信有限公司申请一项名为“数据处理方法及装置、电子设备、存储介质“,公开号CN117591556A,申请日期为2023年11月。
专利摘要显示,本发明公开了一种数据处理方法及装置、电子设备、存储介质;所述方法包括:将输入数据输入所述大语言模型的缓存进行查询,所述大语言模型的缓存包括采用树形结构存储的多个访问数据,所述访问数据包括访问输入和访问结果;若所述缓存中查询到与所述输入数据对应的目标访问数据,输出所述目标访问数据对应的访问结果,所述目标访问数据为所述多个访问数据中的任一个。所述方法能够将大语言模型的用户访问先经过树形结构的缓存,缓存中存储有大语言模型对应的多个访问数据,打中缓存的用户访问能够直接输出查询结果,而不再前往大语言模型。所述方法具有较快的查询速度,且能够显著降低大语言模型运行成本。