阿里巴巴申請數據處理專利，解決注意力計算效率低的問題

金融界 2024 年 9 月 6 日消息，天眼查知識產權信息顯示，阿里巴巴（中國）有限公司申請一項名爲“數據處理方法、裝置、電子設備及計算機可讀存儲介質“，公開號 CN202410426150.2，申請日期爲 2024 年 4 月。

專利摘要顯示，本申請公開了一種數據處理方法、裝置、電子設備及計算機可讀存儲介質，涉及大模型技術領域。其中，該方法包括：獲取目標查詢序列中的目標位置數據；獲取目標位置數據對應的查詢矩陣，鍵矩陣和數值矩陣；在對目標位置數據執行注意力計算前，對數值矩陣進行轉置，得到目標位置數據對應的轉置矩陣；基於查詢矩陣，鍵矩陣，以及目標位置數據對應的轉置矩陣，對目標位置數據執行注意力計算，得到目標位置數據對應的注意力結果。本申請解決了相關技術中注意力計算效率低的技術問題。

本文源自金融界