(19)国家知识产权局 (12)发明 专利申请 (10)申请公布号 (43)申请公布日 (21)申请 号 202210386429.3 (22)申请日 2022.04.11 (71)申请人 上海壁仞智能科技有限公司 地址 201100 上海市闵行区陈行公路238 8 号16幢13层13 02室 (72)发明人 不公告发明人 　 (74)专利代理 机构 北京市柳沈 律师事务所 11105 专利代理师 彭久云 (51)Int.Cl. G06F 9/50(2006.01) G06F 9/54(2006.01) G06F 15/173(2006.01) G06F 15/80(2006.01) G06F 17/16(2006.01) (54)发明名称 数据处理集成电路 (57)摘要 本发明提供一种数据处理集成电路。 数据处 理集成电路包括至少一个计算单元(compute   unit)电路。 计算单元电路用以执行在一个工作 组(workgroup)中的多个线程组(warp)。 每一个 计算单元电路包括单一个张量核(ten sor core) 电路。 张量核电路用以对所述多个线程组中的一 个线程组执 行张量计算。 权利要求书2页 说明书4页 附图4页 CN 114780236 A 2022.07.22 CN 114780236 A 1.一种数据处 理集成电路， 其特 征在于， 所述数据处 理集成电路包括： 至少一个计算单元电路， 每个所述计算单元电路用以执行在一个工作组中的多个线程 组， 其中所述至少一个计算单元电路的每一个包括单一个张量核电路， 以及所述张量核电 路用以对所述多个线程组中的一个执 行张量计算。 2.根据权利要求1所述的数据处理集成电路， 其特征在于， 所述数据处理集成电路还包 括： 二级缓存， 耦接 至所述至少一个 计算单元电路。 3.根据权利要求2所述的数据处理集成电路， 其特征在于， 所述至少一个计算单元电路 的任一个包括： 数据总线， 其中所述张量核电路耦接 至所述数据总线； 以及 加载存储单元电路， 耦接 至所述数据总线以及所述 二级缓存， 其中所述张量核电路通过所述数据总线以及所述加载存储单元电路访问所述二级缓 存。 4.根据权利要求3所述的数据处理集成电路， 其特征在于， 所述至少一个计算单元电路 的所述任一个还 包括： 至少一个执行单元电路， 耦接至所述数据总线， 每个所述执行单元电路用以对所述多 个线程组中的一个执 行矢量计算， 其中所述张量核电路通过所述数据总线提供所述张量计算的计算结果给在所述至少 一个执行单元电路中的寄存器堆以供 所述至少一个执 行单元电路使用。 5.根据权利要求3所述的数据处理集成电路， 其特征在于， 所述至少一个计算单元电路 的所述任一个还 包括： 至少一个执行单元电路， 耦接至所述数据总线， 每个所述执行单元电路用以对所述多 个线程组中的一个执 行矢量计算， 其中所述张量核电路通过所述数据总 线、 所述加载存储单元电路以及所述二级缓存将 所述张量计算的计算结果存放于在所述数据处理集成电路外部的主内存中的工作 组共享 内存， 以及 所述至少一个执行单元电路通过所述数据总 线、 所述加载存储单元电路以及所述二级 缓存从所述工作组共享内存取用所述计算结果。 6.根据权利要求2所述的数据处理集成电路， 其特征在于， 所述至少一个计算单元电路 的任一个包括： 随机存取存 储器， 其中所述张量核电路耦接 至所述随机存取存 储器； 以及 加载存储单元电路， 耦接至所述随机存取存储器以及所述二级缓存， 其中所述加载存 储单元电路被配置为通过所述二级缓存将在所述数据处理集成电路外部的主内存的数据 加载至所述随机存取存储器， 以及所述加载存储单元电路被配置为将所述随机存取存储器 的数据通过 所述二级缓存 存储至所述主内存。 7.根据权利要求6所述的数据处理集成电路， 其特征在于， 所述至少一个计算单元电路 的所述任一个还 包括： 至少一个执行单元电路， 耦接至所述随机存取存储器， 每个所述执行单元电路用以对 所述多个线程组中的一个执 行矢量计算，权　利　要　求　书 1/2 页 2 CN 114780236 A 2其中所述张量核电路将所述张量计算的计算结果存放于所述随机存取存储器以供所 述至少一个执 行单元电路使用。 8.根据权利要求6所述的数据处理集成电路， 其特征在于， 所述至少一个计算单元电路 的所述任一个还 包括： 至少一个执行单元电路， 耦接至所述随机存取存储器， 每个所述执行单元电路用以对 所述多个线程组中的一个执 行矢量计算， 其中所述随机存取存 储器包括 一级缓存， 所述张量核电路将所述张量计算的计算结果存放于所述一级缓存以供所述至少一个 执行单元电路使用。 9.根据权利要求6所述的数据处理集成电路， 其特征在于， 所述至少一个计算单元电路 的所述任一个还 包括： 至少一个执行单元电路， 耦接至所述随机存取存储器， 每个所述执行单元电路用以对 所述多个线程组中的一个执 行矢量计算， 其中所述随机存取存 储器包括 一级缓存， 所述张量核电路通过所述一级缓存、 所述加载存储单元电路以及所述二级缓存将所述 张量计算的计算结果存放于在所述数据处理集成电路外部的主内存中的工作组共享内存， 以及 所述至少一个执行单元电路通过所述一级缓存、 所述加载存储单元电路以及所述二级 缓存从所述工作组共享内存取用所述计算结果。 10.根据权利要求6所述的数据处理集成电路， 其特征在于， 所述至少一个计算单元电 路的所述任一个还 包括： 至少一个执行单元电路， 耦接至所述随机存取存储器， 每个所述执行单元电路用以对 所述多个线程组中的一个执 行矢量计算， 其中所述随机存取存 储器包括 一级缓存以及工作组共享内存， 所述张量核电路将所述张量计算的计算结果存放于所述工作组共享内存以供所述至 少一个执 行单元电路使用。 11.根据权利要求1所述的数据处理集成电路， 其特征在于， 每个所述计算单元电路内 部和/或每 个所述工作组中的多个线程组之间的同步范围为工作组。权　利　要　求　书 2/2 页 3 CN 114780236 A 3