Navigation menu
新闻中心
DeepSeek开源周第一天榨干显卡机能 网友怒赞是真
快科技2月24日新闻,本日,DeepSeek正式启动开源周,首个开源的代码库为Flash MLA。据懂得,这是一个针对Hopper GPU优化的高效MLA解码内核,专为处置可变长度序列而计划,现在已投入现实出产利用。别的,与传统解码器比拟,Flash MLA存在在处置可变长度序列时,可能明显进步盘算效力跟速率的特色。现实上,作为DeepSeek开源的第一个名目:FlashMLA,能够懂得为专门为高机能显卡(Hopper GPU)计划的“AI减速东西”。它的中心功效是让AI模子在处置长度不牢固的数据时更高效。比方,当AI同时处置长句子跟短句子时,FlashMLA能静态调剂资本调配,防止挥霍算力。据媒体报道,现在有网友实测表现,它在处置速率跟盘算效力上濒临H800显卡的实践极限(内存速率达每秒3000GB,算力达580万亿次/秒)。这象征着将来AI利用(照实时翻译、内容天生)可能更快、更省本钱。开辟者现已可无偿使用这一代码优化本人的AI名目。网友们纷纭点赞,向DeepSeek工程团队致以高尚的敬意,有些网友乃至不敢信任工程团队颁布的数据,但很快有人用上了,而且贴出实测数据。有人对此表现,“DeepSeek王炸残局,FlashMLA是真正能减速AGI过程的。”有人称颂说,“DeepSeek是真正的Open AI。”【本文停止】如需转载请务必注明出处:快科技义务编纂:秋白