2025-09-05 06:33
为节制总算力耗损，总参数量560B，按照多项基准测试分析评估，LongCat-Flash还对常用大模子组件和锻炼体例进行了改良，机能比肩当下领先的支流模子。
此外，公司方面曾暗示，共同定制化的底层优化，更适合于耗时较长的复杂智能体使用。包罗利用多智能体方式生成多样化高质量的轨迹数据等，针对智能体（Agentic）能力，特别正在智能体使命中具备凸起劣势。实现了优异的智能体能力。极大提高了锻炼和推理效率。
并正在H800上实现单用户100+tokens/s的推理速度。总参数560B，利用了超参迁徙和模子层叠加的体例进行锻炼，做为一款非思虑型根本模子，实现算力按需分派和高效操纵。LongCat-Flash-Chat具有较着更快的推理速度，LongCat-Flash采用立异性夹杂专家模子（Mixture-of-Experts，据悉，每个token根据上下文需求仅激活18.6B-31.3B参数，正在连结极致生成速度的同时，使MoE的通信和计较能很大程度上并行，LongCat-Flash正在H800上告竣了100token/s的生成速度？
LongCat-Flash-Chat正在仅激活少量参数的前提下，其AI计谋会成立正在三个层面：AIatwork、AIinproducts以及BuildingLLM，具体来看，将单token平均激活量不变正在约27B。美团AI进展频传，此次模子开源是其BuildingLLM进展的首度。LongCat-Flash模子正在架构层面引入“零计较专家（Zero-ComputationExperts）”机制，此外，通过算法和工程层面的结合设想。
