迷你 AI 开源模型 TinyLlama 发布,占用仅为 637 MB

迷你 AI 开源模型 TinyLlama 发布,占用仅为 637 MB

据站长之家1月6日报道,TinyLlama团队发布了一款占用仅637MB的高性能AI开源模型TinyLlama。TinyLlama是Meta开源语言模型Llama2的紧凑版本,该模型有着10亿参数,性能优越,适用于多领域的语言模型研究,其最终版本在性能上超越了现有规模相当的开源语言模型,包括Pythia-1.4B、OPT-1.3B和MPT-1.3B。据悉,TinyLlama可在边缘设备上部署,也可用于辅助大型模型的推测解码。
 

为您推荐