模型簡介

Chinese-Alpaca-2-13B模型是基于 Meta 開源的 LLaMA 模型系列進行訓練和優化的中文大模型。它在原版 LLaMA 模型的基礎上擴充了中文詞表，并使用大規模中文數據進行增量預訓練，進一步提高了中文的基本語義理解。與第一代模型相比，性能有了顯著提高。此外，該模型支持處理長達4K的文本上下文，并且可以通過先進的NTK或其他技術手段進一步擴展到處理超過18K的文本上下文。

使用場景

Chinese-Alpaca-2-13B特別針對中文問答和對話任務進行了深度優化，旨在更好地適應中文使用者的語言習慣、偏好及需求。因此，它廣泛適用于多種指令理解應用場景，包括但不限于：問答系統、寫作輔助、聊天機器人、交互式應用。

評測效果

客觀效果評測：C-Eval

客觀效果評測：CMMLU

長上下文版模型評測

投機采樣加速效果評測

技術亮點

• 在 LLaMA-2 的基礎上擴展了新的中文詞匯，并開源了支持中文的 LLaMA-2 模型以及基于此優化的 Alpaca-2 LLM

• 開源了預訓練和指令微調（SFT）的腳本，這些腳本允許用戶進一步利用自己的數據對模型進行調整和優化

• 提供了在個人電腦的CPU/GPU上快速部署和體驗量化LLM（大型語言模型）的解決方案

• 支持廣泛的LLaMA生態系統工具，如transformers庫、llama.cpp、text-generation-webui、LangChain、vLLM等，使得用戶能夠輕松地將這些模型集成到現有的工作流程或項目中

• 模型采用了簡化的中英雙語系統提示語設計，并遵循了類似Llama-2-Chat的指令模板，這樣的設計旨在更好地適配相關的LLaMA生態系統工具和應用場景

相關引用

如對您有幫助，歡迎引用.

@article{Chinese-LLaMA-Alpaca,
    title={Efficient and Effective Text Encoding for Chinese LLaMA and Alpaca},
    author={Cui, Yiming and Yang, Ziqing and Yao, Xin},
    journal={arXiv preprint arXiv:2304.08177},
    url={//arxiv.org/abs/2304.08177},
    year={2023}
}

免責聲明

Chinese-Alpaca-2-13B模型來源于第三方，本平臺不保證其合規性，請您在使用前慎重考慮，確保合法合規使用并遵守第三方的要求。