在當前人工智慧領域，提升模型效率與性能至關重要。面對模型規模增大與資源消耗之間的平衡挑戰，量化技術顯得尤為關鍵，尤其是在資源有限的部署環境中。本文將分享使用llama.cpp將LLaMa模型轉為GGUF格式的過程及心得。

ChatGPT 是由 OpenAI 基於 GPT-3.5 訓練的 AI 模型，能以文字方式進行互動，可以回答各式各樣的問題，用起來就跟朋友用 Line 聊天一樣。在這篇文章發佈的時候，ChatGPT 都還能免費使用，未來就不一定了，官方已經暗示未來可能會有付費版，所以趁現在嚐鮮一下吧。

Eliza 是一個早期人工智慧聊天程式，於 1966 年由 Joseph Weizenbaum 在麻省理工學院所寫的程式，它使用一種基於模板的識別演算法來模仿心理治療師 Carl R. Rogers 的精神治療法，與使用者進行人類般的對話，被認為是現代聊天機器人的鼻祖。