標籤:人工智慧

使用 llama.cpp 將 LLaMa 模型轉換為 GGUF 格式
在當前人工智慧領域,提升模型效率與性能至關重要。面對模型規模增大與資源消耗之間的平衡挑戰,量化技術顯得尤為關鍵,尤其是在資源有限的部署環境中。本文將分享使用llama.cpp將LLaMa模型轉為GGUF格式的過程及心得。

在 Ubuntu 22.04 安裝 NVIDIA GPU 驅動、CUDA 及 cuDNN
這陣子因為工作關係,不定期的就安裝了一次 GPU 驅動程式,雖然不到每天安裝的程度,但每次安裝時都還是會忘記流程,還是需要上網找資料,於是今天就自己記錄一下吧。這篇文章是我在 Ubuntu 22.04 安裝 GeForce RTX 4070 驅動、CUDA 及 cuDNN 的紀錄,提供大家參考。

在 Ubuntu 22.04 安裝 Tesla K80 GPU 驅動
最近,我花了一些時間,將一台伺服器升級到 Ubuntu 22.04 並嘗試安裝 Tesla K80 GPU 的驅動程式。在安裝的過程中,真的遇到了不少坑,最後的解決方法也讓我很傻眼,所以我還是寫篇文章記錄一下,以免日後又忘了。

ChatGPT 聊天機器人要如何使用呢?
ChatGPT 是由 OpenAI 基於 GPT-3.5 訓練的 AI 模型,能以文字方式進行互動,可以回答各式各樣的問題,用起來就跟朋友用 Line 聊天一樣。在這篇文章發佈的時候,ChatGPT 都還能免費使用,未來就不一定了,官方已經暗示未來可能會有付費版,所以趁現在嚐鮮一下吧。

仿 Eliza 模式之中文聊天程式
Eliza 是一個早期人工智慧聊天程式,於 1966 年由 Joseph Weizenbaum 在麻省理工學院所寫的程式,它使用一種基於模板的識別演算法來模仿心理治療師 Carl R. Rogers 的精神治療法,與使用者進行人類般的對話,被認為是現代聊天機器人的鼻祖。