2025/02/14

和大家一起測試 Raspberry Pi 來跑 AI 本地模型!雖然只有Pi 4 只有 4GB 記憶體, 跑 Meta Llama 3.2 1B 模型也還行! 最重要的是安裝下載都超簡單呢! 




只要打幾行指令即可~ 新手也能輕鬆上手! 只要跟著我的步驟一步一步操作, 保證你也可以在樹莓派上跑 AI! 馬上開始今天的教學吧! 這個是一個專門為初學者來開發的一個系列, 所以會講的比較詳細, 相信各位只要仔細收看內容並進行實作, 一定會收獲滿滿滿。好, 那我們就開始吧今天的練習吧~ 

如果時間不夠的朋友, 
也可以從以下的時間軸挑選想看的部份即可! 

00:00 開始
00:36 下載 Llamafile 及要使用的語言模型
01:43 也可以在 Windows 執行這個檔案!
02:33 下載  Llama 3.2 1B 這個 Llamafile
03:20 打開命令提示字元, 登入 Pi 4
05:20 使用 htop 來監看CPU/記憶體狀況
07:28 實測 AI 回覆速度

No comments:

Post a Comment