Chat GPT 是當前熱門的科技話題之一，許多人希望能夠將其整合至自己的電腦或手機中，以方便處理繁瑣的文字工作。同時，也有人期望將 GPT-3.5 模型嵌入自己的裝置中，使其能夠在無網絡連接的情況下進行聊天。
▲圖為 Raspberry Pi 裝置（示意圖）
Meta 近日宣布，其研發的 130 億參數版本 LLaMA 能夠以更低的算力勝過有 1750 億參數的 GPT-3 模型。LLaMA 是目前最先進的大型語言模型之一，Meta 希望這項工具能夠協助研究人員加速其工作程序。ChatGPT 所基於的 GPT-3.5 模型也是一款大型語言模型代表作，而新版 Bing 所採用的「Prometheus 普羅米修斯」則是以 OpenAI 模型為基礎開發的下一代大型語言模型。儘管 GPT-3.5 模型尚未成功終端機化，Meta 的同級大型 LLaMA 已經成功地嵌入各種裝置之中。
根據外媒報導，許多人已成功地將 LLaMA 語言模型安裝在個人電腦、Pixel 6 手機和 Raspberry Pi 等裝置上運行。LLaMA 是以公開資料進行語言模型訓練，其成果也相對開放，因此一些人擔心其過度公開會引發惡意利用，例如垃圾郵件或釣魚式攻擊等問題，資訊安全研究員 Jeffrey Ladish 直接表示：「開源此模型是糟糕的做法。」
以下是一個軟件工程師所發的帖文，雖然沒有實機影片作證，不過該工程師表示 LLaMA 已成功在他的 iPhone, Pixel 手機上運行。
🚀New Update! 🚀
I found 5 ways to not get LLaMA working on iOSThis NextJS app was a by-product from one of those 5 ways: pic.twitter.com/HyqSLiBgbg
— anish (@thiteanish) March 14, 2023
@ggerganov's LLaMA works on a Pixel 6!
LLaMAs been waiting for this, and so have I pic.twitter.com/JjEhdzJ2B9
— anish (@thiteanish) March 13, 2023
資料來源：arstechnica
圖片來源：inside
