來聊點 AI

這幾年到處都能聽到或看到 AI 這個詞
圖片是 AI 產的，影片也都在講 AI 就算了
曾經標榜「智慧」的產品現在都改標榜「AI 輔助」

我不排斥 AI 技術，有些 AI 工具其實還蠻不錯用的
但現在太容易看到各種粗糙的 AI 產物
還時不時會看到各種「AI 取代論」
各大媒體以及廠商都在瘋狂蹭 AI 這個詞
這股「AI 狂熱」已經大到令人厭惡的地步

AI 潮流的開始 - NovalAI

大概是從 2022 年的 NovalAI 開始，透過 AI 生成，完成度極高的二次元圖像在全世界引起了軒然大波
即使 NovalAI 的訓練資料來源引起爭議，但這並沒有降低大眾使用這個服務的意願
網路上開始出現各種 AI 圖片，「AI 取代繪師」的言論也如雨後春筍般冒出

雖然 NovalAI 不是第一個引起人們注意的 AI 相關服務
但是的出現讓許多本來沒在關注 AI 的人也開始關注 AI 技術的發展，AI 已經開始成為一個流行詞
任何有關 AI 的文章跟影片都能帶來很高的觀看數跟討論度，根本就是流量密碼

讓 AI 迅速爆紅的 ChatGPT 問世

我印象大概是 2023 年，wiki 查是 2022 年末
ChatGPT 的出現讓這股 AI 熱潮達到一個全新的境界
在這之後，各個國家，各大公司開始了 AI 軍備競賽
它們開始訓練自己的語言模型，或是利用語言模型來打造 AI 應用

於是各種 AI Coding、AI 寫作、 AI 畫圖的工具、服務相繼出現，後來甚至還有 AI 製片、AI 作曲
生活開始充滿著各種 AI 服務以及產物

AI 造神

自從各種 AI 應用出現之後，網路上開始出現更多「AI 取代論」
工程師要被取代了，作家要被取代了，繪師要被取代了，類似的言論不斷出現

越來越多吹捧 AI 的文章、影片，讓我開始對 AI 反感
一群沒怎麼用過的人，各個都在吹 AI 有多猛多聰明
只有實際使用這些服務的人才知道，這些服務並沒有宣傳影片上描述的那麼厲害

粗糙、死板、具有誤導性的內容大量出現

這幾年開始看到越來越多粗糙的 AI 產物
廣告上開始使用 AI 生成的圖片，甚至連文章內容都有可能是 AI 生成
跟以前相比，現在到處都是看起來很「AI」的內容

論壇上也越來越多「我問 AI 得出」的回答，有些甚至連個個人心得都沒有
像這樣直接把 AI 的回答複製貼上，不僅充滿誤導，還一點參考價值都沒有

幻覺

來源並不清楚，但自從 ChatGPT 問世之後，這個詞就很常被提及
「幻覺」這個詞通常表示 AI 會回應看似正確的回答但實際卻是虛假、具有誤導性的內容

在開始講幻覺之前，先簡單說明現在常見的大語言模型 (LLM) 的運作概念
我不是這方面的專業人士， 敘述上可能有錯還請見諒

就我理解，現在常見的 LLM 本質上就是一個「文字預測模型」
模型本身的運作方式就是參考過去的內容 (通常稱 Context) 去推測下一個可能性比較高的字詞，有點類似自動補全功能
只要照著這個模式不斷運作，就可以生成一段句子，甚至是一篇文章
因為語言模型的資料集非常龐大，照理來說 LLM 可以生成任何語意通順的句子，甚至程式碼、 JSON 都可以輸出

就接字來說，LLM 運作的非常好，完全沒有毛病，語意也很通順
但是就輸出內容來說，LLM 的一本正經的胡言亂語似乎是不正確的行為，於是出現了「幻覺」這個詞來描述這個現象

我個人並不喜歡「幻覺」這個詞彙，這就好像是在說這個模型運作「不正常」，但實際上從運作原理來看，它一點問題都沒有
即使是好幾年前的深度學習梗圖，AI 把貓辨識成狗，當時也不曾聽過「幻覺」這個詞
但現在卻很常聽到人們用這個詞來描述語言模型回應不真實的內容，甚至會嘗試透過 Prompt Engineering 來「降低幻覺」

總是有人認為現在的 LLM 可以依照「指示」生成自己想要的內容，如果沒有一定是還沒找到關鍵的 Prompt
那種為了輸出想要的答案而耗費大量時間調試 Prompt 的過程非常累人，而且通常是沒有意義的行為，換個模型的影響還比調 Prompt 明顯

我支持 AI 發展，但反對各種炒作、造神、販賣恐懼的內容

雖然上面講的都是討厭 AI 的部份，但我其實還蠻支持各種 AI 工具的發展
即使我認為 LLM 只是一個單純的接字模型，但光就輸出 JSON ，也足夠開發一些自動化工具了

就拿最近火紅的 MCP 協議來說
其底層也只是透過精心設計的 Prompt 讓 LLM 產出 JSON，並用那個結果來呼叫工具而已
說到底還是在 LLM 輸出的文字上打轉

現在用公司訂閱的 Copilot 就覺得還不錯，它節省了許多打字的時間，我確實感覺能更專注在邏輯上而非程式碼上
只是以個人訂閱來說，我覺得它還不值 20 美元/月 (現在看是 10美元/月，感覺還可以接受？)

我不討厭 AI，我討厭的只有各種媒體炒作、造神，以及各種販賣恐懼的「AI 取代論」
我認為這些低品質的內容正在污染整個世界

結語

我不知道結尾該說些什麼比較好 XD
想寫這篇的原因主要是因為最近想不到什麼好寫的，加上目前公司的專案做得有點煩躁
所以藉著這幾年特別火紅的 AI 當作主題來抒發一下情緒

現在真的太多 AI 了，走到哪都能看到真的是快被煩死
專案曾經為了準確度有過一段很痛苦的 Prompt 調適歷程，為了達到預期的輸出瘋狂改 Prompt，最後得不出什麼成果真的是有夠難受
聽到各種「AI 的思考邏輯」、「AI 的想法」怒氣整個都上來了，講得好像現在 LLM 有智慧一樣

不過那個 Copilot 是真的香
雖然它對撰寫商業邏輯沒有很大的幫助，但在一些重複性高、邏輯簡單的場合特別好用
自動補全功能確實讓寫程式變得舒適許多
唯一的缺點就是貴，如果平常沒在寫程式，真的沒有買的必要

過去很少針對某個主題表達自己的看法，這篇文章算是一個嘗試
不過我對語言模型沒有鑽研太多，就沒有繼續深入探討，這篇主要還是抱怨居多 😆
本來是預計週末寫文章順便發佈，結果不但趕不出來，後面還重寫好幾次，最後拖到今天才完成 🙃