引文

隨著人工智慧的發展,目前在互聯網的焦慮導向似乎高於興奮。

這種焦慮很多都是基於自己被替代的焦慮,對人工智慧愈發像「我」的恐懼。

事實上,這種感受是真實的,並不是錯覺。

而我 —— 感到恐懼。但我 —— 也感到懷疑。

於我而言,我認為無論是 GPT-Image2Model,還是 Claude-ThinkModel,再或者是 SunoAI 都好

他們都在模仿,模仿自己是某個領域的專家,脫離數據集的 AI 就是一個沒有任何作用的垃圾

雖然我這樣的推斷非常淺顯,只要稍微思考的人都知道,人工智慧依賴數據集,就像人類依靠記憶


Ai幻覺

但是我想深入地說的是,它僅僅只是記住了數據集,它會「自信」地推斷,也就是大家所說的 —— Ai幻覺

似乎少有人在乎這件事,只是當作ai在思考時難以控制產生的機率事件

但是實際上,人工智慧本身就是一台巨大的「Probabilistic Machines」 —— 概率機器

它的下文,基於你的上文,通過巨大的數據集猜測你的意思


Vibe Coding - 不屬於自己的力量

我們說說 Vibe Coding。想想一個菜鳥程式開發者,獲得了一份遠超自己的力量的法器

它或許會焦慮,但是可能會更加擔心的不是法器不受控,而是擔心某一天神明收回這件神器

但卻少有人發現這背後Ai與科技巨頭對於個人的剝削,Vibe Coding已經成為一個「潮流」

作為一個老闆,我樂意看到我的產品更快速上線,我樂意看到我花更少的錢,辦到更多的事

作為一個開發者,我樂意通過Ai去簡化自己的工作,讓本來繁瑣,需要不斷翻閱手冊的工作變得只需要一句話

但是我作為一個站在第三方,目睹這場焦慮的第三方角度。我看到的是一個巨大的「BlackBox of Thinking」 —— 思維黑箱

黑箱程式

你難以維護自己的程式,老闆不明白發生了什麼,人工智慧「優雅」的程式風格,完全超越你的認知,系統龐大到難以理解。

當程式碼優雅到超出自己的理解範圍後,人就從「創造者」降格為了「祈禱者」

這就是Vibe Coding所存在的問題。


幻覺的本質

幻覺 —— 是Ai在自己數據集中找不到數據後,通過現有數據吐(猜測)出的災難回答

Ai 只是一個巨大的向量搜索引擎,但是它被賦予了對知識「造謠」的能力

計算機的博弈已經被前人耕耘到了一個無法全能全知的高度,人類無法做到完全理解有關計算機的所有內容

這個時候,Ai作為助手出現了。而現在,我看到的是科技公司,社會輿論,致力於把人工智慧從助手變成 —— 主人。


結語

對於效率的提升,老闆樂見其成,開發者樂見工作趨簡,但少有人正視這種模式下,長久後而導致的問題 —— 人類認知能力的系統性萎縮

老闆得到了效率,巨頭得到了數據,而開發者(用戶)得到的是一份隨時都會被收回的「虛假力量」

當我們把這種猜測的力量當作權威,甚至讓這種「高置信度造謠」主導決策時,沒有人再沉下心來學習時

這份痛苦經由焦慮到「擺爛」的用戶遭受完後,遲早會砸向那些自以為是的老闆身上