引文
隨著人工智慧的發展,目前在互聯網的焦慮導向似乎高於興奮。
這種焦慮很多都是基於自己被替代的焦慮,對人工智慧愈發像「我」的恐懼。
事實上,這種感受是真實的,並不是錯覺。
而我 —— 感到恐懼。但我 —— 也感到懷疑。
於我而言,我認為無論是 GPT-Image2Model,還是 Claude-ThinkModel,再或者是 SunoAI 都好
他們都在模仿,模仿自己是某個領域的專家,脫離數據集的 AI 就是一個沒有任何作用的垃圾
雖然我這樣的推斷非常淺顯,只要稍微思考的人都知道,人工智慧依賴數據集,就像人類依靠記憶
Ai幻覺
但是我想深入地說的是,它僅僅只是記住了數據集,它會「自信」地推斷,也就是大家所說的 —— Ai幻覺
似乎少有人在乎這件事,只是當作ai在思考時難以控制產生的機率事件
但是實際上,人工智慧本身就是一台巨大的「Probabilistic Machines」 —— 概率機器
它的下文,基於你的上文,通過巨大的數據集猜測你的意思
Vibe Coding - 不屬於自己的力量
我們說說 Vibe Coding。想想一個菜鳥程式開發者,獲得了一份遠超自己的力量的法器
它或許會焦慮,但是可能會更加擔心的不是法器不受控,而是擔心某一天神明收回這件神器
但卻少有人發現這背後Ai與科技巨頭對於個人的剝削,Vibe Coding已經成為一個「潮流」
作為一個老闆,我樂意看到我的產品更快速上線,我樂意看到我花更少的錢,辦到更多的事
作為一個開發者,我樂意通過Ai去簡化自己的工作,讓本來繁瑣,需要不斷翻閱手冊的工作變得只需要一句話
但是我作為一個站在第三方,目睹這場焦慮的第三方角度。我看到的是一個巨大的「BlackBox of Thinking」 —— 思維黑箱
黑箱程式
你難以維護自己的程式,老闆不明白發生了什麼,人工智慧「優雅」的程式風格,完全超越你的認知,系統龐大到難以理解。
當程式碼優雅到超出自己的理解範圍後,人就從「創造者」降格為了「祈禱者」
這就是Vibe Coding所存在的問題。
幻覺的本質
幻覺 —— 是Ai在自己數據集中找不到數據後,通過現有數據吐(猜測)出的災難回答
Ai 只是一個巨大的向量搜索引擎,但是它被賦予了對知識「造謠」的能力
計算機的博弈已經被前人耕耘到了一個無法全能全知的高度,人類無法做到完全理解有關計算機的所有內容
這個時候,Ai作為助手出現了。而現在,我看到的是科技公司,社會輿論,致力於把人工智慧從助手變成 —— 主人。
結語
對於效率的提升,老闆樂見其成,開發者樂見工作趨簡,但少有人正視這種模式下,長久後而導致的問題 —— 人類認知能力的系統性萎縮
老闆得到了效率,巨頭得到了數據,而開發者(用戶)得到的是一份隨時都會被收回的「虛假力量」
當我們把這種猜測的力量當作權威,甚至讓這種「高置信度造謠」主導決策時,沒有人再沉下心來學習時
這份痛苦經由焦慮到「擺爛」的用戶遭受完後,遲早會砸向那些自以為是的老闆身上
