人們第一次真正感到震驚,往往不是在聽到“人工智能又贏了”的新聞時,而是在親自和一個大模型對話之后:它能寫詩、能解題、能反駁你的邏輯,甚至能察覺你話語背后的情緒。這種聰明,究竟是從哪里來的?
從中學公式說起
理解大模型,不妨從一道中學數學題入手。
我們都學過一次函數:Y=aX+b。這個公式的本質,是用兩個參數——斜率a和截距b——去描述一種規律。當通過已知數據“學習”到了a和b的具體數值后,給出任意一個輸入X,就能輸出Y。
這正是“模型”的本義:對現實世界某個方面進行簡化和抽象的描述,用數學公式或方程來表示。
但現實問題遠比一條直線復雜。當科學家面對語音識別、圖像理解、語言對話這類復雜問題時,簡單的線性公式根本無能為力。于是,他們想到了一個更有野心的方案:模擬人類大腦的信息處理方式。
神經網絡:給機器裝上“數字大腦”
人類大腦由數百億個神經元組成,神經元之間通過突觸相互連接,構成極其復雜的信息處理網絡。科學家參照這一結構,設計出了“人工神經網絡”(Artificial Neural Networks)。
科學家參照人類大腦,設計出“人工神經網絡”(Artificial Neural Networks)
人工神經網絡的最小單元也是“神經元”。每個人工神經元接收若干輸入信號,對這些信號進行加權求和,再通過一個激活函數決定是否“放電”輸出,并且實現非線性表達以表征現實世界的復雜。成千上萬個這樣的神經元按層次組織起來,就形成了包含輸入層、隱藏層和輸出層的神經網絡。
以車牌識別為例:一張車牌圖像輸入后,輸入層負責接收像素數據,中間的隱藏層逐層提取邊緣、紋理、字符等特征,輸出層最終判斷出對應的字母和數字。這套結構能處理的復雜度,遠超任何一個線性公式。網絡中成千上萬個神經元之間的連接權重,就是成千上萬個需要尋找的模型參數“a”和“b”。
但神經網絡真正的飛躍,來自一個2017年被提出的劃時代架構——Transformer。
Transformer:解放并行運算的關鍵
在Transformer出現之前,傳統神經網絡處理語言時,必須像串行電路一樣,一個詞、一個詞地按順序處理。這不僅導致計算速度慢,而且由于“記憶力”有限,模型很容易遺忘前面的長文本內容。Transformer引入了一種叫作“自注意力機制”(Self-Attention)的結構:在處理每一個詞時,模型能同時“看到”句子中的所有詞,計算它們之間的相互關聯(權重),同時它支持并行運算。
Transformer引入了一種叫作“自注意力機制”(Self-Attention)的結構
這就好比,傳統方法是逐字朗讀一篇文章再理解,而Transformer是把整篇文章平鋪開,一眼掃過,同時捕捉全篇詞與詞之間的微妙關系。效率和性能都得到了顯著提升。
從數學本質看,大語言模型仍然是一個“概率預測模型”——根據已輸入的文本,計算下一個詞出現的概率分布,然后選出概率最高的詞輸出。這個“文字接龍”的原理看似簡單,卻在規模擴大后催生了驚人的智能。原因就藏在一個被稱為“規模定律”的發現里。
規模定律:暴力美學的勝利
科學家通過大量實驗發現了一個簡潔而震撼的規律:大語言模型的性能,與三個核心變量之間存在極其穩定的冪律關系,這三個變量是:
模型大小:神經網絡的參數數量,即網絡中所有“a和b”的總規模。
數據量:訓練語料的詞元(Tokens)規模;
算力:訓練所需的總浮點運算量(FLOPs);
這三個變量任意一個持續增長,模型性能就會相應提升,而且這種提升關系非常穩定,可以被精準預測。換言之:只要持續投入資源,把模型做得更大、喂給它更多數據、提供更強算力,性能就一定會提高。
規模,是通往智慧最可靠的路徑。
涌現:智能的“相變”
但規模帶來的不只是線性、勻速的進步,還有一種更令人驚訝的現象——涌現(Emergence)。
當模型規模(參數量或算力投入)跨過某個關鍵的臨界閾值時,一種此前完全不存在的能力,會突然爆發式地出現。在小規模時,模型可能完全無法完成復雜推理、寫代碼或理解幽默,表現接近隨機亂猜;而一旦規??邕^臨界點,模型突然就能做到了——理解長篇文章、進行多步邏輯推演,甚至“零樣本”完成從未見過的任務。
這種現象,極像物理學中的“相變”。
水在0℃以下是冰,固態而堅硬;隨著溫度升高,一旦跨過0℃的臨界點,它就變成了流動的液體。冰并沒有“慢慢變濕”,而是在某個臨界點發生了本質的躍遷。智能也是如此,在特定規模下,它發生了本質變化,涌現出通識推理、反思能力、零樣本學習等此前不具備的能力。
正是這一發現,讓整個人工智能領域意識到:大語言模型不是“一個更大的搜索引擎”,而是一個在特定規模下,能自發涌現出高級認知能力的全新技術范式。
算力成為新的生產力
理解了規模定律和涌現,就能理解為什么算力在今天變得如此關鍵。
如果說工業時代的核心生產力是電力,煤礦和天然氣是燃料,發電廠是轉化機器,輸電線路是傳輸網絡,那么在智能時代,數據就是新的燃料,算力平臺就是新的發電廠,大模型是將數據濃縮為知識和數字資產的轉化裝置,而最終輸出的智能,正在滲透到金融、醫療、交通等千行百業。
這種滲透,推動了AI從“感知”向“認知”的范式轉變。過去,AI擅長識別圖像、翻譯語言;現在,它開始真正“理解”世界。
但理解,終究還停留在數字空間。智能如何走出屏幕,走進物理現實,去觸摸世界、搬運物品、真正陪伴人類?——這就是具身智能試圖回答的問題。
(本文系浙江大學教授、博士生導師、浙江大學具身智能感知與控制實驗室(ZEAL Lab)負責人、中國儀器儀表學會科普專家、浙江省儀器儀表學會監事長侯迪波在“智感世界·儀創未來”系列科普直播之從感知到控制:讀懂具身智能新科技的主題分享,光明網記者肖春芳整理)