|
| 天下經濟論壇。（中評社 俞敦平攝） |
紀懷新表示，台灣在Edge端的運算有一個很重要的角色，而我們也都希望能夠把AI模型放到手機或Chromebook等edge device的中。其中一個原因是，我們現在需要更多的運算能力，因為AI的技術，特別是Large Language Model的技術，不斷地發展。如果我們不把運算能力推到Edge端，我們的雲端就不夠用。這是一個問題。另外，還有很多結構性的問題，例如，如果你是一個大型的國際企業，你要買多少的運算能力，你要訂多少的晶片，這些決定都會受到這個趨勢的影響。如果我們可以把AI模型放到手機裡，讓很多的運算可以直接在手機上做，那我們的雲端就不需要那麼大。這些問題都跟這個技術的發展有關係。
紀懷新還進一步解釋了一個技術上的觀點。他說，Google一直在做的事情，就是搜尋引擎。搜尋引擎的作用，是把所有的資訊結合在一起，放到一個資料庫裡，讓我們能夠隨時找到我們需要的資訊。而Large Language Model能夠做的事情，事實上是在做一個壓縮的動作。它可以把所有的資訊，壓縮到一個很小的模型裡。他表示，如果我們的技術能夠做到這一點，那就代表我們的口袋裡，不只是有維基百科，而是有整個網路。這就是人工智慧的魅力。它是知識的壓縮，如果能把它放到Edge端的運算裝置裡，從技術的角度來看，這是一個非常令人興奮的可能性。
|
