李彥宏內部講話曝光:首次談及文心大模型爲什麽不開源?

小咖科技 2024-04-11 20:45:29

今天,一則李彥宏內部講話流出。在內部講話中,李彥宏對大模型開源與閉源的路線選擇,以及AI創業者應該專注模型還是應用等業界焦點話題,發表了自己的看法。

以下是李彥宏的幾個核心論斷。

1、閉源模型在能力上會持續地領先,而不是一時地領先。

2、模型開源也不是一個衆人拾柴火焰高的情況,這跟傳統的軟件開源一比如Linux、安卓等等很不一樣。

3、閉源是有真正的商業模式的,是能夠賺到錢的,能夠賺到錢才能聚集算力、聚集人才。

4、閉源在成本上反而是有優勢的,只要是同等能力,閉源模型的推理成本一定是更低的,響應速度一定是更快的。

5、無論中美,當前最強的基礎模型都是閉源的。通過基礎模型降維做出來的模型也是更好的,這使得閉源在成本、效率上更有優勢。

6、對于AI創業者來說,核心競爭力本就不應該是模型本身,這太耗資源了,而且需要非常長時間的堅持才能跑出來。

7、既做模型又做應用的“雙輪驅動”,對創業公司不是好模式。創業公司的精力和資源都很有限,更應該專注。既做模型又做應用,勢必會分散精力。

以下爲李彥宏內部講話實錄的部分原文:

一、爲什麽不開源

已經有足夠多的開源大模型

一年前文心剛剛發布的時候,我們內部是有過非常激烈的討論的,最後當然大家也知道這個結果,我們的決定是不開源。爲什麽不開源?當時的判斷是,市場上一定會有開源的模型,而且是不止一家會開源。在這種情況下,多百度一家開源不多,少百度一家開源也不少。

我們今天看主流的開源模型:,像Llama,Mistral其實都是有相當影響力的,國內的智源、百川、阿裏的通義也都是開源的,這個市場上不缺我們這一家開源的模型。我們要開源還得自己去維護一套開源的版本,這是不劃算的。

閉源模型能力會持續領先

更重要的是,在我們的認知裏,閉源模型在能力上會持續地領先,而不是一時地領先。爲什麽會有這個判斷?因爲我們覺得模型開源的意義其實不是很大,這些開源模型都是在外頭零零散散小規模地去做各種各樣的驗證應用,它沒有經過大算力的驗證。

而且模型開源也不是一個衆人拾柴火焰高的情況。這跟傳統的軟件開源一比如Linux、安卓等等很不一樣,由于是模型帶來的開源,我們也不知道參數爲什麽變成了那個樣子,這種情況下很難實現衆人拾柴火焰高。雖然Llama也鼓勵大家去貢獻各種各樣的數據、代碼,但是實際上大家明白最主要的開發者就是Meta這些人,它並不是一個真正由大家一起來協同開發的産品。

閉源才有真正的商業模式,才能聚集人才和算力

反觀閉源,是有真正的商業模式的,是能夠賺到錢的,能夠賺到錢才能聚集算力、聚集人才。其實也很簡單,大家比較一下,比如硅谷有一個優秀的人才,他有OpenAI的offer,有Meta的o ffer,有Llama的offer,他會去哪兒?這是非常顯而易見的選擇。

閉源在成本上也有優勢

大家以爲開源是免費的,在成本上有優勢,實際上我們認爲也不是,閉源在成本上反而是有優勢的。只要是同等能力,閉源模型的推理成本一定是更低的,響應速度一定是更快的。反過來,同等參數的情況下,閉源模型的能力也是更強的。今天不管是在中國也好、在美國也好,最強的基礎模型都是閉源的,而各種各樣的小模型、最好的小模型,都是通過大模型蒸餾來的。通過大模型降維做出來的模型就是更好的,這樣也會導致閉源在成本上、在效率上也會有優勢。

二、創業者爲啥可以依賴文心

雙輪驅動不是好模式

首先,外界一些做模型的創業公司講的所謂的“雙輪驅動”不是一個好的模式。既做模型又做應用,勢必會分散精力。創業公司的精力和資源都是有限的,同時做兩件事情和只做一件事情哪個成功率更高是不言自明的。在任何情況下我們都非常講專注力,“力出一孔”,當資源有限的時候更應該專注,而不是去搞所謂的“雙輪驅動”。

AI創業者的核心競爭力不是模型本身

第二,對于AI創業者來說,核心競爭力本就不應該是模型本身,這太耗資源了,而且需要非常長時間的堅持才能跑出來。

創業者真正的優勢應該是在某一個領域的知識、數據。假如說你今天想找一個“黃色的無兜的男士泳褲”,你在任何一個今天的電商平台上都找不到,這種需求目前的技術是解決不了的,大模型如果有領域知識就可以解決,這就是靠領域知識能夠提供獨特價值的例子。

市面上有這麽多模型,大的、小的、開源的、閉源的,在特定應用當中怎麽樣使用這些模型的組合,是有技巧的,這是創業者可以幹的事兒,是可以提供價值增益的。

基礎模型不會通吃AI應用

外界擔心如果用了文心或者閉源模型,做得好了它就抄你,就把你的飯吃掉了,實際上這種擔心也是沒有任何道理的。

拼多多、滴滴不怕微信搶飯碗

大家去看一看,在移動時代,微信沒有去吃掉拼多多,滴滴也沒有變成騰訊的一部分,它們都各自提供了自己獨特的價值,有自己非常不一樣的競爭力,它們的興起都是依賴移動生態裏的一個封閉平台——微信,但是它們並不怕微信去搶它的飯碗,所以沒有必要擔心基礎模型通吃AI的應用。

文心功能最強,性價比最優

當然更根本的就是文心的功能是最強的,性價比是最好的,我們會持續不斷地投入,有了這一點,所有其他的東西才能夠成立。

0 阅读:68

小咖科技

簡介:百度百家等專欄作者,WeMedia聯盟成員,專注TMT領域。