10月31日,在2025紅帽論壇上,人工智能成了一個被多次提及的關(guān)鍵詞。
作為一家成立三十多年的開源軟件公司,紅帽正在將自己的方向聚焦到AI,開源AI成了紅帽的新航向,也正在成為全球科技產(chǎn)業(yè)的新航向。
紅帽全球副總裁兼大中華區(qū)總裁曹衡康在論壇上指出,“開源社區(qū)最大的優(yōu)勢是,全球開發(fā)者已經(jīng)打下了一個很好的基礎(chǔ),企業(yè)只需要在這個社區(qū)中找到覺得不錯的技術(shù),拿過來并企業(yè)化?!?
當下的人工智能技術(shù),同樣是在開源社區(qū)的加持下,正在進入各行各業(yè)。
01 AI操作系統(tǒng),核心是vLLM
來自IDC的統(tǒng)計數(shù)據(jù)顯示,70%亞太區(qū)企業(yè)預(yù)期,Agentic AI將在未來18個月內(nèi)顛覆現(xiàn)在的商業(yè)模式。
AI將徹底改變傳統(tǒng)業(yè)務(wù),在大部分行業(yè)中已經(jīng)成為一個共識。
這樣的人工智能技術(shù)落地大趨勢,同樣離不開開源力量的加持,作為全球開源力量的集聚地,紅帽已經(jīng)為人工智能產(chǎn)業(yè)落地做出了自己的準備,這其中,最為關(guān)鍵的就是vLLM。
紅帽大中華區(qū)首席技術(shù)官張家駒在接受媒體采訪時就明確指出,“我們認為AI的操作系統(tǒng),其核心就是vLLM?!?
什么是vLLM?
vLLM,即Virtual Large Language Model,是一種高性能的推理引擎,旨在解決大模型推理過程中的效率瓶頸。
在人工智能技術(shù)發(fā)展早期階段,推理引擎概念并不存在,但隨著生成式AI的爆發(fā),推理引擎技術(shù)應(yīng)運而生,尤其是在DeepSeek火爆全球后,2025年被視為推理引擎元年。
作為高性能推理引擎之一,vLLM最早是由伯克利大學開源的大語言模型高速推理框架,通過使用PagedAttention高效管理注意力鍵和值內(nèi)存,支持連續(xù)批處理和快速模型執(zhí)行,通過引入操作系統(tǒng)的虛擬內(nèi)存分頁邏輯,提高了語言模型服務(wù)在實時場景下的吞吐與內(nèi)存使用效率。
正是因為vLLM在生成式AI領(lǐng)域的技術(shù)獨特性,紅帽選擇了vLLM,并在其中投入了大量資源。
張家駒指出,“紅帽這家公司一個最大的特點是,選定一個方向后,會真正向其中投入大量資源,就像早年間針對虛擬化技術(shù)我們投入了KVM,并推動KVM成為虛擬化技術(shù)領(lǐng)域主流標準一樣,這次紅帽將資源投入到了vLLM中。”
為什么紅帽需要在vLLM上投入大量資源?
這是因為整個行業(yè)依然處于百家爭鳴的早期階段,張家駒特別將vLLM和傳統(tǒng)操作系統(tǒng)進行了對比,并指出,“其中差距主要在于南向(加速硬件)和北向(模型)的標準化上,傳統(tǒng)操作系統(tǒng)下層對不同硬件和上層不同應(yīng)用都已經(jīng)形成了標準化接口,現(xiàn)在AI還沒有標準化接口?!?
這帶來的一個實際問題是,在紅帽聯(lián)合產(chǎn)業(yè)針對超過350位企業(yè)CIO和IT決策者的調(diào)研中,盡管大家對推理引擎的關(guān)注度很好,但仍有超過51%的企業(yè)表示暫未使用推理引擎。
為此,紅帽計劃在南向通過算法將加速硬件接口進行標準化,北向讓vLLM支持更多模型,以此推進vLLM的標準化進程,從而實現(xiàn)從開放混合云到開放混合AI的戰(zhàn)略轉(zhuǎn)變。
02 軟件定義汽車,有了開源系統(tǒng)
同樣是在這次紅帽論壇上,紅帽官方推出了ASIL車規(guī)級Linux操作系統(tǒng),作為壓軸的one more thing。
這也是全球第一個將開源Linux完成ISO26262安全功能認證的操作系統(tǒng)。
智能汽車正在成為全球科技產(chǎn)業(yè)競爭一大焦點,相關(guān)機構(gòu)統(tǒng)計數(shù)據(jù)顯示,2024年全球電動汽車銷量超1500萬輛,同比增長28.8%。
與此同時,軟件定義汽車,已經(jīng)成為汽車產(chǎn)業(yè)功能升級的關(guān)鍵,如今的汽車產(chǎn)業(yè),軟件能力的強弱,決定了車企核心競爭力的強弱。
紅帽早在四年前開始研發(fā)車規(guī)級Linux操作系統(tǒng),為了滿足未來汽車自動駕駛功能需求,在過去四年里,紅帽更是投入了數(shù)億美金來推動這一操作系統(tǒng)通過功能安全認證。
據(jù)悉,此次發(fā)布的車規(guī)級Linux操作系統(tǒng)已經(jīng)通過了ASIL-B級認證。
此外,據(jù)紅帽中國汽車操作系統(tǒng)首席代表姜垚在接受媒體采訪時透露,“由于基于容器化技術(shù)研發(fā),這一系統(tǒng)實現(xiàn)了對座艙和智駕系統(tǒng)的安全隔離,從而保證智駕這樣的系統(tǒng)不會受到非功能安全系統(tǒng)的干擾?!?
而之所以會選擇率先在中國發(fā)布這一車規(guī)級Linux系統(tǒng),曹衡康給出了兩個重要原因:
第一,中國汽車市場產(chǎn)銷總量位居全球第一;
第二,中國新創(chuàng)車企很多,這些車企愿意嘗試新技術(shù),連同國內(nèi)的傳統(tǒng)車企都在加快布局新業(yè)務(wù)。
針對當下車企紛紛下場自研汽車操作系統(tǒng)的趨勢,姜垚也特別指出,“這些車企自研的操作系統(tǒng)很多底層是基于紅帽的Linux操作系統(tǒng),在上層自研了中間件和應(yīng)用軟件,相當于是站在紅帽的開源軟件上進行的創(chuàng)新?!?
實際上,紅帽目前已經(jīng)在與兩家國內(nèi)車企在自動駕駛領(lǐng)域展開合作,這兩家車企也將應(yīng)用紅帽此次發(fā)布的車規(guī)級Linux系統(tǒng)。
姜垚也透露,“在國內(nèi)汽車領(lǐng)域的項目預(yù)計會在2026-2027年量產(chǎn)落地,在歐美市場的合作項目相對會更晚一些落地。”
據(jù)悉,紅帽接下來也將會在國內(nèi)加大對車規(guī)級Linux操作系統(tǒng)的推廣與合作。
03 紅帽如何構(gòu)建企業(yè)級開源AI?
我們?nèi)绾螐脑茣r代過渡到AI時代?
這是各大云廠商都在思考的一個問題,也是紅帽正在思考的問題。
在AI時代,整個軟件開發(fā)范式正在發(fā)生著深刻的改變,以往的DevOps也開始向AIOps轉(zhuǎn)變。
作為開源AI的信奉者,我們在前不久的紅帽論壇上也看到了開源的紅帽AI。
從底層的AIOps,到硬件層對GPU的支持,再到操作系統(tǒng)層對vLLM的全力押注,紅帽正在構(gòu)建一個全新的開源AI生態(tài)。
在此次紅帽論壇上,我們也看到了兩位特別嘉賓:
一位是vLLM社區(qū)的核心維護者Michael,vLLM推理引擎被紅帽視為AI操作系統(tǒng)的核心,已經(jīng)成為紅帽面向AI轉(zhuǎn)型的關(guān)鍵;
另一位是沐曦研發(fā)副總裁黃向軍,如今的沐曦已經(jīng)成為紅帽開源生態(tài)中的重要一員,紅帽甚至調(diào)動全球總部AI BU的工程師參與到了沐曦的測試、認證過程中,雙方將基于國內(nèi)合作,走向海外。
也是在此次的紅帽論壇上,在紅帽整個產(chǎn)品體系中,Lightspeed這一AI助手滲透到了各個層面:
在紅帽RHEL中,Lightspeed可以讓用戶用自然語言管理操作系統(tǒng);
在紅帽Ansible中,Lightspeed可以讓用戶用自然語言創(chuàng)建自動化腳本;
在紅帽O(jiān)penShift中,Lightspeed可以讓用戶用自然語言自動部署OpenShift;
……
正是基于這一系列的改變,紅帽正在構(gòu)建一個開源AI生態(tài)。
曹衡康在論壇上指出,“紅帽的目標是為用戶提供任意模型、任意加速器、任意云,讓用戶可以根據(jù)自己的需求構(gòu)建人工智能。”