?日前，高通驍龍峰會在夏威夷毛伊島開幕。峰會匯集了業(yè)界最尖端的技術與創(chuàng)新理念，生成式人工智能與端側設備的融合成為熱議的話題。啟明創(chuàng)投投資企業(yè)智譜AI與高通技術公司（下稱“高通”）宣布合作，將GLM-4V端側視覺大模型面向驍龍8至尊版進行深度適配和推理優(yōu)化，支持豐富的多模態(tài)交互方式，進一步推動多模態(tài)生成式AI在終端側的部署和推廣，賦能更加情境化、個性化的終端側智能體驗。
01/
智譜AI攜手高通發(fā)布端側智能助手
推動智能生活體驗革新
驍龍8至尊版移動平臺搭載全新第二代高通?Oryon CPU和高通?Hexagon? NPU，終端側AI能力再次實現(xiàn)突破，能夠賦能規(guī)模更大且更加復雜的多模態(tài)生成式AI用例在終端側高效運行。充分利用驍龍8至尊版的強大終端側AI性能和高通AI軟件棧為模型帶來的性能優(yōu)化，GLM-4V端側視覺大模型能夠以小巧的尺寸實現(xiàn)令人驚嘆的處理能力，以超過70 tokens/秒的速度在終端側高速運行。
通過與驍龍8至尊版進行深度適配和推理優(yōu)化，終端側多模態(tài)應用ChatGLM能夠支持三種終端側交互方式：使用相機進行實時語音對話、上傳照片進行對話、上傳視頻進行對話。豐富的多模態(tài)輸入輸出方式賦能智能助手ChatGLM實現(xiàn)了跨家庭、出行、工作和教育等多個場景的應用，例如通過手機攝像頭獲取穿搭建議，利用視覺信息實現(xiàn)智能導航，通過車內(nèi)攝像頭識別遺留物品，拍攝畫作進行風格解析等。
智譜AI COO張帆表示：“驍龍8至尊版移動平臺提供了卓越的AI算力，結合高通AI軟件棧推理框架的性能優(yōu)化，使得智譜AI的終端側大模型可以在設備端實現(xiàn)高速推理。我們相信，終端側算力平臺的性能躍遷結合大模型能力的進步，會將生成式AI帶入新的時代。終端側運行的生成式AI，在為用戶提供變革性體驗的同時，能更好地保護用戶隱私安全，真正讓AI變革用戶的日常生活?！?/span>
GLM-4V-Mini、GLM-4V-Nano端側視覺大模型和GLM-4-9B模型即將在高通AI Hub上線，搭載驍龍8至尊版的商用手機均可支持。
02/
展望未來
構建端側智能新生態(tài)
峰會期間，智譜AI還宣布將開源一系列端側大語言及多模態(tài)模型，為開發(fā)者和合作伙伴提供持續(xù)賦能，加速各類應用場景的落地與技術普及，促進行業(yè)創(chuàng)新，進一步豐富用戶的智能交互體驗，推動整個行業(yè)向著更加智能化、個性化的設備生態(tài)邁進。
智譜AI始終秉持“讓機器像人一樣思考”的愿景，致力于推動下一代認知智能模型的創(chuàng)新與應用。未來，智譜AI與高通將繼續(xù)在多模態(tài)技術和大語言模型領域深化合作，進一步探索包括智能手機、智能車艙、智能家居、智能辦公在內(nèi)的更多應用場景。通過端云協(xié)同的架構，智譜AI和高通將共同推動設備的智能化升級，增強多設備的無縫互聯(lián)，全面提升用戶的使用體驗，構建智能生活方式的全新生態(tài)。伴隨技術迭代，智譜AI也將繼續(xù)與高通攜手推進生成式AI創(chuàng)新，構建更加完善和豐富的端側智能生態(tài)，推動智能設備向更加智能、更加個性化的未來邁進。
