人工智能

高通攜手Meta利用Llama 2賦能終端側(cè)AI應(yīng)用

ainet.cn   2023年07月19日

● 高通計(jì)劃從2024年起,在旗艦智能手機(jī)和PC上支持基于Llama 2的AI部署,賦能開發(fā)者使用驍龍平臺(tái)的AI能力,推出激動(dòng)人心的全新生成式AI應(yīng)用。

● 與僅僅使用云端AI部署和服務(wù)相比,終端側(cè)AI部署能夠助力開發(fā)者以顯著降低的成本,提升用戶隱私保護(hù)、滿足用戶安全偏好、增強(qiáng)應(yīng)用可靠性,并實(shí)現(xiàn)個(gè)性化。

高通技術(shù)公司和Meta正在合作優(yōu)化Meta Llama 2大語言模型直接在終端側(cè)的執(zhí)行,無需僅依賴云服務(wù)。能夠在智能手機(jī)、PC、VR/AR頭顯和汽車等終端上運(yùn)行Llama 2一類的生成式AI模型,將支持開發(fā)者節(jié)省云成本,并為用戶提供更加私密、可靠和個(gè)性化的體驗(yàn)。

因此,高通技術(shù)公司計(jì)劃支持基于Llama 2的終端側(cè)AI部署,以賦能打造激動(dòng)人心的全新AI應(yīng)用。這將支持客戶、合作伙伴和開發(fā)者構(gòu)建智能虛擬助手、生產(chǎn)力應(yīng)用、內(nèi)容創(chuàng)作工具和娛樂等用例。這些由驍龍?賦能的全新終端側(cè)AI體驗(yàn),可在沒有網(wǎng)絡(luò)連接的區(qū)域、甚至是飛行模式下工作。

高通技術(shù)公司高級(jí)副總裁兼技術(shù)、規(guī)劃和邊緣解決方案業(yè)務(wù)總經(jīng)理馬德嘉表示:我們十分贊賞Meta對(duì)于AI技術(shù)采取的開放且負(fù)責(zé)的策略。高通技術(shù)公司致力于推動(dòng)創(chuàng)新,通過將生成式AI引入終端側(cè),將為各種規(guī)模的開發(fā)者降低開發(fā)門檻。為了將生成式AI有效地規(guī)?;瘮U(kuò)展至主流市場,AI需要同時(shí)在云端和邊緣終端上運(yùn)行,比如智能手機(jī)、筆記本電腦、汽車和物聯(lián)網(wǎng)終端。

Meta和高通技術(shù)公司長期合作,共同推動(dòng)技術(shù)創(chuàng)新,打造下一代卓越終端體驗(yàn)。雙方目前在支持Llama生態(tài)系統(tǒng)方面的合作,覆蓋了研究和產(chǎn)品工程技術(shù)工作。憑借終端側(cè)AI的領(lǐng)導(dǎo)力,高通技術(shù)公司在支持Llama生態(tài)系統(tǒng)方面具備獨(dú)特優(yōu)勢(shì)。公司擁有領(lǐng)先的邊緣側(cè)布局,其行業(yè)領(lǐng)先的AI硬件和軟件解決方案賦能了數(shù)十億智能手機(jī)、汽車、XR頭顯與眼鏡、PC和物聯(lián)網(wǎng)等終端,為生成式AI的規(guī)模化擴(kuò)展提供了廣闊機(jī)遇。

高通技術(shù)公司計(jì)劃從2024年起,在搭載驍龍平臺(tái)的終端上支持基于Llama 2的AI部署?,F(xiàn)在開發(fā)者可以開始使用高通AI軟件棧面向終端側(cè)AI進(jìn)行應(yīng)用優(yōu)化。高通AI軟件棧是一套支持在驍龍平臺(tái)上更高效處理AI的專用工具,讓輕薄的小型終端也能支持終端側(cè)AI。

(高通)

標(biāo)簽:高通 我要反饋 
泰科電子ECK、ECP系列高壓直流接觸器白皮書下載
世強(qiáng)
優(yōu)傲機(jī)器人下載中心
億萬克
專題報(bào)道
聚力同行 · 新智“碳”索
聚力同行 · 新智“碳”索

“新華社-智能·零碳”項(xiàng)目策劃以“聚力同行·新智‘碳’索”為主題的新能源專題,主要圍繞光伏、儲(chǔ)能、鋰電、氫能、風(fēng)能五大新... [更多]

2025中國國際機(jī)床展覽會(huì)
2025中國國際機(jī)床展覽會(huì)

4月21至26日,以“融合創(chuàng)新,數(shù)智未來”為主題的第十九屆中國國際機(jī)床展覽會(huì)在首都國際會(huì)展中心盛大舉辦。憑借場館的卓越服... [更多]

2023-2024 智能·零碳成果展映
2023-2024 智能·零碳成果展映

“2023-2024智能·零碳成果展映”展示國內(nèi)外企業(yè)推進(jìn)“雙碳”實(shí)踐的最新成果,鼓勵(lì)更多企業(yè)、科研機(jī)構(gòu)、投資機(jī)構(gòu)等廣泛... [更多]