高通支持Meta Llama 3在驍龍終端上運(yùn)行
要點(diǎn)：
?高通和Meta合作優(yōu)化Meta Llama 3大語言模型，支持在未來的驍龍旗艦平臺上實(shí)現(xiàn)終端側(cè)執(zhí)行。
?開發(fā)者將能夠訪問高通AI Hub中的資源和工具，以實(shí)現(xiàn)在驍龍平臺上優(yōu)化運(yùn)行Llama 3，從而縮短產(chǎn)品上市時(shí)間并充分發(fā)揮終端側(cè)AI的優(yōu)勢。
?高通技術(shù)公司的終端側(cè)AI能力包括行業(yè)領(lǐng)先的NPU、CPU和GPU技術(shù)組合，賦能生成式AI應(yīng)用實(shí)現(xiàn)即時(shí)性、增強(qiáng)的可靠性、隱私性、情境感知個(gè)性化和成本效益。
2024年4月19日，圣迭戈——高通技術(shù)公司和Meta宣布合作，以優(yōu)化Meta Llama 3大語言模型（LLM）直接在智能手機(jī)、PC、VR/AR頭顯和汽車等終端上的執(zhí)行。在終端側(cè)運(yùn)行Llama 3具有顯著優(yōu)勢，包括出色的響應(yīng)能力、增強(qiáng)的隱私性和可靠性，以及為用戶帶來更加個(gè)性化的體驗(yàn)。
高通技術(shù)公司高級副總裁兼技術(shù)規(guī)劃和邊緣解決方案業(yè)務(wù)總經(jīng)理馬德嘉表示：“我們贊賞Meta針對Meta Llama 3的開放策略，高通和Meta都致力于賦能開發(fā)者，激發(fā)AI創(chuàng)新。高通的終端側(cè)AI領(lǐng)導(dǎo)力，結(jié)合跨不同邊緣終端的廣泛市場布局，使我們能夠在全球范圍內(nèi)擴(kuò)大Llama生態(tài)系統(tǒng)優(yōu)勢，賦能客戶、合作伙伴和開發(fā)者打造新一代開創(chuàng)性AI體驗(yàn)?！?/p>
此次合作旨在賦能OEM廠商和開發(fā)者，在搭載未來旗艦驍龍?平臺的終端上支持Llama 3,推動(dòng)生成式AI功能的普及。高通技術(shù)公司強(qiáng)大的異構(gòu)計(jì)算能夠無縫利用行業(yè)領(lǐng)先的CPU、GPU和NPU處理器，并結(jié)合先進(jìn)的內(nèi)存架構(gòu)，賦能客戶、合作伙伴和開發(fā)者實(shí)現(xiàn)更佳應(yīng)用性能、能效和電池續(xù)航。
開發(fā)者可通過高通AI Hub訪問相關(guān)資源和工具，以實(shí)現(xiàn)在驍龍平臺上優(yōu)化運(yùn)行Llama 3。高通AI Hub目前可提供約100個(gè)優(yōu)化AI模型，能夠?yàn)殚_發(fā)者縮短產(chǎn)品上市時(shí)間，并使他們的應(yīng)用能夠發(fā)揮終端側(cè)AI的優(yōu)勢。欲獲取更新動(dòng)態(tài)，請訂閱高通月度開發(fā)者簡訊。
高通技術(shù)公司和Meta致力于驅(qū)動(dòng)創(chuàng)新，打造下一代AI體驗(yàn)。此次合作是雙方持續(xù)合作關(guān)系的重要里程碑，彰顯了雙方以強(qiáng)大AI能力賦能開發(fā)者和用戶的不懈努力。
關(guān)注我們
