焦點(diǎn)熱議:高通和微軟合作構(gòu)建 Snapdragon 計(jì)算平臺上的生成式人工智能

【資料圖】

編程客棧() 5月24日消息:在 Microsoft Build 2023 活動中，高通技術(shù)公司展示了其在設(shè)備上編程人工智能方面的最新創(chuàng)新，包括在 Snapdragon 計(jì)算平臺上運(yùn)行生成式人工智能，并為在搭載 Snapdragon 的 Windows 11 PC 上構(gòu)建應(yīng)用程序的開發(fā)者提供新的路徑。

高通技術(shù)公司產(chǎn)品管理高級副總裁 Ziad Asghar 表示：「要使生成式人工智能真正成為主流，大部分推理過程需要在邊編程客棧緣設(shè)備上執(zhí)行。」「我們一流的人工智能硬件和軟件使開發(fā)者能夠充分利用我們強(qiáng)大的人工智能能力，在搭載 SnapdragzzFiZxon 的筆記本電腦、手機(jī)和其他設(shè)備上提供令人難以置信的全新用戶體驗(yàn)。」

人工智能的未來需要同時(shí)涵蓋設(shè)備上和云端的應(yīng)用。在設(shè)備上運(yùn)行人工智能應(yīng)用可以提高成本效益、隱私性、個(gè)性化和延遲。Snapdragon 平臺包括專用的高通 AI 引擎，可以比在 CPU 或 GPU 上純粹進(jìn)行處理更高效地處理 AI 工作負(fù)載，使得即使在小型、薄型和輕型設(shè)備上也可以實(shí)現(xiàn)設(shè)備上人工智能。

在 Microsoft Build 活動上，高通技術(shù)將展示演示和提供工具，以幫助開發(fā)下一代 Windows 11 PC 上的生成式人工智能。Stable Diffusion 是一個(gè)文本到圖像的生成式人工智能模型，具有超過 10 億個(gè)參數(shù)，現(xiàn)在可以完全在本地設(shè)備上運(yùn)行，該公司表示未來幾個(gè)月內(nèi)將能夠在設(shè)備上運(yùn)行具有高達(dá) 100 億個(gè)參數(shù)的模android型，包括大型語言模型。為增強(qiáng)高通 AI 堆棧并幫助開發(fā)者創(chuàng)建下一代設(shè)備上人工智能體驗(yàn)，高通 AI 引擎直編程接軟件開發(fā)工具包將首次向公眾提供。借助 ONNX Runtime 和高通 AI 堆棧，您可以在 Surface Pro 9 5G 和 Lenovo ThinkPad x13s 上的 Snapdragon 8cx Gen 3 AI 引擎上運(yùn)行您的人工智能工作負(fù)載。

微軟 Windows Silicon 和系統(tǒng)集成企業(yè)副總裁 Pavan Davuluri 表示：「擴(kuò)展人工智能到廣闊的設(shè)備和應(yīng)用程序領(lǐng)域需要云端和設(shè)備處理的共同努力。」「通過將微軟的云端人工智能領(lǐng)導(dǎo)地位和 Windows 平臺的能力與高通技術(shù)的設(shè)備上人工智能專業(yè)知識結(jié)合起來，我們將加速生成式人工智能體驗(yàn)的機(jī)會。」