聯(lián)發(fā)科發(fā)布天璣AI開(kāi)發(fā)套件 終端生成式AI應(yīng)用開(kāi)發(fā)一站式解決方案

快科技5月7日消息，今天，聯(lián)發(fā)科舉辦天璣開(kāi)發(fā)者大會(huì)2024（MDDC 2024）。在這次大會(huì)上，聯(lián)發(fā)科正式發(fā)布天璣AI開(kāi)發(fā)套件，旨在為合作伙伴打造終端生成式AI應(yīng)用開(kāi)發(fā)一站式解決方案。

據(jù)悉，聯(lián)發(fā)科天璣AI開(kāi)發(fā)套件包含快速高效的GenAI最佳實(shí)踐、覆蓋全球主流大模型的GenAI Model Hub、高效提升性能的GenAI優(yōu)化技術(shù)和Neuron Studio一站式視覺(jué)化開(kāi)發(fā)環(huán)境等四大模塊，為開(kāi)發(fā)者提供“快、全、強(qiáng)、易”的專業(yè)開(kāi)發(fā)體驗(yàn)，賦能終端生成式AI應(yīng)用開(kāi)發(fā)全流程。

其中，GenAI最佳實(shí)踐通過(guò)模型量化、模型編譯和模型推理技術(shù)加速了大模型的終端部署，可從數(shù)周加速到一天；GenAI Model Hub適配行業(yè)前沿主流的大模型，為開(kāi)發(fā)者高效構(gòu)建生成式AI應(yīng)用提供豐富的大模型資源。

天璣AI開(kāi)發(fā)套件還支持推測(cè)解碼加速、LoRA Fusion等先進(jìn)的GenAI優(yōu)化技術(shù)；Neuron Studio集成開(kāi)發(fā)環(huán)境可提供一站式可視化的開(kāi)發(fā)環(huán)境，跳出傳統(tǒng)的代碼開(kāi)發(fā)環(huán)境，帶來(lái)“所見(jiàn)即所得”般更易用的開(kāi)發(fā)體驗(yàn)。

目前，天璣AI開(kāi)發(fā)者套件已覆蓋智能手機(jī)、智能汽車、物聯(lián)網(wǎng)、個(gè)人電腦等智能終端設(shè)備，為全場(chǎng)景生成式AI應(yīng)用開(kāi)發(fā)賦能。

聯(lián)發(fā)科陳冠州表示，MediaTek將融合產(chǎn)業(yè)生態(tài)伙伴的力量，高效地賦能開(kāi)發(fā)者，加速建構(gòu)從云端到終端的AI新生態(tài)，推動(dòng)生成式AI技術(shù)在智能終端上的應(yīng)用普及，讓更多用戶享受到全新的高端生成式AI體驗(yàn)，加速萬(wàn)物AI時(shí)代的到來(lái)。