聯發科和vivo官宣合作，率先實現10億和70億AI大語言模型和10億AI視覺大模型在手機端側落地，70億是目前手機上落地的最高參數規模AI大語言模型。

這都得益于聯發科下一代旗艦級AI處理器APU和AI開發平臺NeuroPilot的強力加持。這是聯發科天璣9300在CPU和GPU方面行業領先后，又一次重拳出擊，知名博主@數碼閑聊站稱之為“三殺”！

生成式AI應用是指利用人工智能技術生成各種內容，如文本、圖像、音頻、視頻等，具有極高的創新性和價值。

目前生成式AI應用主要依賴于云端的大模型，如Meta的Llama 2等，這些模型具有數十億甚至數千億的參數量，需要大量的計算資源和網絡帶寬。而在手機端側實現生成式AI應用，則需要更高的算力效率和更低的功耗。

聯發科天璣9300正是以強大的AI算力支持手機端的生成式AI應用，預計可以在手機上實現多種創新功能，如智能寫作、智能翻譯、智能攝影、智能美化等。由此可見，聯發科天璣9300的下一代旗艦級AI處理器APU值得期待。

除了APU之外，聯發科還提供了開發平臺NeuroPilot，它是一個全棧式的解決方案，NeuroPilot是聯發科為開發者提供的基于本地端側的AI運算解決方案，它為內建CPU、GPU和APU（獨立AI處理器）等異構運算單元的聯發科芯片提供完整且強大的軟件解決方案。

AI開發者可以使用主流的TensorFlow、Pytorch、TF Lite、Caffe、Caffe2以及其他自定義的第三方通用AI框架來構建神經網絡模型，并接入到NeuroPilot系統，充分發揮聯發科AI系統的強勁算力，顯著提高模型運行在設備上的效率，并降低功耗和內存消耗。

聯發科與Meta、百度等廠商的大模型合作適配，又與vivo和OPPO等手機廠商合作終端側的落地，多方強強聯手，已經讓生成式AI在手機上成為現實。

希望一鍵生成周報、生成會議總結，甚至一鍵生成創意圖片等功能可以早日在手機上普及，端側運行也會帶來更高的效率和安全性，這些功能都有望在天璣9300上落地，十分期待了！