>> 國(guó)海證券-計(jì)算機(jī)行業(yè)海外行業(yè)動(dòng)態(tài)研究：谷歌發(fā)布原生多模態(tài)大模型Gemini及新一代TPU系統(tǒng)Cloud TPU v5p-231208
| 上傳日期： |
2023/12/8 |
大?。?/td>
| 410KB |
| 格式： |
pdf 共5頁(yè) |
來(lái)源： |
國(guó)海證券 |
| 評(píng)級(jí)： |
-- |
作者： |
陳夢(mèng)竹 |
| 行業(yè)名稱(chēng)： |
計(jì)算機(jī) |
| 下載權(quán)限： |
無(wú)限制-登錄即可下載 |
|
|
事件:
美國(guó)時(shí)間2023年12月6日，谷歌發(fā)布Gemini 1.0模型。據(jù)谷歌官方，Gemini模型能夠從數(shù)據(jù)中心到移動(dòng)端設(shè)備上高效運(yùn)行。為此，谷歌基于Gemini 1.0推出了三種不同尺寸的模型：Gemini Ultra、Gemini Pro和Gemini Nano。作為原生多模態(tài)大模型，Gemini能夠處理視頻、音頻、圖像、文本和代碼等多種形式的內(nèi)容，且性能優(yōu)于現(xiàn)有的“拼接型”多模態(tài)大模型。此外，谷歌亦發(fā)布新一代TPU系統(tǒng)——Cloud TPU v5p，以幫助訓(xùn)練尖端的AI模型。目前，Bard已開(kāi)始使用Gemini Pro的微調(diào)版本來(lái)進(jìn)行更高級(jí)的推理，并計(jì)劃將Gemini引入旗下智能手機(jī)品牌Pixel。此外，從12月13日起，開(kāi)發(fā)者和企業(yè)客戶(hù)可以通過(guò)Google AIStudio或Google Cloud Vertex AI中的Gemini API訪問(wèn)Gemini Pro。谷歌計(jì)劃于2024年初向開(kāi)發(fā)人員和企業(yè)客戶(hù)正式推出Gemini Ultra。
我們的觀點(diǎn)：
TPU+Gemini+Android+Pixel共筑完整的AI產(chǎn)品線
谷歌使用內(nèi)部設(shè)計(jì)的TPU v4和v5e訓(xùn)練Gemini 1.0。谷歌針對(duì)三種不同的尺寸對(duì)Gemini 1.0進(jìn)行了優(yōu)化：①Gemini Ultra，是谷歌迄今為止最大且能力最強(qiáng)的模型，適用于復(fù)雜度高的任務(wù)，主要面向數(shù)據(jù)中心和企業(yè)級(jí)應(yīng)用；②Gemini Pro，可擴(kuò)展的模型，適用于廣泛的任務(wù)，其為谷歌諸多AI服務(wù)提供動(dòng)力，目前已成為Bard的支柱模型；③Gemini Nano，作為運(yùn)行在終端設(shè)備上的最為高效的模型，其能夠在Android設(shè)備上本地和離線運(yùn)行。Pixel 8 Pro將會(huì)是第一款運(yùn)行Gemini Nano的智能手機(jī)。Gemini Nona擁有兩個(gè)版本，其中，Nano-1參數(shù)量為1.8B，Nano-2參數(shù)量為3.25B。在公布Gemini的同時(shí)，谷歌亦推出其迄今為止最強(qiáng)大、最高效且可擴(kuò)展的TPU系統(tǒng)Cloud TPU v5p，該系統(tǒng)專(zhuān)為訓(xùn)練尖端AI模型而設(shè)計(jì)。在AI性能方面，TPU v5p能夠提供459 TFLOPS的BF16性能或918 TFLOPS的INT8性能，支持95GB的高帶寬內(nèi)存，能夠以2.76TB/s的速度傳輸數(shù)據(jù)。在模型訓(xùn)練方面，TPU v5p在LLM訓(xùn)練速度上顯示出2.8倍的代際提升，即使相比TPU v5e也有約50%的提升。
Gemini是首款原生多模態(tài)大模型，其性能或基本全面領(lǐng)先GPT-4
Gemini可無(wú)縫理解和推理各種模態(tài)的輸入內(nèi)容，并非將純文本、純視覺(jué)及純音頻模型拼接在一起，后者如OpenAI的GPT-4、DALL·E和Whisper。根據(jù)谷歌官方的評(píng)估，從自然圖像、音頻、視頻理解到數(shù)學(xué)推理，Gemini Ultra在32個(gè)常用的學(xué)術(shù)基準(zhǔn)的30個(gè)上超越GPT-4。在MMLU（大規(guī)模多任務(wù)語(yǔ)言理解）測(cè)試中，Gemini Ultra以90.0%的高分首次超過(guò)人類(lèi)專(zhuān)家，力壓得分為86.4%的GPT-4。在圖像、音頻和視頻等基準(zhǔn)測(cè)試中，Gemini Ultra超越之前的領(lǐng)先模型，且這一成果是在沒(méi)有OCR系統(tǒng)幫助的情況下實(shí)現(xiàn)的，充分體現(xiàn)了Gemini原生多模態(tài)的特性。此外，基于定制版的Gemini，谷歌還推出了更先進(jìn)的代碼生成系統(tǒng)——AlphaCode 2，其性能幾乎是初代的兩倍。從谷歌官方公布的技術(shù)文檔中的示例來(lái)看，Gemini不僅能夠進(jìn)行雙模態(tài)之間的轉(zhuǎn)換（如文生圖或文生視頻），亦能處理需要進(jìn)行多模態(tài)轉(zhuǎn)換的復(fù)雜任務(wù)，如根據(jù)圖表生成相應(yīng)代碼再由此生成順序有變的圖表。
Gemini將與谷歌現(xiàn)有產(chǎn)品&平臺(tái)充分結(jié)合，預(yù)計(jì)將于2024年初向開(kāi)發(fā)人員和企業(yè)客戶(hù)正式推出Ultra版本
據(jù)谷歌，從12月13日開(kāi)始，開(kāi)發(fā)者和企業(yè)客戶(hù)可以通過(guò)Google AIStudio或Google Cloud Vertex AI中的Gemini API訪問(wèn)Gemini Pro。其中，Google AIStudio是一款基于網(wǎng)絡(luò)的免費(fèi)的開(kāi)發(fā)者工具，可使用API密鑰快速構(gòu)建應(yīng)用程序原型并啟動(dòng)應(yīng)用程序；當(dāng)需要完全托管的AI平臺(tái)時(shí)，Vertex AI允許對(duì)Gemini進(jìn)行自定義，提供全面的數(shù)據(jù)控制，并受益于額外的Google Cloud功能，以實(shí)現(xiàn)企業(yè)安全、隱私以及數(shù)據(jù)治理和合規(guī)性（對(duì)標(biāo)微軟Azure OpenAIServices）。目前Gemini尚在進(jìn)行信任和安全檢查，并在進(jìn)一步完善之中，谷歌僅向選定的客戶(hù)、開(kāi)發(fā)人員、合作伙伴以及安全和責(zé)任專(zhuān)家提供Gemini Ultra，預(yù)計(jì)其將于2024年初向開(kāi)發(fā)人員和企業(yè)客戶(hù)正式推出。在接下來(lái)的幾個(gè)月里，谷歌會(huì)陸續(xù)將Gemini同搜索、廣告、Chrome以及Duet AI結(jié)合起來(lái)，目前谷歌已經(jīng)開(kāi)始在搜索中試驗(yàn)Gemini，從效果來(lái)看，它能夠使降低搜索延遲（美式英語(yǔ)的延遲減少了40%），同時(shí)搜索質(zhì)量也有提高。
投資建議
我們看好原生多模態(tài)大模型的投資機(jī)會(huì)。相較于“拼接型”多模態(tài)大模型，原生大模型可能是更優(yōu)解，其能幫助解決更為復(fù)雜的推理任務(wù)，從而實(shí)現(xiàn)真正意義上的AGI。如果谷歌將旗下產(chǎn)品全面接入Gemini，其搜索引擎和辦公軟件將能夠與微軟的NewBing及Microsoft 365 Copilot對(duì)壘；此外，谷歌亦有可能在搭載Android系統(tǒng)的移動(dòng)設(shè)備上推出類(lèi)似于Windows Copilot的AI助手，充分發(fā)揮其在2C端的用戶(hù)優(yōu)勢(shì)，順應(yīng)當(dāng)前AI手機(jī)的發(fā)展潮流。基于此，我們維持
|
|
