久久一日本道色综合久久_国产最爽的av片在线观看_精品成人Av一区二区三区_94久久国产乱子伦精品免费_国产三级网站在线观看_和女邻居做爰在线观看_wymfw最新免费_国产强奷在线免费阅读_95在线观看视频

GPT-4：多模態(tài)確認(rèn)，在專業(yè)和學(xué)術(shù)上表現(xiàn)亮眼
　　北京時(shí)間3月15日GPT-4正式發(fā)布，支持圖片、文字等多模態(tài)輸入，以及文本輸出。根據(jù)相關(guān)技術(shù)文檔，1）模型架構(gòu)（包括模型大?。?、硬件、訓(xùn)練計(jì)算、數(shù)據(jù)集構(gòu)造、訓(xùn)練方法等細(xì)節(jié)未公布；2）GPT-4于2022年8月完成訓(xùn)練，此后OpenAI一直在評(píng)估、對(duì)抗性測試并迭代和改進(jìn)模型；3）OpenAI搭建了開源OpenAIEvals模型評(píng)估框架，支持現(xiàn)有準(zhǔn)則和自定義準(zhǔn)則。4）GPT-4 API已開放等待列表（waitlist），價(jià)格提升明顯。實(shí)驗(yàn)結(jié)果表明，GPT-4在各種專業(yè)和學(xué)術(shù)基準(zhǔn)上表現(xiàn)出了人類的水平。
　　技術(shù)拆解：構(gòu)建深度學(xué)習(xí)堆棧，新增獎(jiǎng)勵(lì)訓(xùn)練模型
　　GPT-4項(xiàng)目重點(diǎn)之一是構(gòu)建大范圍可預(yù)測的深度學(xué)習(xí)堆棧。堆棧（stack）能夠通過評(píng)估小計(jì)算量模型的性能，準(zhǔn)確預(yù)測大計(jì)算量模型的性能，減少訓(xùn)練成本。訓(xùn)練方法上，預(yù)訓(xùn)練之后，GPT-4采用了與InstructGPT同樣的方法進(jìn)行基于人類反饋的強(qiáng)化學(xué)習(xí)，并添加了基于規(guī)則的獎(jiǎng)勵(lì)模型來進(jìn)一步引導(dǎo)模型產(chǎn)生人類預(yù)期的結(jié)果。多模態(tài)輸入上，支持圖片和文本的多模態(tài)輸入，但是，OpenAI未在技術(shù)文檔中給出圖片模態(tài)的相關(guān)技術(shù)細(xì)節(jié)。
　　安全性討論：引入專家提高模型安全性和一致性
　　OpenAI在技術(shù)文檔中耗費(fèi)大量篇幅討論模型安全性問題。從目前結(jié)果看，GPT-4仍然存在“幻覺”和推理錯(cuò)誤，并在模型校準(zhǔn)上表現(xiàn)不佳。為了進(jìn)一步提高模型安全性，OpenAI聘請(qǐng)了來自AI對(duì)齊風(fēng)險(xiǎn)、網(wǎng)絡(luò)安全、生物風(fēng)險(xiǎn)和國際安全等領(lǐng)域的50多名專家對(duì)模型進(jìn)行對(duì)抗性測試，涉及幻覺、有害內(nèi)容、虛假信息、武器擴(kuò)散、隱私、網(wǎng)絡(luò)安全等11個(gè)方面。我們認(rèn)為，OpenAI對(duì)模型安全性的關(guān)注，或是為未來大規(guī)模商業(yè)化應(yīng)用做鋪墊。
　　模型能力提升，應(yīng)用或進(jìn)一步升級(jí)
　　GPT4相比GPT3.5在多模態(tài)、推理能力、支持文本長度方面有了較明顯的提升，有望推動(dòng)應(yīng)用進(jìn)一步升級(jí)。對(duì)多模態(tài)的支持有望加速PDF、圖像等領(lǐng)域的生產(chǎn)力應(yīng)用升級(jí)，或?qū)⑼苿?dòng)生產(chǎn)力應(yīng)用效率的進(jìn)一步提升。相關(guān)公司包括：萬興科技、福昕軟件、金山辦公。更強(qiáng)的推理能力與語言理解能力有助于進(jìn)一步優(yōu)化服務(wù)型應(yīng)用的使用效果，包含垂類信息的搜索引擎、客服等產(chǎn)品的功能有望進(jìn)一步升級(jí)。相關(guān)公司包括：三六零、同花順。
　　風(fēng)險(xiǎn)提示：宏觀經(jīng)濟(jì)波動(dòng)，技術(shù)進(jìn)步不及預(yù)期。本報(bào)告內(nèi)容均基于客觀信息整理，不構(gòu)成投資建議。