8月12日,新華社研究院中國企業(yè)發(fā)展研究中心發(fā)布《人工智能大模型體驗(yàn)報(bào)告2.0》(以下簡稱“報(bào)告”)。報(bào)告顯示,在當(dāng)前業(yè)已發(fā)布的國內(nèi)主流大模型中,百度文心在基礎(chǔ)能力、智商能力、情商能力和工具提效四大維度綜合得分 1010分,排名第二,與排名第一的科大訊飛星火大模型(1013分)僅差3分。其余排在第三、第四、第五位的分別為商湯商量、智譜ChatGLM和360智腦,得分分別為983、983、951。
報(bào)告稱,本次測評(píng)的目的,旨在進(jìn)一步直觀感受我國當(dāng)前主流科技企業(yè)所推出的大模型產(chǎn)品的現(xiàn)狀、優(yōu)勢和特點(diǎn)。
在打分標(biāo)準(zhǔn)上,本次測評(píng)根據(jù)對(duì)產(chǎn)業(yè)、生活的實(shí)際價(jià)值,更綜合深入的對(duì)基礎(chǔ)能力、智商能力、情商能力和工具提效四大測評(píng)維度進(jìn)行了權(quán)重設(shè)計(jì)。
同時(shí)本次研究還設(shè)置了用戶體驗(yàn)項(xiàng)目,抓取了7月31日—8月4日數(shù)據(jù),通過人機(jī)互動(dòng)提問等形式,對(duì)國內(nèi)主流大模型進(jìn)行使用體驗(yàn)評(píng)測,旨在為科技企業(yè)調(diào)整努力方向提供參考。
具體到各維度,訊飛星火在工作提效、智商方面優(yōu)勢明顯,而百度文心一言和商湯商量則在基礎(chǔ)能力和情商方面各有所長。
報(bào)告指出,盡管AI具有高速度和高效率的優(yōu)勢,但在某些復(fù)雜和具有創(chuàng)新性的任務(wù)中,人類的智慧和想象力仍然具有無法替代的作用。在本次測評(píng)中,人類答案得分為1014分,相比訊飛星火高出1分,相比百度文心一言高出4分。