中國(guó)大模型開(kāi)源創(chuàng)新與合作的新篇章 | 2023 CCF中國(guó)開(kāi)源大會(huì)

2023年10月21日至22日,由中國(guó)計(jì)算機(jī)學(xué)會(huì)(CCF)和開(kāi)放原子開(kāi)源基金會(huì)聯(lián)合主辦的CCF中國(guó)開(kāi)源大會(huì)(CCF ChinaOSC)在湖南省長(zhǎng)沙市北辰國(guó)際會(huì)議中心成功召開(kāi)。此次大會(huì)以“開(kāi)源聯(lián)合,聚力共贏”為主題,旨在推動(dòng)國(guó)內(nèi)外開(kāi)源事業(yè)的交流與合作,共同探討開(kāi)源未來(lái)的發(fā)展方向和趨勢(shì)。

2023 CCF中國(guó)開(kāi)源大會(huì)現(xiàn)場(chǎng)

高文院士:大模型開(kāi)源推動(dòng)技術(shù)創(chuàng)新與產(chǎn)業(yè)發(fā)展

在21日的主論壇會(huì)議上,鵬城實(shí)驗(yàn)室主任、中國(guó)工程院院士高文發(fā)表了題為《鵬城·腦海預(yù)訓(xùn)練大模型底座與開(kāi)源合作》的報(bào)告。高文院士詳細(xì)介紹了鵬城腦海預(yù)訓(xùn)練大模型的底座技術(shù)和應(yīng)用場(chǎng)景,并強(qiáng)調(diào)了開(kāi)源合作的重要性。他指出,以ChatGPT為代表的聊天預(yù)訓(xùn)練大模型已經(jīng)對(duì)人類經(jīng)濟(jì)生活產(chǎn)生了巨大的影響。而這種影響背后,強(qiáng)大的算力基礎(chǔ)是大模型能夠理解海量數(shù)據(jù)并不斷演化的關(guān)鍵因素。

鵬城實(shí)驗(yàn)室主任高文院士分享報(bào)告

高文院士表示,基于鵬城云腦II先進(jìn)自主E級(jí)智能算力平臺(tái),鵬城實(shí)驗(yàn)室正在持續(xù)訓(xùn)練鵬城·腦海大模型底座。腦海是一個(gè)完全自主可控、開(kāi)源開(kāi)放的自然語(yǔ)言稠密大模型,參數(shù)級(jí)別達(dá)到2000億,性能達(dá)到國(guó)際先進(jìn)水平。他強(qiáng)調(diào),鵬城·腦海大模型底座的輸出內(nèi)容符合中文核心價(jià)值觀,這對(duì)于推動(dòng)大模型在國(guó)內(nèi)的發(fā)展具有重要意義。

高文院士還指出,開(kāi)源已經(jīng)成為推動(dòng)技術(shù)創(chuàng)新和產(chǎn)業(yè)發(fā)展的重要力量,而大模型開(kāi)源更是未來(lái)發(fā)展的重要方向之一。通過(guò)開(kāi)源開(kāi)放的方式,可以匯聚全球的智慧和力量,加速大模型的研發(fā)進(jìn)程,并且推動(dòng)大模型在各個(gè)行業(yè)和領(lǐng)域的應(yīng)用。他表示,鵬城實(shí)驗(yàn)室已經(jīng)開(kāi)放基于鵬城·腦海自然語(yǔ)言預(yù)訓(xùn)練大模型底座的合作,將持續(xù)共建大模型開(kāi)源聯(lián)合體,助力國(guó)產(chǎn)自主創(chuàng)新的大模型生態(tài)發(fā)展。

大模型開(kāi)源創(chuàng)新研究聯(lián)合體:聯(lián)接資源,推動(dòng)創(chuàng)新

為進(jìn)一步推動(dòng)大規(guī)模模型的研究和發(fā)展,促進(jìn)學(xué)術(shù)界和工業(yè)界的交流與合作,以及匯聚全球的智慧和力量,會(huì)上進(jìn)行了“大模型開(kāi)源創(chuàng)新研究聯(lián)合體”的成立儀式。由OpenI啟智社區(qū)運(yùn)營(yíng)中心主任余躍博士為大家簡(jiǎn)單介紹關(guān)于成立“大模型開(kāi)源創(chuàng)新研究聯(lián)合體”的背景和目的。他表示,該聯(lián)合體的主要目標(biāo)是通過(guò)將三種創(chuàng)新體相互聯(lián)接以構(gòu)建更好的大模型開(kāi)源發(fā)展生態(tài)。

余躍博士介紹大模型開(kāi)源創(chuàng)新研究聯(lián)合體

第一種是對(duì)計(jì)算資源跨域協(xié)作的聯(lián)接。目前通過(guò)中國(guó)算力網(wǎng)加入聯(lián)合體的有鵬城云腦以及來(lái)自全國(guó)的8家智算中心。這種聯(lián)接方式旨在優(yōu)化和整合各中心的資源,打破孤立,實(shí)現(xiàn)資源共享,以推動(dòng)大規(guī)模模型的開(kāi)發(fā)和研究。

第二種是對(duì)包括了鵬城·腦海在內(nèi)的大模型主體的聯(lián)接。鵬城·腦海是一個(gè)強(qiáng)大的AI模型,具備深度學(xué)習(xí)和推理能力。通過(guò)聯(lián)接這些模型,開(kāi)發(fā)者可以更方便地利用這些模型進(jìn)行研究和開(kāi)發(fā),進(jìn)一步推動(dòng)大模型的發(fā)展和應(yīng)用。

第三種是對(duì)包括科研機(jī)構(gòu)、高校、企業(yè)等群智主體的聯(lián)接。這種聯(lián)接方式旨在促進(jìn)學(xué)術(shù)界和工業(yè)界的交流與合作,匯聚全球的智慧和力量,共同推動(dòng)大模型技術(shù)的不斷發(fā)展和應(yīng)用。

在成立儀式上,由中國(guó)工程院院士王懷民、余躍博士以及來(lái)自北京昇騰人工智能計(jì)算中心、天津人工智能計(jì)算中心、沈陽(yáng)人工智能計(jì)算中心、大連人工智能計(jì)算中心、長(zhǎng)春算力中心、西安未來(lái)人工智能計(jì)算中心、武漢超算中心&人工智能計(jì)算中心、成都智算中心8家計(jì)算中心代表上臺(tái)聯(lián)合見(jiàn)證了這一重要時(shí)刻。大模型開(kāi)源創(chuàng)新研究聯(lián)合體將成為人工智能領(lǐng)域的一個(gè)重要平臺(tái),為未來(lái)的技術(shù)創(chuàng)新和發(fā)展奠定堅(jiān)實(shí)的基礎(chǔ)。

大模型開(kāi)源創(chuàng)新研究聯(lián)合體成立儀式合影

中國(guó)大模型開(kāi)源之路:專家探討文化、技術(shù)與企業(yè)實(shí)踐

繁榮中國(guó)開(kāi)源生態(tài),促進(jìn)中國(guó)開(kāi)源發(fā)展,離不開(kāi)產(chǎn)學(xué)研的參與和努力。會(huì)上,由中國(guó)科學(xué)院院士、CCF開(kāi)源發(fā)展委員會(huì)主任王懷民主持了以“中國(guó)大模型的開(kāi)源發(fā)展之路”為主題的開(kāi)源高峰論壇,與會(huì)嘉賓包括高文院士、復(fù)旦大學(xué)計(jì)算機(jī)學(xué)院教授邱錫鵬、清華大學(xué)計(jì)算機(jī)系WeBank講席教授唐杰、阿里云CTO周靖人以及百川智能創(chuàng)始人兼CEO王小川。這些嘉賓就中國(guó)大模型的開(kāi)源發(fā)展問(wèn)題進(jìn)行了深入探討,并提出了寶貴的建議。

“中國(guó)大模型的開(kāi)源發(fā)展之路”高峰論壇

其中,高文院士強(qiáng)調(diào)了開(kāi)源的重要性,認(rèn)為開(kāi)源本身是一種文化。傳統(tǒng)的軟件開(kāi)源與大模型的開(kāi)源并沒(méi)有本質(zhì)差別,都需要構(gòu)建合作伙伴關(guān)系、建立生態(tài)。大模型開(kāi)源后,其影響力將更廣泛,更多的開(kāi)發(fā)者和企業(yè)將能夠基于它來(lái)開(kāi)發(fā)更多應(yīng)用與服務(wù)。他還特別提到OpenI啟智社區(qū),其獨(dú)特之處在于它成功地從實(shí)驗(yàn)性科研項(xiàng)目發(fā)展成為備受開(kāi)發(fā)者喜愛(ài)的開(kāi)源社區(qū)。他認(rèn)為,吸引并服務(wù)好年輕人是關(guān)鍵,讓社區(qū)成為大家喜愛(ài)的聚集地是社區(qū)建設(shè)最重要的任務(wù)。

唐杰教授則從技術(shù)角度出發(fā),探討了大模型的開(kāi)源技術(shù)挑戰(zhàn)和解決方案。他認(rèn)為,解決模型的可解釋性、隱私保護(hù)以及跨語(yǔ)言、跨領(lǐng)域等問(wèn)題是大模型開(kāi)源的關(guān)鍵。同時(shí),他還分享了如何利用強(qiáng)化學(xué)習(xí)等技術(shù)來(lái)優(yōu)化大模型的性能。

邱錫鵬教授表示,大模型的開(kāi)源將促進(jìn)更多的創(chuàng)新和合作。他認(rèn)為,在開(kāi)源社區(qū)中,應(yīng)該注重培養(yǎng)年輕的人才,讓他們成為推動(dòng)大模型開(kāi)源發(fā)展的重要力量。

周靖人則從企業(yè)的角度出發(fā),分享了阿里云和魔搭社區(qū)在大模型開(kāi)源方面的探索和實(shí)踐。他認(rèn)為,企業(yè)應(yīng)該積極參與大模型的開(kāi)源工作,通過(guò)合作來(lái)推動(dòng)技術(shù)的發(fā)展,同時(shí)也要注重保護(hù)知識(shí)產(chǎn)權(quán)。

王小川提出模型開(kāi)源比以往的項(xiàng)目開(kāi)源更積極,開(kāi)源之后,大家能基于模型很快搭建自己的服務(wù)平臺(tái),可用性較以往大有提升。他表示,百川智能將致力于推動(dòng)大模型的開(kāi)源發(fā)展,通過(guò)建立合作伙伴關(guān)系、培養(yǎng)人才以及加強(qiáng)技術(shù)研發(fā)等方面來(lái)推動(dòng)中國(guó)大模型開(kāi)源的進(jìn)步和發(fā)展。

最后,王懷民院士總結(jié)了本次對(duì)中國(guó)大模型的開(kāi)源發(fā)展之路的討論,他表示,我們感受到中國(guó)建設(shè)的大模型開(kāi)源創(chuàng)新環(huán)境具有吸引力,吸引中國(guó)開(kāi)發(fā)者乃至全球創(chuàng)新者的關(guān)注。未來(lái)期待基于大模型開(kāi)源激發(fā)我國(guó)人工智能應(yīng)用創(chuàng)新,助力中國(guó)信息產(chǎn)業(yè)發(fā)展。

中國(guó)大模型開(kāi)源事業(yè)的健康發(fā)展、開(kāi)源生態(tài)的良性構(gòu)建,離不開(kāi)政府、企業(yè)、科研機(jī)構(gòu)以及各界開(kāi)源愛(ài)好者的持續(xù)支持和廣泛參與。最后,鵬城實(shí)驗(yàn)室熱烈歡迎對(duì)鵬城·腦海大模型開(kāi)源感興趣的組織機(jī)構(gòu)通過(guò)以下聯(lián)系方式加入大模型開(kāi)源創(chuàng)新研究聯(lián)合體,期待在各方的支持下,中國(guó)的大模型開(kāi)源事業(yè)能夠取得更大的突破和進(jìn)步。

鵬城·腦海大模型網(wǎng)址:

https://openi.pcl.ac.cn/extension/mind

聯(lián)系郵箱:

secretariat@openi.org.cn

Share this article:

Facebook
Twitter
LinkedIn
WhatsApp

More articles