“每日調(diào)用量超千億次。”
(資料圖片僅供參考)
7月4日，騰訊云正式發(fā)布國(guó)內(nèi)首個(gè)AI原生（AI Native）的自研向量數(shù)據(jù)庫(kù)（Tencent Cloud Vector DB），預(yù)計(jì) 8月上線騰訊云官網(wǎng)。
據(jù)介紹，該數(shù)據(jù)庫(kù)是騰訊自研、基于內(nèi)部多年運(yùn)營(yíng)積累的分布式向量數(shù)據(jù)庫(kù)，已經(jīng)過(guò)騰訊海量業(yè)務(wù)場(chǎng)景驗(yàn)證，日均處理向量檢索千億次，支持標(biāo)量+向量的混合檢索，具有高性能、大容量等特點(diǎn)，支持全內(nèi)存索引。主要面向大模型訓(xùn)練，讓企業(yè)原先花一個(gè)月時(shí)間才能完成的大模型接入，縮短到三天時(shí)間。
天眼查App顯示，騰訊科技（深圳）有限公司于近日申請(qǐng)注冊(cè)兩枚“TENCENT CLOUD VECTORDB”商標(biāo)，國(guó)際分類為科學(xué)儀器、網(wǎng)站服務(wù)，當(dāng)前商標(biāo)狀態(tài)為申請(qǐng)中。
騰訊云數(shù)據(jù)庫(kù)副總經(jīng)理羅云指出，向量數(shù)據(jù)庫(kù)已經(jīng)在QQ瀏覽器、騰訊視頻、騰訊游戲、QQ音樂(lè)、搜狗輸入法等上百個(gè)業(yè)務(wù)場(chǎng)景應(yīng)用，每日調(diào)用量超千億次。其中，支撐QQ音樂(lè)人均聽(tīng)歌時(shí)長(zhǎng)提升3.2%，QQ瀏覽器成本降低37.9%，騰訊視頻有效曝光人均時(shí)長(zhǎng)提升1.74%。
其還自研了分布式向量數(shù)據(jù)庫(kù)核心引擎Olama，原ElasticFaiss。據(jù)了解，Olama最早于2019年4月進(jìn)行孵化，目前可支持十億級(jí)別的單行向量數(shù)據(jù)索引、查詢QPS達(dá)到百萬(wàn)、響應(yīng)延遲在20毫秒。
向量數(shù)據(jù)庫(kù)源自騰訊集團(tuán)每日處理千億次檢索的向量引擎（OLAMA），單索引支持10億級(jí)向量規(guī)模，更適用于AI運(yùn)算、檢索，數(shù)據(jù)接入AI的效率也比傳統(tǒng)方案提升10倍。
針對(duì)大模型場(chǎng)景，向量數(shù)據(jù)庫(kù)在接入層、計(jì)算層、存儲(chǔ)層實(shí)現(xiàn)了全面AI化：在接入層，智能化支持自然語(yǔ)言文本的直接檢索；在計(jì)算層，通過(guò)AI算子替代企業(yè)尋找/調(diào)優(yōu)AI算法，將接入工期從一個(gè)月縮短到3天；在存儲(chǔ)層，融合智能壓縮算法，把向量存儲(chǔ)成本降低50%。
此外，騰訊云在6月19日首次公布了其行業(yè)大模型研發(fā)進(jìn)展，依托騰訊云TI平臺(tái)打造行業(yè)大模型精選商店，為客戶提供MaaS（Model-as-a-Service）一站式服務(wù)，技術(shù)底座來(lái)自騰訊全棧能力，提供高性能計(jì)算集群HCC、高性能網(wǎng)絡(luò)、向量數(shù)據(jù)庫(kù)等基礎(chǔ)設(shè)施。
4月，騰訊云發(fā)布了專為大模型訓(xùn)練設(shè)計(jì)的新一代HCC高性能計(jì)算集群，采用最新一代的騰訊云星星海自研服務(wù)器，具備業(yè)界最高的3.2Tbps互聯(lián)帶寬，算力性能提升3倍。
一直以來(lái)，騰訊在產(chǎn)業(yè)互聯(lián)網(wǎng)中的定位是做產(chǎn)業(yè)的“數(shù)字化助手”，騰訊云作為中國(guó)云市場(chǎng)的頭部廠商，目前形成了四級(jí)加速框架，為產(chǎn)業(yè)輸出從底層算力支撐到AI開(kāi)發(fā)平臺(tái)、到AI產(chǎn)品解決方案、再到頂層數(shù)智化轉(zhuǎn)型方法的四級(jí)全鏈條服務(wù)，是實(shí)現(xiàn)這一目標(biāo)的重要?jiǎng)恿σ妗?
展望未來(lái)，“向量數(shù)據(jù)庫(kù)+大模型+數(shù)據(jù)”將產(chǎn)生“飛輪效應(yīng)”，共同助力企業(yè)步入AI Native（AI原生）時(shí)代。騰訊云也將繼續(xù)打磨技術(shù)能力，提供更堅(jiān)實(shí)的AI基礎(chǔ)設(shè)施。
