類ChatGPT訓練需高性能芯片大(dà)規模并聯,高速接口IP迎紅利時代

 行業動态     |      2023-05-09 15:54:36

近段時間,ChatGPT的火(huǒ)熱重新掀起人工(gōng)智能産業熱潮,尤其是AIGC(指利用人工(gōng)智能技術來生(shēng)成内容)領域,已經進入到狂飙姿态,頭部科技企業争分(fēn)奪秒地尋求搶先發布類ChatGPT應用。


1683619117129068.png


衆所周知(zhī),類ChatGPT應用是一(yī)個吞金獸,微軟公司爲了訓練ChatGPT使用了1萬張英偉達的高端GPU。“從訓練的角度來看,計算性能再好的GPU芯片比如A100如果無法集群在一(yī)起去(qù)訓練,那麽訓練一(yī)個類ChatGPT的大(dà)模型可能需要上百年。因此,AI大(dà)模型的訓練對高速接口IP是一(yī)個巨大(dà)的挑戰,也是一(yī)個巨大(dà)的機遇。”奎芯科技市場及戰略副總裁唐睿在接受電(diàn)子發燒友網采訪時表示。


奎芯科技成立于2021年,是一(yī)家專業的集成電(diàn)路IP和Chiplet産品供應商(shāng),該公司的口号是“芯粒高速互聯,海量算力源泉 ”。目前,奎芯科技已經推出的高速接口IP組合包括USB、PCIe、SATA、SerDes、MIPI、DDR、HDMI、DP、HBM等豐富的類型。


類ChatGPT帶動接口IP發展


從半導體(tǐ)産業分(fēn)布來看,IP是底層技術,接口IP同樣如此,因此關鍵性和重要性是不言而喻的。那麽在AIGC産業裏,接口IP能夠發揮哪些作用呢?唐睿提到了以下(xià)幾點。


首先是芯片上的互聯接口,也就是Die to Die類型的互聯接口IP,包括UCIe等,用以擴充單芯片的計算能力;其次是Chip to Chip類型的互聯接口IP,包括SerDes/PCIe/CXL等,能夠加快芯片之間的互聯和數據交換,滿足更高帶寬的需求;此外(wài)還有内存接口IP,包括SATA、DDR、HBM等,能夠用于打造更高性能的存儲産品,幫助類ChatGPT存儲和交換大(dà)規模的數據;再上一(yī)層就是數據通訊接口的接口IP。因此,從訓練的角度來看,類ChatGPT應用的爆發,能夠帶來非常大(dà)的接口IP需求。


在此前的預測裏,有市場調研機構的數據顯示,2022年至2026年高速互聯IP的市場規模有望以75%的年複合增長率快速成長。“接口IP市場的增長一(yī)定是跟随整個高性能計算芯片大(dà)趨勢的,包括芯片運算性能、内存和帶寬方面的提升都需要接口IP的幫助,因此芯片用量的提升一(yī)定會帶來更大(dà)的接口IP用量。”唐睿認爲,“同時計算芯片性能的提升已經受限于摩爾定律放(fàng)緩的影響,單芯片的性能會逐漸遇到瓶頸,那麽互聯組成算力集群就是一(yī)個有效的手段,這也會加快推動接口IP的發展。”


雖然産業熱潮來臨,不過唐睿并不擔心一(yī)下(xià)子會湧入很多同行或者友商(shāng),造成國内接口IP産業内卷。“市場競争的激烈程度會增加,但接口IP是高門檻的領域,目前國内做高速混合電(diàn)路的人才其實并不多,特别是在先進制程上做高速模拟電(diàn)路設計的人才更少,因此從零組建團隊進入這個領域是非常困難的。”他對此講到。


國産廠商(shāng)的布局和追趕


從全球産業格局來看,在接口IP方面,目前新思科技和楷登電(diàn)子等EDA廠商(shāng)以及其他國際上的接口IP廠商(shāng)還處于領先位置。相關數據顯示,截止到2021年,國産接口IP的自給率還不足10%。


“目前,從技術上來看,國産接口IP廠商(shāng)确實還處于追趕的位置,不過這種差距已經越來越小(xiǎo)。”唐睿指出,“2023年,奎芯科技将會推出一(yī)系列性能達到國際領先水平的接口IP産品,包括HBM3以及其他領先的D2D類型的互聯接口IP。”


同時,他還講到,在服務國内客戶方面,實際上也會存在很多本地化的需求,需要根據這些需求結合晶圓廠的工(gōng)藝特色,提供IP解決方案。奎芯科技很多IP産品,在研發的過程中(zhōng)或者研發之前,就得到了客戶方的問詢,圍繞客戶的芯片架構,有非常清晰的需求。奎芯科技聯合自己的下(xià)遊客戶成立了多個産業聯盟,通過這些聯盟将不同類型的計算芯片公司聯合在一(yī)起,協同發展,圍繞數據中(zhōng)心應用把國産方案搭建好,彌補國内這一(yī)塊的空白(bái)。


當前,AI大(dà)模型訓練所用到的算力集群基本上都是基于英偉達通用算力芯片來打造,在這方面國産通用算力芯片還存在一(yī)定的性能差距。唐睿表示,國産高性能計算芯片還是有機會的,AI大(dà)模型并不是一(yī)個近期出現的新鮮事物(wù),近些年國内AI産業已經在跟進這一(yī)趨勢,隻是類ChatGPT類型應用背後的大(dà)模型參數規模更大(dà)。針對這方面的需求,國内芯片産業也早就啓動了這方面的布局,包括奎芯科技所在的接口IP賽道,都在向這個方向努力。不過,從IP研發到芯片設計,再到應用落地,這中(zhōng)間會有一(yī)個時間差。實際上,國外(wài)的公司也是在用之前的芯片通過互聯在做這方面的硬件支持。


“還需要特别提出的是,AIGC是一(yī)個軟硬件結合的應用。軟件方面,算法模型的體(tǐ)量也是一(yī)個值得研究去(qù)突破的方向。目前,國外(wài)開(kāi)源的AIGC算法裏,也并非隻有Open AI的GPT算法,通過介紹信息來看,也有一(yī)些參數更小(xiǎo)的模型能夠實現類ChatGPT應用。我(wǒ)們實際上可以借鑒這些模型,以減少軟件對硬件的需求壓力。”唐睿最後講到。


小(xiǎo)結


IP對半導體(tǐ)産業有巨大(dà)的撬動力量,在全球範圍内,約60多億美元的IP銷售額,帶動的是5000億美元的全球半導體(tǐ)市場銷售額。對于國産芯片而言,短期内實現單芯片性能暴增的難度非常大(dà),不過通過高速接口IP,用算力集群的方式,也能夠逐步進入類ChatGPT的紅利市場。