充足的算力資源，在數(shù)據(jù)量持續(xù)增長及算法持續(xù)復雜化的前提下，無疑是保障人工智能應用落地效果的關鍵。
軟件定義算力——打造AI轉型最佳實踐
8月2日，第四范式聯(lián)合英特爾共同舉辦了AI實踐者之聲夏令營活動。第四范式基礎架構負責人劉一鳴以《軟件定義算力——打造AI轉型最佳實踐》為題做了演講，他指出，不管是圍繞專家規(guī)則構建AI系統(tǒng)，還是圍繞AutoML技術構建應用系統(tǒng)，都將帶來算力的巨大需求。
具體而言，挑戰(zhàn)在于數(shù)據(jù)量越來越大，但模型效果沒有多大提升，這就需要做高維復雜的模型。其次，數(shù)據(jù)的價值是隨著時間的增加而遞減，比如情報資料知道的越早越容易做出決策。
其中的關鍵是要讓AI釋放算力達到極致效果，這就需要基礎架構提供算力。為此，第四范式首先做了自研的機器學習框架，現(xiàn)在模型越來越深，此外他們還自研了整個軟件棧，每一層都做了精細優(yōu)化，并且與硬件進行結合。
通過與AI行業(yè)核心基礎設施技術提供商英特爾公司的深度合作，第四范式AIO引入英特爾?Cascade，Optane固態(tài)硬盤等技術，擁有了更充沛的算力，進一步加速了企業(yè)實施AI應用的進程。
在AI數(shù)據(jù)處理能力上，結合英特爾?Cascade Lake CPU與第四范式軟硬一體的優(yōu)化，先知AI平臺分布式模型訓練框架訓練速度獲得飛躍。在TB級數(shù)據(jù)規(guī)模下，“第四范式先知”平臺的模型訓練速度可達Spark*的數(shù)千倍。英特爾?Optane固態(tài)盤則是“第四范式先知”平臺引入的另一項英特爾 “殺手锏”，其3D XPoint? 技術，正在打破內(nèi)存和固態(tài)盤之間的邊界。
最后，劉一鳴表示，第四范式的最終目標是端到端的機器學習，其軟硬一體的企業(yè)級AI平臺就是為了讓AI的價值快速落地，所以不管是網(wǎng)絡、存儲還是計算，他們要讓全流程至少比起普通的機器快四到十倍。
軟硬協(xié)同——突破產(chǎn)品性能瓶頸
作為硬件平臺的重要合作方，英特爾為第四范式提供性能強勁的至強?處理器和數(shù)據(jù)中心級持久化內(nèi)存硬件平臺, 同時為第四范式業(yè)務更好的協(xié)同硬件工作而提供了一系列的優(yōu)化工具和方法，幫助企業(yè)軟件協(xié)同硬件，更好的發(fā)揮硬件的性能潛力，打破產(chǎn)品性能瓶頸，助推第四范式“1+N”智能化轉型。
此次夏令營活動上，英特爾AI方案架構師趙玉萍和英特爾軟件工程師吳國安以《軟硬協(xié)同——突破產(chǎn)品性能瓶頸》為題講述了系統(tǒng)性能的優(yōu)化方法以及性能優(yōu)化的結果。
系統(tǒng)性能的優(yōu)化方法主要三種：
第一種是資源分析方法，主要包括USE的方法，也就是檢測使用率、飽和、錯誤，還有資源縮放的方法。
第二種是微架構自下而上分析方法，主要是分析CPU微架構的使用情況，包括前端受限、后端受限或者錯誤預測以及等待卸貨的比例，各個比例是怎么樣，這主要是為了更高效地使用CPU執(zhí)行單元。
第三種是代碼和熱點優(yōu)化方法，主要是包括熱點檢測，并發(fā)和鎖分析，以及如何使代碼特別對于AI的代碼進行向量化、減少內(nèi)部布局和多線程并發(fā)。
這三種方法是從總體到細節(jié)這樣一個優(yōu)化過程，同時三種方法不停地循環(huán)往復推動整個系統(tǒng)的性能提升。
吳國安還介紹了英特爾傲騰數(shù)據(jù)中心級持久內(nèi)存應用方法。傲騰數(shù)據(jù)中心級持久化內(nèi)存與正常內(nèi)存共享內(nèi)存控制器和內(nèi)存通道，主要有三大特點： 擴展大內(nèi)存，也就是可以存放或者緩存更多，不需要做任何代碼上的改動，非常簡單易用;內(nèi)存持久化，需要應用做一些改動，可以實現(xiàn)一些高可用場景;快速存儲設備，可以減少I/O受限，簡單易用，但由于做快速存儲設備優(yōu)勢不那么明顯，目前還沒有找到合適場景。
走進南京大學——AI實踐者之聲夏令營活動招募
8月31日，由英特爾發(fā)起的 AI實踐者之聲夏令營來到南京大學，該技術沙龍旨在打破技術理論、產(chǎn)品、場景邊界，促進人工智能規(guī)?；涞亍?/p>
眾所周知，在實現(xiàn)智能化轉型的道路上，各行業(yè)企業(yè)面臨著海量數(shù)據(jù)處理、機器學習和深度學習技術支撐、高昂計算成本以及技術人才緊缺帶來的挑戰(zhàn)。企業(yè)一直在尋求可以不斷提高效率、降低成本的生產(chǎn)線，這就需要開發(fā)者不斷增長技能，緊跟技術發(fā)展，幫助企業(yè)解決工程實踐中的挑戰(zhàn)。
此次AI實踐者之聲夏令營活動一如既往有重磅演講嘉賓蒞臨，分別是南京大學人工智能學院教授俞揚教授、英特爾(中國)人工智能行業(yè)客戶總監(jiān)孫宇以及創(chuàng)新工場南京國際人工智能研究院執(zhí)行院長馮霽。
