本文目錄一覽：
autodl平臺(tái)
1,、在探索云算力平臺(tái)的眾多選項(xiàng)中，讓我們深入剖析幾個(gè)備受矚目的選擇：Featurize,、AI Studio,、MegStudio,、Colab和AutoDL。首先,，讓我們看看Featurize,，它的價(jià)格親民，預(yù)裝了Tensorflow和Pytorch,，為用戶提供多樣化的GPU/CPU配置,，20GB的免費(fèi)云空間無(wú)疑是它的亮點(diǎn)。
2,、AutoDL-- 算力互聯(lián)網(wǎng)平臺(tái) ,。提供GPU、國(guó)產(chǎn)加速卡等異構(gòu)AI算力在線租用服務(wù)。這是我們第一次上線公測(cè),，因此在您使用GPU租用服務(wù)之前,，我有一些信息與您分享，這有助于您更快速的上手并創(chuàng)建您在 AutoDL 的第一個(gè)實(shí)例,。
3,、AutoDL、商湯,、恒源云,、數(shù)聚算力、訊飛云和金山云等平臺(tái)提供GPU算力租賃,。 AutoDL擁有超過(guò)1萬(wàn)個(gè)GPU,，是國(guó)內(nèi)規(guī)模最大的平臺(tái)。 恒源云,、數(shù)聚算力和商湯的GPU規(guī)模在1000-2000之間,。 訊飛云和金山云的規(guī)模相對(duì)較小，大約在500~1000張GPU之間,。
4,、Colab由谷歌提供，是唯一提供TPU算力的平臺(tái),，免費(fèi)且支持多種框架,，擁有完備的開(kāi)源社區(qū)資源。然而,，它需要科學(xué)上網(wǎng),，存在頻繁掉線的問(wèn)題，且需要掌握科學(xué)上網(wǎng)知識(shí),，有數(shù)據(jù)安全風(fēng)險(xiǎn),，且在中國(guó)的使用存在限制和支付方式問(wèn)題。AutoDL的體驗(yàn)和具體評(píng)價(jià)待補(bǔ)充,。
5,、強(qiáng)烈推薦AutoDL，這是我遇到的最實(shí)惠的租機(jī)平臺(tái),。不僅價(jià)格低廉,，顯卡資源豐富，種類眾多,，完全不用擔(dān)心找不到合適的顯卡,。以下是價(jià)格圖表供參考。恒源智享云目前有特價(jià)活動(dòng),，價(jià)格比AutoDL更優(yōu)惠,，注冊(cè)及參與活動(dòng)還有代金券可領(lǐng),。它也是我強(qiáng)烈推薦的平臺(tái)之一。
6,、在使用bert4keras進(jìn)行預(yù)訓(xùn)練時(shí),，重要的是調(diào)整sequence_length參數(shù)以保持預(yù)處理和訓(xùn)練過(guò)程的一致性。我選擇使用NVIDIA TITAN Xp顯卡,，12GB顯存進(jìn)行訓(xùn)練,，每輪訓(xùn)練大約需要3814秒，按每小時(shí)2元的autodl云算力平臺(tái)計(jì)算,，每輪成本大約12元,。對(duì)比早期bert的高昂成本，現(xiàn)在訓(xùn)練一個(gè)性能相當(dāng)?shù)哪Ｐ统杀疽汛蟠蠼档汀?/p>
