近日，語(yǔ)音研究領(lǐng)域頂級(jí)會(huì)議Interspeech2020召開(kāi)，在本次大會(huì)的口音英語(yǔ)語(yǔ)音識(shí)別挑戰(zhàn)賽上，騰訊云小微&騰訊云智能鈦聯(lián)合團(tuán)隊(duì)在口音英語(yǔ)語(yǔ)音識(shí)別賽道中以大幅領(lǐng)先的成績(jī)獲得冠軍。

　　Interspeech是由國(guó)際語(yǔ)音通信協(xié)會(huì)ISCA組織的語(yǔ)音研究領(lǐng)域的頂級(jí)會(huì)議之一。本次大會(huì)上提出，在全球范圍內(nèi)，標(biāo)準(zhǔn)英文ASR系統(tǒng)已經(jīng)具備較高的識(shí)別正確率，但口音英語(yǔ)識(shí)別仍然是具有挑戰(zhàn)性的課題，也是技術(shù)應(yīng)用中亟待克服的最大挑戰(zhàn)。為此，大會(huì)特別設(shè)置了口音英語(yǔ)語(yǔ)音識(shí)別挑戰(zhàn)賽 ，正是為了促進(jìn)行業(yè)技術(shù)交流，展示最新技術(shù)突破。

　　在本次口音英語(yǔ)語(yǔ)音識(shí)別挑戰(zhàn)賽中，向參賽者開(kāi)放了來(lái)自不同國(guó)家的共八種口音英文數(shù)據(jù)，覆蓋了各種發(fā)音特點(diǎn)、口音輕重等典型難點(diǎn)。騰訊云小微&騰訊云智能鈦聯(lián)合團(tuán)隊(duì)的技術(shù)方案，以識(shí)別錯(cuò)誤率最低且優(yōu)于第二名10%的好成績(jī)獲得賽道第一。

　　采用探索性語(yǔ)音識(shí)別方案，騰訊聯(lián)合團(tuán)隊(duì)展示技術(shù)研究實(shí)力

　　口音語(yǔ)音識(shí)別難點(diǎn)主要源于口音本身的不一致性、語(yǔ)速與音素發(fā)音的多變性難以建模等問(wèn)題。另外，帶有口音標(biāo)注的語(yǔ)音數(shù)據(jù)的短缺也嚴(yán)重限制了相關(guān)研究的開(kāi)展。作為在業(yè)內(nèi)頗具代表性的AI語(yǔ)音技術(shù)團(tuán)隊(duì)，騰訊云小微&騰訊云智能鈦聯(lián)合團(tuán)隊(duì)在此次比賽中，突破性的選擇了基于Wav2Vector無(wú)監(jiān)督預(yù)訓(xùn)練+CTC Fine-tuning的Wav2Vec方案。該方案的原型是Facebook公司在今年首次提出的。在本次比賽前，幾乎沒(méi)有其他關(guān)于Wav2Vector的成功應(yīng)用。因此，此次比賽是騰訊云小微團(tuán)隊(duì)在語(yǔ)音識(shí)別方案上的全新探索。

　　在這個(gè)方案中，騰訊團(tuán)隊(duì)首先使用Librispeech無(wú)監(jiān)督預(yù)訓(xùn)練的Wav2Vector模型進(jìn)行模型初始化，之后在預(yù)訓(xùn)練模型上添加一層輸出層，采用英文字母作為建模單元，并使用CTC損失函數(shù)進(jìn)行訓(xùn)練。由于模型采用的是字母建模，識(shí)別結(jié)果隨機(jī)性較大，容易引入過(guò)多錯(cuò)誤。因此，團(tuán)隊(duì)引入了語(yǔ)言模型進(jìn)行約束，大幅提高了識(shí)別性能。經(jīng)實(shí)驗(yàn)發(fā)現(xiàn)，解碼時(shí)引入N元文法(N-Gram)語(yǔ)言模型，可以下降30%的識(shí)別錯(cuò)誤率。同時(shí)，進(jìn)一步采用基于Transformer的語(yǔ)言模型對(duì)解碼的候選結(jié)果進(jìn)行重打分，錯(cuò)誤率可以下降7%。

　　大規(guī)模分布式訓(xùn)練加速，騰訊云智能鈦為AI研究與應(yīng)用提供極致的平臺(tái)支撐

　　此次比賽由云小微團(tuán)隊(duì)與智能鈦團(tuán)隊(duì)合力完成，是智能鈦平臺(tái)繼2020年8月21日與騰訊機(jī)智團(tuán)隊(duì)一道打破128卡訓(xùn)練ImageNet的業(yè)界新記錄后，在大規(guī)模分布式訓(xùn)練加速場(chǎng)景上的又一個(gè)成功案例。智能鈦平臺(tái)整合了騰訊內(nèi)部各業(yè)務(wù)團(tuán)隊(duì)的豐富經(jīng)驗(yàn)，針對(duì)大規(guī)模分布式訓(xùn)練加速場(chǎng)景，在單機(jī)性能、多機(jī)擴(kuò)展、AutoML等三個(gè)方面進(jìn)行了深度優(yōu)化，可以有效地支撐各AI團(tuán)隊(duì)的研究與應(yīng)用。具體如下：

　　極致的單機(jī)性能: 智能鈦團(tuán)隊(duì)協(xié)同內(nèi)部的開(kāi)源團(tuán)隊(duì)，推出了深度定制版TensorFlow(TI-TensorFlow)，在高維動(dòng)態(tài)稀疏特征支持、編譯優(yōu)化、自動(dòng)混合精度訓(xùn)練等特性上對(duì)社區(qū)版TensorFlow進(jìn)行了深度優(yōu)化，大大提升了模型單機(jī)性能。

　　線性多機(jī)擴(kuò)展: 智能鈦TI-Horovod在開(kāi)源框架的基礎(chǔ)上，結(jié)合騰訊云的軟硬件環(huán)境進(jìn)行了深度優(yōu)化。通過(guò)自研的自適應(yīng)梯度融合、2D AllReduce和多流通信等技術(shù)，實(shí)現(xiàn)了近千卡的線性擴(kuò)展加速。通過(guò)首創(chuàng)的層級(jí)Topk技術(shù)，突破了弱網(wǎng)環(huán)境下的帶寬瓶頸。

　　高效AutoML: 針對(duì)深度學(xué)習(xí)訓(xùn)練規(guī)模大、超參數(shù)范圍廣和人工調(diào)參效率低的問(wèn)題，智能鈦TI-AutoML內(nèi)置了騰訊自研的高效自動(dòng)化搜索技術(shù)，充分利用騰訊云的海量算力，讓算法工程師從繁瑣的手工調(diào)參中解放出來(lái)。

　　語(yǔ)音技術(shù)持續(xù)突破，加速各行業(yè)落地應(yīng)用

　　在AI語(yǔ)音助手的實(shí)際應(yīng)用中，如何提高口音識(shí)別成功率，是業(yè)內(nèi)一直在關(guān)注和探索的問(wèn)題。在中英文翻譯方面，騰訊云小微輸出的技術(shù)方案，旨在提高英語(yǔ)語(yǔ)音識(shí)別的準(zhǔn)確率，進(jìn)而提升翻譯效率和準(zhǔn)確性。已經(jīng)在騰訊翻譯君、騰訊同傳等各行業(yè)方案中廣泛應(yīng)用。

　　除了中英文翻譯領(lǐng)域，騰訊云小微AI助手，已經(jīng)在智能網(wǎng)聯(lián)汽車(chē)、智慧文旅、智慧教育、智能家居等多行業(yè)領(lǐng)域落地，服務(wù)廣泛的用戶(hù)群體。口音語(yǔ)音識(shí)別的突破，對(duì)于中文語(yǔ)音助手的技術(shù)提升也有很大的價(jià)值。比如在車(chē)載語(yǔ)音助手的應(yīng)用上，一款汽車(chē)產(chǎn)品需要滿(mǎn)足全國(guó)范圍不同區(qū)域、不同口音用戶(hù)的交互需求。比如車(chē)載語(yǔ)音助手上，由于用戶(hù)來(lái)自全國(guó)不同區(qū)域，用戶(hù)的口音將直接影響識(shí)別的準(zhǔn)確性，特別是對(duì)于口音較重的用戶(hù)。本次挑戰(zhàn)賽中，騰訊云小微參賽團(tuán)隊(duì)探索端到的AI訓(xùn)練方法，為日后的方案應(yīng)用落地和迭代提供了更有價(jià)值的技術(shù)助力，將推動(dòng)AI語(yǔ)音助手方案為用戶(hù)帶來(lái)更好的服務(wù)體驗(yàn)。

 

特別提醒：本網(wǎng)內(nèi)容轉(zhuǎn)載自其他媒體，目的在于傳遞更多信息，并不代表本網(wǎng)贊同其觀點(diǎn)。其原創(chuàng)性以及文中陳述文字和內(nèi)容未經(jīng)本站證實(shí)，對(duì)本文以及其中全部或者部分內(nèi)容、文字的真實(shí)性、完整性、及時(shí)性本站不作任何保證或承諾，并請(qǐng)自行核實(shí)相關(guān)內(nèi)容。本站不承擔(dān)此類(lèi)作品侵權(quán)行為的直接責(zé)任及連帶責(zé)任。如若本網(wǎng)有任何內(nèi)容侵犯您的權(quán)益，請(qǐng)及時(shí)聯(lián)系我們，本站將會(huì)在24小時(shí)內(nèi)處理完畢。