跳到主要內容區

111 Mediapipe 手部檢測框架結合Inflated 3DCNN網路之臺灣手語單字辨識

出版年度:111

 

論文名稱:Mediapipe 手部檢測框架結合Inflated 3DCNN網路之臺灣手語單字辨識

 

研究生:林暐峪   指導教授:黃國峰

 


論文簡介:

  手語辨識的研究一直都許多研究學者經常關注的問題,但在以往的研究中其方法大多需要在指定的背景及服裝,或者使用複雜的設備來完成,本篇論文使用容易取得的 webcam 做為資料收集及測試的設備,並以近年來辨識動態動作具有良好準確性的 Inflated 3DCNN 網路為基底進而改良,加上 Mediapipe 框架提取的手部肯架資訊鏊合至訓練樣本的資訊中,解決了雙流 Inflated 3DCNN 網路訓練方法中較無法提取細部手指訊息的缺點,進而讓此系統能夠更廣泛的使用在各種手語單字的辨識上。 為使其訓練及測試資料集有一定的公信力,本篇論文也開發了一個結合手語教學及資料收集的網頁,並邀請15名研究生在不同的背景及裝扮下,使用此教學網頁進行資料的收集,接著使用改良後的 Inflated 3DCNN 網路進行訓練及驗證,並收集與原訓練及驗證資料集完全不同背景及裝束資料以供測試,其測試結果在98個單字下達到 97.4%準確度,最後將訓練完的模型應用至即時的手語單字辨識系統中。

 

瀏覽數: