適用製品
時系列で入力された情報を、ニューラルネットワークを用いて認識する技術
目的
学習対象であるモデルの構造を変えることなく、学習対象であるモデルの認識率を、より構造が複雑な教師モデルの認識率に近づけることで、リアルタイム性と音声認識率を両立したモデルを得ることを課題とする。
効果
学習システムあるいは学習方法で学習される第1のモデルは、教師モデルである第2のモデルと比べると構造は単純であるモデルでありながら、高い認識精度を保持している。また、第1のモデルは第2のモデルと比較して構造が単純であるため、ハードウェアとして実装する場合であっても、ソフトウェアとして実装する場合であっても、コンピュータやデバイスに対する性能の要求を低くすることができる。
技術概要
時系列情報を認識するシステムを構成するために、ニューラルネットワークを学習するシステムであって、
時系列情報を表現可能なニューラルネットワークを内部に有する第1のモデルと、
時系列情報を表現可能なニューラルネットワークを内部に有し、正解ラベルによって学習された、第1のモデルよりも構造が複雑な第2のモデルと、
第1のモデルを生徒モデルとし、第2のモデルを教師モデルとし、ナレッジディスティレーションを用いて第1のモデルを学習する第1のモデル学習部と、
を備え、
第1のモデル学習部は、
複数のフレームデータを含む第1の時系列データを第1のモデルに入力し、第1のモデルの第1の出力結果として、ラベル系列候補群のそれぞれの確率を得る第1の出力部と、
複数のフレームデータを含む第1の時系列データを第2のモデルに入力し、第2のモデルの第2の出力結果として、ラベル系列候補群のそれぞれの確率を得る第2の出力部と、
第1の出力結果と第2の出力結果との差を評価する評価部と、
評価部における評価結果に基づいて、第1のモデルを学習させる第1のモデル学習部と、
を備える時系列情報の学習システム。