適用製品
文書分類用学習装置、文書分類装置、プログラム
目的
低頻度ラベルの教師データが不足せず、かつ入力データのトークン数の制限の影響を受けないように言語モデルを学習することで、文書の分類精度を向上させることが可能な文書分類用学習装置、文書分類装置及びプログラムを提供する。
効果
低頻度ラベルの教師データが不足せず、かつ入力データのトークン数の制限の影響を受けないように言語モデルを学習することができる。また、このような言語モデルを用いることで、文書の分類精度を向上させることができる。
技術概要
文書に含まれる文章及び前記文書に付与されたラベルに基づいて、前記文書を分類するための事前学習された言語モデルをファインチューニングする文書分類用学習装置において、
前記文章及び前記ラベルを入力し、前記文章を文単位に分割し、所定数の文からなる複数の分割後文章を生成する第1分割部と、
前記第1分割部により生成された前記分割後文章及び前記第1分割部により入力された前記ラベルからなるラベル付き教師データを用いて、前記言語モデルをファインチューニングする学習部と、
を備えたことを特徴とする文書分類用学習装置。