目的
ラベル構造を考慮したうえで文章の特徴を抽出することのできる特徴抽出装置およびプログラムを提供する。
効果
ラベル構造を考慮した、入力文の特徴を抽出できる。また、これによって、入力文に付与するラベルを決定する精度を向上させることができる
技術概要
自然言語で記述される入力文に対応するトークン列に基づいて、前記トークン列に対応するトークンエンベディングを出力する入力特徴生成部と、
自然言語で表わされるラベル集合に基づいて、セルフアテンション機構により前記ラベル集合に属する各々のラベルの特徴量からなるラベル構造を計算して出力するラベル構造生成部と、
前記トークンエンベディングと前記ラベル構造とを受け取り、ソースターゲットアテンション機構によりラベル置換済トークンエンベディングを計算して出力する置換部と、
を備え、
前記置換部は、
【数１】
で計算されるＣである前記ラベル置換済トークンエンベディングを出力する（ただし、
Ｂはｍ行ｋ列の行列として表される前記トークンエンベディングであり、
Ｅ（バー）はｎ行ｋ列の行列として表される前記ラベル構造であり、
Ｗ↓３とＷ↓４とのそれぞれはｋ行ｋ列の行列であって学習パラメーターであり、
ｂ↓３はｍ行ｋ列の行列であって学習パラメーターであり、
ｂ↓４はｎ行ｋ列の行列であって学習パラメーターであり、
Ｓｏｆｔｍａｘ（）はソフトマックス関数である）、
特徴抽出装置。
基本情報
開放特許情報
)
)
登録者情報
その他の情報
