適用製品
人工知能の推論出力に対して、外付けの制御により、応答の安定性及び方向性を制御する技術
目的
生成AIを企業・組織の実運用へ適用するにあたり、人工知能モデルの内部学習パラメータの更新を伴うことなく、応答生成の開始前又は開始時に所要の制御を適用し、生成後に応答を評価して整合させることにより、所望の方針に沿った応答の方向性を安全かつ柔軟に制御可能な仕組みを提供する。また、応答の一貫性及び運用管理の観点で生じ得る課題を低減する。
効果
企業・ユーザ方針に応じた応答方向付けを外付け設定のみで実現でき、再学習を伴う調整の頻度や運用負担を低減し得る。また、候補出力情報の時間変動に基づく安定指数等により、AI応答の不安定化・暴走の兆候を定量的に把握し、必要に応じて応答を安全側へ誘導し得る。
技術概要
情報処理装置により実行される、人工知能モデルを用いた応答生成方法であって、
応答生成の方向性を規定又は誘導するための、前記人工知能モデルの外側から与えられる方向制御情報を参照し、
前記人工知能モデルによる応答生成処理の開始前又は開始時に、前記方向制御情報に基づくとともに、前記人工知能モデルから複数の時刻又は複数の生成ステップで取得される候補出力情報の時間変動に基づいて、入力情報又は生成条件の少なくとも一方を制御することにより、応答生成の進行方向を制御する生成前制御工程と、
前記生成前制御工程により制御された状態で、前記入力情報又は前記生成条件の少なくとも一方に基づく応答候補を前記人工知能モデルに生成させる応答生成工程と、
前記応答生成工程により生成された前記応答候補に対し、方向制御の規範となる規範方向情報に基づいて応答の方向一致度を評価し、当該応答候補を前記規範方向情報に整合させて確定出力とする生成後整合工程と、
を含むことを特徴とする、人工知能応答生成方法。
アピール内容
本技術は、生成人工知能や人工知能エージェントに対して、モデル内部の学習済み重みを変更せず、外部制御層から応答の方向性と安定性を調整できる点に特徴があります。既存システムへ後付けしやすく、文脈の逸脱や指示からのずれを抑制しながら、対話型人工知能、業務用人工知能、人工知能エージェントなど幅広い用途への展開が可能です。