学位論文の概要
修士論文
2025 年度
The Impact of LLM-Generated Paraphrases on Topic Modeling and Classification of Short Texts（Wang Che）
本研究は，ニュース見出しや検索スニペットなどの短文テキストにおけるトピックモデリングと分類の性能向上を目的とし，大規模言語モデル（LLM）によるパラフレーズ型データ拡張の効果を検証した．従来手法として，WordNetとマスク言語モデルに基づくTSCTM型拡張と比較し，GPT-4o-miniを用いた意味保持型パラフレーズを導入した．複数データセットで評価を行った結果，LLMベース拡張はトピック一貫性では従来手法にやや劣るものの，分類精度において最も安定した改善を示した．また，トピック分布をソフトプロンプトとして統合する手法を提案し，分類性能への寄与を分析した．本研究は，短文におけるデータ拡張の質が下流タスクに与える影響を明らかにした．
文章生成タスクを用いたLLMの社会的バイアス検出手法の検討（岡部 真幸）
大規模言語モデル（LLM）の社会的バイアス検出で従来主流の多肢選択型質問応答型評価は比較可能性・再現性に優れる一方、選択肢に依存して検出できるバイアスが限られており、文章生成に現れるバイアスを捉えられる文章生成型のバイアス検出手法との併用が求められる。そこで本研究は文章生成型のバイアス検出手法として、An らの提案した採用決定タスクにおいて検証が不十分であった点を、人種：欧米系中心、年齢：対象属性限定、言語：英語のみ、スタイル：単一として体系化しそれぞれに対する拡張を行い、また、多値選択型の簡易型である二値選択型を同様のタスクにおいて設計し、比較することでタスク形式がバイアスに与える影響を分析した。 人種の拡張については、日本人名を追加し他人種との採用率の違いを比較し日本人名に対するバイアスを検出した。また、新たな属性として年齢バイアスを検出した。言語については日本語プロンプトを追加し、各人種の採用率の分布を比較した。そして、スタイルを複数追加し、それぞれの違いがバイアスに与える影響を分析した。最後に、同様の採用決定タスクにおいて文章生成型と二値選択型を同条件で比較し、出力形式の差がバイアスに与える影響を分析した。これらの実験から、LLM の公平性評価にはタスク形式（文章生成／二値選択）×言語条件×属性の交互作用を検証し、評価の頑健性を確認することの重要性が示唆される。
経済・金融市場分析における文埋め込み表現の活用方法の提案（宍戸 直樹）準研究科長賞受賞
マクロ経済・金融市場分析においてテキストの活用は重要であるものの，従来手法ではテキスト情報を定量分析で効率的に扱うことが出来ず，計量分析においてテキストの有用性を十分に明らかにすることができていない可能性があった．本研究では，事前学習済みモデルの埋め込み表現にファクターモデルを適用することでテキストから重要な情報の抽出を行い，抽出したファクターを時系列回帰モデルに活用する手法を提案する．経済変数・金融変数を対象とした実証分析の結果，提案手法は両ドメインで従来のテキスト定量化手法より高い予測精度を達成した．これは，提案手法が従来手法では捉えきれなかったテキスト情報を抽出し，予測精度の改善に寄与できることを示唆している．
2024 年度
株式掲示板テキストを活用した日経平均株価リターン及びボラティリティ予測におけるトピック抽出を利用した解釈性の向上（中島 秀太）
本研究では，テキストデータを利用した金融時系列予測における解釈性向上を目的とし，独立成分分析 (ICA) を適用した埋め込み表現を予測モデルの特徴量として利用する手法を提案する．従来手法では，埋め込み表現の意味を解釈することは困難であり，投資の意思決定における透明性や信頼性を損なう可能性がある．そこで，本手法では ICA を用いて埋め込み表現を意味的に解釈可能な成分へ変換し，予測モデルを構築する．さらに，大規模言語モデル (LLM) を用いた各成分に対するトピック命名により，予測要因としての説明可能性を向上させる．評価実験の結果，特にリターン（資産価格の変化率）予測において，従来手法を上回る予測精度を達成した他，高い解釈性を示唆する結果が得られた．