主軸
語彙・トークナイザの異なる LLM 間の知識蒸留
語彙やトークンの区切り方が異なるため直接比較できない教師モデルと生徒モデルの出力を共通の表現上で対応づけることで,トークナイザを共有しない LLM 間でも知識を移せる事後学習を研究しています.
キムラ ユウスケ
自然言語処理 / LLM の事後学習 / 異語彙間知識蒸留
大規模言語モデルを,用途や利用環境に合わせて効率的かつ信頼できる形で適応させるための事後学習を研究しています.特に,語彙・トークナイザの異なるモデル間の知識移転と,限られた計算資源での学習に取り組んでいます.
全65件2017–2026
論文・発表・受賞・研究支援を,最新から過去へまとめています.
枠内を縦にスクロールすると,これまでの活動をすべて見られます.
参加予定
東海関西データベースワークショップ 2026(DBWS 2026)に教員として聴講参加しました.(新しいタブで開きます)
東海・関西地域のデータ工学分野の大学研究室が集まり,ポスター発表と研究交流を行う合同ワークショップ|静岡大学 浜松キャンパス
お知らせ予定
国際会議 SoICT 2026・iiWAS 2026 のプログラム委員を務めます.
いずれも 2026 年 12 月開催の国際会議
メディア予定
YANS 2026 の公式開催報告が公開され,株式会社ELYZA賞の受賞理由が掲載されました.(新しいタブで開きます)
「異なる語彙を持つ LLM 間のオンポリシ蒸留」|語彙の違いを直接扱う提案手法と,実用性・今後の発展性が評価されました.
本人の受賞予定
「異なる語彙を持つ LLM 間のオンポリシ蒸留」をポスター発表し,株式会社ELYZA賞を受賞しました.(新しいタブで開きます)
第21回言語処理若手シンポジウム(YANS 2026)|仙台国際センター|リンク先は受賞理由を掲載した公式開催報告
共著者の受賞予定
平子 翔太氏が「2026年度 山下記念研究賞」を受賞しました.(新しいタブで開きます)
関連論文: LoRAマルチタスク学習における更新空間の分離による学習偏りの抑制
情報処理学会研究報告 2026-IFAT-162(4)
科研費予定
科研費「研究活動スタート支援」に採択されました.(新しいタブで開きます)
課題番号 26K25590「未十分学習ドメインへの言語モデル軽量適応に向けた学習時更新資源配分制御の研究」(研究代表者・2026–2027年度)
計算資源・共同利用予定
研究課題「複合指示・継続適応環境における大規模言語モデルアダプタ学習の干渉解析と高効率実験基盤の構築」が計算資源・共同利用課題に採択されました.
学際大規模情報基盤共同利用・共同研究拠点 (JHPCN) 萌芽型共同研究課題
計算資源・共同利用予定
研究課題「複合指示・継続適応環境における大規模言語モデルアダプタ学習の干渉解析と高効率実験基盤の構築」が計算資源・共同利用課題に採択されました.
京都大学 スーパーコンピュータ共同研究制度(若手・女性研究者奨励枠)
計算資源・共同利用予定
研究課題「学習進度に応じた層別動的量子化に基づく高効率アダプタ学習法」が計算資源・共同利用課題に採択されました.
東京大学情報基盤センター 若手・女性利用者推薦
共著者の受賞予定
前川 知歩(新しいタブで開きます)氏が「若手奨励賞(情報処理学会自然言語処理研究会)」を受賞しました.(新しいタブで開きます)
関連論文: 社会的属性ごとに異なる内部表現を考慮した活性化ステアリングによるLLMの社会的バイアス緩和
情報処理学会研究報告 2026-NL-267(31)
発表予定
東海関西データベースワークショップ 2025(DBWS 2025)に学生として参加し,「アダプタを効果的に学習する量子化スケジューラに関する研究」をポスター発表しました.(新しいタブで開きます)
関西・東海地域の複数大学・研究室による合同ワークショップ|同志社大学 今出川キャンパス
計算資源・共同利用予定
研究課題「量子化スケジューラによる効率的なLLMアダプタ学習手法の開発」が計算資源・共同利用課題に採択されました.
学際大規模情報基盤共同利用・共同研究拠点 (JHPCN) 萌芽型共同研究課題
計算資源・共同利用予定
研究課題「量子化スケジューラによる効率的なLLMアダプタ学習手法の開発」が計算資源・共同利用課題に採択されました.
東京科学大学 TSUBAME 若手・女性利用者支援制度
論文予定
研究成果「RICGraph: A Recipe-Ingredient-Compound Graph for Estimating the Nutritional Value of Recipes」を発表しました.
41st IEEE International Conference on Data Engineering Workshops (ICDEW)
論文予定
研究成果「L3Masking: Multi-task Fine-tuning for Language Models by Leveraging Lessons Learned from Vanilla Models」を発表しました.
Proceedings of the 1st Workshop on Customizable NLP (CustomNLP4U) @ EMNLP
論文予定
研究成果「A Soft Actor-Critic Algorithm for Sequential Recommendation」を発表しました.
Lecture Notes in Computer Science
共著者の受賞予定
洪 惠珍(新しいタブで開きます)氏が「情報処理学会第86回全国大会 学生奨励賞」を受賞しました.(新しいタブで開きます)
関連論文: Soft Actor-Critic 強化学習を用いた系列推薦フレームワーク
情報処理学会第86回全国大会講演論文集
論文予定
研究成果「Construction of Ingredient Embedding Considering Both Cooking Recipes and Their Ingredients」を発表しました.
2024 IEEE International Conference on Big Data and Smart Computing (BigComp)
論文予定
研究成果「An Automatic Labeling Method for Subword-Phrase Recognition in Effective Text Classification」を発表しました.
Informatica
論文予定
研究成果「Ingredient Embeddings Constructed by Biased Random Walk on Ingredient-Compound Graph」を発表しました.
Procedia Computer Science
論文予定
研究成果「Multi-task Learning-based Text Classification with Subword-Phrase Extraction」を発表しました.
The 11th International Symposium on Information and Communication Technology (SoICT)
発表予定
東海・関西地域の大学研究室による合同ワークショップ|甲南大学 平生記念セミナーハウス
共著者の受賞予定
吉丸 直希(新しいタブで開きます)氏が「学生奨励賞(情報処理学会データベースシステム研究会)」を受賞しました.(新しいタブで開きます)
関連論文: 部分構造を考慮した化合物分散表現の食材分類タスクにおける効果
情報処理学会研究報告 2022-IFAT-148(31)
共著者の受賞予定
吉丸 直希(新しいタブで開きます)氏が「情報処理学会第84回全国大会 学生奨励賞」を受賞しました.(新しいタブで開きます)
関連論文: レシピでの共起確率を考慮した食材分散表現の構築
情報処理学会第84回全国大会講演論文集
発表予定
東海関西データベースワークショップ 2021(DBWS 2021)に学生として参加し,「高精度情報検索実現のためのトークナイザの提案」をポスター発表しました.(新しいタブで開きます)
東海・関西地域の大学研究室による合同ワークショップ|オンライン開催
共著者の受賞予定
小森 雄太氏が「情報処理学会第83回全国大会 学生奨励賞」を受賞しました.(新しいタブで開きます)
関連論文: 単語の概念関係を考慮したレビューの評価観点自動抽出手法
情報処理学会第83回全国大会
論文予定
研究成果「Automatic Terminology Extraction Using a Dependency-Graph in NLP」を発表しました.
Proceedings of the 11th International Conference on Innovations in Bio-Inspired Computing and Applications
共著者の受賞予定
笹田 大翔(新しいタブで開きます)氏が「情報処理学会第82回全国大会 学生奨励賞」を受賞しました.(新しいタブで開きます)
関連論文: データの複雑性を考慮した不均衡データに対するリサンプリング手法
情報処理学会第82回全国大会
論文予定
研究成果「A Resampling Method for Imbalanced Datasets Considering Noise and Overlap」を発表しました.
Procedia Computer Science
発表予定
東海関西データベースワークショップ 2019(DBWS 2019)に学生として参加し,「係り受け/照応関係を用いた専門用語自動抽出手法の提案」をポスター発表しました.(新しいタブで開きます)
東海・関西地域の大学研究室による合同ワークショップ|兵庫県立大学 神戸情報科学キャンパス
本人の受賞予定
「企業賞 LegalForce 賞」を受賞しました.
株式会社 LegalForce
本人の受賞予定
「優秀賞」を受賞しました.
経営科学系研究部会連合協議会
主軸
語彙やトークンの区切り方が異なるため直接比較できない教師モデルと生徒モデルの出力を共通の表現上で対応づけることで,トークナイザを共有しない LLM 間でも知識を移せる事後学習を研究しています.
共同研究
量子化スケジューラや学習進度に応じた層別動的量子化により,限られた計算資源で LLM を適応させる手法(HPC 採択課題に基づく共同研究).
共同研究
活性化ステアリングによる社会的バイアスの緩和と,外部知識を優先した出力生成による,信頼できる LLM 適応の研究(共同研究).
NLP若手の会(YANS)
第21回言語処理若手シンポジウム(YANS 2026)でのポスター発表に対して授与されました.
受賞者: 木村 優介
株式会社マネーフォワード
療育事業 DX 促進に向けたAI協調型療育支援システムの構築
CognitiBaseとしてミライノピッチ2025(学生の部)で発表した,療育現場へのAI導入を提案するビジネスプラン
CognitiBase 事業サイト (新しいタブで開きます)
受賞者: 木村優介, 楠和馬
近畿総合通信局
療育事業 DX 促進に向けたAI協調型療育支援システムの構築
CognitiBaseとしてミライノピッチ2025(学生の部)で発表した,療育現場へのAI導入を提案するビジネスプラン
CognitiBase 事業サイト (新しいタブで開きます)
受賞者: 木村優介, 楠和馬
アカデミック・リソース・ガイド Web インテリジェンスとインタラクション研究会
受賞者: 森岡 葵子, 吉丸 直希, 木村 優介, 波多野 賢治
株式会社 LegalForce
係り受け構造の特徴を考慮した専門用語自動抽出手法の提案
受賞者: 木村 優介
経営科学系研究部会連合協議会
美容室における面貸しのための施術人数予測モデル構築
受賞者: 井上 由佳, 越前谷 勇典, 木村 優介, 窪田 茜, 山田 祐也
日本学術振興会 科学研究費助成事業 研究活動スタート支援
学際大規模情報基盤共同利用・共同研究拠点 (JHPCN) 萌芽型共同研究課題
京都大学 スーパーコンピュータ共同研究制度(若手・女性研究者奨励枠)
東京大学情報基盤センター 若手・女性利用者推薦
学際大規模情報基盤共同利用・共同研究拠点 (JHPCN) 萌芽型共同研究課題
東京科学大学 TSUBAME 若手・女性利用者支援制度
現在
科学技術振興機構 戦略的創造研究推進事業 研究員(CREST雇用)
名古屋大学 大学院情報学研究科 知能システム学専攻
TA(データベースシステム,プログラミング入門・基礎・応用 等)
同志社大学 大学院文化情報学研究科
インターンシップ
NTT コミュニケーション科学基礎研究所
特定業務職員
同志社大学 文化情報学部
文化情報学専攻 博士課程(後期課程)
同志社大学 大学院文化情報学研究科
文化情報学専攻 博士課程(前期課程)
同志社大学 大学院文化情報学研究科
文化情報学科
同志社大学 文化情報学部
普通科
兵庫県立宝塚北高等学校
SoICT2026 プログラム委員
査読
iiWAS2026 プログラム委員
査読
情報処理学会論文誌データベース 査読
査読
IPSJ Journal 査読
査読
EMNLP Workshop Reviewer
査読
「Wikipedia + 拡張固有表現」構造化プロジェクト Task 1 分類
その他 理化学研究所 革新知能統合研究センター 言語情報アクセス技術チーム
現在
Association for Computational Linguistics (ACL)