2026/07/24 更新

写真a

マ　ヨウミ
MA YOUMI
MA YOUMI
所属
情報理工学院 助教
職名
助教
ホームページ
https://youmima.github.io/
外部リンク

学位

  • 博士（工学） （ 2024年9月   東京工業大学 ）

研究キーワード

  • 機械学習

  • 自然言語処理

  • 人工知能

研究分野

  • 情報通信 / 知能情報学  / 自然言語処理

学歴

  • 東京工業大学   情報理工学院   情報工学系

    2021年9月 - 2024年9月

    　 詳細を見る

    国名： 日本国

    researchmap

  • 東京工業大学   情報理工学院   情報工学系

    2019年9月 - 2021年9月

    　 詳細を見る

    国名： 日本国

    researchmap

  • 上海科技大学   情報科学と技術学院

    2015年9月 - 2019年7月

    　 詳細を見る

    国名： 中華人民共和国

    researchmap

経歴

  • 東京科学大学   情報理工学院   助教

    2024年10月 - 現在

    　 詳細を見る

    国名：日本国

    researchmap

所属学協会

  • 言語処理学会

    2021年1月 - 現在

    　 詳細を見る

  • Association for Computational Linguistics (ACL)

    2020年1月 - 現在

    　 詳細を見る

委員歴

  • 情報処理学会NL研   運営委員  

    2026年4月 - 現在   

    　 詳細を見る

    団体区分：学協会

    researchmap

  • 言語処理学会年次大会   プログラム委員  

    2025年4月 - 現在   

    　 詳細を見る

    団体区分：学協会

    researchmap

  • 言語処理学会   編集委員  

    2025年3月 - 現在   

    　 詳細を見る

    団体区分：学協会

    researchmap

  • 言語処理若手シンポジウム(YANS)   運営委員  

    2024年4月 - 2026年3月   

    　 詳細を見る

    団体区分：学協会

    researchmap

論文

  • Neuron Level Analysis of Large Language Model in Legal Domain Reasoning

    Eri Onami, Youmi Ma, Shuhei Kurita, Naoaki Okazaki

    2026年6月

    　詳細を見る

    記述言語：英語  

    We presented a neuron-level analysis of legal-domain reasoning in LLMs, comparing it with other applied domain tasks across seven open-weight models. Using neuron attribution scores to rank and suppress influential neurons, we confirmed that suppressing the identified neurons collapses accuracy on the target task, whereas suppressing the same number of random neurons does not. We further found a small subset of neurons influential across all seven tasks; once these are removed, suppressing the remaining neurons degrades only the task they were identified from, revealing genuinely task-specific neurons in every model studied. Within the legal domain, the three benchmarks exhibit relatively high neuron overlap and tend to be affected jointly, suggesting of legal components neurons that span jurisdictions. The distribution of identified neurons in our experiments suggests that the hypothesis that influential neurons are concentrated in middle MLP layers may depend on the input format and content, rather than being a universal phenomenon.

    arXiv

    researchmap

    その他リンク： https://arxiv.org/pdf/2606.15884v1

  • Beyond Perplexity: UTF-8 Validity in Byte-aware Language Models 査読 国際共著 国際誌

    Sangwhan Moon, Daisuke Oba, Youmi Ma, Tatsuya Hiraoka, Naoaki Okazaki

    Forty-Third International Conference on Machine Learning   2026年6月

    　詳細を見る

    記述言語：英語   掲載種別：研究論文（国際会議プロシーディングス）  

    Byte-level tokenization enables language models to handle any Unicode input, but models can generate invalid UTF-8 sequences when encountering rare or unseen characters. We investigate the relationship between training scale and UTF-8 generation reliability with a 355M parameter model trained on 80B tokens from a balanced multilingual corpus of English, Japanese, Korean, and Chinese. We introduce multiple evaluation protocols that isolate UTF-8 structural validity from language modeling. UTF-8 validity convergence lags perplexity by a roughly a factor of two: perplexity stabilizes after 2.1B tokens, but UTF-8 validity requires 4.2B tokens. In context-free generation, rare characters achieve higher structural validity than common characters, suggesting over-specialization of frequent character representations. Through experiments, we observed that reliable UTF-8 generation is a distinct capability requiring evaluation beyond perplexity.

    arXiv

    researchmap

    その他リンク： https://arxiv.org/pdf/2606.14122v2

  • Synthesizing Instruction-Tuning Datasets with Contrastive Decoding 査読 国際誌

    Tatsuya Ichinose, Youmi Ma, Masanari Oi, Ryuto Koike, Naoaki Okazaki

    The Third Annual Conference on Language Modeling   2026年4月

    　詳細を見る

    記述言語：英語   掲載種別：研究論文（国際会議プロシーディングス）  

    Using responses generated by high-performing large language models (LLMs) for instruction tuning has become a widely adopted approach. However, the existing literature overlooks a property of LLM-generated responses: they conflate world knowledge acquired during pre-training with instruction-following capabilities acquired during post-training. We hypothesize that disentangling the instruction-following capabilities from pre-trained knowledge improves the effectiveness of instruction tuning. To this end, we propose CoDIT, a method that applies contrastive decoding between a post-trained model and its pre-trained counterpart during response generation. The method suppresses pre-trained knowledge shared between the two models while amplifying the instruction-following behavior acquired via post-training, resulting in responses that more purely reflect instruction-following capabilities. Experiment results demonstrate that models trained on datasets constructed via CoDIT consistently outperform those trained on directly generated responses. Training on our datasets also yields better performance than on existing publicly available instruction-tuning datasets across multiple benchmarks. Furthermore, we theoretically and empirically show that CoDIT can be interpreted as distilling the chat vector from parameter space to text space, enabling the transfer of instruction-tuning capabilities across models of different architectures.

    arXiv

    researchmap

    その他リンク： https://arxiv.org/pdf/2604.13538v1

  • Rewriting Pre-Training Data Boosts LLM Performance in Math and Code. 査読 国際誌

    Kazuki Fujii, Yukito Tajima, Sakae Mizuki, Hinari Shimada, Taihei Shiotani, Koshiro Saito, Masanari Ohi, Masaki Kawamura, Taishi Nakamura, Takumi Okamoto, Shigeki Ishida, Kakeru Hattori, Youmi Ma, Hiroya Takamura, Rio Yokota, Naoaki Okazaki

    The Fourteenth International Conference on Learning Representations (ICLR)   abs/2505.02881   2026年4月

    　詳細を見る

    記述言語：英語   掲載種別：研究論文（国際会議プロシーディングス）  

    The performance of large language models (LLMs) in program synthesis and mathematical reasoning is fundamentally limited by the quality of their pre-training corpora. We introduce two openly licensed pre-training datasets, released under the Llama 3.3 Community License, that significantly enhance LLM performance by systematically rewriting public data. SwallowCode ($\approx$16.1 billion tokens) refines Python snippets from The-Stack-v2 through a novel four-stage pipeline: syntax validation, pylint-based style filtering, and a two-stage LLM rewriting process that enforces style conformity and transforms snippets into self-contained, algorithmically efficient examples. Unlike prior methods that rely on exclusionary filtering or limited transformations, our transform-and-retain approach refines low-quality code, maximizing data utility. SwallowMath ($\approx$2.3 billion tokens) enhances Finemath-4+ by removing boilerplate, restoring context, and reformatting solutions into concise, step-by-step explanations. Within a fixed 50 billion token training budget, continual pre-training of Llama-3.1-8B with SwallowCode boosts pass@1 by +17.0 on HumanEval and +16.1 on HumanEval+ compared to Stack-Edu, surpassing the baseline model's code generation capabilities. Similarly, substituting SwallowMath yields +12.4 accuracy on GSM8K and +7.6 on MATH. Ablation studies confirm that each pipeline stage contributes incrementally, with rewriting yielding the largest gains. By releasing datasets, prompts, checkpoints, and pipeline code, we ensure reproducibility and provide a transferable transform-and-retain methodology that can be adapted to other base models and LLM rewriting setups.

    DOI： 10.48550/arXiv.2505.02881

    arXiv

    researchmap

  • From Interpretability to Performance: Optimizing Retrieval Heads for Long-Context Language Models 査読 国際誌

    Youmi Ma, Naoaki Okazaki

    Findings of the Association for Computational Linguistics: ACL 2026   2026年1月

    　詳細を見る

    担当区分：筆頭著者,　責任著者   記述言語：英語   掲載種別：研究論文（国際会議プロシーディングス）  

    Advances in mechanistic interpretability have identified special attention heads, known as retrieval heads, that are responsible for retrieving information from the context. However, the role of these retrieval heads in improving model performance remains unexplored. This work investigates whether retrieval heads can be leveraged to enhance the long-context capabilities of LLMs. Specifically, we propose RetMask, a method that generates training signals by contrasting normal model outputs with those from an ablated variant in which the retrieval heads are masked. This mechanism-based approach achieves substantial improvements: +2.28 points on HELMET at 128K for Llama-3.1, with +70% gains on generation with citation and +32% on passage re-ranking, while preserving performance on general tasks. Experiments across four models in three families demonstrate that RetMask consistently improves long-context performance, where gains correlate with the sparsity of the retrieval score distribution: models with sparser distributions, where retrieval capabilities are concentrated in a small set of heads, respond more strongly, while those with less sparse distributions show more modest gains. These results validate the functional role of retrieval heads and show that mechanistic insights can be transformed into performance enhancements.

    arXiv

    researchmap

    その他リンク： https://arxiv.org/pdf/2601.11020v3

  • 対照的デコーディングを用いた指示学習データの合成

    一瀬達矢, MA Youmi, 大井聖也, 小池隆斗, 岡崎直観

    言語処理学会年次大会発表論文集(Web)   32nd   2026年

    　詳細を見る

    記述言語：日本語  

    J-GLOBAL

    researchmap

  • 蒸留による日英推論型大規模言語モデル構築戦略の探索

    水木栄, 藤井一喜, 川村政貴, NGUYEN Tien Dung, 片山結太, 齋藤幸史郎, 一瀬達矢, 宮本空, 松下直矢, 大井聖也, MA Youmi, 太田晋, 大葉大輔, 高村大也, 横田理央, 岡崎直観

    言語処理学会年次大会発表論文集(Web)   32nd   2026年

    　詳細を見る

    記述言語：日本語  

    J-GLOBAL

    researchmap

  • 多段階プロンプトを用いた推論過程の改善による大規模言語モデルの翻訳性能の向上

    松下直矢, MA Youmi, 大葉大輔, 水木栄, 岡崎直観

    情報処理学会研究報告(Web)   2026 ( NL-267 )   2026年

    　詳細を見る

    記述言語：日本語   掲載種別：研究論文（研究会，シンポジウム資料等）  

    J-GLOBAL

    researchmap

  • 検索ヘッドに基づく大規模言語モデルの長文脈処理の改善 招待

    MA Youmi, 岡崎直観

    言語処理学会年次大会発表論文集(Web)   32nd   2026年

    　詳細を見る

    担当区分：筆頭著者   記述言語：日本語   掲載種別：研究論文（研究会，シンポジウム資料等）  

    J-GLOBAL

    researchmap

  • QuantumBench: A Benchmark for Quantum Problem Solving

    Shunya Minami, Tatsuya Ishigaki, Ikko Hamamura, Taku Mikuriya, Youmi Ma, Naoaki Okazaki, Hiroya Takamura, Yohichi Suzuki, Tadashi Kadowaki

    2025年10月

    　詳細を見る

    Large language models are now integrated into many scientific workflows, accelerating data analysis, hypothesis generation, and design space exploration. In parallel with this growth, there is a growing need to carefully evaluate whether models accurately capture domain-specific knowledge and notation, since general-purpose benchmarks rarely reflect these requirements. This gap is especially clear in quantum science, which features non-intuitive phenomena and requires advanced mathematics. In this study, we introduce QuantumBench, a benchmark for the quantum domain that systematically examine how well LLMs understand and can be applied to this non-intuitive field. Using publicly available materials, we compiled approximately 800 questions with their answers spanning nine areas related to quantum science and organized them into an eight-option multiple-choice dataset. With this benchmark, we evaluate several existing LLMs and analyze their performance in the quantum domain, including sensitivity to changes in question format. QuantumBench is the first LLM evaluation dataset built for the quantum domain, and it is intended to guide the effective use of LLMs in quantum research.

    arXiv

    researchmap

    その他リンク： https://arxiv.org/pdf/2511.00092v1

  • Building Instruction-Tuning Datasets from Human-Written Instructions with Open-Weight Large Language Models. 査読 国際誌

    Youmi Ma, Sakae Mizuki, Kazuki Fujii, Taishi Nakamura, Masanari Ohi, Hinari Shimada, Taihei Shiotani, Koshiro Saito, Koki Maeda, Kakeru Hattori, Takumi Okamoto, Shigeki Ishida, Rio Yokota, Hiroya Takamura, Naoaki Okazaki

    Second Conference on Language Modeling (COLM)   abs/2503.23714   2025年10月

    　詳細を見る

    担当区分：筆頭著者   記述言語：英語   掲載種別：研究論文（国際会議プロシーディングス）  

    DOI： 10.48550/arXiv.2503.23714

    researchmap

  • Sampling-based Pseudo-Likelihood for Membership Inference Attacks. 査読 国際共著 国際誌

    Masahiro Kaneko, Youmi Ma, Yuki Wata, Naoaki Okazaki

    Findings of the Association for Computational Linguistics   to appear   2025年8月

    　詳細を見る

    担当区分：筆頭著者   記述言語：英語   掲載種別：研究論文（国際会議プロシーディングス）  

    DOI： 10.48550/arXiv.2404.11262

    researchmap

  • Improving Implicit Sentiments Analysis via Explanations of Multiple Perspectives 査読 国際誌

    An Wang, Huidong Jiang, Youmi Ma, Junfeng Jiang, Ao Liu, Naoaki Okazaki

    IEEE Access   13   61136 - 61148   2025年

    　詳細を見る

    記述言語：英語   掲載種別：研究論文（学術雑誌）   出版者・発行元：Institute of Electrical and Electronics Engineers (IEEE)  

    DOI： 10.1109/access.2025.3556762

    researchmap

  • Swallowコーパスv2:教育的な日本語ウェブコーパスの構築

    服部翔, 岡崎直観, 水木栄, 藤井一喜, 中村泰士, 大井聖也, 塩谷泰平, 齋藤幸史郎, MA Youmi, 前田航希, 岡本拓己, 石田茂樹, 横田理央, 高村大也

    言語処理学会年次大会発表論文集(Web)   31st   2025年

    　詳細を見る

    記述言語：日本語  

    J-GLOBAL

    researchmap

  • 新聞記事からつくる 時事と社会に強い日本語LLM

    服部翔, 水木栄, 藤井一喜, 中村泰士, 塩谷泰平, 植木快, 新妻巧朗, 川畑輝, 田森秀明, MA Youmi, 前田航希, 大井聖也, 齋藤幸史郎, 岡本拓己, 石田茂樹, 横田理央, 高村大也, 岡崎直観

    言語処理学会年次大会発表論文集(Web)   31st   2025年

    　詳細を見る

    記述言語：日本語  

    J-GLOBAL

    researchmap

  • 模倣学習による大規模言語モデルの指示チューニング

    MA Youmi, 水木栄, 藤井一喜, 中村泰士, 大井聖也, 島田比奈理, 塩谷泰平, 齋藤幸史郎, 前田航希, 服部翔, 岡本拓己, 石田茂樹, 横田理央, 高村大也, 岡崎直観

    言語処理学会年次大会発表論文集(Web)   31st   2025年

    　詳細を見る

    担当区分：筆頭著者   記述言語：日本語  

    J-GLOBAL

    researchmap

  • 大規模言語モデルはデータ漏洩を隠蔽できるのか 国際共著

    高橋侑成, MA Youmi, 金子正弘, 岡崎直観

    言語処理学会年次大会発表論文集(Web)   31st   2025年

    　詳細を見る

    記述言語：日本語  

    J-GLOBAL

    researchmap

  • Why We Build Local Large Language Models: An Observational Analysis from 35 Japanese and Multilingual LLMs. 査読 国際誌

    Koshiro Saito, Sakae Mizuki, Masanari Ohi, Taishi Nakamura, Taihei Shiotani, Koki Maeda, Youmi Ma, Kakeru Hattori, Kazuki Fujii, Takumi Okamoto, Shigeki Ishida, Hiroya Takamura, Rio Yokota, Naoaki Okazaki

    The 1st Workshop on Multilingual and Equitable Language Technologies (MELT)   abs/2412.14471   2024年

    　詳細を見る

    記述言語：英語   掲載種別：研究論文（研究会，シンポジウム資料等）  

    Why do we build local large language models (LLMs)? What should a local LLM learn from the target language? Which abilities can be transferred from other languages? Do language-specific scaling laws exist? To explore these research questions, we evaluated 35 Japanese, English, and multilingual LLMs on 19 evaluation benchmarks for Japanese and English, taking Japanese as a local language. Adopting an observational approach, we analyzed correlations of benchmark scores, and conducted principal component analysis (PCA) on the scores to derive \textit{ability factors} of local LLMs. We found that training on English text can improve the scores of academic subjects in Japanese (JMMLU). In addition, it is unnecessary to specifically train on Japanese text to enhance abilities for solving Japanese code generation, arithmetic reasoning, commonsense, and reading comprehension tasks. In contrast, training on Japanese text could improve question-answering tasks about Japanese knowledge and English-Japanese translation, which indicates that abilities for solving these two tasks can be regarded as \textit{Japanese abilities} for LLMs. Furthermore, we confirmed that the Japanese abilities scale with the computational budget for Japanese text.

    DOI： 10.48550/arXiv.2412.14471

    arXiv

    researchmap

  • Generative Data Augmentation for Aspect Sentiment Quad Prediction 査読

    An Wang, Junfeng Jiang, Youmi Ma, Ao Liu, 岡崎 直観

    31 ( 4 )   1523 - 1544   2024年

    　詳細を見る

    記述言語：英語   掲載種別：研究論文（学術雑誌）  

    DOI： 10.5715/jnlp.31.1523

    CiNii Research

    researchmap

    その他リンク： https://dblp.uni-trier.de/rec/conf/starsem/2023

  • 文書レベル関係抽出における根拠認識の統合 査読

    Youmi Ma, An Wang, 岡崎 直観

    自然言語処理   31 ( 1 )   105 - 133   2024年

    　詳細を見る

    担当区分：筆頭著者   記述言語：日本語   掲載種別：研究論文（学術雑誌）   出版者・発行元：一般社団法人 言語処理学会  

    文書レベル関係抽出 (DocRE) は文書中のすべてのエンティティの組の関係を推定するタスクである．エンティティ組の関係推定に十分な手掛かりを含む文の集合を根拠と呼ぶ．根拠は関係抽出の性能を改善できるが，既存研究では DocRE と根拠認識を別々のタスクとしてモデル化していた．本稿では，根拠認識を関係抽出のモデルに統合する手法を提案する．具体的には，エンティティ組のエンコード過程において，根拠に高い重みを配分するように自己注意機構を誘導することにより，根拠に注目した分散表現を得る．さらに，根拠のアノテーションが付与されていないデータに根拠の疑似的な教師信号を付与し，大量の自動ラベル付けデータを活用する方法を提案する．実験結果から，提案手法は文書レベル関係抽出のベンチマーク DocRED 及び Re-DocRED において，関係抽出と根拠認識の両方で現時点の世界最良性能を達成した．

    DOI： 10.5715/jnlp.31.105

    CiNii Research

    researchmap

  • Building a Japanese Document-Level Relation Extraction Dataset Assisted by Cross-Lingual Transfer. 査読 国際誌

    Youmi Ma, An Wang, Naoaki Okazaki

    Proceedings of the 2024 Joint International Conference on Computational Linguistics, Language Resources and Evaluation(LREC/COLING)   2567 - 2579   2024年

    　詳細を見る

    担当区分：筆頭著者   記述言語：英語   掲載種別：研究論文（国際会議プロシーディングス）   出版者・発行元：ELRA and ICCL  

    researchmap

    その他リンク： https://dblp.uni-trier.de/rec/conf/coling/2024

  • LLMに日本語テキストを学習させる意義

    齋藤幸史郎, 水木栄, 大井聖也, 中村泰士, 塩谷泰平, 前田航希, MA Youmi, 服部翔, 藤井一喜, 岡本拓己, 石田茂樹, 高村大也, 横田理央, 岡崎直観

    情報処理学会研究報告(Web)   2024 ( NL-261 )   2024年

    　詳細を見る

    記述言語：日本語   掲載種別：研究論文（研究会，シンポジウム資料等）  

    J-GLOBAL

    researchmap

  • 言語横断ラベル射影を用いた日本語文書レベル関係抽出データセットの構築

    MA Youmi, WANG An, 岡崎直観

    言語処理学会年次大会発表論文集(Web)   30th   2024年

    　詳細を見る

    担当区分：筆頭著者   記述言語：日本語  

    J-GLOBAL

    researchmap

  • 大規模言語モデルに対するサンプリングを活用したメンバーシップ推論攻撃

    綿祐貴, 金子正弘, MA Youmi, 岡崎直観

    言語処理学会年次大会発表論文集(Web)   30th   2024年

    　詳細を見る

    記述言語：日本語  

    J-GLOBAL

    researchmap

  • DREEAM: Guiding Attention with Evidence for Improving Document-Level Relation Extraction. 査読 国際誌

    Youmi Ma, An Wang, Naoaki Okazaki

    Proceedings of the 17th Conference of the European Chapter of the Association for Computational Linguistics(EACL)   1963 - 1975   2023年

    　詳細を見る

    担当区分：筆頭著者   記述言語：英語   掲載種別：研究論文（国際会議プロシーディングス）   出版者・発行元：Association for Computational Linguistics  

    DOI： 10.18653/v1/2023.eacl-main.145

    researchmap

    その他リンク： https://www.wikidata.org/entity/Q130600373

  • Improving Cross-Lingual Transfer for Open Information Extraction with Linguistic Feature Projection 査読 国際共著 国際誌

    Youmi Ma, Bhushan Kotnis, Carolin Lawrence, Goran Glavaš, Naoaki Okazaki

    Proceedings of the 3rd Workshop on Multi-lingual Representation Learning (MRL)   125 - 138   2023年

    　詳細を見る

    担当区分：筆頭著者   掲載種別：研究論文（国際会議プロシーディングス）   出版者・発行元：Association for Computational Linguistics  

    DOI： 10.18653/v1/2023.mrl-1.11

    researchmap

  • クエリ指向要約におけるクエリと要約の統合的な生成

    服部翔, MA Youmi, 岡崎直観

    言語処理学会年次大会発表論文集(Web)   29th   2023年

    　詳細を見る

    記述言語：日本語  

    J-GLOBAL

    researchmap

  • 文書レベル関係抽出における根拠認識の統合

    MA Youmi, WANG An, 岡崎直観

    言語処理学会年次大会発表論文集(Web)   29th   2023年

    　詳細を見る

    担当区分：筆頭著者   記述言語：日本語  

    J-GLOBAL

    researchmap

  • Joint Entity and Relation Extraction Based on Table Labeling Using Convolutional Neural Networks 査読 国際誌

    Youmi Ma, Tatsuya Hiraoka, Naoaki Okazaki

    Proceedings of the Sixth Workshop on Structured Prediction for NLP   11 - 21   2022年1月

    　詳細を見る

    担当区分：筆頭著者   記述言語：英語   掲載種別：研究論文（国際会議プロシーディングス）   出版者・発行元：Association for Computational Linguistics (ACL)  

    DOI： 10.18653/v1/2022.spnlp-1.2

    CiNii Research

    researchmap

    その他リンク： https://dblp.uni-trier.de/rec/conf/acl-spnlp/2022

  • Annotating Entity and Causal Relationships on Japanese Vehicle Recall Information. 査読 国際誌

    Hsuan-Yu Kuo, Youmi Ma, Naoaki Okazaki

    Proceedings of the 36th Pacific Asia Conference on Language, Information and Computation(PACLIC)   783 - 791   2022年

    　詳細を見る

    記述言語：英語   掲載種別：研究論文（国際会議プロシーディングス）   出版者・発行元：De La Salle University  

    researchmap

    その他リンク： https://dblp.uni-trier.de/rec/conf/paclic/2022

  • Named Entity Recognition and Relation Extraction Using Enhanced Table Filling by Contextualized Representations 査読

    Ma Youmi, Hiraoka Tatsuya, Okazaki Naoaki

    Journal of Natural Language Processing   29 ( 1 )   187 - 223   2022年

    　詳細を見る

    担当区分：筆頭著者   記述言語：英語   掲載種別：研究論文（学術雑誌）   出版者・発行元：The Association for Natural Language Processing  

    In this study, we propose a method designed to extract named entities and relations from unstructured text based on table representations. To extract named entities, the proposed method computes representations for entity mentions and long-range dependencies using contextualized representations without hand-crafted features or complex neural network architectures. To extract relations, it applies a tensor dot product to predict all relation labels simultaneously without considering dependencies among relation labels. These advancements significantly simplify the proposed model and the associated algorithm for the extraction of named entities and relations. Despite its simplicity, the experimental results demonstrate that the proposed approach outperformed the state of the-art methods on multiple datasets. Compared with existing table-filling approaches, the proposed method achieved high performance solely by independently predicting the relation labels. In addition, we found that incorporating dependencies of relation labels into the system obtained little performance gain, indicating the effectiveness and sufficiency of the tensor dot-product mechanism for relation extraction in the proposed architecture. Experimental analyses were also performed to explore the benefits of joint training with named entity recognition in relation extraction in our design. We concluded that joint training with named entity recognition assists relation extraction to improve the span-level representation of entities.

    DOI： 10.5715/jnlp.29.187

    DOI： 10.48550/arxiv.2010.07522

    CiNii Research

    researchmap

    その他リンク： https://dblp.uni-trier.de/db/journals/corr/corr2010.html#abs-2010-07522

  • 畳み込みニューラルネットワークを用いた表ラベリングによる固有表現認識と関係抽出

    MA Youmi, 平岡達也, 岡崎直観

    言語処理学会年次大会発表論文集(Web)   28th   2022年

    　詳細を見る

    担当区分：筆頭著者   記述言語：日本語  

    J-GLOBAL

    researchmap

  • BERTを用いたTable-Fillingによる固有表現抽出と関係抽出

    MA Youmi, 平岡達也, 岡崎直観

    言語処理学会年次大会発表論文集(Web)   27th   2021年

    　詳細を見る

    担当区分：筆頭著者   記述言語：日本語   掲載種別：研究論文（研究会，シンポジウム資料等）  

    J-GLOBAL

    researchmap

  • Semi-Supervised Semantic Dependency Parsing Using CRF Autoencoders. 査読 国際共著 国際誌

    Zixia Jia, Youmi Ma, Jiong Cai, Kewei Tu

    Proceedings of the 58th Annual Meeting of the Association for Computational Linguistics(ACL)   6795 - 6805   2020年

    　詳細を見る

    記述言語：英語   掲載種別：研究論文（国際会議プロシーディングス）   出版者・発行元：Association for Computational Linguistics  

    DOI： 10.18653/v1/2020.acl-main.607

    researchmap

    その他リンク： https://dblp.uni-trier.de/rec/conf/acl/2020

▼全件表示

MISC

講演・口頭発表等

  • 畳み込みニューラルネットワークを用いた表ラベリングによる固有表現認識と関係抽出

    MA Youmi, 平岡達也, 岡崎直観

    言語処理学会年次大会発表論文集(Web)  2022年 

    　詳細を見る

    開催年月日： 2022年

    researchmap

  • BERTを用いたTable-Fillingによる固有表現抽出と関係抽出

    MA Youmi, 平岡達也, 岡崎直観

    言語処理学会年次大会発表論文集(Web)  2021年 

    　詳細を見る

    開催年月日： 2021年

    researchmap

受賞

  • 第32回年次大会委員特別賞

    2026年3月   言語処理学会  

    　詳細を見る

  • 2024年度論文賞

    2025年3月   言語処理学会  

    　詳細を見る

  • 第18回シンポジウム奨励賞

    2023年9月   NLP若手の会 (YANS)  

    　詳細を見る

  • 第29回年次大会最優秀賞

    2023年3月   言語処理学会  

    　詳細を見る

  • 第27回年次大会若手奨励賞

    2021年3月   言語処理学会  

    　詳細を見る

共同研究・競争的資金等の研究課題

  • 大規模言語モデルの事後学習におけるタスク間干渉の解明と制御

    研究課題/領域番号：26K21306  2026年4月 - 2029年3月

    日本学術振興会  科学研究費助成事業  若手研究

    Ma Youmi

    　 詳細を見る

    配分額：4550000円 （ 直接経費：3500000円 、 間接経費：1050000円 ）

    researchmap

  • 「教育的価値」の高い日本語コーパスの構築による小規模言語モデルの研究

    研究課題/領域番号：25H01137  2025年4月 - 2028年3月

    日本学術振興会  科学研究費助成事業  基盤研究(A)

    岡崎 直観, Ma Youmi

    　 詳細を見る

    配分額：47190000円 （ 直接経費：36300000円 、 間接経費：10890000円 ）

    researchmap

  • 大規模言語モデルにおける長文脈処理能力の自律的獲得

    2025年 - 2027年

    科学技術振興機構  戦略的な研究開発の推進 戦略的創造研究推進事業 ACT-X 

    Ma Youmi

    　 詳細を見る

    大規模言語モデル(LLM)には、処理する系列・文脈が長くなるにつれて性能が低下するという限界がある。本研究では、この限界を克服するため、モデル自身が短文脈処理における中間表現や出力結果を手かがりに、自律的に長文脈処理能力を獲得・高度化する方法を創出する。これにより、長い文脈に対しても正確に処理できるLLMを実現するのとともに、LLMが文脈を処理するメカニズムの解明に挑戦する。

    researchmap

    J-GLOBAL