---
source_url: https://littlelearner-ll.github.io/
source_title: "Language Models Under Pedagogically-Controlled Knowledge Exposure"
tags: language-models,curriculum-learning,knowledge-acquisition
generated_at: 2026-08-16T08:01:05.757Z
model: claude-haiku-4-5
---
# 初等教育カリキュラムに限定したデータで訓練した言語モデルの能力上限を検証

教育カリキュラムに基づいてフィルタリングされた88B トークンのデータセットで訓練した言語モデル「LittleLearner」が、スケーリングや強化学習による後訓練でも、カリキュラム外の能力を習得できないことが明らかになった。

研究グループはLittleLearnerシリーズを開発し、U.S. elementary school curriculum（K-5 grades）に合わせて設計された88B トークンのコーパスから訓練を行った。スケーリング、後訓練（GRPO）、文脈内学習といった手法を用いた実験の結果、これらの手法はいずれもカリキュラム内の性能を向上させるが、カリキュラム外の性能を向上させることはできず、訓練データのフィルタリングが有効な能力の上限を決定することが示された。

## LittleLearnerの設計と訓練

LittleCurriculumは FineWeb-Edu から Common Core standards に合わせた5段階パイプラインでフィルタリングされた88B トークンのコーパスである。Grade 5 を超えて教えられる概念、事実、語彙は明示的に除外されている。研究チームは 0.6B、1.3B、5B パラメータの3つの規模の LittleLearner モデルをゼロから訓練し、それぞれについてアーキテクチャ、トークン数、訓練レシピが同一の未フィルタリング制御モデルを準備した。

## スケーリング・後訓練・文脈内学習の効果

スケーリングはモデルの制御された知識の範囲内において性能を向上させる。また、GRPO による後訓練により K-5 の範囲内の能力は著しく向上する。

しかし、GRPO による後訓練はカリキュラム外のデータで訓練されても K-5 を超える能力を回復させることができない。5B LittleLearner における文脈内学習も、テスト済みのプロンプトではカリキュラム外の推論能力を解放できない。

## 能力上限と訓練データの制約

実験の結果、訓練時のフィルタリング処理が有効な能力の上限を設定することが明らかになった。スケーリング、SFT+GRPO 後訓練、文脈内学習はいずれもカリキュラムが教えた内容を増幅するが、カリキュラム外の性能を意味のある形で改善しない。このことは、言語モデルの能力がどの程度まで訓練データの選別によって決定されるかを示唆している。

## 筆者の見立て

- 強化学習が新たな能力を生成できるかについて、検証の必要性を論じている
- 強化学習下で出現する能力は強化学習プロセス自体に帰属させることができるとの解釈を示唆している

*この記事は元記事の事実のみに基づいて自動生成されました。*

## 出典

Language Models Under Pedagogically-Controlled Knowledge Exposure  
https://littlelearner-ll.github.io/