昔、 R1 という名のロボットがいた。 ある日、 R1 の開発者たちは予備バッテリーを別の部屋に隠して、 その部屋に時限爆弾を仕掛け、 まもなく爆発するようにセットした。 R1 は部屋をつきとめ、 バッテリー回収作戦を立案した。 部屋の中にはワゴンがあり、 バッテリーはワゴンに載っている。 R1 は 「引き出す」 というアクションを実行すればよいと判断し、 ワゴンを部屋の外に引き出すことに成功したが、 そこで最初の悲劇が起こった。 時限爆弾もワゴンの上に載っていたため、 部屋の外に出たところで R1 は爆破されてしまったのである。

開発者らは第2のロボットの開発にとりかかった。 自分の動作が引き起こす結果 （副次的作用） を判断できるロボットを作ればいい。 新しいロボットは R1D1 と名付けられた。 さっそく R1 の場合と同じシチュエーションが設定され、 R1D1 はバッテリーの回収に取りかかった。 「引き出す」 というアクションの実行に先立って、 R1D1 は副作用のチェックを開始する。 ワゴンを引き出しても部屋の壁の色は変わらないだろう、 ワゴンを引き出せば車輪が回転するだろう…、 膨大な副次的作用の可能性を検討しているうちに時限爆弾が爆発した。

問題は、 関係のあることと関係のないことをロボットが見分けられなかった点にある。 そこで開発者たちは、 目的に関係のないことを見分けられるロボット R2D1 を開発した。 だが今度も悲劇は起こった。 R2D1 が無関係なことを見分けて、 それらを一つずつ 「無視」 し続けているあいだに爆弾が爆発した。

何が必要で何が不要かを、 人工知能はどのように見分けて、 不要なことをどのように無視すればいいのか。 これを 「フレーム問題」 という。 フレーム問題に対処できなければ、 有効な行動が取れる前に情報量の爆発が起きてしまう。 上の小話は、 哲学者のダニエル・デネットがフレーム問題の難しさを指摘して、 当時の人工知能研究者のアプローチをからかったもの（1984年）。 フレーム問題は、 その問題自体を定義するのも難しいとされ、 この小話はフレーム問題を説明する手ごろな材料として、 しきりに使われている。

人工知能のフレーム問題は、 いまだに解決されていないとされている。 また、 人間も実際にはフレーム問題を解決していないとする説もあり、 フレーム問題にうまく対処しているかのように見せかけているだけともいう。

ダニエル・デネットの論文 （PDF）。
- COGNITIVE WHEELS: THE FRAME PROBLEM OF AI

- category フレーム問題、 ロボット