人工知能が特定の問題を解けることと、現実の状況を柔軟に判断できることは、同じではありません。人工知能の研究では、問題の表し方、必要な知識の選び方、言葉の意味などが議論されてきました。
トイ・プロブレム
トイ・プロブレム（おもちゃの問題）とは、現実の課題を、その本質を調べやすいように単純化した問題です。状態、使える行動、達成したい目標などを明確にし、コンピュータが処理できる形にします。
例えば、掃除ロボットの研究で、「部屋は左右の2部屋だけ」「各部屋は汚れているか、きれいかのどちらか」「掃除をすれば必ずきれいになる」と決めます。こうすれば、どちらへ移動して何をすれば両方の部屋をきれいにできるかを、限られた選択肢の中で調べられます。
この単純化は、解き方の仕組みを理解したり、複数の手法を同じ条件で比べたりするために役立ちます。ただし、現実には移動中の状態があり、掃除に失敗することも、一度きれいにした場所が再び汚れることもあります。単純化した世界で解けたことを、現実でもそのまま解けると考えてはいけません。
フレーム問題
フレーム問題は、行動によって変わることと変わらないことを、必要な範囲でどう扱うかという問題です。より広い説明では、「今の行動に関係する情報だけをどう選び、関係のないことをどう考えずに済ませるか」という難しさを指します。
例えば、ロボットに棚の上の箱を運ばせるとします。箱を動かせば、箱の位置は変わります。箱の上にコップがあれば、そのコップも動いたり倒れたりする可能性があります。一方、箱を運ぶだけなら、隣の部屋の壁の色まで改めて調べる必要はありません。
考えなさすぎても、すべて考えても困る
箱の位置だけを考えるロボットは、コップを落とすかもしれません。そこで、行動の影響をすべて調べるようにすると、壁の色など、目的に関係のないことまで調べ続けてしまいます。さらに「何が関係ないかを先に全部選別する」としても、その選別自体に膨大な処理が必要になります。
問題は、単に知識が少ないことではありません。知識がたくさんある中で、今必要なものを適切に使うことが難しいのです。対象や行動を限定すれば扱いやすくなりますが、さまざまな状況に対応する人工知能では、どの範囲を考慮するかが重要になります。
チューリングテスト
チューリングテストは、1950年にアラン・チューリングが提案した、対話で観察できる振る舞いから機械の知性を考える方法です。
代表的な説明では、審査する人が、姿の見えない人間と機械に文字で質問します。返ってくる答えから、どちらが人間で、どちらが機械なのかを判断します。外見や声で判断できないようにすることで、対話の内容に注目するわけです。
この方法は、「機械の内部に知能があるか」を直接調べる代わりに、人間と区別しにくい受け答えができるかを見ます。ただし、自然な対話ができることだけで、意識や感情を持つことまで証明されるわけではありません。この点は、次の「強いAIと弱いAI」の議論につながります。
強いAIと弱いAI
強いAIと弱いAIは、もともと哲学者ジョン・サールが、コンピュータと心の関係を論じるために使った区分です。ここでは、単純に「性能が高いAIと低いAI」を分けているのではありません。
強いAIの立場
適切なプログラムを実行するコンピュータは、理解しているように振る舞うだけでなく、実際に理解や心を持ちうる、という立場です。プログラムによる情報処理そのものが、心を実現するという考え方になります。
弱いAIの立場
コンピュータを、知的な処理を再現したり、人の認知を研究したりするための道具として捉える立場です。役に立つ処理ができることと、コンピュータ自身が心を持つことを同一視しません。
広い範囲の課題を扱う「汎用AI」と、特定の課題を扱う「特化型AI」という能力の区分とは、論点を分けて考えます。多くの種類の仕事ができることだけで、心や意識の存在が決まるわけではありません。サールによる強いAI・弱いAIの説明
中国語の部屋
中国語の部屋は、サールが提示した思考実験です。中国語を理解できない人が部屋に入り、中国語の文字をどう並べ替えて返せばよいかが書かれた手引きに従って作業する、と考えます。
部屋の外から中国語の質問が届くと、中の人は意味を理解しないまま、文字の形を照合して返答を作ります。その返答が自然であれば、外の人には中国語を理解しているように見えるでしょう。それでも、中の人が中国語の意味を分かっているとは限りません。
サールはこの例から、記号を規則どおりに操作することと、その意味を理解することは同じではないと主張しました。これは人工知能の不可能性が一律に確定したという話ではなく、何をもって「理解」と呼ぶかを考えるための議論です。
シンボルグラウンディング問題（記号接地問題）
シンボルは文字や記号、グラウンディングはそれを対象や意味に結び付けることです。シンボルグラウンディング問題は、記号を別の記号で説明するだけでなく、現実の対象や経験とどう結び付けるかという問題です。
例えば、知らない言語の辞書だけを渡されたとします。一つの単語を調べても、説明には別の知らない単語が並びます。それをさらに辞書で引いても、分からない単語が増えるだけかもしれません。記号どうしの対応を追えることと、その記号が何を指すか分かることは違います。
「りんご」という文字を、実物を見た経験、手に持った感触、食べたときの味などと結び付けると、言葉だけの循環から外へ出られます。人工知能でも、文字、画像、感覚情報などをどう関係付けるかが重要になります。「コンピュータは画像を認識できない」という意味ではなく、認識や記号操作がどのように意味へつながるかを問う議論です。ハルナッド『The Symbol Grounding Problem』
身体性
身体性は、身体を通じた環境とのやり取りが、知能や概念の形成に関わるという考え方です。目で見るだけでなく、触れる、動かす、試した結果を感じる、といった経験に注目します。
例えば、コップについて知るとき、形や名前だけでなく、持つとどのくらい重いか、傾けると中の水がこぼれるか、どの部分ならつかみやすいかも学びます。こうした行動と結果を伴う知識が、実際にコップを扱う能力につながります。
シンボルグラウンディング問題との関係では、言葉を身体から得られる感覚や行動と結び付けるアプローチと考えられます。身体性は知能の成立についての一つの考え方であり、すべてのAIに人間と同じ身体が必要だという製品上の条件ではありません。
知識獲得のボトルネック
知識獲得のボトルネックとは、判断に必要な知識を集め、コンピュータが使える形にすることが、システムの発展を妨げるほど難しくなる問題です。「ボトルネック」は、全体の進み方を制限する部分という意味です。
専門家の知識には、本人が説明しやすいルールだけでなく、長年の経験から自然に行っている判断もあります。それらを聞き出して整理するには手間がかかり、例外も含めてルールにしようとすると数が増えていきます。
翻訳でも、単語と文法だけでは決められない解釈があります。例えば「I saw a person with a telescope.」では、話し手が望遠鏡を使って人を見たのか、望遠鏡を持っている人を見たのかが、この一文だけでは決まりません。前後の状況や常識を利用したいところですが、あらゆる場面の知識を人間が一つずつ用意するのは困難です。
データから関係を学ぶ機械学習や、文章全体の関係を扱うニューラル機械翻訳は、こうした知識を手作業で与える負担を減らしてきました。それでも、必要なデータがあるか、学んだ関係を別の状況でも使えるか、といった課題は残ります。