たとえどんな答えをコンピューターから引き出したとしてもコンピューター自信は「記号」の意味を理解していない。理解のないところには知性はないといもの。

例えば英語しか理解してない人をあるボックスに中国語の中中辞典と漢字のカードをもたせて閉じこめたとする。そした外部からある漢字のカード送られると辞書を引いてその記述と同じ漢字のカードを差し出す。これを理解するのは外部の人間であり、ボックスの中の人は理解してはいないのである。

もう一つの難関は人工知能が「創造性」をもてるかどうかである。

脳の神経の接続はニューラルなネットワークになっている。

特徴は計算のプロセスのブラックボックス性にある。記憶された素子の結合関係によって解答が異なる。我々の認識と行動を橋渡しする

ホパー＞例え科学がどんなに発達して、人間をつくれても、マハトマ・ガンジーやマーティン・ルーサー・キングのような勇気ある無私な精神をつくれはしないってことだ。