人工知能の考え方が人間の理解を超えたとき

人工頭脳が代ゼミ東大模試で偏差値約60達成〜「ロボットは東大に入れるか」数学チーム
http://pc.watch.impress.co.jp/docs/news/20131125_624993.html

上記の記事の中で紹介されていた「東ロボの東大模試の答案用紙」が衝撃的だった。

この答案用紙に記述されている論理式は、おそらく普通の人間が読んで理解できる規模を超えている。
このような答案が出されたとき、採点者はどのように対応したらよいだろうか。

これまでのコンピュータの利用方法は、次のようなものだった。
つまり、答えの導き方（アルゴリズム）を人が定めて、その手続きに従って答えをコンピュータが計算するというものだ。

しかしながら、人工知能の研究によって「答えの導き方」でさえもコンピュータが自分で考え出すことが実現している。

今後、コンピュータが採用した答えの導き方が、人間の理解を超えてしまうことは容易に起こりうるだろう。

そのとき人は、コンピュータが出した答えに対して、どのような評価を与えればよいだろうか。

テストの問題であれば、あらかじめ人間が作った正答が用意されている。

人間が答えを知らない、未解決問題であった場合には？

まさに、人工知能の研究は「知」とは何かを問う研究だ。