AIの時代、どこから先を信じるか…ブラックボックスにどう対処する？

「グレーボックステスト」はテストの中身が重要

そこで、実務上は、この両者を組み合わせた「グレーボックステスト」が行われることが一般的だ。システムの内容をみるために、システムやプログラミングに精通した人がテストを行う。ただし、テストに用いるインプットデータは、必ずしも網羅的であることにこだわらない。テストを行う人が重要と思われるものだけを重点的に流す。こうすることで、テストの負担をある程度抑制しながら、テストの品質を高めることを目指す。

グレーボックステストは、「システムが正当なのか誤っているのか、白黒をはっきりつけたい」という人にとっては満足のいくものではないかもしれない。こういう人は、「自分の頭で理解できたものだけを信じる。少しでもわからない部分が残るものは信じない。」という考え方を持ちやすい。

しかし、AIでは、こうした考え方では立ち行かない場合が多い。どうしても人間の理解が及ばない領域が残ってしまう。現実には、さまざまなシステムの開発や稼働場面で、グレーボックステストが行われている。どのようなグレーボックステストを行うか、その中身が問題となる。

AIの時代には、従来以上にブラックボックスとうまく付き合っていかなくてはならない。AIの進化とともに、人間の側も、AIを上手に信じる感性を研ぎ澄ましていく必要があると思われるが、いかがだろうか。