CNN

近年の技術革新により、人の目では判別できない微妙な違いも見抜くことができる画像認識の技術は目覚しい進歩を遂げました。特に、深層学習と呼ばれる技術を用いた画像認識は、その精度の高さから様々な分野で活用されています。しかし、深層学習は複雑な計算過程を経て結果を導き出すため、どのような根拠でその判断に至ったのかを人間が理解することは容易ではありません。まるで中身の見えない黒い箱のような、このブラックボックス化された状態は、AI技術への信頼を損なう一因となっています。そこで、AIの判断の理由を明らかにし、人間にも理解できるようにする技術が求められるようになりました。これを説明可能なAI、つまり説明できるAIと呼びます。この説明できるAIを実現する代表的な方法の一つが、今回紹介するグラッドカムと呼ばれる技術です。グラッドカムは、AIが画像のどの部分に着目して判断を下したのかを、色の濃淡で表現した図として示してくれます。例えば、AIが一枚の写真を見て「ねこ」と判断したとします。このとき、グラッドカムを使うと、ねこの耳や尻尾といった、ねこだと言える特徴的な部分が、図の中で明るく強調されて表示されます。つまり、AIはこれらの部分を見て「ねこ」だと判断したことが視覚的に分かるようになります。グラッドカムは、AIの判断根拠を分かりやすく示すことで、AI技術のブラックボックス化された部分を解消するのに役立ちます。これは、AIの判断に対する信頼性を高めるだけでなく、AIが誤った判断をした場合に、その原因を特定するのにも役立ちます。例えば、AIが「ねこ」ではなく「いぬ」と誤って判断した場合、グラッドカムで表示される図を見ることで、AIが誤って「いぬ」の特徴と判断した部分が分かります。このように、グラッドカムは、AIの判断過程を理解し、改善していく上で非常に重要な役割を果たします。そして、AI技術をより深く理解し、より安全に活用していくための、重要な技術と言えるでしょう。