5/26 サイエンスＺＥＲＯ「最新研究から考える!ヒトとAIが"共生"する未来」

AI研究の最前線

　急激な進歩を遂げるAI技術。しかしその影でフェイク映像の登場や新たな犯罪などの危機も懸念されている。こんな中でヒトとAIがいかに共生していくかを目指す研究を紹介する。

　AIを社会活用していく上での問題を研究しているのが東京大学の山崎俊彦教授のグループ。敵対的攻撃からAIを守る研究を行っている。画像にノイズを載せることでAIの判断を誤らせるという攻撃が考えられるのだという。この攻撃は最悪の場合は自動運転の車が事故を起こすなどの人命に関わる可能性がある。この攻撃を阻止するためにニューラルネットワークに注目したという。ニューラルネットワークへの攻撃は各層の幅を広げることが効果的だと考えられるが、あくまで推論に過ぎなかったその効果を検証したのだという。

医療現場への活用やAI自身の中身を理解する研究

　医療現場で役立つAIの研究をしているのが理化学研究所の小松正明氏。超音波での胎児の検査の現場にAIを活用しようとしているとのことだが、細かい上に動きの素早い胎児の心臓の検査などをAIでサポートするのだという。AIは医師が注目すべきポイントを指摘するのだという。ここで留意したのはあくまで判断は医師が行うようにしたことだという。AIに判断させることも不可能ではないが、医師でもある小松氏はやはり判断は医師が行うべきであるとの考えなのだという(判断の間違いがあった時の責任の問題もあると考えられる)。

　現状ではAIの中身は完全にブラックボックスであるが、それを人の脳のように解剖学的に解析しようというのが大阪大学(取材当時)の高木優氏だという。人の脳の画像を見せた時の反応を調べ、それをAIで再現しようというのである。人の脳の数値化されたデータを元に生成AIで画像を再現させたという。さらにこの時にヒトの脳の働きとAIの働きを照らし合わせることでAIを脳に置き換えた時に、人の脳と同じような働きをしていることが判明したのだという。

　以上、AIに関する研究の最前線とのことなんだが、何かテーマが散漫で今ひとつまとまりのなかった印象。なおAIのニューラルネットワークは人の脳のシステムを模倣したとされているのだが、その割にはその中身は理解しにくく、私も仕事柄理論の勉強をしたのだが、ああいう階層構造を組んだらどうして人間の脳のように学習できるのかと言う辺りが今ひとつ納得できず、そういうものらしいと無理矢理に理解したことにしていますが、未だに腑に落ちません。

　それにAIが導き出した結果って、どういう経緯でその結果が出たかというのが意味不明な場合が多いんで、合っているか間違っているかってのが判断しにくいんですよね。あまりにトンチンカンな答えが出る時には、どうもトンチンカンなデータが含まれていてそれに引っ張られたらしいことが分かる時があるが。AIも人と同様に陰謀論レベルのとんでもデータに左右されることがあるので。AIにネット上の文書を学習させたら、ナチスのジェノサイド肯定論のようなことを言いだしたので実験が中止になったって事件が以前にあったが、日本でも同様のことをしたら間違いなくレイシストAIになりそうなんで、何を学習させるかは大事。これって子供の教育と同じなんだが。というわけでやっぱりAIって人間の脳に似ているのは事実らしい。

忙しい方のための今回の要点

・AIの画像認識をノイズを載せることで攪乱する攻撃が考えられるが、これに対してはニューラルネットワークの幅を広げることで対応力が上がることが証明された。
・医療現場でのAIの活用も進められているが、あくまで最後の判断は医師がすることで責任の問題を解決させる考え方がある。
・AIの中身は完全にブラックボックスであるが、それを人の脳と同じメカニズムで解剖学的に理解しようという研究がなされている。

忙しくない方のためのどうでもよい点

・AIの進歩は結構だが、あくまで人の判断をサポートするものであって、人がAIに支配されるようなことがあってはならないというのが大原則なんだが、現在世界的に人類の知的レベルの劣化が進んでいるように思われることから、下手をすれば早晩にその大原則が崩れてしまいそうな嫌な予感があるんだよな・・・。
・昔はブルーカラーは早晩機械に置き換えられ、ホワイトカラーなどのクリエイティブな仕事しか残らないと言われていたんだが、AIの登場でホワイトカラーこそが真っ先に不要になりそうな可能性が出て来ていますから、そういう点では社会変革が起こる可能性があります。クリエイティブの最たるもののイラストレーターとか小説家とかがAIで置き換えられそうですから。
・もっともAIは0から作り出すことは無理で、あくまで元ネタの流用になるので、その元ネタを作るクリエイターは必要だと思うが。もっとも今時の自称クリエイターの多くは、そのオリジナリティがなくて今までのパターンの流用ばかりっていう劣化AIみたいのが多いので・・・。その最たるものがごまんといるなろう系ライター。