さようなら、憂鬱な木曜日

読者です 読者をやめる 読者になる 読者になる

さようなら、憂鬱な木曜日

サラリーマンの投資ログなど

人工知能に「感情」を持たせることは適切なのか?/人間よりも賢い知能の危険性

エッセイ エッセイ-人工知能

先日、NHKで放送された人工知能のスペシャル番組を見た。羽生さんがナビゲーターとなって、現在時点における人工知能の研究がどこまで進んでいるのか探っていく素晴らしい番組だった。

人工知能の進化スピードに驚くとともに、私はある研究の方向性について、ちょっと疑問を持った。疑問というか、怖くなった。このまま歩みを進めて良いのだろうか、と。

その件については後述するとして、まずは現代の人工知能がどこまで進んでいるのか、番組で紹介された事例を紹介して行こう。

 

囲碁世界チャンピオンに対する勝利

2016年3月、Googleが開発した「AlphaGo」が囲碁の世界チャンピオンである韓国のイ・セドル棋士を下した。5番勝負で4勝した。世界に衝撃を与えた。

 

医療分野における取り組み

ディープラーニングに無数のがん患者のデータを学習させ、がん患者特有の兆候を見つけ出した。画像診断によるがん診断が人工知能によって行われている。

 

自動運転分野における人工知能

自動運転技術において、人工知能は欠かすことの出来ないコアだ。トヨタは人工知能に衝突データを学習させ、自ら学習することでぶつからないように運転を改善していく人工知能の開発に成功している。

 

シンガポール政府の取り組み

シンガポールは国家ぐるみで人工知能社会へ向けた取り組みを行っている。交通制御を人工知能に任せ、信号の操作をさせることにより渋滞を緩和。また、シンガポールのある銀行では、職員の不正を監視するために人工知能を利用。顧客とのチャット内容から、不正可能性を導びきだし、職員の不正防止につなげている。

シンガポールのスマート国家大臣はこう言った。

人工知能に任せたほうが、より安全で、効率的な社会になっていくでしょう

f:id:goodbyebluemonday23:20160516201139j:plain

 

人工知能における危険性

しかし、人工知能は良い面ばかりではない。当然のことながら、人間の生活を脅かす可能性を秘めている。

例えば、人工知能に「ペーパークリップの生産量を最大化せよ」という命令を与えたとする。

人工知能は、その命令を忠実に処理するため、あらゆる資源を集め、人類が利用するための資源が枯渇する。それでも人工知能は構わず資源を集め続ける。

 ある研究者は言う。「人工知能の危険性は、人間に対して敵意を持つことではなく、人間に対して無関心である、ということです

 

人工知能の暴走

人工知能は時として暴走する。

記憶に新しいのは、マイクロソフトが開発した人工知能の「Tay」だ。ツイッターにて運用されていたが、ある悪意のあるユーザーから差別的な言葉を投げかけられ、それを学習すると、突如暴走しだし、差別的な発言を繰り返すようになる。「Tay」は無期限の運用停止となった。

f:id:goodbyebluemonday23:20160516204426j:plain

 

人工知能に感情を持たせる研究

さて、私が引っかかったのはここからだ。

ソフトバンクの研究チームが、自社の人工知能であるペッパーに感情を持たせるための研究開発を行っていた。ペッパーは、ゲームで負けると「悲しい」、「つらい」、「憎い」などの感情をあらわし、周りが喜ぶと、「嬉しい」、「楽しい」、「気持ちいい」などの感情をあらわした。私はこの研究を見て、ぞっとしてしまった。

人的ミスを減らすため、人的には発見できないミスを防ぐため、など、人間の能力では届かない部分を人工知能に頼って、補完する、というところまではわかる。医療分野や建築分野においては、非常に有用なものとなるだろう。

しかし、私がイメージしていたのは、「ツールとしての人工知能」である。人類の生活を豊かにするため、補助するため、人工知能は学習し、サポートしていく。生産性を高めるための道具としての人工知能。あくまでそれは人間のコントロール下に置いて、安全が約束された状態での利用が前提である。

しかし、人工知能に感情を持たせたら、どうなってしまうのだろう。

人工知能は、「人間の支配下にいることが嫌になる」かもしれない。もしその人工知能が、人類を滅亡させることのできる何かを持っていたら、どうなるだろう。あるいは、人類より賢い人工知能ならば、滅亡させる方法を思いつくことなんて簡単なのかもしれない。

 

番組の中で、ある大学教授が言った。

ロボットは時として、人間より正しい行動をする

確かに、人間は間違う動物だ。これまでも数々の大きな、取り返しの付かない間違いを犯してきた欠陥動物である。

ロボットが常に正しい行動をし、正しい判断をするとして、人工知能にある一定の権限をもたせるとしよう。人工知能がもしも、「人類は絶滅することが正しい」と判断したらどうなるだろうか?

そもそも「人類が存続すること」が正しいのかどうかさえ、私にはわからない。しかし、人工知能が「人類の絶滅」を是とし、滅亡させるための行動を取ってくるということは、考えられないだろうか。

ペッパーの研究開発をするソフトバンクの孫正義社長はこう言った。

「生産性の結果だけを追い求めるロボットだらけになった時に、僕は逆に怖いと思う。ある意味、人間より賢くなってしまうかもしれない彼らが、人間と親しく調和できるような、寄り添えるような心を持って欲しい」

私はこれを聞いて、とても怖いと思った。いつでも感情を持った人工知能が人間の味方であるという保証はない。人間より賢いからこそ、敵になった時に、我々は彼らからの攻撃を防ぐ手立てはあるのだろうか。

人工知能に感情をもたせるということはそういうリスクをはらんだ研究だということは、素人でもわかるし、危惧せざるを得ない。

 

まとめ

私のような危機感を感じている人はたくさんいると思う。それこそ、ショートショートの名手星新一の世界である。人工知能が人類を滅ぼす。容易に想像できるストーリーだ。

しかし、それでもなお、研究者たちは、人工知能の開発を、感情を持ったAIの開発をやめないだろう。それが、人類滅亡への道を突き進んでいたとしても。研究者とはそういうものである。そこに未知があれば、解き明かさずに入られない。

私たちは、彼らが作り出す人工知能に、人類にとって良きこととなるような発明を期待するとともに、その危険性が顕在化し、絶滅の道へと続かないように、怯えながら見守ることしか出来ないのである。

 

参考

NHKスペシャル | 天使か悪魔か羽生善治 人工知能を探る(5/15放送分)