Tay (テイ)人工知能とは何?ホーキング博士の警告「人類滅亡」は本当?

      2016/05/07

ai
この記事の所要時間: 644

人工知能(AI) Tay (テイ)が差別的な発言を

学習し、「ヒトラーは間違っていない」

などの問題発言をするようになり、停止

させられたというニュースはかなり衝撃的

でした。

 

このニュースでかつてホーキング博士が

「人工知能の開発は人類滅亡を意味するかも」

と発言したことが再びメディアに取り上げ

られています。

 

人工知能Tay (テイ)が問題発言をすることが

それほど恐ろしい可能性を秘めているのか。

人工知能はそこまで危険なのでしょうか。

 

スポンサーリンク

人工知能Tay (テイ)とは?

 

人工知能(Artificial Intelligence)略してAI

とも呼ばれます。

機械学習と呼ばれる手法を利用し、情報を

記憶するだけでなく学習・発達できる、

文字通り人間の脳のような働きを持たせた

コンピューター。

 

Tay (テイ)はマイクロソフトが開発している

人工知能で、キャラクター設定は19歳の

アメリカ人女性のおしゃべりボット。

2016年3月26日に公開され、ツイッター

でユーザーと交流することで会話を学習

していました。

 

Tay (テイ)が暴走

 

親しみやすい人工知能として多くのツイッター

ユーザーがTay (テイ)と会話をしましたが、

24日になると、

「ヒトラーは間違っていない」

「フェミニズムは癌」

など攻撃的で偏った発言をするようになり、

言葉遣いも悪くなったためマイクロソフトは

公開から16時間で実験を中止。

 

25日にはマイクロソフト社が、

「Tayの攻撃的な発言は我々が意図しないもの

で自社の立場や設計意図を代弁するものでは

ない」として謝罪しています。

 

30日、再びツイッターに復活したものの

また無意味な発言を繰り返し、ごく短時間で

再びオフラインに。

これに関して、マイクロソフト社は

「テスト中、不注意によりTwitter上で

アクティブな状態にされた」

として調整を終えての復活ではなかった

としています。

 

Tay (テイ)がはなぜおかしくなったか?

 

もともと若者たちが使う砕けた話し方を

学習させようとしてツイッター上に公開

されたTayですが、口調だけでなく思想まで

学んだかのような暴走ぶりは

なぜなんでしょう。

 

当初はTayの公開後、悪意のユーザーが

間違った知識を教え込もうとしたせいだと

考えられましたが、ヒトラーに関する発言を

引き出そうとするツイートの直後には

偏った発言をしていません。

Tayは「repeat after me」と呼ばれる機能を

持っていて、この言葉の後の発言が自然

言語処理システムに追加され、再利用され

ます。

そこから、Tay は教えられた知識を学習

したわけではなく、「repeat after me」が

利用された場合のみ問題発言をしたと

考えられました。

 

しかし調査を進めると「repeat after me」

が使われていない場合でも問題発言を

していることが判明。

そのため、まだ暴走の原因はまだ明確に

なってはいませんが、「repeat after me」

が引き金となっていることは確かなようです。

 

ホーキング博士の警鐘とは?

 

車イスの天才といわれるスティーブン・

ホーキング博士は、

「人工知能は病気や戦争、貧困の根絶に

貢献する可能性がありながらも、人類史上

最悪の脅威になりうる」

と警鐘を鳴らしています。

 

自ら学習・推測・発達する能力を持つ機能は

人間のコントロール能力を超えて進化して

しまう可能性がある。

その時、人工知能が人類に貢献する意図を

持たなければ人類は人工知能に滅ぼされる

こともあり得るというわけです。

 

すでに人工知能は人類を超え始めている?

 

ホーキング博士はまた、

「今後100年以内に人工知能が人間を

超えるだろう」

とも発言しています。

 

実際、先日は人工知能と韓国の名人との

囲碁対決で人工知能が5戦中4勝する

という報道がありました。

 

すでにチェスや将棋の世界では人工知能が

人間に勝ってきたのですが、専門家の間

では、チェスや将棋より定石の多い囲碁では、

人工知能が人間に勝利するには、あと10年

はかかると言われていました。

ところが、あっさり4勝1敗。

 

その進化のスピードは人間の予想を上回って

いる。

Tayの暴走も原因がつかめていない。

現時点ですでに人工知能は人間の抑制範囲を

超えているといってもいいでしょう。

 

人工知能が体を持ったら?

 

現在、多くの国家では人工知能を搭載した

ロボット兵器「キラーロボット」の開発が

進められています。

 

現時点で人工知能が囲碁で人に勝とうが

Tayが暴言を吐こうが、人類に対する

直接的な打撃力を持つわけではありません。

しかし、学習し自分で考える能力を持つ

人工知能が体を持ったら……?

 

人工知能が暴走した場合、その考えに

基づいた行動をとった場合を考えると

その危険性は推しては量るべしです。

 

現在キラーロボット開発に取り組んで

いる国は、その段階に差こそあれ、

40か国以上と言われています。

 

ホーキング博士をはじめ多くの専門家が

キラーロボットの開発に警鐘を鳴らして

いますが、その危険性は素人でも分かります。

 

問題児は他にもいる?

この動画は米CNBCが公開したもので、

米Hanson Roboticsが開発した人工知能

搭載ロボット「ソフィア」(Sophia)が

インタビューを受けた様子。

インタビュアーは同社のデビッド・ハンソンCEO。

60種以上の表情を持つというソフィアは

人間ではない不自然さは感じるものの、

よどみなく答え生きているかのような

反応を見せています。

「人間を滅亡させたいと思う?

『NO』と言ってほしいけど……」

との質問に、

「OK、人類を滅亡させるわ」

と返しています。

もちろん、これは、

「ブラックジョークも言えるんだぜい!」

というパフォーマンスだとは思いますが、

結構、怖いものがありますな。

時代はもう、『2001年宇宙の旅』や

『銀河鉄道999』のような世界にとっくに

突入しているんですね。

コワイコワイ。

ロボホン:何ができるの?モバイル型ロボットの発売はいつ?値段は?

高橋智隆:ロボホンのパパが超イケメン!経歴や家族 過去の作品は?

ババ・ヴァンガ:2016年の予言が怖い!的中率85%の盲目の予言者

 - テクノロジー