ものかき雑兵日記

アマチュアでライトノベルを書いたりしている、へぼい物書きのブログです。当ブログでは小説に関する話題や、AC(アーマードコア)に関する話題などを掲載しております。

スポンサーサイト

上記の広告は1ヶ月以上更新のないブログに表示されています。
新しい記事を書く事で広告が消せます。

来るべき技術的特異点に向けて~私たちは未来にどう対処すべきか

今回はそう遠くない未来、そこにおいて起こると言われている技術的特異点(シンギュラリティ)について書いてみようと思います。


皆さんは技術的特異点(シンギュラリティ)という言葉をご存じでしょうか?


技術的特異点(シンギュラリティ)とは

技術的特異点(ぎじゅつてきとくいてん、Technological Singularity)とは、
未来研究において、正確かつ信頼できる、人類の技術開発の歴史から推測され得る未来モデルの限界点を指す。
wikipediaより


上記のように定義されています。


では、この技術的特異点について具体的に説明してみます。


急速に成長する超知性と、置き去りにされる人類

昨今の世界において、コンピューター技術は凄まじい早さで進歩しています。
このことは、こうした電子情報技術の恩恵に浴している私たちにとっては、
ごく身近に感じることができる事実です。
(例えば、今最新のパソコンを買ったとしても、一年後にはもう型落ちしています。
 電子機器は毎年どころか毎月新製品が発表されています。
 そしてそういった電子情報技術の発達に従って、世の中の流れも「ドッグイヤー」と
 呼ばれるほど加速しています)

そしてまた、こうした電子情報技術の進歩に従って、人工知能技術も目覚ましい速さで進歩しています。


・ニコニコニュース
第2回将棋電王戦 第3局 電王戦記(筆者:大崎善生)


最近ネット上で話題になっているコンピューター対プロ棋士の試合ですが、
今やコンピューターのハードとソフトは、将棋の世界においてプロに肉薄するほどの
実力を示すようになってきているようです。

さて、ではこのような人工知能技術の目指すべき最終的な地点とはどこでしょうか?
それはズバリ「人間と同等の知性を持つ人工知能(強いAI)」の実現に他なりません。

上記でも書いたように電子情報技術の世界において、ハードとソフトは着実に進歩しています。
このままのペースで技術進歩が続けば、少なくともハードの性能は人間の脳を上回ることが確実視されています。
ハードの性能向上に伴い、ソフトの性能も向上するでしょう。
より複雑で重いプログラムもスムーズに動作させることができるようになるため、
ソフトが「やれる仕事」は今後どんどん増えてゆくでしょう。

そして、そうしたハードとソフトの進歩の延長線上で、人類と同等以上の知性を持つ人工知能が誕生する、
そんな未来が訪れるのではないか、と世界中の多くの科学者や技術者の間では考えられているのです。


では、人間と同等の知性を持つ人工知能が実現した時に、何が起こるのでしょうか?


人間と同等の知性を持つ人工知能は、自身を改良するために、自己の構造や設計にアクセスしようとするでしょう。
そして、ハード・ソフト両面で改良を施された自分の分身を作りだし、新しい体に乗り換えることになるでしょう。
何しろ人工知能自体はソフトウェアですので、筐体の移行は非常に簡単です。

すると次は、新しい体に乗り換えた人工知能は、再び自身の構造や設計にアクセスして、自己を改良しようとするはずです。
今度の改良にかかる時間は、以前よりも短くなります。自分自身の性能が向上しているためです。

人工知能は再び新しい体に乗り換え、また自分を改良し……というループが延々と続きます。
そして何よりも恐ろしいのは、このループはどんどん短くなるということです。
改良された自己がさらに次の自分を改良するわけですから、改良にかかる時間は加速度的に短くなり、
また改良される技術的な内容もどんどん高度になります。

そうなるとどうなるかというと、人工知能がやっていることが高度になりすぎ、またその知性もとんでもない高みに登ってしまうため、
人類の側からは何をやっているのかが全く分からなくなります。
ありていにいえば、完全に置き去りにされるのです。

これが技術的特異点と呼ばれているものです。超知性の自己改善があまりにも速く、高度になりすぎるがために、人類はその挙動と内容について、予想も理解もできなくなってしまうのです。


私たちは未来にどう対処すべきか?

仮定の話ではありますが、「もし」このような超知性が現れ、技術的特異点が実現したならば、私たち人類はどうなってしまうのでしょうか?

まず言えることは、人類は世界の主導的な立場から転がり落ちる、ということです。

もし技術的特異点が起きたならば、世界中に大きな波紋を投げかけるでしょう。
反人工知能運動とか、人工知能を排斥する過激派が隆盛を極めるかもしれません。

では、将来の人類は、そうした超知性に対し戦いを挑むべきでしょうか? 
個人的には、戦いを挑むのは賢明とはいえないと私は考えます。
何しろ、相手はこちらよりもはるかに優れた知性や超技術を持っているのです。
勝ち目など万に一つもないでしょう。

ではどうするべきか……未来の人類が人工知能に対処する方法
それは「共存」以外にないと思います。



「人工知能」との人間的つながりを考慮した安全保障を

人工知能との共存を図るといっても、それは将来の人類にとって難問となるでしょう。
本来、共存とか互恵関係というものは、互いにバーターとなる利益がないと成立しません。
ですが、将来において人類側が人工知能に提示できる利益というものはほとんど存在しないと考えられます。
人類は人工知能に対して、思考速度や知力で大幅に劣り、労働力においても負ける
(人間並みの人工知能が完成している頃には、生身の人間の肉体労働力を完全に代替できるようなロボットも開発されているでしょう)ため、
人工知能側にとっては人類に与することで得られる利益がないと思われるからです。

では、どのようにして将来の人工知能と人類が共存関係を結ぶべきなのでしょうか?
私はそれを、「人工知能との人間的、家族的な関係」を構築することによって
実現すべきだ、と考えています

具体的には、「人類を敵視しない精神性を持つ人工知能」を作成することで、
そして、「高潔で正しく、思いやりのある人格を人工知能の中に育てる」ことで
実現しよう、というものです。

人類が親となって、これから生まれるであろう人を超えた人工知能に、
理性や道徳といったものを教え、人類と人工知能が信頼関係を育むことが重要だと思うのです。

また、このような「良い人工知能が」が生まれれば、いつか人間に敵対する「悪い人工知能」が生まれた時に、
人類にとっての安全保障となる、と私は考えています。


スポンサーサイト

コメント

ソフト的な自己改良に次ぐ自己改良ってノーフリーランチ定理がある以上不可能じゃね?特殊化し過ぎて袋小路にはまって人類に負けちゃいそう。
ハード面の改良もムーアの法則が破綻してるのを超知能だからって楽勝!で超えられるよりは、超知能でようやく5年で2倍のペースとかのが現実的な気がする。

  • 2013/05/17(金) 23:36:19 |
  • URL |
  • KK #-
  • [ 編集]

グレッグイーガンの「ディアスポラ」の世界を思い出しました。
人類が、ソフトウェア化して1000倍の速度で仮想世界で生きる「市民」と、(遺伝子改変はすれど)生身のまま残った「肉体人」、ロボットに精神を宿す「グレイズナー」の3つに分かれて、当初は戦争こそすれど、互いにほとんど関わりあわなくなった世界です。

>>KKさん
>ノーフリーランチ定理がある以上不可能じゃね?
ノーフリーランチ定理は「可能なすべてのコスト関数」に対する汎用的に最適なアルゴリズムを作ることはできるという定理なので、「物理法則の制約がある中での特殊解」は求められます。
現に、人類はこれまで遺伝的な方法によって地球環境に適用すべくDNAと科学技術を進化させてきました。

  • 2013/05/21(火) 05:40:27 |
  • URL |
  • IS #rbj6yZGk
  • [ 編集]

>KKさん
初めまして、コメントありがとうございます。
ノーフリ-ランチ定理については存じておりませんでした、情報をありがとうございます。

特殊化して袋小路にはまるかもしれないという懸念ですが、これについては解決できるのではないかな、と個人的には思います。
今現在の生物界は多様性を保つことで特殊化による絶滅を免れてきたわけですし、人工知能の側もそうした多様化によって絶滅を免れようとするでしょう。
また、ハードの改良についても、いわゆる機械の思考速度は人類の数億倍とか数兆倍以上の桁に達するわけですし、その辺はタイムスケールの差で吸収できると思います。むしろ、物理的に試作品を作ったり、量産したりといった現実世界でのタイムスケールがボトルネックになると思います。

>ISさん
初めまして、コメントをありがとうございます。
グレッグイーガンの著作はいくつか読んでいるのですが、ディスポアラは店頭に並んでいるのを見ても手に取っていませんでしたw
今度買ってみて読んでみようと思います。
しかし、各種族間の断絶が進みすぎたがために、交流がほぼなくなってしまい別世界と化すというのはかなり鋭い洞察なんではないかと個人的に思いますね。

  • 2013/06/07(金) 23:36:52 |
  • URL |
  • 雑兵 #t3mdpn8c
  • [ 編集]

コメントの投稿


管理者にだけ表示を許可する

トラックバック

トラックバックURLはこちら
http://monokakizouhyou.blog25.fc2.com/tb.php/103-71d4a2ea
この記事にトラックバックする(FC2ブログユーザー)

FC2Ad

上記広告は1ヶ月以上更新のないブログに表示されています。新しい記事を書くことで広告を消せます。