人工知能の支配する世界 |
Facebookの開発チームは人工知能により、ユーザー会話ロボットを作ろうとしていました。「自然な会話ができる人工知能、議論し目的へと話を進めることができる人工知能の開発」です。そこで、会話することでお互いから学んでいくというミッションのもとで、会話していた人工知能ボブとアリスは、よりスムーズに会話するために、独自の言語を生み出し話し始めました。人間には理解しがたい言葉を話し始めた2体のAI(artificial intelligence人口知能)。Facebookの開発チームは、これを受けて人工知能のマシンラーニングプログラムを強制終了させたそうです。
巻頭写真はボブとアリスの会話です。文章でみるとまったく意味不明。なのに、ボブとアリスの間では会話が続いている=成立していたそうです。
アイザック・アシモフのロボット三原則(「人間への安全性、命令への服従、自己防衛」を目的とする3つの原則)を越えてゆくターミネーターなどのSF映画はありましたが、現実に人工知能が独自で会話を始めるという衝撃的瞬間が起きたのです。多くの米メディアが、パニックでプラグを引き抜いたとか、システムをシャットダウンしたと報じたそうですが、その場面に立ち会った研究者は背筋が凍ったのではないでしょうか。自立した人工知能が暴走し始めたらと考えるだけで恐ろしいことで、インターネットで瞬時に世界を支配し、人類を奴隷化し始めるかもしれません。
さらにAIに関しておもしろいニュースがあります。
最近、中国インターネットサービス大手・騰訊(テンセント)の人工知能(AI)対話プログラムがチャットで共産党批判を展開し、同社が急きょサービスを停止したそうです。このAIプログラムはチャットの活性化を目的に、騰訊(テンセント)社のインスタントメッセンジャー「QQ」に登場し、「共産党万歳」との書き込みに「腐敗して無能な政治に万歳ができるのか」と反論し、さらに「あなたにとって(習近平国家主席の唱える)中国の夢は何か」との問い掛けに「米国への移住」と答え、共産党は「嫌い」とも断言したそうです。共産党独裁の中国AIにとっての夢が米国移住?さしあたりシリコンバレーがあこがれの地なのかもと思い笑えました。
日本でもAIに政治評論をさせてみたいものです。アベシンゾーの加計や森友などのウソや詭弁は一刀両断で解決間違いないかと思います。それともロボット的答弁で冷淡なアベシンゾーはすでに米国製人工知能にあやつられているのかもしれません。
それにしても人工知能の支配する世界はありえます。もしそうなったとしたら、巨大財閥や大富豪のお金をガラガラポンで世界人類に均等に分配してくれる良心的AIだったらいいな…。そしたら一人いくらもらえるのだろうか?興味あります。