人間のように反応する機械や、人間の創意工夫を真似た戦略や認識の偉業を実行するコンピュータを目にするとき、人類はロボットの支配者を受け入れる必要がある未来について冗談を言うことがあります。
しかし、冗談に埋もれているのは不安の種です。 「2001：A Space Odyssey」（1968）から「Avengers：Age of Ultron」（2015）までのサイエンスフィクションの執筆と人気のある映画は、作成者の期待を超え、制御を逃れる人工知能（AI）について推測しています。 、最終的には人間を打ち負かして奴隷化するか、または絶滅の標的とする。
人間とAIの対立は、火曜日（6月5日）に第3シーズンに戻ってきたAMCのSFシリーズ "Humans"の中心にあります。新しいエピソードでは、意識のある合成人間が、疑い、恐れ、憎しみをもって彼らを扱う敵対的な人々に直面しています。暴力は荒廃し、シンセは基本的な権利だけでなくその生存のためにも、それを人間以下で危険な脅威と見なしている人々と戦っています。
現実の世界でさえ、誰もがオープンアームでAIを歓迎する準備ができているわけではありません。近年、コンピュータサイエンティストがAIが達成できることの境界を押し広げているため、テクノロジーと科学の主要人物は、人工知能が人類にもたらす恐れのある迫り来る危険について警告し、AI機能が人類を破滅させる可能性さえあると示唆しています。
しかし、なぜAIの考え方にそれほど神経質にならないのでしょうか。
「既存の脅威」
エロン・マスクは、AIに関する赤信号を上げた著名な声の1つです。 2017年7月、マスクは全米知事協会の会議の出席者に、「私は最先端のAIに触れているので、人々は本当に心配するべきだと思います」と語った。
「私は警報ベルを鳴らし続けている」とマスクは付け加えた。 「しかし、人々が通りを下って行くロボットが人々を殺しているのを見るまで、彼らはとてもエーテルのように見えるので、彼らは反応する方法を知りません。」
2014年の初め、マスクはAIを「私たちの最大の実存的脅威」と分類し、2017年8月に、人類は北朝鮮よりもAIのリスクに直面していると宣言しました。
3月14日に亡くなった物理学者のスティーブンホーキング氏も悪意のあるAIについて懸念を表明し、2014年にBBCに「完全な人工知能の開発は人類の終わりを告げる可能性がある」と語った。
また、一部のプログラマー、特にマサチューセッツ州ケンブリッジにあるMIT Media Labを使用するプログラマーは、AIが恐ろしいことを証明しようと決意しているように思われることも安心です。
2016年にMITのコンピュータサイエンティストによって導入された「Nightmare Machine」と呼ばれるニューラルネットワークは、通常の写真を残忍で不穏な地獄のような風景に変えました。 MITグループが "Shelley"と吹き替えたAIは、Redditユーザーがフォーラムr / nosleepに投稿したホラーの140,000話で訓練された恐ろしい物語を構成しました。
「私たちはAIが感情を誘発する方法に興味があります-この特定のケースでは恐怖です」MIT Media Labの研究マネージャーであるManuel Cebrianは、以前にシェリーの恐ろしい話についてのメールでLive Scienceに話しました。
恐怖と嫌悪
AIについての否定的な感情は、一般的に2つのカテゴリに分類できます。AIは意識して私たちを破壊しようとするという考えと、不道徳な人々がAIを悪意のある目的で使用するという考え、コンピュータサイエンス学部の准教授であるKilian Weinberger氏コーネル大学でライブサイエンスに語った。
「人々が恐れていることの1つは、超インテリジェントAI（私たちよりも知能が高い）が意識的になると、サルを扱うように、私たちをより低い存在のように扱うことができるということです。 「それは確かに望ましくないだろう。」
しかし、AIが意識を発達させ、人類を倒すことへの恐れは、AIが何であるかについての誤解に基づいていると、ウェインバーガー氏は述べた。 AIは、その動作を指示するアルゴリズムによって定義された非常に特定の制限の下で動作します。一部の種類の問題はAIのスキルセットによく対応し、特定のタスクをAIが比較的簡単に完了できるようにします。 「しかし、ほとんどのことはそれに対応しておらず、適用できない」と彼は言った。
これは、AIが注意深く境界を定められた境界内で印象的な偉業を達成できる可能性がある一方で、たとえばマスターレベルのチェスゲームをプレイしたり、画像内のオブジェクトをすばやく識別したりできることを意味します。
「AIは意識に達している-その分野での研究はまったく進展していない」とWeinberger氏は語った。 「それは私たちの近い将来にはどこにもないと思います。」
不幸なことに人間が有害な理由でAIを利用するというもう1つの気になるアイデアは、残念ながらはるかに可能性が高いとウェインバーガー氏は付け加えた。ウェインバーガー氏によれば、ユーザーの意図に応じて、ほとんどすべての種類の機械または工具をユーザーの意図に応じて使用することも、使用しないこともできます。
おそらく、もし人々が敵対的なAIに対する恐れを脇に置くことができれば、彼らはその利点を認めるようになるでしょう、とWeinbergerは提案しました。たとえば、強化された画像認識アルゴリズムは、皮膚科医が潜在的に癌性のほくろを特定するのに役立つ可能性がある一方、自動運転車は、ある日、その多くが人為的ミスによって引き起こされる自動車事故による死者数を減らすことができると、彼はLive Scienceに語った。
しかし、自己認識型シンセの「人間」の世界では、意識的なAIへの恐怖がシンセと人々の間の激しい対立を引き起こし、人間とAIの間の闘争は、少なくとも現在のシーズン中は、解き放たれエスカレートし続けるでしょう。
編集者のメモ： これは、3部構成の一連の記事の最後の機能です。 AMCの「人間」。 第3シーズンは6月5日午後10時にデビューしました。 EDT /午後9時CDT。
