AI が人間を支配する日は来るのか?

人工知能 (AI) の第一人者たちが、この技術の未来について語る暗い記事を読んだり、プレゼンテーションを見たりすることはよくあることです。「ロボットは感覚を持つようになり、きっとすべての人間を殺すか奴隷にするだろう。ロボットの支配者が我々を破滅させるのは時間の問題であり、我々にできることはあまり残されていない」という提言です。

このような終末予言者は、 3 つの正当な理由をつけて論じます。

  1. AI を活用したシステムの知能化は進んでおり、一部のアプリケーションでは既に人間の知能を上回っている。例えば、AI システムはチェスや囲碁の対戦で世界チャンピオンを倒すことに成功
  2. AI や機械学習の発展が加速し、いずれはより多くのシステムが完全に自律的に動作するようになる
  3. AI モデルが複雑になりすぎて、開発するデータ サイエンティストでさえ、モデルがどのように動作し、意思決定しているのかを理解できなくなる

では、それぞれの主張について詳しく説明しましょう。

終末論その 1:AI は人間を超越する

AI や機械学習を応用したシステムは、すでに私たちの身近に存在し、これまで害よりもはるかに多くの利益をもたらしてきました。例えば、クレジット業界では、少なくとも 30 年前から、ほとんどの先進国で住宅ローンなどを提供するためのクレジット スコアリングに機械学習を活用してきました。この自動化によって、1960 年代や 1970 年代に比べて、はるかに多くの人々がローンやクレジット カードにアクセスできるようになりました。また、より速く、より正確で、より安全なプロセスを実現しました。

たとえ世界一のチェスや囲碁のチャンピオンでも、コンピュータに勝てないという事実は受け入れがたいものですが、AI や機械学習は特定の領域において、すでに人間を凌駕しています。しかし、その事実をネガティブに捉える必要はありません。もし私たちが、エラーを起こしたり、他人に危害を加えたりするような作業をしている場合、その作業をよりうまくこなすシステムを作るよう、エンジニアや開発者が奨励すべきなのです。私たちは現在、自動化されたシステムに人間が介入し修正しながら、悪用や偏見を防ぎ、データが異常値を示す人々を保護するための保護手段も備えています。

終末論その 2:すでに AI に支配されている

AI や機械学習の発展ペースに関する 2 つ目のポイントは、警戒すべき理由ではなく、むしろこの進歩を喜び、支援する理由であるべきです。私たちは皆、医療検査の分析、特に高コレステロールや糖尿病などの慢性疾患の患者のモニタリングやスクリーニングに関して、20 年以上前から自動化システムの恩恵を受けてきました。今日、ほとんどの検査結果や報告書は、AI や機械学習のサポートによって自動的に作成され、医師や患者に異常や注目すべき結果を警告してくれています。これらのシステムは、長期間にわたって収集された大量のデータを分析する統計・機械学習モデルに基づいており、検査結果と特定の状態を相関させて警告箇所を特定します。この自動化システムは、医師が注目すべき領域をピンポイントで特定する能力で、人間の医師を凌駕しています。この例でも、こうしたモデルによって、これまで以上に迅速かつ正確な医療上の判断が可能となり、医師は机の上に置かれた検査結果をひとつひとつ手作業で分析する必要がなくなります。このプロセスに関わるすべての人が、こうした技術の進歩から恩恵を受けています。

以上のことをまとめると、AI 機械学習モデル導入を加速することは、必要な技術であるとともに、これらの知的システムが下す判断を人々が常に見直し、検証する限り、多くの分野で社会に利益をもたらすものと言えるでしょう。

終末論その 3:AI の複雑化が人知を超える

AI 破滅論者がしばしば提起する最後の問題は、世界最高のデータ科学者や開発者にとってでさえ、機械学習モデルや AI システムが複雑化していることです。この複雑さゆえに、AI や機械学習システムで何が起こっているのか、世界で最も優秀な頭脳でさえも理解できないと、破滅論者は言います。

もちろん、有能なデータ サイエンティストであれば、このような話しを実現させることはないでしょう。今日のデータ サイエンティストは、「説明可能な AIテクノロジを開発・実装し、これらのモデルがどのように意思決定を行い、データを収集するかをユーザーが正確に理解できるようにしています。アルテアの、Altair Knowledge Studio のようなソフトウェア製品に、豊富な「説明可能な AI」技術ツールを組み込んでいます。このトピックの重要性から、アルテアなどのベンダーは、あらゆるユーザーが AI 機械学習モデルを理解し、調整できるツールやインターフェースの開発に投資し続けています。こうしたツールの中には、一つひとつのデータの背後にある意思決定の根拠を説明するところまで踏み込んでいるものもあります。

AI と末永く

私たちは、AI と機械学習が善のための力である理由と、どうすればその状態を維持できるかを3 つの簡単な理由で、前述のすべての破滅論を否定できます。

(1) AI や機械学習の技術は、より良いサービスを提供する社会のあらゆる領域に適用され、より多くの人々がこれまで受けられなかったサービスを受けられるようになるべきです。さらに、AI 機械学習は社会のために使われるべきであり、データが公正、公平、かつ透明な方法で利用されることを保証する法律や法整備が必要です。

(2) AI や機械学習モデルは説明可能であるべきです。AI 機械学習モデルの説明を可能にする科学技術は存在し、オープンソースや商用ソフトウェアでも利用可能です。AI 機械学習技術を利用する事業者は、説明可能な AI ツールや技術を、データサイエンス実践の必須ステップとして取り入れるべきであると考えます。

(3) 重要な判断は人間が最終決定権を持ち、デプロイ システムは責任ある、安全、かつ公正な判断を保証するために、人間の優先権を認めるべきです。これらの安全措置は、人や財産に危害を及ぼす可能性のある重要なシステムには必須の要素でなければなりませんし、優先権を発動するタイミングや状況を説明できる AI 機能も必要です。

本記事で紹介をしている Altair Knowledge Studio はデータから実用的な知見を引き出すための、データ サイエンティストおよびビジネス アナリスト向けのソリューションです。使いやすく、先進的な機械学習および予測分析機能を備えており、データを即座に可視化して、説得力のある分析結果を導くことができます。コードは 1 行も書く必要がありません。

ぜひ 30 日間の無料評価版をお試しください。

 

 

*本記事は、アルテアエンジニアリング株式会社が提供している以下の記事から抜粋・転載したものです。

AI が人間を殺す日は来るのか?

タイトルとURLをコピーしました