AIは私たちに、もはや先送りにできない選択を迫っています。それは、全体のウェルビーイングを確保するために協力し合うか、それとも共通の破滅に向かって互いに競い合い続けるか、という選択です――デビッド・C・コーテン博士は Common Dreams への寄稿でそう述べています。
人工知能（AI）は、人類に歴史的意義を持つパラドックスを突きつけています。生に貢献し、人間の協力や知見の共有を促進するために使われれば、AIはすべての人にとって有益な世界を築くための強力なツールとなり得ます。一方で、利益や政治的支配、軍事的優位性を求めて競争の武器として使われれば、人類を自滅へと向かわせる道を加速させることはほぼ確実でしょう。
その脅威は現実的かつ差し迫ったものです。しかし同時に、AIは私たちにとって最大の希望の源にもなり得ます。AIは、私たちが長らく直視を避けてきた真実を、これまでのどの技術よりも明確に突きつけています。その真実とは、全体の幸福を顧みず、個々の利益だけを追求する個人や企業、国家の集まりのままでは、人類は存続できないということです。現在の進路がもたらす結果を明白かつ差し迫ったものとして示すことで、AIは、人類の共通の未来がかかっている「根本的な文化的変革」に取り組むための、かつてないほど強力な動機付けとなるかもしれません。
世間では、AIはいつか創造主である人間に敵対するかもしれない「独立した知能」として語られることが一般的です。しかし、これでは論点がずれてしまいます。AIは独自の道徳的目的など持っていません。それは人間が作り出したツールであり、開発し、所有し、制御する者の目的に仕えるものです。重要な問いは、AIが人類を支配しようとするかどうかではありません。人類が競争や支配への執着を乗り越え、生に仕える形でAIを――そして自分自身を――制御できるかどうかなのです。
私たちの未来にとって最も不可欠な英知は、機械や孤立した個人の中にではなく、私たちが経験を分かち合い、理解を深め、そして生のために集団的な行動を組織する、その「関係性」の中にこそ宿るでしょう。
現代のグローバルな文化において、AIは主に競争優位性を得るための手段として開発されています。企業はAIを利用して雇用の削減、労働者の監視、消費者の操作、人間の創造性の搾取、個人情報の収集、そして市場の支配を行います。政治的主体は、虚偽情報の拡散、恐怖心の煽り、対立候補の信用失墜にAIを利用します。政府は監視体制の拡大に利用し、軍は標的の特定、兵器の誘導、自律型殺傷システムの開発に利用しています。
AIを可能な限り迅速に開発しようとする論拠は、常に本質的に同じものです。「我々がやらなければ、競合相手がやるだろう」というものです。企業の経営幹部は、数百万人の雇用を奪うことが社会に壊滅的な打撃を与えかねないと認識していても、より迅速に行動する企業に敗北することを恐れます。国家の指導者は、自律型兵器が人間の制御を離れる恐れがあると理解していても、それを先に開発した国に敗れることを恐れます。政治指導者は、AIによる欺瞞が民主主義を破壊していると知っていても、それをより積極的に利用する対立相手に敗れることを恐れます。
これが、世界規模の「集団自殺の協定」とも言うべき論理です。誰もがその危険性を認識していても、競争に参加する当事者の誰も、そこから抜け出すことができないのです。
AIは、あらゆる競争的活動のスピード、規模、そして影響範囲を増大させます。何百万もの人々の心を操作し、全人口を監視し、膨大な数の人々の生活の糧を奪い、人間の理解を超えた速度で軍事的な意思決定を行うことさえ可能です。また、最大規模のデータシステムや計算施設を支配する企業や政府の手に、かつてないほどの権力を集中させることもできます。その一方で、こうした施設は増大する電力、水、土地、そして希少鉱物資源を消費し、あらゆる生命の拠り所である生きた地球にさらなる負荷をかけています。
こうした危険性は、AIそのものに内在するものではありません。それらは、進歩を消費の拡大と定義し、金を人類の最高の価値と見なし、際限のない私的富の追求を称揚し、支配と競争を軸に関係を構築する文明が生み出した結果なのです。AIはこうした病理を生み出すわけではありません。ただ、それを増幅させているに過ぎないのです。
自律型兵器、大規模監視、政治的ななりすまし、知的成果物の盗用、そしてエネルギーや水を無謀に消費する用途など、AIの最も危険な利用を禁止する法律が早急に必要です。また、透明性、民主的な説明責任、労働者やクリエイターの保護、そして被害に対する明確な法的責任の所在も求められます。こうした措置は、被害の拡大を抑え、人類が別の未来を選択するための時間的猶予を得るために不可欠です。
しかし、それだけでは不十分でしょう。企業や国家が覇権争いを続ける限り、いかなる規制の仕組みをもってしてもAIを安全なものにすることはできません。規制を遵守することが競争上の不利を招くと恐れる人々によって、ルールは絶えず骨抜きにされ、回避され、あるいは放棄されてしまうからです。
したがって、唯一の恒久的な防衛策は、人間によるAIの利用のあり方を規定する「地球規模の文化」そのものを変革することにあります。そのためには、金銭や権力をめぐる競争を軸とした文明から、生ける地球、そしてそこに生きるすべての人々や他の生命体のウェルビーイングを追求する文明へと移行しなければなりません。多くの人々が「エコロジカル・シビライゼーション（生態文明）」と呼ぶような文明です。
そのような文明においては、地球は、利益のために所有・採掘・販売されるのを待つ商品の貯蔵庫ではなく、一つの「生ける共同体」として認識されることになります。そこでは、人間の幸福は全体としての幸福に依存していること、そして意識的な選択を行うという人間特有の能力には、私たちを支える生命を慈しみ守る責任が伴うことが理解されるでしょう。経済のあり方もまた、地球を癒やし、権力を分散させ、極端な富の偏在を抑え、地域の自立性を回復させ、さらに企業に対し、それに依存する地域社会や生態系に対して責任を果たさせるようにすることで、すべての人のニーズを満たすものへと再構築されます。
人類は初めて、かつてないほど強力な道具を生み出そうとしています。その道具を安全に利用するためには、それを作り出した文明の文化そのものを変革しなければならないのです。
「生態文明」は競争を排除するものではありません。むしろ競争を奨励しますが、それは他者を支配・搾取するためではなく、全体の幸福のために協力と相互責任の文化を推進し、最も創造的かつ卓越した存在となるための競争です。AIの不可欠な機能は、グローバル・インフォメーション・コモンズの一部として管理されることになります。それらの機能の基盤となる知識――数え切れないほど多くの人々が何世代にもわたって築き上げてきたもの――は、人類共通の遺産として扱われます。その利用は、民主的な監視と生態学的な制約、そして生に資するものであることという根本的な要件に従うものとなります。
そうすれば、AIは教育者、農家、医療従事者、科学者、公務員、先住民の知恵の継承者、そして地域社会の活動家たちが、それぞれの学びを共有するのを助けることができるでしょう。AIは、個人の思考の及ばない範囲にある関係性を特定し、言語間の翻訳を行い、誤りを明らかにし、成功した手法を各地域の独自のニーズに合わせて適応させるよう私たちを支援します。また、土壌や森林の再生、水資源の保全、疾病の予防、廃棄物の削減、生産の地域化、紛争の解決、そしてすべての人にとっての豊かな生活の確保といった課題に対し、私たちの集団的な能力を強化してくれるはずです。
このような役割において、AIは人間の知性に取って代わるものではありません。それは、私たちが共に学ぶ能力を拡張するものです。私たちの未来にとって最も不可欠な知性は、機械の中にも、孤立した個人の中にも宿るものではありません。それは、私たちが経験を共有し、理解を深め、生のために集団的な行動を組織していく、その「関係性」の中にこそ宿るのです。
気候変動の激化、生態系の崩壊、極端な不平等、そして戦争は、私たちの競争の激しい文明が破綻していることを露呈させました。しかし、こうした脅威はこれまで、どこか遠く、緩やか、あるいは無関係な問題のように見えがちでした。AIはこれらすべての問題を結びつけ、次のような事実をますます明白にしています。すなわち、自らの市場を支える社会を破壊しては、いかなる企業も未来を確保できないこと。すべての国を脅かす兵器によって、いかなる国も安全を達成できないこと。そして、死にゆく地球の上では、人類のいかなる部分も繁栄することはできない、ということです。
人類は初めて、かつてないほど強力な道具を生み出そうとしています。その道具を安全に利用するためには、それを作り出した文明の文化そのものを変革しなければならないのです。これこそが、AIがもたらす最大の恩恵なのかもしれません。AIは私たちに、もはや先送りにできない選択を迫っています。それは、全体のウェルビーイングを確保するために協力し合うか、それとも共通の破滅に向かって互いに競い合い続けるか、という選択です。
問題は、私たちがこの選択を認識し、適切なタイミングで行動を起こせるかどうかです。
デイビッド・C・コーテン博士は、アメリカの作家、講演家、社会活動家、心理学および行動システムの研究者であり、ハーバード・ビジネス・スクールの元教授、企業グローバリゼーションの著名な批判者、そして人類のエコロジカル・シビライゼーションへの移行を提唱している。リビング・エコノミーズ・フォーラムの創設者兼会長、YES!マガジン（現YES!メディア）の共同創設者兼元会長であり、国際的なベストセラーとなった『When Corporations Rule the World』や『The Great Turning: From Empire to Earth Community』など、影響力のある著書を多数執筆している。彼はスタンフォード大学経営大学院でMBAと博士号を取得し、アフリカ、アジア、ラテンアメリカで30年間、国際開発に携わった。
著者注：このコラムを共有する目的は、この重要なメッセージをできるだけ迅速かつ広く、多くの発信者やチャネルを通じて世界に届けることです。もしこのコラムに共感された方は、私の許可や謝辞を必要とせず、newsletterを転送したり、websiteへのリンクを共有したり、social mediaに投稿したり、その他あらゆる方法で複製、改変、友人やフォロワーと共有したり、ご自身の言葉でそのメッセージを公に発信してください。その上で、info@greatturning.org まで情報をお寄せいただき、どのように活用されているかをお知らせいただければ幸いです。その上で、info@greatturning.org まで情報をお寄せいただき、どのように活用されているかをお知らせいただければ幸いです。
Original source: Common Dreams
Image credit: Tara Winstead, pexels
