教皇レオは、最も弱い立場にある人々の負担を軽減し、より多くの資源を持つ人々にはより多くの負担を求める税制を要求し、イノベーションの恩恵は透明性をもって社会全体で共有されるべきだと主張しました。NPRにクレア・ジャングレイブが報告します。
教皇レオ14世は、5月25日（月）に発表した初の回勅で、巨大テクノロジー企業の権力に直接的に異議を唱え、人工知能（AI）が格差を拡大させ、民主主義を弱体化させ、人間であることの意味を損なう危険性があると警告しました。
「Magnifica Humanitas（偉大なる人類）」と題されたこの文書は、AIを新たな産業革命と位置づけ、軍事的・経済的利益から切り離し、AI企業をより厳格な国家および国際規制の対象とし、急速に発展するこの技術の未来を形作る上で個人やコミュニティの幅広い参加を促すことで、「AIの武装解除」を訴えています。
「AIの武装解除とは、『武装』競争の精神からAIを解放することであり、それは今日、軍事的な文脈に限らず、経済的、認知的現象でもある」とレオ14世は記しています。「武装解除とは、テクノロジーを放棄することではなく、テクノロジーが人類を支配するのを防ぐことである」とレオ14世は記しています。
「そのため、単に規制するだけでは不十分であり、テクノロジーは武装解除され、誰もが歓迎され、利用できるものでなければならない」と教皇は続けます。
レオ14世はまた、この文書の中で巨大テクノロジー企業にも言及し、少数の富裕層が人類の未来と生活に影響を与え、「デジタル革命に参加できる人々と周縁に追いやられ続ける人々の間の格差」を拡大させる危険性を強調しました。
「AIは、既に経済資源、専門知識、データへのアクセスを持つ人々の力を増幅させる傾向がある」と彼は記しました。「少数ながら非常に影響力のある集団が、情報や消費パターンを形成し、民主的なプロセスに影響を与え、経済の動向を自らの利益になるように操り、社会正義と人々の間の連帯を損なう可能性がある」
レオ14世教皇は月曜日、バチカンのシノドスホールでこの回勅を発表し、19世紀の産業革命がもたらした課題に対処するために、同名の教皇レオ13世が1891年に著した回勅『レールム・ノヴァルム』（新しき事について）に言及しました。
「信仰の眼差し、明晰な理性、そして神の神秘への開かれた心をもって、貧しい人々や大地の叫びを心に響かせながら、私はまたもや偉大な変革を監督する使命を託されていると感じている」とレオ教皇は述べ、回勅は科学者や技術者、政治指導者や公務員、そして未来世代の未来を深く憂慮する親や教師たちの声に真摯に耳を傾けた結果であると付け加えました。
「武装解除だけでは不十分です。構築しなければならない」と教皇は述べ、AIのプログラミング、規制、そしてその恩恵について幅広い参加を呼びかけました。
教皇は、バチカン高位聖職者、カトリック神学者、そして安全志向と倫理性を標榜するAI企業「クロード」の開発元であるアメリカのAI企業アントロピックの共同創設者クリス・オラー氏とともに、この文書を発表しました。
イベントで講演したオラー氏は、AI開発は「時に正しいことを行うことと矛盾する一連のインセンティブと制約の中で行われている」と述べ、商業的な懸念、地政学的な圧力、そしてプライドと野心といった要素を挙げました。
そのため、教皇は「世界中のより多くの人々――宗教団体、市民社会、学者、政府――が、教皇聖下がここでなさったように、この問題を真剣に受け止め、注意深く考察し、事態をより良い方向へと導く必要がある」と述べました。
回勅の核心は、人工知能よりも人間を優先すべきだという主張です。人間の尊厳は「個人の能力、富、社会的地位、あるいは正しい選択か間違った選択かによって左右されるのではなく」、ただ存在するというだけで決まる、と回勅は論じています。
AIチャットボットが普及する時代において、レオ教皇は、AIエージェントとやり取りする人が、相手が人間だと信じてしまうリスクだけでなく、他者との関わりを求める意欲そのものを失ってしまうリスクもあると指摘しました。また、意思決定を機械に委ねることは、「過度の依存と既成の答えを求める傾向を助長し、個人の創造性と判断力を弱める可能性がある」と述べています。
教皇は文書の中で、AIイノベーションが人類社会と環境保護にもたらすプラスの影響を認めつつも、その危険性についても警告しています。「テクノロジーは決して中立ではない」とレオ14世は述べ、テクノロジーは背後にある利害関係者の意思を反映するものだと付け加えました。
「こうした力が少数の手に集中すると、不透明になり、公共の監視を逃れる傾向が強まり、新たな依存関係、排除、操作、不平等を生み出す歪んだ発展形態のリスクが高まる」とレオ14世は記しています。
レオ14世は、AIモデルに道徳的・倫理的原則を適用するのは、AIが社会に甚大な被害をもたらした後では不十分であり、こうした価値観はAIの構築段階から適用されるべきだと主張しました。「AIが人間の尊厳を尊重し、真に公共の利益に資するためには、システムを設計・開発する者から、それを利用し、具体的な意思決定のためにそれに依存する者まで、すべての段階において責任が明確に定義されなければならない」と教皇は記しています。
AI開発への規制に抵抗する経営陣に対し、レオ14世は「慎重さ、厳格な評価、そして時にはAI導入のペースを遅らせることを求めることは、進歩に反対することではなく、人類家族に対する責任ある配慮の表れである」と説明しました。
教皇は、アントロピックなどの倫理的憲章を採用したAIモデルを考慮しつつ、こうした枠組みは依然として議論され、共通の社会正義の基準に照らして検討される必要があると述べました。「少数の人間によって道徳が決定されるのであれば、より道徳的なAIだけでは不十分だ」と教皇は記しました。
この文書は、シリコンバレーで人気の高いトランスヒューマニズムとポストヒューマニズムという思想にも言及しており、教皇はこれらを「進歩を人間の限界を超えるものと解釈する」一連の前提と定義しました。
レオ教皇は、これらの思想は病気、障害、老齢、脆弱性といった制約を克服すべきものと捉えていますが、「人類は制約にもかかわらずというのではなく、むしろ制約を通してこそ繁栄するのだということを忘れてはならない」と述べ、制約のない人生は究極的には人間ではないことを意味すると付け加えました。
バチカン教皇庁教理省長官であるビクトル・マヌエル・フェルナンデス枢機卿は、文書発表の際に、これらの思想が「人類は期限を迎え、単に交代させる必要がある」と主張するのとは異なり、カトリックの教えは「すべての人間は無限の尊厳を持っている」と信じていると述べました。
AIの危険性を対比させる中で、レオ教皇は真実を「民主主義の不可欠な要素」と指摘し、特に若者を中心に、AIに関する教育を受けるよう強く促しました。AIは労働の負担を軽減すると約束されている一方で、レオ14世は「AIは、働く人を支援するために機械が設計されるのではなく、労働者が機械の速度と要求に適応することを強いることが多い」と警告しました。
レオ14世は、この第4次産業革命において、「雇用機会の保護と、かけがえのない個人の役割」を最優先事項とすべきだと述べました。
世界的な経済格差が拡大する中、教皇は「技術進歩は必然的に構造的な不平等を生み出す」と警告しました。レオ14世は、最も弱い立場にある人々の負担を軽減し、より多くの財源を持つ人々にはより多くの負担を求める税制を求め、イノベーションの恩恵は透明性を確保し、社会全体で共有されるべきだと主張しました。
教皇は「新たな形態の奴隷制」に警鐘を鳴らし、著作権で保護された素材を用いたモデルの学習から、AIハードウェアに使用される希少鉱物の採掘に至るまで、AIの背後にある人間と環境の搾取の痕跡を指摘しました。レオはまた、教会が奴隷制度に対して示してきた歴史についても考察しました。奴隷制度は19世紀にレオ13世によってようやく完全に非難されましたが、これはカトリック教義が時代とともに遅いペースで変化してきたことを示しています。
「このことについて、教会の名において、心から許しを請います」とレオ14世は記しました。
レオ14世は、植民地主義には「新たな側面」があり、それは身体を支配するだけでなく、健康の流れ、疫学的プロファイル、遺伝子地図、人口統計データといったデータをも収奪すると主張しました。「これらは権力の新たなレアアースとなっている」と教皇は述べ、少数の営利目的の個人や集団の手に渡ったAI技術は、新たな形態の植民地支配を象徴していると付け加えました。
「ここに、現代における最も喫緊の道徳的課題の一つがあります。それは、共有された知識が支配の道具ではなく、真の公共財となるようにすることです。そのためには、個人が自分自身を記述するデータだけでなく、そのデータがどのように、誰によって、誰の利益のために利用されるかを決定する能力も個人に取り戻す必要がある」と教皇は記しました。
文書の大部分は、教皇が就任初年度から繰り返し非難してきた戦争というテーマについて考察しています。AIの軍事利用は「最も厳格な倫理的制約に服さなければならない」と教皇は述べ、軍事行動、特に致死的な行動に対する責任は機械ではなく人間にあるべきだと付け加えました。
教皇は、戦争における意思決定プロセスの追跡可能性、人間の監視、そして自動兵器の使用増加とその影響に対処するための国際法の制定を求めました。
この文書は、レオ13世をはじめとする歴代教皇の貢献に基づき、カトリック社会教説、すなわち人間の尊厳と共通善を中心として、道徳原理を社会、経済、政治生活に適用するという教会の伝統に依拠しています。
連帯と「隣人」への配慮は、レオ教皇の考察の重要な側面であり、特に次世代への懸念が強調されています。
社会正義は「単に資源のより公平な分配や現在の不正義の是正にとどまらず、回復的な側面も持つ」と教皇は記しました。教皇は、デジタル領域にも同じ原則を適用し、侵襲的な監視、基本的なテクノロジーへのアクセスを拒否されたコミュニティ、差別を助長する不透明なアルゴリズムによって被害を受ける集団など、「新たな形態の排除と自由の剥奪」に警鐘を鳴らしました。
この文脈において、教皇はまた、移民問題を「今日の社会正義の試金石」として取り上げました。
序文でレオ14世は聖書から引用し、権力と自給自足の追求を特徴とするバベルの都と、祈りと家族や地域社会の参加を基盤としたネヘミヤによるエルサレム再建を対比させています。これは、聖アウグスティヌスの原則に基づき設立された教皇の修道会の教えを反映しています。その教えは、権力と支配の概念を中心に構築された地上の都市への愛と、神の天上の都への憧れを対比させています。
「歴史を通じてそうであったように、この二つの愛は今日においても私たちの心の中で覇権を争っている。AIの時代も例外ではない。バベルの建設もエルサレムの再建も、私たち一人ひとりの中で始まるのだ」と彼は記しています。
「これは世界が新しいテクノロジーを見つめ、それが何のためにあるのかを真剣に考えるための画期的な機会だ」と、サンタクララ大学マークラ応用倫理センターの技術倫理ディレクター、ブライアン・パトリック・グリーンは述べています。
「この技術の目的は何なのか？世界でどのような役割を果たすべきなのか？どのように人々を助けることができるのか？この技術が世界中のより多くの人々に最大限の恩恵をもたらすためには、私たちは何をすべきなのか？」
この記事は、NPRとReligion News Serviceとの提携により制作された。
Original source: npr.org
Image credit: Some rights reserved by Catholic Church (England and Wales), flickr creative commons
