テクノロジーの巨大なレオ・センティル・ポープ:AIは人間を支配するべきではない

ジャカルタ - レオ法王は、人工知能(AI)の進歩は、権力、ビジネス、技術競争の野望に従うだけでは許されないことを警告した。彼は、AIが、特に労働、データ、戦争の世界に参入し始めたときに、厳格な倫理的ルールに従うように求めました。

5月26日火曜日のガーディアン紙から引用されたように、この警告は、人類の保護に関する彼の最初の百科事典、Magnifica HumanitasまたはGreat Humanityでレオ教皇によって伝えられました。

教皇の教義をカトリック教徒に伝える重要な文書です。通常、この文書は、世界の問題をどのように見るかについて教皇の指導の大きな方向を示しています。

この文書の中で、レオ法王はAIの急速な発展を促した「権力文化」を非難した。彼は、技術は人間の尊厳を低下させないように制御されなければならないと判断した。

「戦争におけるAIの開発と使用は、最も厳しい倫理的制限に従わなければならない」とレオ法王は書いている。

彼はまた、AIの「剥奪」を呼びかけた。つまり、技術を拒否するのではなく、AIを武器としての競争ツールにする考えから解放することです。

「笑うことは技術を拒否するのではなく、技術が人間を支配することを防ぐ」と彼は書いた。

レオ法王は戦争におけるAIの使用を強調した。彼の意見では、自律兵器システムの多くは現在、制御される人間の範囲外にほぼあります。彼は、AIが国際政治の道具として戦争をより正常に見せるのを助ける可能性を警告した。

教皇はまた、テクノロジー企業の大きな権力に言及した。彼は、デジタルシステム、インフラストラクチャ、データの制御は、もはや国家だけでなく、大規模な経済的および技術的アクターにも属していると述べた。

教皇は、権力が少数者の手に集中すると、不平等、操作、新たな依存、社会的疎外のリスクが増大する可能性があると述べた。

この声明は、米国のテクノロジー産業の中心地であるシリコンバレーへの強いメッセージとして読まれた。バチカンでのイベントには、米国のAI企業であるAnthropicの共同創設者の一人であるChristopher Olahも出席しました。

Olah氏は、AIの開発はテクノロジー企業に任せることはできないと述べた。彼によると、宗教指導者、政府、市民社会も監視する必要があります。

AIが非常に大規模に人間の労働力を置き換える「現実の可能性」があると彼は警告した。もしそれが起こったら、流出労働者を助けることは大きな道徳的義務になるだろう。

AIに加えて、レオ法王はカトリック教会が奴隷制を非難するのを遅らせたことについても謝罪した。彼は奴隷制を「キリスト教の記憶の中の傷」と呼んだ。

「教会の名において、私は心から許しを請います」とレオ法王は書きました。

ガーディアンは、以前の教皇が、キリスト教徒の奴隷貿易への関与について謝罪したことを指摘した。しかし、レオ教皇は、ヨーロッパの支配者に「異教徒」を征服し奴隷にする権限を与えるという彼自身の役割を侮辱したため、さらに踏み込んだと言われています。

バチカンはここ数年、マイクロソフトやグーグルを含む大手テクノロジー企業とAIについて活発に議論してきた。レオ法王は、カトリック教会はAI開発者と対話して、技術が正しく使用されることを望んでいると述べた。

「Pope Leo XIV: Conclave Inside and the Dawn of a New Papacy」の著者であるクリストファー・ホワイトは、レオ法王は教会をハイテク巨人と真剣な会話に置きたいと考えていると評価した。

ホワイト氏によると、教皇は教会がAI規制のすべての答えを持っていると主張していない。しかし、彼はAIの開発は監督のない荒野のように放置されるべきではないと強調した。

カトリック・カフェドの支援機関のCEOであるクリスティン・アレンは、教皇のメッセージは人間の尊厳を強調していると述べた。彼によると、人間は単なる生産ツールではなく、道徳的コンパスを持つ生物です。

レオ法王は、AIは人間の支配下にとどまり、監視されやすく、不平等、操作、苦しみを増大させるために使用されないようにしなければならないと強調した。