医療分野におけるAI監視、通信・デジタル副大臣：特別な注意が必要

ジャカルタ - ネザール・パトリア通信デジタル副大臣は、保健分野における人工知能（AI）技術の活用においては、サンドボックス方式による開発・監視プロセスにおいて特別な注意を払う必要があると述べた。

「これは非常に重要だと思います。AIはまずこのプロセスを通過する必要があります。そこでは、システムが規制にどのように準拠しているか、リスク軽減策はどのようなものか、そして提案されたユースケースに適しているかどうかを、実施された試験を通して確認することができます」と、ネザール・パトリア副大臣は土曜日、ジャカルタで公式声明を発表した。

彼はさらに、AIシステムは広く導入されるため、大規模なシステムに統合される前に、限定的で管理された環境でテスト段階を経ることが重要であることは事実であると述べた。

彼によると、サンドボックス方式のプロセスには関係者が参加し、様々な技術的・倫理的側面、運用の準備状況、そして社会への潜在的な影響を評価するためである。

これは中国で最初に導入されました。中国は国内レベルでサンドボックス化を先行して実施したため、他の先進国を凌駕する好例となっています。

「中国は高度なAIレベルに達しており、AIを搭載したロボットが数多く開発され、タスクを実行しています。そして、世界展開の前にまず国内市場で試用しているため、サンドボックス化は既に国内で先行して実施されているのです」と彼は述べました。

しかしながら、自律的な意思決定が可能と考えられているエージェントAIモデルの実装には、克服すべき課題がいくつか存在します。彼によると、最先端技術の開発においてはリスクは避けられないものです。

特に医療分野においては、AIのリスクは技術的なものだけでなく、社会的、倫理的なものも存在します。

「医療分野におけるAIには大きな課題があります。例えば、医療分野は政治に次いで偽情報の蔓延率が高いです。商業的な利益による偏りがあることは言うまでもありません。臨床試験を通過していない医療勧告が出てくる可能性もあります」と彼は説明しました。

国内の専門家によってキュレーションされ、検証された国家データに基づくアプローチを採用しています。インドネシアは、革新的であるだけでなく、安全で倫理的であり、パンチャシラの価値観に沿ったAIシステムを構築できると考えられています。