テーマの概要
AIの自律判断に対し人間が関与・管理するルールの策定を巡る議論です。
本テーマは、AIが自律的に判断を下す場面において、人間がその判断を許容するか拒絶するかをルール化すること、および最終的な意思決定権を人間が保持することを制度的に担保すべきかどうかを巡る議論です。AIの活用が社会各分野に広がるにつれ、AIの自律判断がどこまで認められるべきか、また人間の監督・介入の在り方をいかに制度化するかが課題となっています。議論では、分野ごとにAIの自律判断の許容範囲をルール化すべきという意見と、いかなる場面でも最終判断は人間が行うという原則を大きな流れとして確保すべきという意見が示されています。いずれも「人間によるAI制御」の重要性を認める点では一致しており、AIガバナンスの枠組み整備を求める立場から発言されています。
背景・現状の問題点
AIによる解説近年、人工知能（AI）技術の急速な進展により、医療診断、自動運転、金融取引、司法支援など社会の幅広い分野でAIが自律的に判断を下す場面が増加しています。こうしたAIの自律判断は業務効率の向上や人的ミスの低減に貢献する一方、判断の透明性や責任の所在、倫理的問題など多くの課題を生じさせています。特に、AIの判断が人間の生命・権利・財産に直接影響を及ぼすケースでは、誤判断による被害が深刻になる可能性があります。現状では、AIガバナンスに関する国際的な枠組みとして、EU AI法やOECDのAI原則などが策定されていますが、各国・各分野における具体的なルールの整備は途上にあります。日本においても、内閣府や経済産業省を中心にAI戦略やガイドラインの整備が進められていますが、法的拘束力を持つ規制の在り方については議論が続いています。AIの判断能力が向上するにつれ、どの場面でAIの自律判断を許容し、どの場面で人間の監督・介入を義務付けるかという「Human-in-the-loop（人間関与）」の制度的担保が、国会においても重要な政策課題として取り上げられるようになっています。
争点（対立軸）
分野別ルール化の範囲と方法
AIの自律判断を人間が許容・拒絶するかについて、どの分野でどのようにルール化するかが論点となっています。分野ごとに対応が異なる可能性があり、横断的な基準を設けるか個別に定めるかについて議論の余地があります。
最終判断権を人間に留保する制度的担保
AIに最終的な判断を委ねず、人間が最終決定を行うという原則をどのように制度化・義務化するかが争点です。法的拘束力を持つルールとして定めるか、指針・ガイドラインにとどめるかなど、具体的な担保の在り方が問われています。