2025年5月27日の参議院内閣委員会では、人工知能関連技術の研究開発及び活用の推進に関する法律案(AI推進法案)を議題に、AI利活用促進とリスク対応の両立、著作権保護、ディープフェイク対策、防衛分野へのAI活用、国際ガバナンスなど広範なテーマについて質疑が行われ、最終的に多数をもって可決・承認された。
本会議での議論の要点をAIが要約したものです。
奥村政佳議員(賛成寄り)は、自律型AIが国内で認知戦・世論操作を行う最悪のシナリオを想定し、「現に現実化している偽情報拡散への対応こそ喫緊の課題」と問題提起しました。渡邊昇治統括官(賛成寄り)は、オープンAIが2024年にロシア・中国・イラン等のプロパガンダ活動をAI技術で阻止した事例を挙げ、「AIに対してAIという技術で対抗していくテクノロジー・ベースド・アプローチの重要性を感じている」と述べました。城内実大臣(賛成寄り)は、本法案第11条の研究開発推進規定を基本施策として位置付け、偽情報対処技術の研究開発も含め対処する考えを示しました。重要な結論として、第16条に基づく情報収集・調査とAI戦略本部の下での関係府省庁連携で対応する方針が確認されました。
直接AIに指令しなくても、ある入力を基に、例えば、何でしょうかね、こういう考えを広めたいんだというのを基に認知戦を、国内でAIが世論操作を始めた場合に、政府としては現行法やこの法案でどのように対処をし得るのかということも考えておく必要があると思います。
AIを使ってその悪質なものを探したということを言っておりまして、そういう意味では、その悪質な、これ参考人質疑でもございましたけれども、AIに対してAIという技術で対抗していくというテクノロジー化、テクノロジー・ベースド・アプローチみたいなものの重要性というのを非常に感じているところでございます。
本法案第十六条に規定いたします情報収集や調査等を適時適切に実施するとともに、新たに設置されるAI戦略本部の下で関係府省庁が緊密に連携することで対応していくことができるものと考えております。
AIによるプロパガンダと認知戦への対応
酒井庸行議員(賛成寄り)は、国民の責務規定(第8条)について「国民が被害者にも加害者にもなり得るため、できる範囲で協力してほしいということをいろんな機会を捉えて国民の皆さんにきちっと説明することが大事」と主張しました。渡邊昇治統括官(賛成寄り)は、「国民が協力しやすい施策づくりをまず行う」とした上で、基本計画策定にはパブリックコメント等で国民意見を聴取すると表明しました。木戸口英司議員(賛成寄り)は賛成討論の中で、国民責務規定について「多くの国民がAIに対する不安を抱える中、国民に責務を課すという表現は無用の懸念を生じかねず、政府のより丁寧な説明が必要」と指摘しつつ法案賛成を表明しました。
AIに関しては、いわゆる国民が被害者にも加害者にもなり得るということが十分に考えられるわけですから、できる範囲で協力をしてほしいということをいろんな機会を捉えて国民の皆さんにきちっと説明するということが大変大事だというふうに思いますけれども、その点どんなふうにお考えになられますでしょうか。
本法案の第八条で国民の責務と規定した理由について質問があった際、城内大臣からは、国や地方公共団体が推進する施策が十分な効果を得るためにも国民の皆様の協力が不可欠である、今後様々なAIが多くの国民の皆様に利用されていくことを踏まえると、例えば不適切な動作を行うAIを発見した場合に関係機関に情報提供をしていただくなど、適正なAI利用環境の維持に向けた取組に可能な範囲で国民の皆様に御協力をしていただくことも想定される、こうした観点から国民の責務と規定しているという答弁がありました。
委員御指摘のとおり、国民の皆様に御協力をいただくためにも、施策をつくるときに、御協力いただけるような、いただきやすいような施策をつくる努力をまずはしていきたいというふうに思っております。
木戸口英司議員(賛成寄り)は、2016年G7情報通信大臣会合でのAI開発原則提案から広島AIプロセスに至る日本の取組を評価し、「日本が積極的に今国際的なガバナンスの体制づくりを先導していることをポジティブに捉えて世界的に日本的なやり方で進めていくことが重要」と強く主張しました。城内実大臣(賛成寄り)は、広島AIプロセス・フレンズグループが現時点で56か国・地域に拡大していると説明し、「引き続き、AIの開発、利用に関する国際的なルール作りを主導してまいる考え」と表明しました。また、主導的役割を担うには国際交渉対応人材の確保が重要課題と指摘しました。
我が国としては、引き続き、AIの開発、利用に関する国際的なルール作りを主導してまいる考えであります。
AIをめぐる議論においても、日本の立ち位置、少し後発であり、これからというところ、国民の理解もこれからという部分であります。むしろそれを進めていくためにも、日本が積極的に今国際的なガバナンスの体制づくりを先導しているということ、これはポジティブに捉えて、国民にも説明をしながら、そして世界的に日本的なやり方で進めていくことということは私はこれポジティブに捉えていいんではないかと、そう思いますので、大臣には更にこれを発信していくこと、この推進法の成立、今日するんだと思いますけれども、これを契機に更に臨んでいただきたいと思います。
竹谷とし子議員(賛成寄り)は、採用活動でのAIバイアス事例(過去の応募者がほぼ男性のデータから男性採用を優先する出力)を具体的に示し、「実効性ある対策」を求めました。城内実大臣(賛成寄り)は、第13条に基づき整備する指針等を通じてバイアス抑止に努めることを事業者に求めていくと表明し、ジェンダー差別を助長する出力がなされないよう努めるとともに、AI分野での女性人材育成・確保、女子中高生の理工系進路選択支援にも取り組むと述べました。竹谷議員は「指針を通じた対策の実効性確保」と「やっていることの評価」の必要性も求めました。
酒井庸行議員(賛成寄り)は、「行政や学校が作る教材だけで教えるのではなく、家族や友達同士で教え合える文化を形成することが非常に重要」と主張し、草の根的なリテラシー教育の重要性を訴えました。城内実大臣(賛成寄り)は、「友達や家族といった身近にある多様なチャンネルを通じた世代を超えた情報提供や教育学習の機会を持つことも有効」と同意しました。奥村政佳議員(賛成寄り)は、SNS・AIリテラシー教育について「子供たちがAIに洗脳される未来が起こり得ないとは限らない」として国として考えていく必要性を指摘しました。
私は、行政や学校が作る教材だけで教えるのではなくて、家族や友達同士で教え合えて文化を形成していくことが非常に重要だというふうに考えます。
AIの適切な利用の浸透を図る上では、行政による取組のみならず、御指摘のとおり、友達や家族といった身近にある多様なチャンネルを通じた、また世代を超えた情報提供を行ったり、教育、学習の機会を持つことも有効な手段の一つと考えております。
やっぱり、子供たちがこういうSNSに対してどういうふうに接していくかということもしっかりと国としては考えていかなければいけないのかなというふうに思います。
片山大介議員(反対寄り)は、こども家庭庁が4年間・約10億円を投じて開発を進めた児童虐待の一時保護判定AIシステムについて取り上げ、「テスト段階で判定ミスが6割に上り実用化を見送った」事案を例示しました。片山議員は「事前に実現可能かどうかきちんと検証・吟味し、緻密に制度設計を行わないとAIは機能しない」と警鐘を鳴らし、精度の悪いAIが世の中に広まるリスクへの対応として、ガイドラインにリスク評価手法を明記した上でPDCAを回すことの必要性を訴えました。政府参考人(源河真規子)は「現在の判定精度では十分ではなく、更なる改良が必要と判断してリリースを延期した」と説明しました。
怖いのは、こういう精度の悪いAIがどんどん世の中に出てくるのがやっぱり一番怖いんです。こういうリスクをやっぱり、何というか、止めなきゃいけなくて、そのためには、先ほど言われたようなやっぱりガイドラインとかで、きちんとリスクをどうやって判定するのか、リスクの評価方法というのもしっかり書いて、しかも、それに合わなくなっていったらどんどんPDCAで修正をしていくというのをやらないと、こういうことがしょっちゅうほかの民間でも起きてしまうと思うんですが、そこの点についてはどのようにお考えでしょうか。
大島九州男議員(賛成寄り)は、「普通の高校・大学に行って就職するという進路だけでなく、独創性や能力が評価される新たな進路の構築が、裾野を広げることにつながる」と主張し、引きこもりなど多様な人材の能力を活かす非形式的育成経路の必要性を提起しました。城内実大臣(賛成寄り)は「例えば引きこもりをしている人たちが特定分野に非常に能力を持っている場合、その能力を引き出して活用することも十分考えられる。あらゆる手段を講じてしっかり適切な人材確保をしていくことが重要」と表明しました。
一つの例を挙げますと、例えば引きこもりというケースがありますけど、意外とその引きこもりをしている人たちがそういった一つの分野に非常に能力を持っていて、そういったことを、もうちょっとこの能力を引き出して、全ての分野には精通していないけれども、例えばこのAIについてはエキスパート並みの能力を持っていて、それを社会実装、あるいはいろんな企業やあるいは団体等で、あるいは地方公共団体でもいいですけれども、活用するというようなことも十分考えられると思いますので、繰り返しになりますけど、あらゆる手段を講じてしっかり適切な人材確保をしていくことが重要だというふうに考えております。
これは多様な人材、裾野を広げるという、特にこういうコンピューター系なんというのは、今なかなか、普通に学校行かなくても、技術とかそういった独創性を高める人材ってたくさんいると思うので、そういう進路を何か新たな、普通の高校、大学に行って就職するという進路じゃなくて、そういった何か能力を評価されて、そして、そういうところで社会に出ていけるとか貢献できるというような、それがあらゆる進路という、人材を、裾野を広げるという、そういうところにつながると思うんですけど、大臣、どうですか、そういう考えは。
片山大介議員(中立)は、法案第2条のAI定義が「人工的な方法による技術」と非常に広く、「人間以外のものが全て適用されてしまうのではないか」と問題提起するとともに、定義が曖昧だと施策対象も不明確になると指摘しました。渡邊昇治統括官(賛成寄り)は「技術進化が速い中で限定的な定義をする方がむしろ難しく現実的ではない」と説明し、「人間の知的能力を模倣・代替する機能を持ったものをAIと定義し、周辺技術も含めて広めに対象としている」として柔軟な枠組みを支持しました。また、「生成AIの次にエージェントAI、AGI等が議論されている中で、生成AIに限定した条文にしなくてよかった」とも述べました。
木戸口英司議員(賛成寄り)は、「縦割りを排除し窓口を一本化した上でAI戦略本部の司令塔機能を強化すること」を強く要求しました。城内実大臣(賛成寄り)は、「AI戦略本部が設置される前であっても、必要に応じて試行的に調査に取り組み、本部設置後の本格的調査の質の向上につなげることが有用」との考えを表明しました。酒井庸行議員(賛成寄り)は「毎日どんどん進んでいるAIに対応するため、戦略本部の設置を待たずに試行的調査を積極的に進めるべき」と主張し、大臣が性的ディープフェイクや雇用でのAI活用について試行的調査を進める方針を示しました。
加えて、酒井委員御指摘のとおり、AI戦略本部が設置される前であっても、今政府参考人からの答弁もありましたけれども、必要に応じて試行的に調査に取り組み、調査手法や情報の公表、非公表の扱い等に関する知見を得て、本部設置後に本格的に実施する調査の質の向上等につなげていくことが有用と考えております。
やはりしっかりと一本化を図りながら、各省庁との問題であればそれぞれが対応する、しっかりそれを割り振るという作業が政府には求められると思いますが、これは強く求めたいと思います。
戦略本部や有識者会議が動いていく前であっても、これは先ほどお答えが少しありましたけれども、国は、必要な調査とか、あるいは仮調査とか試行的な調査という形でもいいので始めた方がいいんじゃないかというふうに思います。
井上哲士議員(反対寄り)は、陸上幕僚長が2025年2月のフォーラムで「AIを搭載したドローンや自律型装備の活用、新技術を実戦投入するまでの時間短縮、国家の総力による研究開発速度の向上」を訴え、初めて産官学参加を求めたことを問題視しました。また、今年度初めて攻撃型無人機の導入予算が計上されたことを指摘し、「AI搭載の自律型兵器の実戦投入を防衛産業と一体で進めるということか」と強く問題視しました。小林一大政務官(賛成寄り)は、「防衛産業・スタートアップ等との連携を強化しながらAI活用の防衛力強化を推進する」と表明しました。
竹詰仁議員(賛成寄り)は、AIが市場に出る前に国が事前評価・リスク評価を行い不適切なものを排除する規制の可能性に言及し、「第三者認証制度の検討をやめずに進めるよう」政府に要請しました。渡邊昇治統括官(中立)は、AIの国際流通製品としての性質上「国際的に認められた第三者認証制度が確立された場合には義務付けの検討が行われることになる」と述べながらも、「現時点では制度の熟度、多様性対応、コスト・費用対効果等の問題から簡単には申し上げにくい」として慎重な姿勢を示しました。
渡邊昇治統括官(賛成寄り)は、整備予定の指針において、AI開発者に対し「開発段階でAIの安全性を予測・確保するための工夫を講じること」「市場投入後もインシデント情報をモニタリングして必要に応じ改善すること」「レッドチーミングや評価ツール等による安全性確保」「欺瞞的・不適切な出力の抑制」を求めると表明しました。これらをガイドラインに盛り込むことで事業者への安全性確保を促進する方針が確認されました。
まず、AI開発者がもう開発段階でAIの安全性をちゃんと予測をして、予想して、安全性を高めるような工夫を講じるということでございます。
木戸口英司議員(賛成寄り)は、日本法人を持たない海外事業者への調査実効性確保について「EUや韓国では代理人設置を義務付けているが、日本が導入しなかった理由と対応策」を問題提起しました。渡邊昇治統括官(中立)は「過度な規制回避の観点から代理人義務を設けず、指針での連絡先開示等で対応する方針」と説明しました。城内実大臣(賛成寄り)は、友好国でない国の海外事業者に対しても「広島フレンズグループのネットワーク等あらゆる外交手段を尽くして調査を実施する」と表明しました。
渡邊昇治統括官(賛成寄り)は、整備予定の指針に盛り込む具体的措置として、①開発段階での安全性確保、②市場投入後のインシデントモニタリングと改善、③レッドチーミング・評価ツール・AI同士での安全確認等の手法、④AI概要・リスク・利用上の注意の情報開示、⑤事業者ごとのガバナンスポリシーの策定と公表・実践の5点を具体的に列挙し、「分かりやすく指針に盛り込みたい」と説明しました。
法案に基づいて指針を整備しまして、AI開発者に対しては、不適切な出力をAIがしないように抑制する、しないように、出力を抑制するように開発段階でその対処を求めて、措置を求めていきたいというふうに考えているところでございます。
奥村政佳議員(賛成寄り)は、生成AI出力物の著作権リスクをユーザーが認識できるよう「出力したものの責任はあなたにあり、使用には十分な注意が必要」といった注意喚起の必要性を指摘し、「AI開発者・提供者・利用者それぞれの役割と責任分担の明確化が重要」と主張しました。城内実大臣(賛成寄り)は、第13条に基づく指針において利用者・開発者双方への注意喚起義務を定め、「利用規約を通じた注意喚起」「AI生成情報であることの表示」等の具体的方法を関係省庁と検討すると表明しました。
片山大介議員(賛成寄り)は「現行法で全て対応できるわけではなく、罰則なしの本法案でAI対策として十分か」と問い、現行法と本法案の役割分担の整合性について確認を求めました。城内実大臣(賛成寄り)は「罰則を設けなくても悪質な事案については現行法令で対処可能という基本方針は変わらないが、AIの技術変化が速く現行法では対応困難な事案が発生する可能性があり、そのような事案に臨機応変に対応するためにこの法案が必要」と説明し、「現行法で対処できない部分をこの法案で補完する立て付け」と明確化しました。
木戸口英司議員(賛成寄り)は「国民が不適切なAIを発見した際に所管省庁が分からずたらい回しになる懸念がある」とし、国民の責務規定と整合した「一元的政府窓口の整備が必要」と強く主張しました。渡邊昇治統括官(賛成寄り)は「まず分かりやすいウェブサイトを作ることが出発点」としつつ、「分かりやすいだけでなく親しみやすいことも重要で、ユニバーサルデザインの観点でちょっとした工夫で意見を言いやすくなる仕組みを考えたい」と表明しました。また、事業者への複数省庁から調査が重なることを防ぐため、AI戦略本部の下で連携した簡潔明瞭な調査を目指すと述べました。
井上哲士議員(賛成寄り)は、グテーレス国連事務総長が「いかなる国も武力紛争におけるAIの軍事利用を設計・開発・配備・使用すべきでない」と述べたことを重視し、「政府として明確に打ち出すべき」と繰り返し主張しました。大島九州男議員(賛成寄り)も「グテーレス発言は傾聴に値する重要な指摘であり、AIの平和的利用を明確に打ち出し、防衛省AI活用推進基本方針を改定すべき」と求めました。小林一大政務官(中立)は「防衛省AI活用推進基本方針には国際人道法が新興技術を含む全ての兵器に適用されると明記しており、グテーレス発言と整合しているため改定は不要」と判断しました。
片山大介議員(中立)は「GDPRのようにEUの厳しい規制がグローバル標準化する可能性があり、日本の緩い規制はどのような意図か」と問いました。渡邊昇治統括官(賛成寄り)は「GDPRの拡大はAIとは文化的背景が異なり同様に広がるかは不明。日本法案はイノベーション促進とリスク対応を両立しており、海外の規制動向の影響は受けにくい」と主張しました。また「日本が活動しやすいルールを作れば海外事業者も来やすくなる」と述べ、国内事業者の活動しやすさを優先した規制水準であることを説明しました。
日本の法案は、イノベーションの促進とリスク対応、これ両方、両立している法律でございますので、海外でいろんな動きはあると思いますけど、その影響は受けにくいというふうに考えております。
今回もやっぱりそういうふうになっていくんじゃないかというふうに思う。でも、そうじゃなくて、いや、そうじゃなくて、やっぱり日本の場合はそれでも緩い方にしていくというんだったら、緩いようにしたそれなりの理由があるわけなんですけれども、それは、この前から、うちも、あと隣の柴田議員も参考人のときに質疑させていただいたですけど、やはりその規制を緩くすることによって日本にAIの開発というのを呼び込もうと。
大島九州男議員(賛成寄り)は、データセンターの整備に際し排熱・騒音・日照権問題で住民との対立が顕在化していることを指摘し、「排熱については国の規制がなく、所管省庁を明確にした上で新たな基準作りが必要」と主張しました。城内実大臣(賛成寄り)は「データセンター整備には地域との共生が不可欠と認識しており、必要があれば設置企業に立地地域での丁寧な説明を促すなどの対応を図りたい」と表明しました。附帯決議においても「稼働に伴う環境負荷の低減、日照権や排熱の問題について、設置者による住民・地方公共団体への十分な情報提供、地域との共生を図るための在り方の検討」が盛り込まれました。
竹詰仁議員(賛成寄り)は「偽情報や偽画像は選挙等での社会的影響力が非常に大きく、もうすぐにやらなければいけない」と強調し、「待たずに迅速な対応」を大臣に求めました。城内実大臣(賛成寄り)は「現に存在する深刻な課題に迅速に対応するため、AI戦略本部の設置を待たずとも、内閣府が中心となって可及的速やかに試行的な調査を進めていく」と表明しました。第13条に基づく指針において違法なディープフェイクの不適切出力の抑制、電子透かしや来歴管理の活用を事業者に求めることも検討中と述べました。
竹詰仁議員(賛成寄り)は、AI活用における労務管理の実態把握と労働法令遵守の重要性を問題提起しました。尾田進政府参考人(厚生労働省)は、令和6年度に企業の労務管理におけるAI活用実態を把握するヒアリング調査を実施したと報告し、採用・配属・人材開発等での業務効率化・コスト削減の効果が確認される一方、「労働者情報の扱いやAI導入効果の検証に苦慮している」との声もあったことを説明しました。今後もAI等新技術が人事労務分野に与える影響を注視するとしました。
経済産業省さんとしては当然、このデジタル、DXとかですね、こういったことを進める側のお立場であると理解しているんですけれども、この経産省の中にデジタル時代の人材政策に関する検討会というのがございまして、去年、令和六年六月に、生成AI時代のDX推進に必要な人材・スキルの考え方二〇二四、変革のための生成AIへの向き合い方という報告書が公表されております。
竹詰仁議員(賛成寄り)は、日本のAI利用が低く使用AIのほとんどが外国製品であることを問題視した上で、「外国依存を脱するためにゼロベースの純粋な国産生成AI開発が望ましい」と主張しました。賛成討論においても「海外に依存しない国産AIの開発と利活用を強力に後押しすることを求める」と再度強調しました。城内大臣からは国産生成AIの具体的な政策方針についての直接の答弁はなく、AI人材育成や研究開発推進の一般的な方針が示されるにとどまりました。
私は、日本は日本らしく、ゼロベースで純粋な国産生成AIというのが望ましいんじゃないかと私個人的には思っております。
木戸口英司議員(賛成寄り)は、広島AIプロセスを高く評価した上で「主導的役割を担うには国際交渉対応人材が重要課題であり、中長期の計画をしっかり立てて取り組んでほしい」と強く求めました。城内実大臣(賛成寄り)は「広島AIプロセス・フレンズグループは現在56か国・地域に拡大しており、グローバルサウス向けの人材育成を進めるなど活動を充実させていく」と表明し、国際人材育成・確保に向けてGPAI等の国際的な場・ネットワークを活用し官民・産学の人材が国際経験を積む機会を積極的に増やすと述べました。
竹谷とし子議員(賛成寄り)は、性的ディープフェイクについて「被害者も加害者も生まないために対策と立法措置が必要」と強く求め、「迅速性が求められる」と訴えました。大島九州男議員(賛成寄り)は「児童のディープフェイクポルノへの厳しい罰則と未然防止を強く要求」し、英国で世界初の関連法が制定されたことも紹介しました。城内実大臣(賛成寄り)は「本法案が成立した暁には速やかにAI戦略本部を設置し、戦略本部の設置を待たずとも内閣府が中心となって可及的速やかに偽画像を生成できるAIの実態調査などの試行的調査を進める」と表明しました。警察庁は既に複数の検挙事例があることも報告しました。
片山大介議員(賛成寄り)は、第16条に基づく調査結果を踏まえた事業者名公表について「個別案件ごとに決めていくのでは恣意的運用のリスクがある。事前に明確な基準を定めなければ公表の判断ができなくなる可能性がある」と問題提起しました。城内実大臣(賛成寄り)は「個別の事案ごとに判断することを基本方針とするが、判断が恣意的にならないよう、公表基準については関係省庁等の意見も聞きながらしっかりと検討していく」と表明しました。
井上哲士議員(反対寄り)は「憲法9条を持つ国として殺傷兵器へのAI技術使用は禁ずるべきだ」と強く主張しました。大島九州男議員(賛成寄り)は「AIの平和利用を明確に打ち出し、専守防衛・平和憲法に沿った方針を世界に発信すべき」と訴えました。城内実大臣(中立)は「専ら兵器目的のAIの研究開発・活用の推進はこの内閣府の法案では想定していない」と述べましたが、積極的な禁止方針は示しませんでした。反対討論において井上議員は「法案がAI技術を安全保障の観点からも重要と位置付けており、殺傷兵器の研究開発・活用も含めてAIを推進するものと認められない」と主張しました。
私は、憲法九条を持つ国として、こうした殺傷兵器へのAI技術の使用は禁ずるべきだと思っておりますけれども、大臣の御見解をお聞きします。
だから、そういうことではなくて、本当にこのAIを平和利用にやっていくと、人のその生命を傷つけるようなことのない技術として専守防衛、その日本の防衛のために活用していくんだということを明快にやっぱり発信していくべきだというふうに思いますし、このAI本部もきちんとそういったところを、総理大臣のリーダーシップの下、平和憲法を持った日本の役割として世界にAIの平和的利用をしっかりと推進していく、そういう本部なんだというような発信をしていくぐらいのことをやっていくべきだというふうに思っておりますので、大臣、最後、決意を述べていただいて、質問を終わります。
専ら兵器に使われることを目的とするAIの研究開発及び活用の推進につきましては、私どものこの内閣府の法案では想定しておりません。
井上哲士議員(反対寄り)は、防衛省AI活用推進基本方針の「目標の探知・識別」分野について「敵基地攻撃能力との連動で、相手の施設や人物のAIによる探知・識別機能を強く問題視する」と述べ、アメリカ国防長官が日米会談後に「共に殺傷力・戦闘力を高めることを大きく期待している」と述べたことも引用して問題提起しました。小林一大政務官(賛成寄り)は「目標の探知・識別はセンシング情報の増大への対応として記載したもの」と説明し、反撃能力に係るスタンドオフミサイルの具体的運用は「現在検討中」としつつ、目標探知・識別へのAI活用を否定しませんでした。
井上哲士議員(賛成寄り)は、日本新聞協会が「大手プラットフォーム事業者に学習データの開示を求めたが対応されず、契約の前段階でつまずいている」と指摘していることを引用し、「ガイドラインでは対応できない事案が既に広範に起きており、積極的な調査と対策が必要」と要求しました。城内実大臣(中立)は「日本新聞協会の懸念は承知しているが、著作権法は文化庁所管として法改正への言及は差し控えたい」とし、万が一知る権利への侵害が生じた場合には法案第16条に基づく調査等を行うと述べるにとどまりました。
竹詰仁議員(賛成寄り)は「日本のAI利用率の低さと外国依存という二つの課題を問題提起し、国産AIとリテラシー向上が必要」と主張しました。城内実大臣(賛成寄り)は「AI利用率が低い主な理由として、国民のAIへの不安・AIのメリットが不透明なため企業経営者が投資しない・日本人の慎重さ(誤出力や個人情報収集リスクへの懸念)の3点を挙げ、この状況を一刻も早く克服する必要がある」と述べ、本法案によりイノベーション促進とリスク対応の両立を図ると表明しました。
AIは、その適切な活用によって我が国の経済成長や国民生活の発展に直結する極めて重要な技術でありまして、国民のAIの利活用が低迷する状況を一刻も早く克服する必要があると考えております。
今回のいただいた資料の中にも、日本の場合はAIの利用率が低いという話が書いてありまして、利用率が低いし、かつ、使っているAIも、オープンAIとかグーグルとかマイクロソフトのような外国製品、外国の生成AIが多いということなんですけれども、この二つの点ですね、大臣、先に、この日本人がAIの利用率が低いということと、あとは、この低いことによって生じる課題について、大臣の見解を先に教えてください。
木戸口英司議員(賛成寄り)は、EUのAI法や韓国のAI法で義務付けられている「海外事業者の代理人設置制度」を日本が導入しなかった理由と今後の対応策を問いました。渡邊昇治統括官(中立)は「過度な規制回避の観点から代理人義務を設けず、指針の中で連絡先・緊急通報先の明記を求める形で対応する方針」と説明しました。悪質で連絡が取れない事業者に対しては「そういう事業者が悪質なものを流していると国民に周知する情報提供が有効」とも述べました。
井上哲士議員(反対寄り)は、2023年12月に署名された日米共同研究取決めについて「自律型致死性兵器開発につながる」として強く問題視しました。大島九州男議員(反対寄り)は「日米共同研究がAI軍事利用の前のめりだと危惧し、平和利用の明確化を要求」しました。小林一大政務官(賛成寄り)は「パイロット等の指揮の下、自律的に行動するためのAI技術について日米共同研究を実施している」と認め、「人間の責任ある関与の下で指揮官等が意図した形で兵器システムを運用できる状態の確保が重要」と答弁しました。
竹詰仁議員(賛成寄り)は、無断学習・利用された場合の個人・企業への補償スキーム構築の必要性を問題提起しました。奥村政佳議員(賛成寄り)は「自分の演奏をAIに吸い取られるのはリスペクトがなく、クリエーターの尊厳がなくなっていく」と自身の経験を踏まえ還元・補償の仕組みの必要性を訴えました。渡邊昇治統括官(中立)は「データが無断で学習・利用された場合の即時補償スキームは現状見当たらない。個別事例に応じて既存法や既存ガイドラインで対応が基本だが、今後、必要に応じて有識者の意見を聴取するなどしていきたい」と述べました。
学習されたくないデータ、あるいは情報が学習されたというときに補償をするかしないかということで、これは個人に対してもそうなんですけれども、恐らくAIの開発というのがずっと進んでいくと、事業者対事業者という問題もあると思うんですね。
やっぱりクリエーター側が自分の作品はAIに学習をさせないでほしいと表明できる仕組みとか、逆に学習に使った場合には知らせたりとか、作り手としては何らかの還元があってもいいなというふうには思っております。
データが無断で学習、利用されて、それによって第三者が不利益を被った場合、即時に補償というスキームは現状見当たらないと承知をしております。
竹詰仁議員(賛成寄り)は、権利侵害を認識するためには学習データが開示されていなければならないとし、「学習データの開示義務と履歴保存の義務化」を問題提起しました。渡邊昇治統括官(賛成寄り)は、整備予定の指針において「学習データ・開発プロセス・意思決定についてトレーサビリティー(履歴の確認)ができるよう求めること」「AI生成画像には電子透かしの使用を求めること」を盛り込む方針を表明しました。
井上哲士議員(賛成寄り)は「2018年著作権法改正でクリエーターの権利が不当に侵害されている。権利規定の柔軟化によって不公正な無断利用が助長された」と問題視しました。奥村政佳議員(賛成寄り)は「クリエーターの尊厳と著作権を守る仕組みが必要で、原動力がなくなればAIも衰退していく」と強く主張しました。城内実大臣(賛成寄り)は「クリエーターの知的財産権の適切な保護は重要な課題」と認識し、「本法案成立後はAI戦略本部が司令塔として著作権に関するものも含めて検討・取り組む」と表明しましたが、著作権法改正については文化庁所管として直接の言及を避けました。
渡邊昇治統括官(賛成寄り)は、整備予定の指針において「レッドチーミングや評価ツールで不適切出力を抑制し安全性確保を求める」こと、「インシデント情報のモニタリングと改善」「事業者ごとのガバナンスポリシーの策定・公表・実践」を求めると説明しました。欺瞞的なAI対策として、電子透かしの活用や来歴管理の記入なども指針に明記することを検討していると述べました。これらはテーマ12・14と重複する内容であり、指針での安全性確保措置の具体化として一体的に議論されました。
また、各AI開発者とか提供者がAIの概要とか、どういうリスクがあるかとか、こうやって使ってほしいとか、こうやって使っちゃ駄目だとか、そういう情報を開示するということも重要だと思います。
片山大介議員(賛成寄り)は「法案の条文に生成AIが一言も入っていないことに違和感がある」と指摘し、今の時代にAIといえば多くの人がすぐに生成AIを思い浮かべるにもかかわらず全く記載がないことを問題提起しました。渡邊昇治統括官(中立)は「技術進化によって生成AIすら将来陳腐化・一般化し得るため、生成AIに特化した条文にしなかった。エージェントAI・AGIの議論が既に進んでいる中で、生成AIに限定しなくてよかった」と方針を説明し、「基本計画や指針の中で生成AIを念頭においた記述を行う」としました。
これ全く入れていない。それで、これもどういうことなのかというふうに聞いたら、今後この法案が成立したら、基本戦略を作るわ、それから指針、ガイドラインも作るわ、その中に書き込んでいくんだというふうには言っているんですけど、やっぱり基となる法の中にこれ生成AI入っていないのは何となく違和感ありますけど、そこら辺はどのようにお考えでしょうか。
これはやはり、先ほど御指摘がありましたような技術進化によって生成AIが、もしかしたら生成AIですら陳腐化するかもしれない、一般化するかもしれないということもございますので、生成AIに特化した、生成AIだけを意識したような条文というのは考えていないというところでございます。
片山大介議員(中立)は「第16条は1つの条文の中に情報収集・悪質事案分析・一般的調査研究・事業者への措置という4つの内容が詰め込まれており、推進なのか権利侵害対策なのか読んでも全く分からない」と問題提起しました。渡邊昇治統括官(賛成寄り)は「いずれもAIの適正な開発・活用という同一目的に資する行為であるため1条文にまとめた。大変分かりにくい長い条文であるため、今後の基本計画・指針・逐条解説で説明する努力をする」と答弁し、今後の解説充実を約束しました。
大島九州男議員(中立)は、読売新聞の社説を引いて「罰則なしで開発企業や関係者が政府の指導に従うのか率直に疑問」と問題提起し、罰則を設けなかったことへの批判的意見に対する政府の見解を求めました。城内実大臣(賛成寄り)は「罰則なしでも指針・調査・指導助言・情報提供、そして総理大臣リーダーシップ下のAI戦略本部での関係省庁連携によりリスク対応の実効性を十分に高めることができる。既存法令への違反があれば罰則が適用される」と主張しました。
本法案に罰則はなくてもリスク対応の実効性を十分に高めることができると考えておりますし、また、戦略本部、これは総理大臣のリーダーシップの下に設置されるわけですが、その下で、関係省庁も緊張感を持って、各省の垣根を越えて、いろんな具体的な事案についてはしっかり情報共有をし、実際もう既に局長級の関係省庁会議がありますので、そういった様々な組織形態を使いながらしっかり対応すれば、罰則はなくてもリスク対応が十分できるというふうに考えております。
罰則を設けること、また設けないことにはもちろんメリット、デメリットがありますが、両者を比較して政府としては今回罰則を設けないという結論に至ったというふうに思うんですけれども、こういう意見、批判的な意見に対して、どういうふうな御意見ですか。
井上哲士議員(反対寄り)は「完全自律型でなくとも半自律型・パイロット指揮下の自律型致死性兵器についても問題は同じ」と指摘し、人間の関与要件の強化と国際的な規制強化を求めました。小林一大政務官(賛成寄り)は「人間の関与の在り方で重要な点は、指揮官等が意図した形で兵器システムを運用できる状態を確保すること」と表明し、「国際人道法を含む国際法・国内法・安全保障の観点から適切な判断を確保することが必要」と述べました。LAWSについては国際的な議論が進行中であることも説明しました。
奥村政佳議員(賛成寄り)は「5万人以下の市町村のうち211団体でDX担当者が1人以下という現状があり、横展開の実効性確保と小規模自治体への人材・資金両面の支援強化が必要」と強く要求しました。恩田馨政府参考人(総務省)(賛成寄り)は「都道府県において市町村支援のための専門人材プールを構築する形を強化する」「総務省が全国的に人材・協力企業の掘り起こしを行いデジタル庁とも連携して採用ノウハウを提供する」と表明しました。奥村議員はその後も「横展開だけでなく実効性ある支援を」と繰り返し求めました。
奥村政佳議員(賛成寄り)は、自律型AIロボットの普及やAIによる認知戦の問題に関連して「子供たちがSNSやAIに洗脳されていく未来が起こり得ないとは限らない」と危機感を示し、「善悪の判断が付かない子供たちへのSNS・AIリテラシー教育を国として考えていく必要がある」と強く主張しました。政府側からは通告外のため直接の施策提示はなかったものの、奥村議員は「国会議員も政府もこういったことをしっかり考えてほしい」と訴えました。
やっぱり、善悪の判断が付かない子供たちが、それこそAIに洗脳されてもうまさにAIに乗っ取られていくというようなことが、未来が起こり得ないとは限らないのかなと。そういうところもしっかり私たち国会議員というのは考えていく、そして政府にも考えてほしいなというふうに思いました。
井上哲士議員(賛成寄り)は日本新聞協会の要求を引用し「無断学習を認める著作権法を改正してオプトイン型の権利保護を導入すべき。自らの著作物が学習データに使われているかどうか開示請求できる権利の明記も必要」と要求しました。竹詰仁議員(賛成寄り)は「オプトアウト方式は権利者が常に監視し続けなければならず限界がある。事前許可のオプトイン型の方が権利保障に資する」と主張しました。城内実大臣(中立)は「著作権法は文化庁所管であり法改正についてはコメントを差し控える。内閣府としては関係省庁と連携しながら対応策を検討する」と述べるにとどまりました。
一つは、無断学習を認める著作権法を改正し、事前に権利者からの許諾を得ること、それから、自らの著作物が学習データに使われているかどうか開示請求できる権利を明記するなど、著作権法の改正を始めとしたこの生成AI時代に沿った法整備を政府全体で打ち出すべきだということでありますけれども、これについてはいかがでしょうか。
他方で、開発者や事業者が権利者から必ず事前に許可を得る方式、これはオプトインと言うそうでありますけれども、こういった保護の方が権利保障に資するんじゃないかということなんですけれども。
著作権法につきましては文化庁の所管であるため、その改正について私からこの場でコメントをすることは差し控えさせていただきたいと思います。
奥村政佳議員(中立)は「AI学習において享受目的と非享受目的の線引きが曖昧で、自分の創作物がAIに無断学習されても気づけない。原文と同じような文が出力された場合は享受と変わらないのではないか」と問題提起しました。中原裕彦政府参考人(文化庁)(中立)は、学習段階で創作的表現の出力を目的とした追加学習を行う場合などには享受目的が併存すると評価されることがあるとの考え方を示しつつ、「引き続き丁寧に周知をしていきたい」と述べ、明確な線引きは「個別に判断されるべき」とするにとどまりました。
井上哲士議員(反対寄り)は「今年度初めて計上された攻撃型無人機導入予算と、陸上幕僚長が講演で示した殺傷能力(リーサリティー)向上の方向性を強く問題視」しました。現時点で防衛省が保有する千六百機の無人機には火器類搭載能力がないことを確認した上で、今年度初めて攻撃型無人機の導入予算が計上されたことの意義を問いました。家護谷昌徳政府参考人(賛成寄り)は「一般的に殺傷力が高まると人的損害が減少するという意味で、殺傷力を高めることも一つのアイデア」と認めました。また「AI・無人化技術を含む先端技術を活用した防衛力の抜本的強化を進めていく考え」と表明しました。
質疑を通じて、政府はAI戦略本部の設置・AI基本計画の策定・指針整備を柱とする枠組みを示し、罰則なしでも関係省庁連携と指導・助言・調査によりリスク対応の実効性を確保できると主張した。一方、野党からはAI定義の曖昧さ、生成AIの法文不記載、海外事業者への実効的対応の欠如、AI軍事利用への懸念、著作権法改正の必要性などが課題として指摘され、日本共産党・れいわ新選組は反対、他会派は課題を附帯決議に盛り込みつつ賛成した。附帯決議には、ディープフェイク対策の強化、知的財産権保護の検討、AI人材育成、データセンターの地域共生、国際的整合性の確保など二十項目が盛り込まれた。
この要約はAI(自然言語処理モデル)を用いて生成しています。 要約の精度向上に努めていますが、解釈の違いや誤りが含まれる可能性があります。
必ず元の議事録本文もご確認ください。
質疑を通じて、政府はAI戦略本部の設置・AI基本計画の策定・指針整備を柱とする枠組みを示し、罰則なしでも関係省庁連携と指導・助言・調査によりリスク対応の実効性を確保できると主張した。一方、野党からはAI定義の曖昧さ、生成AIの法文不記載、海外事業者への実効的対応の欠如、AI軍事利用への懸念、著作権法改正の必要性などが課題として指摘され、日本共産党・れいわ新選組は反対、他会派は課題を附帯決議に盛り込みつつ賛成した。附帯決議には、ディープフェイク対策の強化、知的財産権保護の検討、AI人材育成、データセンターの地域共生、国際的整合性の確保など二十項目が盛り込まれた。
○委員長(和田政宗君) 人工知能関連技術の研究開発及び活用の推進に関する法律案を議題とし、質疑を行います。 質疑のある方は順次御発言願います。
○酒井庸行君 皆さん、おはようございます。自由民主党の酒井庸行でございます。 早速質問に入りたいというふうに思います。 AI法案というものですね、それこそ委員会も終盤迎えたわけでございますけれども、これまで指摘された点も踏まえて、本当に素朴な疑問をさせていただきたいというふうに思いますので、率直にお答えをいただきたいと存じます。 AIに関する技術の進歩というのは本当に目覚ましく、毎日毎...
| モデル | Claude (Anthropic) |
|---|---|
| 要約方式 | 抽出+要約 |
| 対象範囲 | 議事録 全文 (約105,024文字) |
AIによる自動生成のため、一部情報が省略されている場合があります。
