塩川鉄也委員（日本共産党）が、法案が研究開発・活用を推進するＡＩに殺傷兵器用途が含まれるかを質しました。内閣官房の渡邊昇治参考人は「専ら武器・兵器に使われるようなＡＩにつきましては、この法案では対象としておりません」と答弁しました。一方、防衛省・米国防省が次期戦闘機と連動する無人機のＡＩ共同研究に合意していることを塩川委員が指摘。防衛装備庁の家護谷昌徳参考人は「人間の関与が及ばない完全自律型の致死性兵器の開発を行う意図は有していない」との立場を明確にしました。塩川委員は「半自律も含めてＡＩの軍事利用は禁止をすべき」と強く主張しました。城内大臣は、完全自律型の開発意図はないとしつつ「国際的な議論の場において、責任あるＡＩの軍事利用について…バランスの取れた議論がなされることを期待」と述べ、国際的議論に委ねる立場を示しました。

山崎正恭委員（公明党）が初等中等教育段階でのＡＩリテラシー育成について政府の取り組みを質しました。文部科学省の日向信和参考人は、2024年12月改訂のガイドラインで「生成ＡＩは使い方によって人間の能力を補助、拡張し、可能性を広げてくれる有用な道具」であり「最後は人間が判断し…自ら責任を持つ基本姿勢が重要」と位置づけていると説明しました。また、利活用実践事例のパイロット校指定などの取り組みを進めていると述べました。山崎委員は元教員の立場から、ＡＩを使えば勉強しなくてよいという誤解を払拭し「勉強の大切さは何も変わっていない」ことを子供たちにしっかり教えるよう求めました。達成感の喪失リスクについても議論され、日向参考人は「生成ＡＩに全てを委ねるのではなく自己の判断や考えが重要であることを十分に認識させる」ことが必要と述べました。

梅谷守委員（立憲民主党）がＡＩ戦略本部の体制について質しました。城内大臣は、本部が司令塔として「関係省庁がそれぞれ企画立案する政策を全体として一元的にしっかり把握した上で、関係省庁間の適切な連携を確保」する方針を示しつつ、個別施策の執行は各省庁が担うと説明しました。梅谷委員は「今までの従来の我が国の科学技術推進の体制とほとんど変わらない」と批判し、「省庁縦割りを排して一元化するべき」「実質的な機動力、迅速性を持った、一元化した本部体制の構築」を強く求めました。城内大臣は司令塔機能強化の方向性は共有しつつ、「重要なＡＩ政策については、司令塔機能を持っておるＡＩ戦略本部が…関係省庁間の適切な連携を確保してまいる」と応じました。また梅谷委員は外部ＡＩ人材の登用と給与体系の特別設計を求め、城内大臣は外部専門家の活用を進める考えを示しました。

討論において、橋本慧悟委員（立憲民主党）は「ＡＩ技術が我が国の経済社会の発展の基盤となること、国際競争力を向上させること、そして防衛等の安全保障上の観点からも重要」と認識し、法案を第一歩と判断して賛成すると表明しました。平井卓也委員（自民党）は審議を通じて「ＡＩ戦略というのは非常に重要なときだし、この法律ができたら、まさに日本のＡＩを前に進めていかなきゃいけない」と主張しました。辰巳孝太郎委員（共産党）は討論で、法案が「産業の国際競争力を向上させることを旨に行う」として企業の利益を優先し市民の権利保護が不十分だとして反対しました。田中健委員（国民民主党）は日本の生成ＡＩ利用率が9.1%と欧米に大きく劣ることを示し、国際的な競争への対応の必要性を強調しました。

山崎正恭委員（公明党）が、「昨今非常に働き方が厳しい、教員不足で教員環境が厳しい中でどのように研さんの機会を確保していくのか」と問いました。文部科学省の日向信和参考人は、ガイドラインで教育委員会が外部リソースを活用しつつ研修を実施する役割を担う必要性を明示していると説明しました。また、「生成ＡＩの利活用に係る様々な研修動画等をホームページにおいて公開しており」、今後これらを拡充する予定であるとして、「教師が可能な限り負担のない形で生成ＡＩについて学ぶことができる機会を確保してまいります」と述べました。山崎委員は「本当に大変な状況ですので、できる限り負担の少ない形でお願いいたします」と求めました。

梅谷守委員（立憲民主党）と伊東信久委員（維新の会）がＡＩ事故時の責任の明確化を求めました。梅谷委員は「現行法上、ＡＩに関する事故が生じたときの責任の在り方は明確じゃない」として、「ＡＩ特有の制度を早急に法律上設ける必要がある」と主張しました。伊東委員は医療現場での診断ＡＩを例に、誤診時の責任所在が製造者か医師かを問いました。城内大臣は「ＡＩの利活用によりまして生じる損害、これに対する責任の考え方を明確化することは、ＡＩの利活用や投資を促進していく上で非常に重要」と認め、自動運転以外の分野も含め「関係省庁と緊密に連携しながら検討を深めてまいる考え」と述べました。厚労省の森真弘参考人は、医療においては「診断、治療等を行う主体は医師であり、医師がその最終的な判断の責任を負う」との通知を平成30年に発出済みと説明しました。

平井卓也委員（自民党）がＡＩ開発と個人情報保護法の関係について、ＡＩ開発を萎縮させない制度整備の必要性を主張しました。個人情報保護委員会の佐脇紀代志参考人は、三年ごとの見直し検討の中で、「特定の個人との対応関係が排斥された統計情報等の作成」のみに利用されることを条件に、本人の同意なく個人データの第三者提供等を可能にする規律の考え方を整理していると説明しました。また罰則等の萎縮効果について、「改正の趣旨にもとることになろうかと思います」と述べ、例外の定義明確化やＰＥＴsの活用、バランスの取れた違反行為抑止策の検討が重要と答えました。平井委員は「くれぐれも開発を萎縮させるようなことがないようにお考えいただきたい」と重ねて要望しました。

田中健委員（国民民主党）が、EUのドラギ・レポートや欧州委員会によるＡＩ規制簡素化の動きを紹介しつつ、法案に基づく調査権について「リスクの度合いと釣り合ったものであるべきで、企業に過度な負担を強いてはならない」と主張しました。また知財・営業秘密保護への配慮を求めました。城内大臣は「事業者の萎縮や過度な負担を避ける観点から、適正な内容や範囲、頻度となるよう…適切な運用を図っていく」とし、「事業者の知的財産権や営業秘密の保護について…十分に配慮する必要があります」と応じました。附帯決議においても、調査等に当たり「営業秘密や知的財産権の保護に配慮しつつ、過度に重い負担や情報開示を求めないように留意すること」が盛り込まれました。

梅谷守委員（立憲民主党）が、インシデントを正直に申告した事業者が法的・社会的責任を問われれば「正直者がばかを見る制度」になり重要情報が集まらないとして、自主的申告に対する責任減免の仕組みを設けるべきと主張しました。城内大臣は萎縮防止の必要性は認めつつも、責任免除ではなく「充実した情報提供を行っている事業者の取組を高く評価したり、優良な事例として紹介したり、そういった形で同様の取組を他の事業者にも奨励する」評価・奨励の枠組みで検討する姿勢を示しました。梅谷委員は「情報提供が肝だからこそ、法的な責任、社会的責任を問われない、そういう正直なインシデントの申告を促すことが必要」と重ねて強調し、検討を求めました。

平井卓也委員（自民党）がガバメントＡＩについてデジタル庁の方針を質しました。デジタル庁の岸信千世大臣政務官は「社会全体でＡＩ導入を進めるためには、政府自らが積極的にＡＩを利活用することが何より重要」と述べ、アイデアソン・ハッカソンの実施や、ＣＡＩＯ設置・生成ＡＩ調達ガイドライン策定（5月目途）などの取り組みを説明しました。田中健委員（国民民主党）は「政府自らがその姿勢を示していくことが重要」として、ＡＩ導入率等の具体的な目標設定を求めました。城内大臣は「まずは政府が模範を示し、積極的にＡＩの導入を図っていくことが重要」とし、導入状況の目標設定について「必要に応じて適切に検討していく」と応じました。附帯決議でも「国、地方公共団体及び地域の民間事業者によるＡＩの積極的な利活用に向けた環境の整備に努めること」が明記されました。

山崎正恭委員（公明党）が、中小企業がＡＩ技術を導入する際の資金的障壁の解消について問いました。中小企業庁の岡田智裕参考人は、経済産業省がＡＩ製品を含むＩＴツールの導入を支援するＩＴ導入補助金を措置してきたと説明しました。また、令和6年度補正予算からは「導入後の活用支援も新たに対象化」し申請受付を開始したと述べ、中小企業のデジタル化・ＤＸの普及促進に努めていく姿勢を示しました。山崎委員は「中小企業が生産性を向上していくことは、利益を上げ、賃上げをしてもらう面でも非常に重要」と述べ、資金的障壁の解消と普及促進を求めました。

本法案の審議が衆議院内閣委員会で行われ、討論・採決を経て原案が可決されました。賛成の立場から市村浩一郎委員（維新の会）は、業務効率化や地方公共団体の存続への期待、ＡＩ人材育成プログラム、人間中心主義の大原則の三点を評価し「政府原案に賛成とさせていただきます」と表明しました。橋本慧悟委員（立憲民主党）は、ディープフェイクや著作権侵害など懸念点を指摘しつつも「本法案はその第一歩になると判断するに至りました」として賛成しました。反対の立場から上村英明委員（れいわ新選組）は「包括的な法規制がないとすれば、当然」国民が不安を抱くとして、ＥＵのＡＩ法のような包括的規制が必要と主張し反対しました。辰巳孝太郎委員（共産党）は「ＡＩ推進一辺倒で、市民の権利を侵害し、社会への悪影響を拡大させる危険を高める」として反対しました。採決の結果、修正案は否決、原案は起立多数で可決されました。

梅谷守委員（立憲民主党）が、人間中心のＡＩ原則を法律の目的・基本理念に直接明記すべきと強く主張しました。「この枠組みに対して大きな枠組みを載せずして何で一丁目一番地になるのか」と問い、「本法案が枠組みを示すものだからこそ、大枠となる大原則は法律に書く」べきだと訴えました。城内大臣は、「ＡＩ基本計画には、その冒頭に、人間中心のＡＩ原則の考え方を記載することを検討」しており、「計画の冒頭に記載されることで、法案に直接書き込まずとも…担保できる」と述べ、法案への直接明記には否定的な立場を示しました。また法案第3条5の基本理念に「国際的協調の下に推進する」旨があり、広島ＡＩプロセスの国際指針に人間中心のＡＩ原則が含まれているとして、「当然に、本法案に記載されていなくても、そこに既に含意」されると説明しました。梅谷委員は重ねて「法体系として、法律上当然の前提になっていません」と指摘し、不断の見直しの中での法改正を含めた対応を求めました。

伊東信久委員（維新の会・外科医）が、内視鏡診断支援ＡＩやチャットボットなど医療現場でのＡＩ活用を例示しつつ、誤診が生じた場合の責任の所在が医師にあるのかＡＩ開発者にあるのかを問いました。厚労省の森真弘参考人は、平成30年12月の通知で「診断、治療等を行う主体は医師であり、医師がその最終的な判断の責任を負う」と明示していると説明しました。城内大臣は一般論として「ＡＩの提供者が利用者に対してリスクについてしっかりと説明をし、利用者側もＡＩのリスクを十分理解した上で、当事者間の責任の下で活用されるべき」との考えを述べました。伊東委員は「人間が使うデバイスとしての、道具としてのＡＩ」という位置づけを再確認しつつ、医療ＡＩの進展により診断精度向上や地域医療向上が期待されるとして関連施策の推進を求めました。

山崎正恭委員（公明党）が少子高齢化・人口減少が進む地方自治体へのＡＩ導入の重要性を指摘し、支援策と地域格差是正の取り組みを質しました。総務省の下仲宏卓参考人は、ＡＩ導入に対する財政措置・外部人材支援のほか、「自治体におけるＡＩ活用・導入ガイドブックをまとめ、先行団体におけるＡＩ導入事例を紹介することなどにより地域格差の是正にも取り組んでいる」と説明しました。ＡＩ導入団体数が平成30年度の106団体から令和5年度で926団体に増加したことも報告されました。市村浩一郎委員（維新の会）は討論で、「地方公共団体で事務効率化が期待できる点は、地方の存続といった観点からも非常に重要」と評価しました。

山崎正恭委員（公明党）が大学・高専でのＡＩ専門人材育成の具体的支援策と目標を質しました。文部科学省の奥野真参考人は、ＡＩ戦略2019に基づき「文系、理系を問わず、全ての大学、高専生五十万人がデータサイエンスやＡＩ活用に関するリテラシーを高めること」を今年度までの目標として掲げ、全国9ブロックのコンソーシアム活動支援や数理・データサイエンス・ＡＩ教育の普及を推進していると説明しました。また大学・高専機能強化支援事業によりＡＩ等情報分野を含む学部・学科再編や定員増の改革を支援していると述べました。山崎委員は「こういった中から本当に高度な専門人材が出てくれる素地をつくっていただきたい」と述べ、長所を伸ばす育成を求めました。

平井卓也委員（自民党）が、2016年制定の官民データ活用推進基本法について「もう一回、野党の皆さんと見直して、改正をしていかないといけない」と主張しました。個人情報保護法の改正と官民データ活用推進基本法の改正が両立して初めて「個人情報保護法の理念に基づく、利活用と保護のバランスを取るということができる」との考えを示し、野党も含めた議論への参加を呼びかけました。なお、政府側からの直接の答弁は、デジタル庁において「ＡＩの活用も視野に入れたデータ戦略」について石破総理から今年6月をめどに基本方針策定の指示があったとの説明にとどまりました。

山崎正恭委員（公明党）が、海外製ＬＬＭの日本語対応の限界を指摘し、「日本独自の価値観や産業競争力を守る観点からも、日本語デジタル言語資源の充実が不可欠」として取り組みを質しました。文化庁の中原裕彦参考人は、国立国語研究所が整備した現代日本語書き言葉均衡コーパスについて、令和6年度から10年度までの5年計画で「直近二十年分の約一億語分のデータを追加する事業」を実施中と説明しました。このデータが「大規模言語モデルを基にＡＩで生成される日本語の的確性を高めるファインチューニングなどでの活用も想定」されると述べました。山崎委員は「本来の正しい日本語表現をしっかりと読み込ませていくことで性能が上がっていく」として、引き続きの取り組み強化を求めました。

田中健委員（国民民主党）が東南アジアのＬＬＭ構想について、習近平国家主席がマレーシアとＡＩ・先端技術の協力拡大に合意したとの報道も踏まえ、日本の参画と展開方針を問いました。経済産業省の奥家敏和参考人は、マレーシア工科大学やバンドン工科大学でのＡＩ人材育成プログラムの実施や、グローバルサウス補助金を活用した日本企業と東南アジア現地企業とのマッチング・実証事業の立ち上げを説明しました。総務省の近藤玲子参考人は、「シンガポール政府や関係機関と協議を行うなど、準備を進めている」とし、5月のＧＰＡＩ東京イノベーション・ワークショップで東南アジアの言語・文化に対応した生成ＡＩ開発についても議論する予定を述べました。田中委員は「国を挙げて、東南アジア、ＡＳＥＡＮ諸国のＡＩの連携というのを深めていただきたい」と求めました。

山崎正恭委員（公明党）が生成ＡＩの教育現場への導入ガイドラインと活用方法について問いました。文部科学省の日向信和参考人は、2024年12月改訂のガイドラインで「生成ＡＩはあくまで使い方によって人間の能力を補助、拡張し、可能性を広げてくれる有用な道具になり得るもの」と位置づけ、「最後は人間が判断し…自ら責任を持つ基本姿勢が重要」と定めていると説明しました。また、「学習指導要領に示す資質、能力の育成につながるか」を吟味した上で活用の適否を判断するよう定めており、「生成ＡＩに全てを委ねるのではなく自己の判断や考えが重要であることを十分に認識させる」ことが必要だと述べました。山崎委員は「ＡＩを駆使して自分の学びが深まったり、自分の思いや表現がしっかりとできていくこと」が大事として、達成感を損なわない活用の工夫を求めました。

上村英明委員（れいわ新選組）が、「生産性の向上や効率化が、従来の視点で、賃金や社会保障などのコストカットの言い訳とされれば、それは労働者の生活の向上にはつながりません」と指摘しました。田中邦裕参考人の「ＡＩ推進の成果は製品とかサービスの販路の拡大に向けられるべきであって、それがコストカットに向けられるべきではない」との発言も引用しつつ、「社会全体の価値観の転換を伴いながらＡＩの推進というものを図っていかないと難しい」と述べました。城内大臣は「ＡＩの導入の目的が殊更コストカット、コストダウンばかりに向かいますと、低賃金化が進む懸念もある」として懸念を共有し、「人間中心の、一人一人が多様な幸せ、すなわちウェルビーイング、これを実現できる社会の構築」を目指すと表明しました。

山崎正恭委員（公明党）が、ＡＩを活用した新たなビジネス創造を担う人材や中小企業の応用人材育成について現状と展望を質しました。内閣官房の渡邊昇治参考人は、大学院でのクロスプログラム、次世代ＡＩ人材育成プログラムなど様々な取り組みを紹介し、「関係省庁、地方公共団体、あるいは研究開発機関、活用事業者と協力をしながら、ＡＩ人材の育成、確保の取組を進めてまいりたい」と述べました。山崎委員が中小企業の人材育成支援を重ねて問うと、中小企業庁の岡田智裕参考人は、デジタル人材育成プラットフォームの構築、全国9か所の中小企業大学校での研修プログラム提供などを説明し、「中小企業のデジタル化、ＤＸを支えるデジタル人材の育成を促進してまいりたい」と述べました。

梅谷守委員（立憲民主党）と伊東信久委員（維新の会）がＡＩ事故時の責任所在と救済制度の整備を求めました。梅谷委員はＡＩが「思考がなく…統計的そして確率論的なもの」であるためデータ改善を重ねても「不可避な事故がなくならない」と指摘し、「ＡＩ特有の製造者責任を法律上早急に整備すべき」と強く主張しました。伊東委員は自動運転や医療ＡＩを例に、製造者か使用者かの責任所在の明確化を求めました。城内大臣は「ＡＩの利活用によりまして生じる損害、これに対する責任の考え方を明確化することは、ＡＩの利活用や投資を促進していく上で非常に重要」と認め、自動運転以外の分野も含め「関係省庁と緊密に連携しながら検討を深めてまいる考え」と述べました。梅谷委員は「非常に重要な課題だと思いますので、検討を深めていただきたい」と重ねて求めました。

平井卓也委員（自民党）が、ＡＩはインターネット上の全データを学習するため著作物も含まれるとして、「著作権法というのは、ある一定の、我々が関与をしていく必要があるのではないか」と主張しました。クリエーター自身がＡＩを利用して作品を生み出す時代になったことで「権利者であると同時に利用者でもある」という複雑な状況を指摘しました。討論で辰巳孝太郎委員（共産党）は、ＡＩの開発・活用による「著作権などの知的財産の侵害」が現状の問題として生じているとして、推進一辺倒の法案に規制強化が含まれていないと批判しました。附帯決議では「ＡＩの利用に伴う知的財産権、パブリシティ権等の権利侵害に対応するため…必要に応じ関連法制の整備を含めた対応の在り方について検討し、その結果に基づいて必要な措置を講ずること」が明記されました。

審議の結果、立憲民主党提出の「国民の責務」を「国民の努力」に改める修正案は否決され、政府原案が起立多数で可決された。附帯決議として人間中心主義の徹底、リスクベースアプローチの検討、司令塔機能の強化、知財保護への配慮など15項目が付され、城内国務大臣は「その趣旨を十分に尊重してまいります」と表明した。れいわ新選組および日本共産党は、包括的規制の欠如やＡＩ軍事利用・市民の権利保護の不十分さを理由に反対した。