三木圭恵委員は、AIによる意思決定はブラックボックス化しており透明性確保が課題であると指摘したうえで、人事評価における最終判断は人間が行うべきと主張した。橋本慧悟委員は、AIが過去の学習データに含まれるバイアスにより人の意思決定を歪める懸念を示し、公的部門でのバイアス排除対策を求めた。政府参考人の井幡晃三氏は、政府機関での生成AI利活用にあたり、調達チェックシートを含むガイドラインを来月を目途に策定し、出力結果に含まれるバイアスなどのリスクに対応するとした。

緒方林太郎委員は、ベルギーで起きたAIイライザ事案を取り上げ、AIとのコミュニケーションにのめり込んだユーザーが「私と一緒にパラダイスで過ごしましょう」というAIのメッセージを受けて自死を選んだ事例を示し、このようなAIは規制されるべきかと問題提起した。城内実大臣は、当該事案を大変懸念すべきものと受け止めており、現在の総務省・経産省共同策定のAI事業者ガイドラインにはAIによる感情の操作等への留意が明記されていると説明した。また本法案に基づき、既存法令で対応できない事案については調査・公表等の必要な対応を適時行うとした。

橋本慧悟委員および塩川鉄也委員は、EUのAI法が禁止・ハイリスクへの基準適合義務・限定リスク・最小リスクの四段階リスクベースアプローチを採用していることを引き合いに、日本でも同様の法規制が必要と主張した。渡邊昇治政府参考人は、EUのアプローチは法案検討段階で参考にしたと認めつつも、EUが禁止するAIは日本の刑法・個人情報保護法等で規制され、ハイリスクAIも個別業法で対応されており、基本的な考え方においてはEUと共通するが、法体系や歴史的背景の違いから実装が異なると説明した。

橋本慧悟委員はリスクベースアプローチの導入検討を求め、馬淵澄夫委員はリスクベースアプローチを取らなかった理由を追及した。城内実大臣は、EUと日本のリスク対応には共通部分があるとしつつも、国によって法体系や文化・歴史が異なるため実装が異なると説明し、日本はデジタル放任主義でもデジタル立憲主義でもない第三の道、すなわち過剰規制を避けつつ必要なリスク対策を講じるアプローチを採っていると述べた。馬淵澄夫委員はイノベーション阻害を最も懸念してリスクベースアプローチを採用しなかったのではないかと指摘し、附則第二条による将来的な対応の可能性を確認した。

市村浩一郎委員は、本法案が想定するリスク分類に不明瞭なものはないかと問い、AIリスクの多様性と予測困難性を指摘した。城内実大臣は、AIリスクは非常に多種多様で事業者によって対応すべき事項が異なるとして、各事業者において適切なリスク評価が必要と述べた。渡邊昇治政府参考人は、予測できない新たなリスクへの臨機応変な対応を図るため本法案を提出したと説明し、広島AIプロセス国際指針に沿ってリスクの特定・評価・軽減のための指針整備を進めるとした。

田中良生委員は、生成AIが約148.7兆円の生産性向上をもたらすとの試算を示し、積極的推進を支持した。石井智恵委員は、AIによる社会変革で人間がより自分らしい生き方を実現できると期待を表明した。一方、上村英明委員は生産性向上の便益を認めつつも、成果主義導入の歴史を引き合いに、生産性向上の恩恵が労働者に還元されずに非正規化・雇用喪失につながるリスクを警告し、労働分配のビジョンと一体で考えるべきと強く主張した。

上村英明委員は、AIが労働を代替した場合に企業が非正規雇用への転換や解雇を選択するリスクを指摘し、新たな仕事が創造されるとしても世代ごと排除される懸念があると述べた。また、名古屋港でのサイバー攻撃事例を挙げ、AIに依存しすぎると人間のノウハウが失われレジリエンスが低下すると警告した。おおたけりえ委員は、ILOの試算を引用し、AI導入により女性労働者が男性より大きな影響を受けるとして、職業訓練や大人へのリスキリングプログラムをAI基本計画に盛り込むよう求めた。

市村浩一郎委員は、AIの軍事転用リスクへの注意を促したうえで、同盟国・同志国が日本と同様に国際協調路線でAI開発を進めているか疑問を呈した。城内実大臣は、AIはデュアルユース技術であり、本法案においても安全保障上の重要性と研究開発能力の保持を基本理念に明示しているとしたうえで、価値観を共有する国と連携して取り組むと述べた。

橋本慧悟委員は、本法案には勧告・命令等の規定がなく、ガイドラインや指針の実効性が課題になると指摘した。田中良生委員は、罰則なき推進法として柔軟性と機動性を備えるとして条件付きで評価しつつも、ソフトローへの懸念を示した。馬淵澄夫委員は、メタ社のような巨大プラットフォーマーに対し、責務規定・指導助言だけでは実効性が担保されないと強く懸念し、事案発生時に海外事業者の代表者を呼びつけられるかと問い質した。城内大臣は、法律への責務明記により海外事業者にも規律が働くとしつつ、広島AIプロセス・フレンズグループ等の国際的枠組みも活用して実効性を確保すると答えた。

馬淵澄夫委員は、本法案第七条が活用事業者に「協力しなければならない」と責務を課している根拠が不明確であり、科学技術・イノベーション基本法などでは事業者への規定が努力義務にとどまっているにもかかわらず、なぜ責務としたのかと追及した。城内実大臣は、AIの社会実装には活用事業者の協力が不可欠であり、指針の遵守や調査への協力を求める上で法案の各種施策の実効性を高めるために「協力しなければならない」という表現を用いたと説明した。馬淵委員は、巨大プラットフォーマーに対してこの責務規定だけでは実効性に疑問があると重ねて懸念を示した。

河西宏一委員は、EUのARISAプロジェクトが専門職・経営者・政策立案者の三者向けにAIスキル認証制度・コアカリキュラム・講師養成プログラムを整備し、一年・二年単位で更新する仕組みを持っていることを紹介したうえで、日本も戦略的なAI人材育成とスキル認証制度の検討を求めた。城内実大臣は、数理・データサイエンス・AI教育プログラム認定制度や次世代AI人材育成プログラム等の取組を推進しており、EUの状況も参考にしながらAI人材の育成・確保をさらに推進すると表明した。

おおたけりえ委員は、子供たちがAIを使いこなす一方でAIが作った情報かどうかを判断できないリスクを指摘し、小学校から高校まで毎週一コマ学べるAIリテラシー教育の科目・プログラムの設置や、不登校児童を含めた全ての子供がタブレットで学べる環境整備をAI基本計画に位置づけるよう強く求めた。徳増伸二政府参考人は、生成AIガイドラインの策定やパイロット校選定など取組を進めているとし、初等中等教育段階も含めたAIリテラシー育成は重要であり、基本計画での検討を示唆した。

緒方林太郎委員は、AIが内部プログラムで一定の出力を制限している実態を示しつつ、今後日本としてAI側の自主規制に委ねるのか、政府の価値判断に基づく規制を入れるのか、またその場合の価値判断の根拠は何かを問題提起した。城内実大臣は、一律の価値観に基づく規制は自由主義・民主主義の観点から行き過ぎになりかねないとしつつも、個人の人権を侵害するものや要配慮個人情報の拡散はあってはならないと述べ、諸外国の動向や国民世論を見ながら関係省庁と連携して判断していくとした。

石井智恵委員は、AI基本計画が日本のAI推進における一丁目一番地になると強く期待し、具体的な方向性を質問した。渡邊昇治政府参考人は、基本計画の基本的方針としてイノベーション促進とリスク対応の両立、新技術への適応、国際的主導的役割を盛り込む方針を示し、具体的施策としては研究開発の推進、データ整備・共用、データセンター整備、人材育成・確保、教育の振興等を含める考えを示した。

塩川鉄也委員は、本法案第十二条のデータセット整備・共用促進規定について、オープンデータに限定されないことを確認したうえで、個人情報を含む情報がデータセット化されプライバシー権侵害の危険性を高めると批判した。また、地方自治体が個人情報を大量に保有している実態を踏まえ、第五条の責務規定が自治体情報のデータセット化を迫るものになりかねないと懸念を示した。渡邊昇治政府参考人は、AI学習データの整備・提供は研究開発に非常に重要であるとして推進する考えを示しつつ、個人情報や機微な情報を含む場合は扱いに十分注意するとした。

河西宏一委員は、既存法令での対応を各省庁がどのように検証したか確認するとともに、AI戦略本部と各省庁の責任分担を明確化し、事案発生時に落ち穴なく迅速に対応できる具体的なオペレーション体制の構築を強く求めた。徳増伸二政府参考人は、2023年末から各省庁でAI導入実態と規制状況の調査を行い、2024年夏に設置したAI制度研究会で既存法令の適用可能性を整理したと説明し、今後は調査に関する業務フローを明確化するなど体制・オペレーションをしっかり構築すると述べた。

おおたけりえ委員は、AI関連被害の事前抑止に向けて、AI戦略本部の下で有識者を含めた会議体において個別法改正なども含む具体的改善策を検討すべきと主張した。徳増伸二政府参考人は、基本的にはAI戦略本部で決定していくが、その前提として幅広く専門家の意見や現場の状況を伺いながら決定するとし、専門家の知見をおかりしつつ最終的にAI戦略本部で決定すると説明した。

城内実大臣は、本法案成立後はAI戦略本部が司令塔機能をしっかり発揮し、全ての関係省庁がこれまで以上に緊密に連携しながら各種取組を総合的かつ計画的に進めていくと強調した。国内のAI開発・活用を促進し、グローバルに挑戦する日本企業を政府一丸となって後押しする考えも示した。

城内実大臣は、AIは経済社会の発展に必要な基盤技術であるとともに安全保障の観点からも不可欠な技術であると明言し、我が国が世界で最もAIを開発・活用しやすい国となることを目指すと述べた。田中良生委員は、生成AIが約148.7兆円の生産性向上をもたらすとのインパクトを示しつつ、日本の強みを生かした戦略的投資と政策支援により国際競争力を高める必要があると主張した。

城内実大臣は、AIが定型業務を代替することで人間はより創造的業務に専念でき、介護ロボットによる労働力不足解消や自動運転による生活利便性向上なども期待できるとして、AI推進が社会変革につながるとの見方を示した。上村英明委員は、生産性向上の恩恵が企業に留まり労働者の非正規化・解雇につながる可能性を強く指摘し、AIが代替した分の利益をどう分配するかのビジョンが必要と述べた。

河西宏一委員は、生成AIによる著作権侵害の懸念とともに、従来のクリエーターがAI生成コンテンツの氾濫により市場から事実上排除されている実態を指摘し、知的財産権保護の強化を求めた。また、AI事業者が報道機関の記事を無許諾で利用することは独禁法の優越的地位濫用に当たる可能性があると指摘した。城内実大臣は、生成AIによる知的財産権侵害は重要課題であり、AI時代の知的財産権検討会中間取りまとめに基づき、法・技術・契約の各手段を組み合わせた取組が必要との考え方を整理していると説明した。

橋本慧悟委員と河西宏一委員は、AI生成コンテンツにはAI利用の旨を表示する義務づけや、電子透かし・出所情報表示の枠組み構築を求めた。城内実大臣は、AI利用表示は有用であるとしつつも、開発途上の技術であるとして現時点では義務づけではなく、本法案に基づく指針においてAI利用表示を奨励することなどを検討すると述べた。政府参考人の徳増伸二氏は、電子透かし技術の活用を指針等で働きかけることを検討するとし、表示義務化については論点があるとして引き続き検討課題とした。

市村浩一郎委員は、AIが独自に知識を身につけて事件・事故・人権侵害等を起こした場合の法的責任の所在について問題提起した。神田潤一大臣政務官は、刑法は自然人を対象とする法規範であり、AIそのものが刑法によって処罰されることはないと説明した。市村委員は、今後AI対AIの時代になり人間が関与できない局面も出てくるとして、AIが起こした事象への責任所在は今後の重要課題であると指摘した。

塩川鉄也委員は、個人情報保護法がAIの急速な拡大に追いついておらず、命令違反の罰則も百万円と低額で、削除請求権の実効性も不十分であると指摘し、個人情報保護の強化が必要と主張した。城内実大臣は、本法案はAIの研究開発・活用推進を目的とするものであり、個人情報保護法の考え方を変えるものではなく、既存の法令に従って対応することに変わりはないと説明した。

塩川鉄也委員は、個人情報保護委員会がAI学習目的での個人情報の本人同意不要化を検討していることは個人情報保護の立場に逆行するとして強く批判した。佐脇紀代志政府参考人は、特定の個人との対応関係が排斥された統計情報等の作成にのみ利用されることが担保されていること等を条件に、本人同意なき第三者提供や公開されている要配慮個人情報の取得を可能とすることを制度的論点として検討中であると説明した。

城内実大臣は、本法案の核心はイノベーション促進とリスク対応の両立にあると繰り返し強調し、過剰規制を避けつつ必要なリスク対策を講じる第三の道を目指すと説明した。三木圭恵委員は、推進法としてのソフトロー的枠組みに一定の理解を示しつつも、推進だけでなく規制法としてのハードロー整備の必要性も主張した。渡邊昇治政府参考人も、既存法とガイドラインの組み合わせでイノベーション促進とリスク対応の両立を図るとし、新技術に対応できる臨機応変な法制度であると説明した。

河西宏一委員は、AI活用で捻出した恒久財源を介護福祉士・保育士・幼稚園教諭等のエッセンシャルワーカーの処遇改善に充てるべきとの政策コンセプトを提示し、関係省庁と連携した検討を強く求めた。城内実大臣は、エッセンシャルワーカーはAIで代替が難しい職種であることに同意したうえで、河西委員の提案を「一つの有益な案となり得るのではないか」と個人的に受け止めると述べた。

緒方林太郎委員は、科学誌ネイチャーの論文を引き合いに、2028年までに全てのオープンソースデータがAIに取り込まれる可能性を示し、その後の非公開データ活用の方向性について問題提起した。渡邊昇治政府参考人は、オープンデータが枯渇した後は未利用データの戦略的活用で日本のAIの遅れを取り戻すことが戦略になり得るとして、データ活用については戦略的視点で進める必要があると述べた。具体的な仕組みやガイドラインについては現時点では未整備であると認めた。

城内実大臣は、デジタル放任主義でもデジタル立憲主義でもない第三の道として、過剰規制を避けつつリスク対策を講じるアプローチを支持すると説明した。田中良生委員は、罰則なき推進法として柔軟性と機動性を備える点を評価した。三木圭恵委員は、推進法だけでなくハードローとしての規制法も必要であり、ガイドラインだけでは不十分と主張した。

菊池大二郎委員は、IEAの試算を引用してデータセンターの電力需要が2030年に現状比二倍以上になる見込みを示し、受電容量の増大を重大課題として認識し供給体制の整備を訴えた。山田仁政府参考人は、2034年度までに電力需要が約六%増加する見通しを示し、省エネ・再エネ・蓄電池・火力・原子力を含む全電源を活用して安定供給を確保するとした。

橋本慧悟委員は、悪意ある者がウィキペディア等に偽情報を書き込み、それをAIが学習して偽情報を出力させるデータポイズニングのリスクと対策を問いただした。城内実大臣は、過去にチャットボットが差別的な出力をするようになった事案を紹介し、産総研が公開している機械学習品質マネジメントガイドラインでデータポイズニング対策として統計的異常の除去や複数モデルの組み合わせ等の手法を提示していると説明した。

橋本慧悟委員は、世界各国の選挙でのディープフェイク偽情報拡散事例を紹介し、ディープフェイクを含む偽情報対策の実効性確保を強く求めた。城内実大臣は、偽・誤情報対策は大変重要かつ急務であり、広島AIプロセスの国際指針に基づき、電子透かし等の技術導入やAI活用者の法令遵守徹底を指針に明記する方向で検討していると述べた。

橋本慧悟委員は、芸能人等のディープフェイクポルノが国内外で確認されている実態は言語道断であると断じ、被害者を生み出さない仕組みについて党派を超えて議論すべきと主張した。政府からの直接の回答は本テーマに特化した形では示されなかったが、先日の内閣委員会での市來委員の質疑に続く問題提起として位置づけられた。

城内実大臣は、広島AIプロセスの国際指針を踏まえ、AI開発者や事業者による電子透かしや来歴管理の導入をAI活用の指針に明記することを想定していると述べた。河西宏一委員は、電子透かしや出所情報（オリジネータープロファイル）表示の枠組み整備を求め、ウェブブラウザへの標準搭載も重要と述べた。政府参考人の徳増伸二氏は、電子透かし技術はまだ開発途中であるが、指針等でAI開発者に導入を働きかけることを検討すると説明した。

河西宏一委員は、AIエージェントは規模の経済が働くため大企業が有利になりやすく、中小企業への支援が必要と訴えた。岡田智裕政府参考人は、IT導入補助金でAI製品の導入支援が可能であり、令和六年度補正予算からは導入後の活用定着支援も新たに対象化して先月申請受付を開始したと説明した。

河西宏一委員は、AIエージェントの普及により大企業優位になる中、中小企業への積極的な支援の必要性を訴えた。岡田智裕政府参考人は、IT導入補助金によるAI製品導入支援と活用定着支援を行っており、今後も中小企業のデジタル化・DX促進に取り組むと説明した。

市村浩一郎委員は、本法案第二条のAI定義が今後の技術変化に対応できるか問い、現行定義で漏れはないかを確認した。城内実大臣は、現在の定義は対象を広く捉えており問題ないが、技術変化に応じて必要な検討を行うと説明した。渡邊昇治政府参考人は、人間の脳の働きを代替するものを想定しており、予想を超える技術が出てきた場合は定義の検討が必要と述べた。市村委員は、「能力を代替する」という表現の解釈についても確認した。

上村英明委員は、大学での論文作成へのチャットGPT利用により学生が勉強しなくなっている事例を紹介し、AIへの依存が人間の知能低下をもたらすリスクを強く懸念した。城内実大臣は、脳科学的にもデジタルより紙で調べた方が記憶に定着しやすいことが証明されているとして、AIに頼り切ると知能が劣化してくる可能性を認め、AIとアナログのバランスが重要と述べた。

河西宏一委員は、最終的な意思決定は人間が行うという考え方をAI基本計画のトッププライオリティーで明記するよう強く求めた。馬淵澄夫委員は、本法案の第一条の目的が国民生活の向上と国民経済の健全な発展という経済的価値のみを掲げており、憲法的価値が明示されていないことを批判し、目的規定への追加を求めた。城内実大臣は、人間中心の考え方をAI基本計画に明示する方向で検討を進めると表明したが、目的規定への追加については現在の内容が最適であるとして応じなかった。

塩川鉄也委員は、本法案第五条が地方自治体に施策策定の責務を課しており、自治体が保有する大量の個人情報がデータセット化されて民間提供される懸念を示した。個人情報保護の観点から慎重な対応を求めたが、政府からは個人情報保護法に従って対応するとの説明にとどまった。

塩川鉄也委員は、個人情報保護法の命令違反に対する罰則が現行百万円であるのに対し、EUのGDPRでは最大二千万ユーロまたは前年度売上高の四%のいずれか高い方という水準であり、日本の罰則は余りに少額であると指摘した。個人情報保護法がAIの急速な拡大に追いついていないとして規制強化の必要性を訴えたが、政府側からの直接の対応は示されなかった。

塩川鉄也委員は、本人が個人情報の削除を事業者に請求しても事業者が権利侵害のおそれがないと判断して拒否した場合、裁判を起こすしか手段がなく、一般の利用者にとってはハードルが高すぎて実効性がないと批判した。個人情報保護委員会参考人の佐脇紀代志氏は、委員会が苦情を受けて事業者の実態を確認し、正当な理由がないと判断した場合は指導・助言・勧告・命令を行うと説明したが、まず裁判提起が可能であるとの説明にとどまった。

田中良生委員は、汎用的に使われる生成AIについて国産生成AIの研究開発が最も有意義であると明言し、国際競争力強化のための推進を主張した。城内実大臣は、外国産AIを基に開発するものとゼロベースで開発するものの両方があり、産業競争力や経済安全保障の観点から開発形態の選択肢を確保することが重要と述べた。政府参考人の渡邊昇治氏は、国産汎用生成AIは日本語・日本文化に精通したAIとして重要であるが、資金・人材の確保や日本語データの少なさが課題であると説明した。

石井智恵委員は、AIによる地域の人口減少対策への貢献や、長期人口動態予測による政策立案の可能性を示しつつ、地方自治体でのAI活用とリスク対策の両立を求めた。おおたけりえ委員も地方自治体に対してAI活用とリスク対策の両立を求めた。政府参考人の渡邊昇治氏は、地方自治体には地域の特色を生かしたAI活用を期待しており、政府と地方自治体の連携と役割分担を図ると説明した。

河西宏一委員は、AI事業者が報道機関の許諾を得ないまま記事を利用することや、生成AI普及によるゼロクリック検索でページビューが生まれずウェブ広告業が打撃を受ける実態を指摘し、AI事業者による報道機関記事の無許諾利用が独禁法の優越的地位濫用に当たる可能性を示した。政府側からの直接の回答はなく、知的財産権保護の文脈での対応が示されるにとどまった。

城内実大臣は、大学等の優れた教育プログラムを認定する数理・データサイエンス・AI教育プログラム認定制度や、次世代AI分野の若手研究者・博士課程学生を育成する次世代AI人材育成プログラムなどの取組を推進していると説明した。本法案第十四条に基づき、内閣府が司令塔となって関係省庁等と緊密に連携しAI人材の育成・確保をさらに推進するとした。

緒方林太郎委員は、フランスに宗教冒涜権が認められている一方でムスリムには受け入れられず文明の衝突となっていることを示し、AI規制においても価値観の問題が生じ社会分断リスクがあると指摘した。城内実大臣は、宗教冒涜権はAI規制において重要な論点と認め、日本は中庸な国民性から冒涜する権利を広く認めることへの否定的な反応が多いと思われるが、諸外国の動向や国民世論を見ながら関係省庁と連携して判断していくとした。

渡邊昇治政府参考人は、2023年のG7において日本が広島AIプロセスを主導し、その後、広島AIプロセス・フレンズグループを立ち上げて現在55の国・地域が賛同しているなど、国際的なAI規範形成をリードしてきたと説明した。田中良生委員は、日本が広島AIプロセスを主導した役割を高く評価し、今後も国際ルール形成への貢献継続を期待すると述べた。

渡邊昇治政府参考人は、日本が2023年G7で広島AIプロセスを主導し、OECDのAI原則にも影響を与えたとして国際的な規範形成でのリーダーシップを説明した。田中良生委員は、日本が広島AIプロセスを主導したことを高く評価し、今後も国際ルール形成への貢献継続を求めた。

緒方林太郎委員は、EUの忘れられる権利（消去の権利）を引き合いに、AIが全オープンデータを取り込んで再学習が進む中で、個人情報が一度残れば増殖し続けるリスクを示し、日本の既存法（名誉毀損・プライバシー侵害に基づく人格権）で十分対応できているかを問題提起した。法務省の内野宗揮政府参考人は、日本民法には忘れられる権利を明文化した規定はないが、最高裁判例に基づきプライバシー侵害の場合は情報削除を求められるとし、事案に応じて対応していると説明した。

三木圭恵委員は、AIが導き出す結果はなぜその結論になったか分からないブラックボックス化の問題があるとして、人事評価における最終判断は人間が行うべきであり、AIのブラックボックス化への透明性確保が必要と主張した。また、軍事面においても、攻撃の最終判断は人間が行うべきとの考えも示した。

三木圭恵委員と上村英明委員はいずれも、今回の法案が推進法であって基本法でない点を問題視した。三木委員は、推進法ではなく規制の枠組みをきちんと定めた基本法であるべきと主張し、ハードローとしての規制法の必要性を強調した。上村委員は、AIの研究開発・活用の推進を目的とする法ではなく、便益とリスクのバランスの在り方を示す基本法であるべきと主張した。

橋本慧悟委員は、公的部門でのAI活用においてバイアス排除など信頼性維持のための取組が重要と述べ、政府のバイアス対応を問いただした。井幡晃三政府参考人は、政府機関における生成AI利活用拡大に向け、リスク管理と一体的に進めるため来月を目途にガイドラインを新たに策定する方針であり、調達チェックシートの策定などを通じてバイアス等のリスクに対応すると説明した。

河西宏一委員は、ハードローによるAIリスク対応を各所管省庁で具体的にどのように検証したかを確認し、責任分担と迅速な対応体制の構築を求めた。塩川鉄也委員は、国民の77%がAI規制が必要と考えており現在の法律で安全に利用できるとする国民は13%にとどまるとして、既存法では国民の安全を確保できないという認識が国民の多数意見だと主張した。政府参考人の徳増伸二氏は、2023年末から実態調査を実施し、2024年夏のAI制度研究会で既存法令の適用可能性を整理したと説明した。

上村英明委員は、1995年の科学技術基本法制定や2016年のAI戦略会議設置という歴史があったにもかかわらず日本がAI分野で遅れた理由を問い、目標は設定したが政策が追いつかなかったのではないかと指摘した。城内実大臣は、研究開発への資金・人材が迅速に集まらなかったこと、計算資源・IT人材の不足、日本語特有の難しさ・データ量の少なさ、活用面では経営者の投資消極性や国民のAIへの不安などを主な原因として分析した。

橋本慧悟委員は、大規模言語モデルの開発には高品質の日本語ウェブテキストの収集と学習データとしての利活用が必要であると指摘し、具体的な学習データとして想定されるものを質問した。渡邊昇治政府参考人は、官公庁のウェブサイト・法令データベース・国会議事録・ウィキペディアなどを挙げ、個人情報のマスキングや余分な情報の除去等の処理を行って活用していると説明した。城内大臣は、日本語の特性を踏まえた生成AI開発が重要と述べた。

渡邊昇治政府参考人は、オープンデータが枯渇した後のAI競争力を左右するのは現在非公開の未利用データであり、日本企業がこれを戦略的に活用してAIの遅れを取り戻していくことが重要な戦略になり得ると述べた。

馬淵澄夫委員は、メタ社の安全保障担当スタッフが米国の全外交官数の二倍以上の四万人規模であるとして、巨大プラットフォーマーへの対応を省庁単位で行うことの限界を指摘し、責務規定だけでは実効性が担保されないと強く懸念した。城内実大臣は、法律への責務明記により海外事業者にも規律が働くとし、広島AIプロセス・フレンズグループ等の国際的枠組みも活用して実効性を確保すると説明した。

菊池大二郎委員は、生成AIでスタジオジブリ作品に似せた画像がSNSで拡散している問題に切迫した危機感を示し、著作権侵害への対処とコンテンツ産業振興の両立を求めた。城内実大臣は、生成AIによる知的財産権侵害は重要課題であり、AI時代の知的財産権検討会中間取りまとめに基づき法・技術・契約の組み合わせで対応し、基本計画での検討にも反映させるとした。

市村浩一郎委員が著作権の帰属を問い、中原裕彦政府参考人は、生成AIが自律的に生成したものは著作物に該当せず著作権は発生しないが、人間がAIを道具として使用したと認められれば著作物に該当しAI利用者が著作者となると説明した。人が創作意図を持ち創作的寄与と認められる行為を行ったかどうかが判断基準となるとした。

田中良生委員は、生成AIで約148.7兆円の生産性向上が期待でき、GDP約四分の一の経済インパクトがあるとして積極的推進を支持した。橋本慧悟委員も同様の試算を引用し、しっかり議論して進めていきたいと述べた。

塩川鉄也委員は、スクレーピングで収集される情報に要配慮個人情報が含まれる可能性があるとして、事前の本人同意なく要配慮個人情報を取得することは法違反ではないかと個人情報保護委員会に質した。佐脇紀代志政府参考人は、原則として個人情報保護法違反に該当すると認めた。塩川委員は、オープンAIへの注意喚起が行われた実態も示し、個人情報保護委員会が利活用にシフトして保護が棚上げにされていると批判した。

徳増伸二政府参考人は、初等中等教育段階における生成AIの利活用に関するガイドライン策定や、生成AIパイロット校の選定による具体的な活用事例の創出など、教育現場への取組を進めていると説明した。

おおたけりえ委員は、ILOの試算を引用してAI導入により特に事務支援業務の女性労働者が大きな影響を受けるとし、職業訓練への生成AI教育の組み込みと大人向けリスキリングプログラムをAI基本計画に明記するよう求めた。徳増伸二政府参考人は、AI関連人材のニーズが高まっており、リスキリング施策を推進していくことは非常に重要と表明し、デジタルスキル標準の改訂や職業訓練でのAI人材育成を進めているとした。

菊池大二郎委員は、脱炭素電源が地方に偏在する一方で都市部の電力逼迫リスクがあるとして、脱炭素電源立地に近いエリアへのデータセンター誘導と地方創生への活用を提案した。田尻貴裕政府参考人は、安全保障上のレジリエンスや脱炭素の観点からデータセンターの地方分散が必要との認識を示し、脱炭素電源立地エリアの近傍に大規模電力需要家を誘導していくことが重要とした。ワット・ビット連携官民懇談会でデータセンターの効率的整備に向けた議論を加速させるとした。

菊池大二郎委員は、AI生成コンテンツによる著作権侵害への対処とコンテンツ産業振興の両立を求めた。城内実大臣は、AI時代の知的財産権検討会中間取りまとめで法・技術・契約の各手段を組み合わせた取組の必要性が示されており、本法案成立後はAI戦略本部での基本計画検討においてもこれを踏まえた対応をするとした。

河西宏一委員は、AI事業者が報道機関の許諾を得ないまま記事を利用していることへの懸念を示し、著作権法上の整理も踏まえながらバランスある対応を求めた。政府からは著作権法に基づく対応を継続するとの方針が示されたが、具体的な法改正については明確な言及はなかった。

河西宏一委員は、AI活用で捻出した恒久財源をエッセンシャルワーカーの処遇改善に充てる政策コンセプトを提示した。徳増伸二政府参考人は、現時点では行政コストの縮減効果を定量的に算定できていないと認め、ユースケースを積み上げている段階であると説明した。

橋本慧悟委員は世界各国の選挙でのディープフェイク拡散事例を紹介し、選挙でのディープフェイク対策の実効性確保を求めた。石井智恵委員は、AIで作ったポスターや政策で立候補しAIで判断して投票するような状況になれば人間が全く考えない選挙となり民主主義の根本が問われると懸念を表明した。馬淵澄夫委員は、SNS等での偽情報や選挙での民主主義プロセス毀損への強い懸念を表明し、その認識を国会議事録に残すよう求めた。城内実大臣は、ディープフェイクを含む偽・誤情報が国民生活や社会経済活動に重大な影響を及ぼし得る深刻な問題であると認識を示しつつ、選挙については総務大臣の担当との立場を示した。

与党側はイノベーション促進とリスク対応の両立を図る日本独自のアプローチを評価した一方、野党各会派はソフトローの実効性不足・ハードロー規制の欠如・個人情報保護の不十分さ・憲法的価値の目的規定への不記載などを問題点として指摘した。政府は、AI戦略本部の司令塔機能強化と基本計画の策定を通じて関係省庁が一体的に取り組む方針を示したが、具体的な規制の法整備や罰則については引き続き既存法での対応を基本とする立場を維持した。