参議院内閣委員会において、「人工知能関連技術の研究開発及び活用の推進に関する法律案」の趣旨説明と質疑が行われた。法案の目的・意義、AI戦略本部の機能、リスク対応と推進のバランス、個人情報保護、教育・人材育成、防衛分野での活用など幅広い論点について与野党各会派から質疑がなされた。
本会議での議論の要点をAIが要約したものです。
AIのバイアス問題について、石川大我議員(立憲民主)が「チェックする人の多様性確保や違うAIで検証するピアレビューが必要」と問題提起した。城内実大臣(賛成寄り)は「バイアスのあるデータを学習させない、出力結果を評価するツールで点検する、AI同士を対話させてチェックさせるなど様々な方法が想定される」と答弁し、「他国で開発された評価ツールでは日本の文化・習慣・歴史等を正確に反映できていない可能性があるため、国産の評価ツールの開発や複数ツールの併用・比較が重要」と主張した。石川議員(賛成寄り)もAI同士のピアレビューや多様性確保の工夫の必要性に同意した。
AIのブラックボックス化とバイアスの問題認識
城内実大臣は、「AIは二十四時間三百六十五日稼働し続けており、人間よりも大量の偽情報を作り出すことも可能」と認識を示した。AIを使ったプロパガンダや認知戦への対応の必要性は明確に認識されたが、具体的な対策については、AI戦略本部の下で関係省庁・有識者と連携して取り組む方針が示された。
AIは二十四時間三百六十五日ずっと稼働し続けておりまして、そういった点から、寝ずに人間よりもまさに大量の偽情報を作り出すことも可能であるというふうに認識しております。
石川大我議員(賛成寄り)は、SNS上のデマや誹謗中傷にAIが活用されている現状を指摘し、「AIを活用した偏向ユーザーの検知・相談体制・リテラシー教育が必要」と主張した。城内実大臣(賛成寄り)は「AIやSNSの利用者が常に偽情報が含まれているとの認識を持つことが重要で、全世代を対象に分かりやすいコンテンツを作成して広報を進める取組が必要」と答弁し、「学校、民間事業者、公的機関が連携してリテラシー教育を進めることが極めて重要」との認識を示した。
AIやSNSの利用者が、AIやSNS上には常に偽情報が含まれていると、そういった認識を持つことが重要だというふうに思います。
AIを活用して、偏った発信をするユーザーを検知し、柔らかく働きかけて、聞く耳を持つようであれば、人間のオペレーターにつないで適切な相談体制につなぐとか加害者プログラムといったところにつないでいくとか、フィルターバブル、エコーチェンバーにはまり込んでしまう前に引き戻していくというような取組が必要なのではないかということも言われておりますが、こうしたことを専門家とか民間の方々と協力して進めていくということ大切だと思いますが、いかがでしょうか。
鬼木誠議員(反対寄り)は、「生成AIを個人として利用しているのが日本では九%、七七%がAIには規制が必要と考えている」現状を挙げ、「責務を課す必要はなく努力規定で十分」と批判した。城内実大臣(賛成寄り)は「AIが間違った情報を出力した場合に知らずに利用すると被害者や加害者になるおそれがある。国民がAIに対する正しい理解と関心を深めることがどうしても不可欠であるため第八条に国民の責務を規定した」と説明した。条文上は「努める」という努力規定であることも説明されたが、見出しに「責務」を用いた点については「果たさなければならない務めを意味する」として答弁が行われた。
現在のAIは間違った情報や意図しない情報を出力することも多々ありまして、それを知らずに活用しますと、被害者になってしまうことや、場合によっては意図せずして加害者になってしまうおそれもございます。
繰り返しになりますけれども、生成AIを個人として使用しているのが日本では九%、そして七七%の方がAIには規制が必要だというふうにお考えになっている。そういう国民の皆さんに対して責務としてこのことを課すわけですから、私は責務とする必要はないし、国民の努力で十分だというふうに思いますけれども、その修正ができないというのなら、やっぱり今お答えになったことに加えて、国民の皆さんがしっかり理解できるような言葉で語りかける必要があるというふうに思いますし、負の側面も含めてしっかり訴えていただく必要があるのではないかということを提起しておきたいというふうに思います。
城内実大臣は、AIに関する事業者の自主的な取組を尊重することが本法案の一つの特徴であると説明した。事業者に対する規制が必要との意見も存在することは承知しつつ、「事業者の自主的な取組を促進しつつ様々な創意工夫を推進することとしており、国も好事例を展開すると同時にリスク対応もしっかり取り組む」との方針を示した。
今回の法案による事業者の自主的な取組を促進しつつ様々な創意工夫を推進することとしておりまして、国といたしましても、本法案に基づく情報収集等により、そうした中での好事例を展開していくと同時に、リスクに対する対応はしっかり取り組んでまいる考えであります。
井上哲士議員(賛成寄り)が採用・人事評価でのAI利用による差別・バイアスの危険性を指摘した際、城内実大臣は「男女雇用機会均等法等の既存法とガイドラインで差別・バイアスに対応する」との基本方針を示し、新たな指針においても「格差・差別を助長するような出力をしないための措置」を盛り込むことを検討していると表明した。竹谷とし子議員(賛成寄り)は「IT・AI分野は女性が活躍できる分野」として女性デジタル人材育成の取組を政策として推進してきたことを述べ、地道な継続を求めた。
井上哲士議員(賛成寄り)はAIのブラックボックス化とバイアスが差別や不利益をもたらす危険を指摘し、特に採用・人事評価での利用において法規制が必要と主張した。城内実大臣(賛成寄り)は「機械学習モデルの透明性欠如によるブラックボックス問題や偏ったデータ学習によるバイアスの問題を明確に認識している」と述べ、責任の所在の不明確化や特定属性への不当な判断リスクを具体的に挙げた。柴田巧議員(賛成寄り)は「行政でのAI活用にはブラックボックスやバイアスの問題があり、説明責任と救済策のルール整備が不可欠」と指摘した。
AIをめぐる問題の中には、機械学習モデルについて透明性が欠如、すなわちブラックボックスとなっていて内部動作が理解しにくく、重要な意思決定の場面で問題を引き起こす可能性があることや、あるいは偏ったデータを学習に使用することでAIが下す判断も偏ってしまうと、すなわちバイアスが掛かってしまう可能性があることなどがあると認識しております。
これが就職試験とか人事評価、人間の評価、選別に活用されれば、差別や不利益をもたらす危険があるということも指摘をされてきました。
ただ一方で、AIの活用においては、この機械学習に用いるデータ等の偏りによるバイアスであったり、あるいは判断過程のブラックボックス化などの問題が指摘をされていまして、同じく中間とりまとめでは、国民の権利利益に重大な影響を及ぼしかねないものについては、AIの出力結果を自動的に採用することのリスクを踏まえて慎重に取り組むべきであるというふうになされていると思います。
山谷えり子議員はチャットGPTの評価例を引き合いに出しながら本法案について質問した。城内実大臣(賛成寄り)は「AIのイノベーション促進とリスク対応の両立を図ることが重要であり、世界で最もAIを開発・活用しやすい国を目指す」と繰り返し主張した。山谷えり子議員(賛成寄り)はチャットGPTが「イノベーション推進とリスク対応の両立を目指す姿勢が評価ポイント」とし、「世界のモデルになり得る」との答弁を引き出した。一方、鬼木誠議員(反対寄り)は「諸外国からの遅れを取り戻すために前のめりになり過ぎており、過剰な規制は邪魔だと言っているように聞こえる」と懸念を示した。
柔軟かつ適切にリスクへの対応を行うとともに、安全、安心なAIの開発を進めることで国民の皆様のAIに対する不安を払拭し、AIの研究開発と活用を強力に進めていくことが重要と考えております。
うがった聞き方になるのかもしれませんけれども、諸外国からの遅れを取り戻して世界一のAI国になるためには過剰な規制は邪魔だと言っているようにやっぱり聞こえちゃうんですね。
イノベーションの推進とリスク管理のバランスを取ったこの法案は世界のモデルになり得るということですが、改めて、本法案の提出の目的、効果、必要性についてお考えをお示しください。
城内実大臣(賛成寄り)は「AIのリテラシー向上は非常に重要であり、学校教育や行政職員向けなど様々な研修を開催することが必要。学校、民間事業者、公的機関などが連携して利用者のリテラシー教育を進めることが極めて重要」と主張した。石川大我議員(賛成寄り)は「大人への啓発が薄い」と指摘し、「リテラシー教育と大人への啓発の充実が必要」と強調した。山谷えり子議員は中学生へのヒアリング結果から、学びへの姿勢が変わってきていることを紹介した。
城内実大臣(賛成寄り)は「日本語を重視した国産AI開発が重要」「国際社会でリーダーシップを発揮できる形でAI政策を推進する」と主張した。竹谷とし子議員(賛成寄り)は「AI研究での国際競争が激化している中、国内外の研究者にとって魅力ある日本にするための取組が必要」と求め、内閣府は、大学での国際プログラム整備や企業の英語化・海外研究者招聘など環境整備が行われており、今後もAI基本計画の策定等を通じて研究者に魅力ある環境整備を進めると答弁した。
柴田巧議員(賛成寄り)は透明性確保のための具体的措置について質問した。城内実大臣(賛成寄り)は「第十三条に基づく指針の中で、AIの使用説明書やリスクに関する情報等の開示を奨励することを検討している」と表明し、さらに「電子透かしの導入や個人情報の学習・入出力を制御する装置の導入といった技術的対応の推進も透明性確保のための施策として想定している」と説明した。
城内実大臣(賛成寄り)は、本法案第十三条に基づく指針について「広島AIプロセスの国際指針に即する形で、国、地方公共団体、研究開発機関、活用事業者、国民を含む全てのAI関係者における適正性確保のための基本的な考え方を指針において示していく」と表明した。法案成立後には有識者の意見を伺い、AI戦略本部での十分な議論の上で、できるだけ速やかに指針を整備する方針が示された。
この国際的な規範には、柴田委員御指摘の、冒頭申しましたG7広島AIプロセス、これに基づく国際行動規範であります高度なAIシステムを開発する組織向けの広島プロセス国際行動規範、これを含んでおります。
城内実大臣(賛成寄り)は「AIに係る人材・資本が集まりやすいこと、ルールが明確であること」などにより事業者の事業予見性が高い環境が必要と主張し、「国が指針を整備して事業者に求める取組内容を明確に示すことで自主的な取組を促す」との方針を示した。具体的施策として、スタートアップへの計算資源提供、AI学習用データ整備、数理・データサイエンス・AI教育プログラム認定制度などが挙げられた。
AIを活用しやすい環境として、例えばAIに係る人材あるいはお金の資本、これが集まりやすいことや、ルールが明確であることなどにより、事業者にとりまして事業の予見性が高いことなどが挙げられると思います。
柴田巧議員(賛成寄り)は、AI事業者ガイドラインを活用したことがある事業者が四割にとどまっていること、「抽象的で社内展開が困難」「分量が多くて挫折した」などの声があることを紹介し、事業者の利便性向上が実効性向上につながると改善を求めた。総務省は「本年三月に一・一版として更新し、具体的事例を追加するなど理解促進のための改善を図った。今後もリビングドキュメントとして柔軟に対応する」と答弁。内閣府は「指針全体の位置付けや他のガイドラインとの関係を分かりやすく示すことが重要」との方向性を示した。
今後これから政府が整備する指針についても、事業者等が利便性、利用者等の利便性を考慮した形で作成することがより実効性を持つことになると、高めることにつながると思っていますが、どのように対応していくのか、これは内閣府にお尋ねをします。
井上哲士議員(反対寄り)は「自己情報コントロール権の明記と法規制強化が必要」と強く主張し、個人情報保護委員会の要配慮個人情報取扱い緩和方針を「大きな方針転換」と批判した。鬼木誠議員(反対寄り)も「被差別部落出身であることも含む要配慮個人情報の本人同意なし取得を可能とする方針転換に強い懸念がある」と表明した。城内実大臣(賛成寄り)はAI戦略本部の下で個人情報取扱いを含む懸念に関係省庁と連携して検討すると表明し、「鬼木委員の御懸念がそうならないようにしっかり検討を進める」との答弁を行った。
城内実大臣(賛成寄り)は「AIは技術進展が速い分野であり、現時点で予測できないリスクが発生する可能性がある。AI基本計画については、技術進展の動向を見ながら状況に応じて臨機応変に見直していくことが重要」と主張し、計画の見直し時期について具体的規定を設けなかった理由を説明した。柴田巧議員が知的財産基本法のように見直し時期を明記しなかった理由を問い、大臣は、AIの急速な技術変化を踏まえた柔軟対応の必要性を理由として説明した。
本法案に基づき策定するAI基本計画については、そうしたAIの技術進展の動向を見ながらその時々の状況に応じて臨機応変に見直していくことが重要だと考えておりまして、今般の法案においては、基本計画の見直しの時期についてはそうした観点から具体的な規定を設けていないということであります。
柴田巧議員(賛成寄り)は「AI戦略本部を支える事務局の体制整備がこの司令塔機能発揮の肝であり、人選を含めしっかり取り組む必要がある」と強調した。城内実大臣(賛成寄り)は「AI政策の司令塔機能を十分に発揮するためには事務局の体制強化が極めて重要と考えており、外部の専門人材の活用なども含めて、しっかりと推進体制の確保を図る」と表明した。内閣府科学技術・イノベーション推進事務局が引き続き事務局を担当することも明らかにされた。
城内実大臣(賛成寄り)はAI戦略本部の設置による司令塔機能強化の重要性を繰り返し主張し、「内閣総理大臣を本部長として全閣僚が構成員となる本部で、適時適切に本部会合を開催する。有識者会議や関係省庁会議も活用しながら機動的な対応を行う」と説明した。柴田巧議員(中立)は「全閣僚で構成する本部が、AIのように進歩スピードが速い政策分野において機動的な政策決定を本当に行えるのか」と疑問を呈した。
城内実大臣(賛成寄り)は「AI戦略本部の設置により関係府省庁が一丸となって総合的かつ計画的なAI政策推進が可能になる」と主張した。内閣府が旗振り役となって関係府省庁が緊密に連携しながら取り組む体制について繰り返し説明がなされた。
既存法令等による対応に加えまして、AI法案に基づく取組を新たに進めることで、AIに関連して現時点では想定することの難しい新たな課題等についても今後迅速かつ適切に対応していくことが可能と考えております。
大島九州男議員(賛成寄り)は、ディープフェイクによる虚偽情報が拡散された場合にAI本部の強力なリーダーシップで迅速に否定し国民に周知すべきと主張した。城内実大臣(賛成寄り)は「個別の既存法(名誉毀損等)で対応できるものはそれで対処しつつ、日本社会に大きな影響を与える重大事案の場合には、内閣府がAI戦略本部の本部長である内閣総理大臣の了解の下で国民に周知することもあり得る」と認めた。
本部長が、いや、国民にこういうデマな情報が拡散されたりするのはよくないと、だから早期にこれを否定しなきゃいけないと。じゃというので、本部長が、それぞれ政府広報とかを使ってとか、各マスコミに一斉に、これはいついつどうどうって流れたこの動画はフェイクですよというのを一斉に周知をすることによってそのデマをなくすようにするようなことを考えていますとか言われると、ああ、そうかと。
実際、また非常に日本社会に大きな影響を与えるような、今委員御指摘のような事案があった場合には、当然、内閣府がしっかり政府の立場で国民に向けて、もちろん戦略本部の本部長である内閣総理大臣の了解の下で周知徹底するなど、これはもういろんなパターンがあるかと思いますが、それは、それぞれ既存法、そしてこの新たな法律が、法案が通った暁には、こういったもの、いろんな仕組みを使いながら個別具体的に対処をしていくということになるかと思います。
柴田巧議員(賛成寄り)は、NTTが要望したAI被害事例の収集・共有を目的としたデジタルプラットフォームの整備について、「被害情報の迅速な共有は被害拡大防止や原因究明に極めて有効」として整備を求めた。内閣府は「発生した被害・インシデント情報を関係者が共有するためのウェブサイト充実が重要であり、様々な読者層が読みやすい形で整備していく」との方向性を示した。
この被害情報の迅速な共有というのは、同様の被害の拡大防止であったりこの原因究明等に極めて有効なものと思いますが、より安心してAIを活用できる環境整備にもそれはつながるものと考えますが、こうした取組をこれからやっていくという考えはおありなのかどうなのか、内閣府にお聞きをします。
城内実大臣(賛成寄り)は「本法案第十三条に基づく指針において、AI開発者に対し違法なディープフェイクなどの不適切な出力の抑制等に努めることを求めることを検討している」と表明した。竹詰仁議員(賛成寄り)はオープンAIが営利企業化の組織再編を撤回したニュースを引き、「営利目的の追求で安全対策が後回しになることはあってはならない」と主張し、城内大臣も「世界中の多くのユーザーを対象とする企業においては社会的貢献も踏まえて事業が行われることを強く期待し、安全対策が後回しとなることはあってはならない」と答弁した。
竹詰仁議員(賛成寄り)の質問に対し、内閣府参考人が経緯を説明した。二〇一六年のG7香川・高松情報通信大臣会合を出発点として、二〇一七年にAI開発原則、二〇一九年にAI利活用原則が策定され、同年に人間中心のAI社会原則がまとめられた。竹詰議員はこれらの経緯を踏まえ「日本は二〇一〇年代からAI開発原則・利活用原則を先進的に策定してきた」と評価した。
私は、日本が、このAIというものが出てきてまだ世界的に余りAIということ、動きが広く出回っていなかった二〇一〇年代の後半に、AIの開発そして利用に関してどのようなことを考えればいいかということで、日本政府はAI開発原則、AI利活用原則というのを作成しておりました。
城内実大臣(賛成寄り)は「これまでは既存の刑法や個別の業法等によりAIに係るリスクに対応してきた。現行法令で対応可能な部分はそれを活用しつつ、AI政策の司令塔機能強化や総合的・計画的推進のために今般の法案で補完的に対応する」と表明した。既存法令とガイドラインを適切に組み合わせることでこれまでのリスクに対応してきたとの説明がなされた。
現在顕在化しているリスクのうち、特に悪質な事案につきましては、現行法令に基づく措置によって対処することが可能と考えております。こうした法令に加えまして、ガイドライン等を適切に組み合わせることで、これまで顕在化するリスクに対応してきたものと承知しております。
井上哲士議員(賛成寄り)は「EUのGDPRは、サービス提供に不必要な個人データ処理への同意を条件としているかどうかを最大限考慮しなければならないと規定している。日本でも、事実上の強制同意を無効にする規定の整備が必要」と求めた。個人情報保護委員会は現在の三年ごと見直しの中で、「代替サービスが困難な場合など自律的な意思選択が実質的に難しい場合の扱い」を論点として継続検討していると答弁した。
こういうことも参考にして、例えば、個人情報に関する本人の同意が事実上の強制になっていないか、自由な判断による選択でなければ同意を無効にするなど、こういうような規定を今後設けていくべきではないかと思いますが、いかがでしょうか。
竹詰仁議員(賛成寄り)の質問に対し、経済産業省は「GENIACの課題として計算資源の確保、データの不足、グローバル競争力の強化、産業との連携がある。計算資源は海外クラウド事業者の協力も得て確保できており、データ不足についてはAI開発事業者とデータ保有企業との連携を進めている。第二期プロジェクトまで進めており、他の政策とも連携して課題解決に取り組む」と答弁した。
このGENIACについての課題というか、あるいは政府としてどのように取り組んでいくのか、改めて経産省に伺いたいと思います。
竹詰仁議員(賛成寄り)の質問に対し、内閣府参考人が経緯を説明した。二〇一六年のG7香川・高松情報通信大臣会合を契機にOECDでAI原則の検討が始まり、二〇一九年五月にOECD理事会勧告が取りまとめられた。日本政府はAI開発原則、AI利活用原則、人間中心のAI社会原則の概念を当該勧告に盛り込むよう提案し、この提案がベースになったと説明された。竹詰議員はこれを積極的に評価した。
この二〇一九年のOECDの理事会勧告は日本の提案がベースとなっているというふうに考えてよいのか、そしてこの概要についても併せて御説明いただきたいと思います。
石川大我議員(賛成寄り)は「フィルターバブル・エコーチェンバー問題が選挙や社会に悪影響をもたらしており、AIを活用した具体的対策が必要」と主張し、「プロファイリングと異なる情報のランダム表示」や「特定期間の信頼性の高い情報の優先表示」などを提案した。城内実大臣(賛成寄り)は「有識者・関係省庁と連携してフィルターバブル等の対策に取り組む意向」を表明した。
竹谷とし子議員(賛成寄り)がインターネット上の誹謗中傷等の人権侵害情報対策について政府の対応を求めた。法務省参考人は「人権擁護機関では、相談を受けた場合に削除依頼の方法を助言するほか、違法性の有無を判断した上でプロバイダー等に対して情報の削除要請を行っている。今後も適切に対処していく」と答弁した。
インターネット上に個人の誹謗中傷等の人権侵害情報が残る問題についての政府の対策を御説明ください。
城内実大臣(賛成寄り)は「EUは包括的な規制を導入し、米国は基本的に事業者の自主的取組を踏まえた上で既存法令を活用している。我が国では、国際整合性を保ちながらイノベーション促進とリスク対応を両立するという諸外国には見られない新しいアプローチを採用する」と表明した。この法案がAI技術の変化に柔軟に対応できるバランスの取れた法制度として「今後、世界のモデルとなり得る」との認識も示した。
こうした中、我が国では、国際整合性を保ちながら、イノベーション促進とリスク対応を両立するという諸外国には見られない新しいアプローチを採用することとしております。
大島九州男議員(賛成寄り)は「サイバー攻撃対処と同様に、AIリスクを事前にシミュレーションして対応できる体制が必要だ」と主張した。内閣府参考人は「予測されるリスクに対して先行的に調査し、こういう使われ方をするかもしれないから気を付けましょうというアピールも可能ではないか」との考えを示した。
それこそ先般やったサイバーじゃないけど、事前にそういう無害化をしていこうと。そういう、起こることを想定して起こらないようにしようとするような、片やそういうことをやっているわけですから、こういう部分でも当然同じような考え方に立てば、今言った想定してこういうような使われ方をしたときにはどうするとかいうのは、もう事前に常にシミュレーションしていって、ぱっと対応できるようにしていくというのが必要だと思うんですよ。
竹詰仁議員(賛成寄り)がデータセンターの整備状況と政府の戦略的推進方針について質問した。経済産業省参考人は「データセンターは産業競争力強化のみならず経済安全保障の観点からも重要」と述べ、地方へのデータセンター整備支援、改正情報処理促進法等に基づく債務保証による資金調達円滑化、電力と通信の連携であるワット・ビット連携の重要性から官民懇談会を設置して具体的方策を検討していることを説明した。竹詰議員は「スピード感を持って戦略的に進めることが必要」と主張した。
データセンターの場合は、十年後にあればいいですじゃないじゃないですか。多分、もう十年後では多分古くなっていて、もうあしたにでも欲しいという感じなんですよね。
大島九州男議員(賛成寄り)は「AIを利用したディープフェイク技術による偽情報の拡散が民主主義の根幹を揺るがす重大な課題となっている」と認識を示し、具体的な対処策を求めた。柴田巧議員(賛成寄り)も「ディープフェイクによる偽情報の拡散など、人間中心原則に反する問題として認識する」と述べ、人間中心の原則に基づいた具体的対処の必要性を指摘した。
近年、AIを利用したディープフェイク技術による偽情報の拡散が国際的に問題となっており、民主主義の根幹を揺るがす重大な課題になっているというふうに認識をしています。
この原則においては、人間中心の原則として、AIは、人々の能力を拡張し、多様な人々の多様な幸せの追求を可能にするために開発され、社会に展開され、活用されるべきだというふうに書かれているわけですけれども、この会議の決定から六年が経過したわけですが、昨今のAIの利用の状況を見ますと、ディープフェイクによる偽情報の拡散であったり、ポルノ画像等の生成であったり、あるいはまたこのAIを利用したコンピューターウイルスの作成などなど、AIの開発、社会への展開、利用が必ずしもあの原則に掲げられたとおりに進んでいるとは言えない面も正直あると思っております。
竹谷とし子議員(賛成寄り)の質問に対し、総務省は「SNS等のネット上の偽・誤情報や誹謗中傷は深刻な課題と認識しており、制度的対応、リテラシー向上、対策技術の研究開発等の総合的な対策を進めている。情報流通プラットフォーム対処法の運用、意識啓発プロジェクト『デジタルポジティブアクション』、AI生成物の判別技術や発信者の真正性確保技術の開発・実証を行っている」と説明した。
ネット上の偽・誤情報、誹謗中傷の問題について、今後AIが進展することによって更に問題が大きくなる可能性、そしてその対策について内閣府から御説明いただきたいと思います。
柴田巧議員(賛成寄り)はG7広島AIプロセスに沿ったリスク軽減研究の推進と研究開発機関への取組要求を求めた。城内実大臣(賛成寄り)は「G7広島AIプロセス国際行動規範に含まれるリスク軽減研究の重要性を含め、当該国際行動規範に示されている考え方を本法案に基づき整備する指針に適切に反映させる。研究開発機関・事業者に対しては指針を踏まえた自主的な対応を求めるとともに、AISIが公開している各種ガイドの周知を徹底することでリスク対応に向けた取組を求める」との方針を示した。
柴田巧議員(賛成寄り)は「人間中心のAI社会原則に基づく不安払拭のための透明性確保等の具体的措置が大事」と主張した。城内実大臣(賛成寄り)は「人間中心のAI社会原則の考え方は我が国及び世界のAI政策において一定の役割を果たしてきており、今後もその重要性は揺るがない。法案成立後のAI基本計画や指針にも人間中心の考え方をしっかり記載していく」と表明した。
城内実大臣(賛成寄り)は「人間中心のAI」の考え方について、「AIは人間の能力を拡張するものであり、最終的な判断は人間が行うことが重要」と表明した。政府参考人も「人間がAI依存症に安易に陥らないように工夫されており、政府としてもこうした取組を推奨したい」と説明した。
AIが行うのは人間の判断のサポートであって、その活用に当たっては人間の関与を確保する必要があると記載されているとおり、AI活用推進に当たっては人間中心の考え方の下で進めることが不可欠であると認識しています。
井上哲士議員(反対寄り)は「要配慮個人情報の取扱い緩和に反対し、慎重な対応を求める」と主張し、被差別部落の所在地情報などが統計データとして使われた場合の個人特定リスクを具体的に指摘した。鬼木誠議員(反対寄り)も「本人同意なく要配慮個人情報を取得可能とする方針転換に強い懸念がある。個人の権利利益が侵害されるような事態になってはならない」と強く批判した。個人情報保護委員会は、三年ごと見直しの一環として、統計情報等の作成のみを目的とした場合に限った取扱いの選択肢を検討中であり、担保措置や課徴金制度も並行して議論していると説明した。
要配慮個人情報には、昨年の内閣委員会でも質問させていただきましたけれども、被差別部落出身であるというようなことまで含まれている。本人の同意なく公開された場合には、個人情報保護違反となる。ただ、インターネット上やSNS上にはもうあふれ返っているんですね、このような情報が。その情報を統計データ情報の一部として、データとして取り扱うということに対して、やっぱり私は懸念もあるし、危惧もあるし、問題であるというふうに思っているんです。
検討中の制度的課題に関する考え方案においても、要配慮個人情報の取得、利用については慎重であるべきと思っていますが、この保護委員会の考え方案の検討状況、それからAIによる要配慮個人情報の取得、利用に対する考え方について、まずお尋ねをしたいと思います。
城内実大臣(賛成寄り)は「本法案第十三条に基づく指針において、AI開発者に対し違法なディープフェイクの不適切な出力の抑制等に努めることを求めることを検討している」と表明した。山谷えり子議員(賛成寄り)はディスインフォメーションやディープフェイクなど悪用リスクへの警戒を示した。
山谷えり子議員(反対寄り)は「昨年十二月の文科省ガイドラインが楽観的過ぎる」と批判し、脳科学・発達心理学の観点から「発達年齢・段階を踏まえ脳科学者、心理学者、教育者、保護者なども加えながら慎重に検討してほしい」と求めた。文科省参考人は「中央教育審議会でデジタル化の負の側面も踏まえた情報活用能力の抜本的向上を図る方策について具体的な検討を行っている」と答弁した。
昨年十二月、文科省は、生成AI利活用ガイドライン、初等中等教育段階におけるガイドラインで、AIは使い方によって人間の能力を補助、拡張し、可能性を広げると捉えるべきと記しておりますけれども、楽観的過ぎないかなというふうに思います。
竹詰仁議員(中立)はオープンAIが営利企業化の組織再編を撤回したニュースを取り上げ、「営利目的の追求で安全対策が後回しになるリスクが生じ得るか」と政府の見解を求めた。城内実大臣(賛成寄り)は「世界中の多くのユーザーを対象とする企業においては社会的貢献も踏まえて事業が行われることを強く期待し、安全対策が後回しとなることはあってはならない」と表明した。政府参考人は「民間企業だから駄目ということはない。多くの利用者が使う中で問題は発覚しやすく、事業者側もリスクを感じているため、一定の自浄作用がある」との見解を示した。
柴田巧議員(賛成寄り)は第十六条の調査研究規定について、「個別法令で対応できない場合の適用が中心となるのか」と質問した。内閣府参考人は「まず既存の法令で対応すべきであり、誰がどの法律で対応すればよいか分からない場合や、既存法令では対応できないが不正な目的・不適切な活用で国民の権利利益に侵害がある場合には、第十六条に基づき調査研究を実施する」と確認した。
この第十六条と個別法令の関係性について、これは内閣府に確認をしたいと思います。
城内実大臣(賛成寄り)は「国民の不安を払拭しながらAI活用を進めることが重要」と繰り返し述べた。鬼木誠議員(反対寄り)は「国民の七七%がAI規制を必要と考えているのに、政府が推進一辺倒の姿勢であることに懸念がある。過剰な規制は邪魔だと聞こえる」と批判した。
多くの国民がAIに対して不安を感じているとともに、我が国のAIの研究開発と活用は他の主要国と比べて低迷している状況であります。このような状況を克服していくためには、柔軟かつ適切にリスクへの対応を行うとともに、安全、安心なAIの開発を進めることで国民の皆様のAIに対する不安を払拭し、AIの研究開発と活用を強力に進めていくことが重要と考えております。
生成AIを個人として使用しているのが日本では九%、そして七七%の方がAIには規制が必要だというふうにお考えになっている。そういう国民の皆さんに対して責務としてこのことを課すわけですから、私は責務とする必要はないし、国民の努力で十分だというふうに思いますけれども、その修正ができないというのなら、やっぱり今お答えになったことに加えて、国民の皆さんがしっかり理解できるような言葉で語りかける必要があるというふうに思いますし、負の側面も含めてしっかり訴えていただく必要があるのではないかということを提起しておきたいというふうに思います。
城内実大臣(賛成寄り)は「日本語を重視し、日本の文化や商習慣等を正確に回答できる、日本人の心・情緒を持った国産AIをしっかりと開発することが重要」と明言した。他国で開発された評価ツールが日本の文化・習慣・歴史を正確に反映できていない可能性についても言及し、国産評価ツールの開発の重要性を指摘した。
日本語を重視して、日本の文化や商習慣等を正確に回答できる、日本人の心、日本人の情緒を持った国産AIをしっかりと開発していくことが私自身は重要だというふうに認識しております。
城内実大臣(賛成寄り)は「地方公共団体に対して一律にAIの活用を求めるのではなく、地方公共団体の自主性や創意工夫に配慮して必要な取組を推進していく」と明言した。竹谷とし子議員(賛成寄り)は「地方公共団体がAIを活用するためには人材確保の支援が必要」と求め、総務省参考人は都道府県と市町村が連携したDX推進体制構築や専門人材育成への財政支援を説明した。鬼木誠議員(反対寄り)は「自治体を追い立てるようなことになってはならない。地方分権の観点から責務とした点に疑問がある」と批判した。
政府としては、地方公共団体に対して一律にAIの活用を求めるのではなくて、地方公共団体の自主性や創意工夫に配慮して必要な取組を推進していきたいと考えておりますので、委員御指摘のとおり、何かこうしなきゃいけないということを地方公共団体に一律に求めるものではないということをここで明言させていただきたいと思います。
こういう自治体に対して責務というふうに言ってしまうと、全部やっちゃったというふうになってしまうんで、地方分権の観点から、そこはいかがかというふうに思うところもございます。
このAIの利便性というものも活用をしていくためにはやはり人材がいなければ何もできないわけでございますので、この人材の対応について地方公共団体をしっかりと支援していっていただきたいというふうに思います。
竹谷とし子議員(賛成寄り)が「そろばんが一般知能向上に効果があるとして、早期学習の可能性について」質問した。文科省参考人は「現行の学習指導要領では小学校三、四年生においてそろばんを学習することとしているが、各学校の判断で二年生からそろばんを用いた指導を行うことは可能であり、学習指導要領においても低学年でそろばんなどの教具を適宜用いることが効果的と示している」と答弁した。実質的な議論はAIとの関連は薄く、教育施策の確認にとどまった。
このそろばんというのが一般知能が高まるらしいというふうに言われているところでございます。学校教育における珠算を学ぶ意義をどのように認識されているか、また、早い段階から学習できる可能性について今学習指導要領ではどのようになっているか、文科省に伺いたいと思います。
竹詰仁議員(賛成寄り)の質問に対し、内閣府参考人は「二〇二二年末にチャットGPTが一般向けに公開されたことを踏まえ、二〇二三年五月に日本がG7議長国として広島AIプロセスを創設し、安心・安全で信頼できるAIを実現するための国際的ルールの検討を主導してきた」と説明した。竹詰議員はこれを積極的に評価した。
そういう意味で、今までの原則に加えて、新しいそのルールが加わっているというふうに理解しております。
石川大我議員(賛成寄り)は「性的ディープフェイクについて、顔は実在の児童で体はAI生成のケースが現行児童ポルノ禁止法で規制できるか不明確であり、法改正が必要」と主張し、「与野党を超えた取組を呼びかけたい」と述べた。法務省参考人は個別事案ごとに証拠に基づき判断されるとして一般論に留まった。警察庁参考人は啓発活動の推進を表明した。
こういった法改正がやっぱり必要なのではないかなというふうに思います。事態が深刻なのは、韓国、アメリカ、日本というのが上位三番目だそうでして、こういったところ、法改正で対応していくというようなお考えは政府にはあるんでしょうか。
柴田巧議員(賛成寄り)は事業者名の公表について「抑止力になるが適切な運用と透明性確保が課題」と指摘し、公表に至る決定プロセスの透明性確保などを求めた。内閣府参考人は「個別の事業者名を公表するよりは、似た事象について調査して公表することが重要な場合もある。公表ルールはAI戦略本部設置後に有識者等を経て公平で透明なルールを決めていく」と答弁した。
この事業者名等の公表については、国がそれを行うとアナウンスすることで、悪質なAIの開発、利用に対する効果的な抑止力になると考えられるとは思います。しかし一方で、実際に公表された事業者は経営面などで不利益を受ける可能性もあって、この公表に当たってはその適切な運用が求められるということになると思います。
井上哲士議員(反対寄り)は「採用・人事評価でのAI利用が差別・不利益をもたらす危険があり、第三者機関による安全審査義務付けを含む法規制が必要」と強く主張した。城内実大臣(中立)は「厚生労働省のガイドライン等で一定の考え方が示されており、既存法とガイドラインの組み合わせでリスクに対応することを基本としつつ、新たな指針において格差・差別助長防止措置を盛り込むことを検討する」と答弁し、第三者審査義務付けには否定的な見解を示した。
山谷えり子議員(中立)は「教育でのAI導入は発達年齢・脳科学等を踏まえ慎重に検討すべき」と主張した。鬼木誠議員(賛成寄り)は「AIリテラシー教育について初等教育から個人情報保護等の問題も含め、しっかり検討すべき」と主張し、文科省参考人に学習指導要領改訂の方向性を確認した。文科省参考人は中央教育審議会での検討状況を説明した。
端的にお聞きをしますけれども、文科省にお尋ねをしたいと思います。この推進法が成立をしたら、学習指導要領を改訂することになるのか。いわゆるAIリテラシー教育について、初等教育のところから行うというような意思をお持ちなのか。そして、その際は個人情報保護の在り方や著作権侵害、あるいはディープフェイク等々の種々の問題についてもしっかり要領の中に書き込むというようなことで検討が進んでいるのかどうか、そのことを教えていただきたいと思います。
デジタル学習やAIの取扱いについては、発達年齢、段階を踏まえて、脳科学者、心理学者、教育者、保護者など加えながら慎重によく検討してほしいと思いますが、どのように考えを整理していかれるのでしょうか。
城内実大臣(賛成寄り)が具体的施策として言及した数理・データサイエンス・AI教育プログラム認定制度について、文部科学省参考人が「令和元年のAI戦略二〇一九に基づき、全ての大学・高専生がデータサイエンスやAI活用に関するリテラシーを高めるための制度。昨年八月時点で四百九十三校の教育プログラムが認定され、一学年当たり約五十万人がAIリテラシーを学んでいる」と説明した。
また教育の振興については、初等中等教育段階における生成AIの利活用に関するガイドラインの策定、さらには人材育成、確保の分野につきましては、大学等の優れた教育プログラムを政府が認定いたします数理・データサイエンス・AI教育プログラム認定制度実施といった各種個別具体的な施策を関係省庁と緊密に連携してしっかりと進めてまいります。
竹詰仁議員(賛成寄り)は日本とEUの人間中心のAI原則が共通のコンセプトかを確認した。城内実大臣(賛成寄り)は「OECDのAI原則や広島AIプロセスの国際行動規範は我が国とEUが共に策定に関わっており、人間中心の考え方は我が国とEU双方において共有されているものと認識している」と明確に表明した。
竹谷とし子議員(賛成寄り)は「生成AIを利用している個人が日本では九%(米国四六%、中国五六%)と著しく低い現状を問題視し、推進施策の強化を求めた」。内閣府参考人は「資金や人材が迅速に集まらなかったこと、日本語データが少なく学習が難しいことが要因」と分析した。
生成AIを利用している個人では、中国五六%、米国四六%、日本は九%。また、生成AIを業務で利用している企業が、米国八五%、中国八四%、日本は四七%というふうに示されております。
竹詰仁議員(賛成寄り)の質問に対し、内閣府参考人は「アメリカのビッグテックと比較して、資金・人材が集まるスピード感の差、データセンター等のコンピューターインフラ確保の難しさ、日本語が少数言語であることによる学習コンテンツの少なさ、などが主因」と分析した。
ここで、そのAIの、生成AIの開発においてアメリカの巨大IT企業というのが出てきているんですけど、そこと我が国における開発とでどこに大きな開発の差が生じてしまったとお考えになっているのか、内閣府から御説明いただきたいと思います。
山谷えり子議員(賛成寄り)が日本語コーパスの現状と今後の取組について質問した。文化庁参考人は「令和六年度から五年計画で現代日本語書き言葉均衡コーパスに直近二十年分の約一億語分のデータを追加する事業を実施しており、大規模言語モデルのファインチューニング等での活用を想定している。また、方言の保存・継承にも取り組み、今後は大規模言語モデルでの活用も想定した全国方言のデータベース作成にも着手する」と説明した。
日本語のデジタル基盤整備事業はどうなっているのか、また今後どんなふうに取り組んでいくのか、方向性をお示しください。
井上哲士議員(反対寄り)は「同意しない限りサービスを利用できない仕組みや、利用した時点で同意したとみなす運用など、事実上の本人同意強制が広範に行われており、自由な判断が保障されていない」と批判した。個人情報保護委員会参考人は「代替が困難なサービスにおける自律的な意思選択が実質的に難しい場合の扱い」を論点として三年ごと見直しの中で継続検討中と答弁した。
形式的にはこの本人同意拒否の選択ができるという形を取っていても、同意をしない限りサービスを利用させない、また、一部のサービスを利用できないという仕組みにして、事実上本人同意を強制するという運用がかなり広範囲に行われている実態があります。これでは本人の自由な判断による同意というのは保障されないと思うんですね。
城内実大臣(賛成寄り)は「民間企業の取組を支援しつつ安全・安心なAI開発を推進する」との基本方針を繰り返し表明した。具体的な支援策として、スタートアップ等への計算資源提供、AI学習用データの整備・提供、東南アジア展開のための補助金活用によるマッチング支援などが説明された。
今後、こうした施策につきまして、法案に基づき設置されるAI戦略本部の下で関係府省庁が一丸となって取り組んでいくことで我が国におけるAIの研究開発と活用を、リスクにも同時にしっかり対応しつつ、後押ししていくことができると考えております。
竹詰仁議員(賛成寄り)の質問に対し、内閣府参考人は「生成AIは非常に高性能で、偽情報が本物か見分けがつかないほど巧妙になったことで、従来の原則に加えてより細かなガイドラインが必要になった。AIから生成AIへの移行でルール形成のモードが変わった」と説明した。竹詰議員はこれを評価した。
この広島AIプロセスということを実行するに至ったというか、それに移行しなきゃいけなくなったといったこの背景と概要について改めて教えていただきたいと思います。
井上哲士議員(賛成寄り)は「米国ではイリノイ州、ニューヨーク州、カリフォルニア州など各州で採用・人事評価分野でのAI利用に対しバイアス監査、事前通知、応募者の同意などを義務付ける法規制が始まっており、日本も同様にAI利用の規制に踏み出すべき」と主張した。政府側は既存法とガイドラインの組み合わせによる対応を基本とするとの立場を維持した。
こういういろんな世界の流れも見たときに、人間の評価、選別にAIを利用する場合は、第三者機関や外部機関による安全性審査、アルゴリズムの透明性の確保、プロファイリング対象者の同意など、やはり法規制をして事業者に義務付けていくというのが大きな世界の動きになってきていると思います。やはりこれに日本も踏み出すべきだと考えますが、いかがでしょうか。
井上哲士議員(反対寄り)は「自己情報コントロール権は大阪高裁判決でも認められており、個人情報保護法の目的規定への明記が必要。現行の『個人の権利利益』では不明確」と批判し、日弁連も同様の指摘をしていることを紹介した。城内実大臣(反対寄り)は「自己情報コントロール権については最高裁判決が認めたものではなく、内容・範囲・法的性格に様々な見解があり明確な概念として確立していない。本法案はかかる概念を前提としていない」と表明した。個人情報保護委員会参考人も「四つのリスクへの対処は個人情報保護法の既存規定を通じて対応する」との立場を示した。
柴田巧議員(賛成寄り)は「補助金交付や保育所選考等の行政判断にAIが使われる中で、説明責任・救済策等のルール整備が不可欠」と主張した。内閣府参考人は「デジタル庁が作成するガイドラインの中で、出力結果に基づく判断も説明責任の対象に含まれること、バイアスへの留意、問合せ窓口の設置などを盛り込んでいる。重大なAI判断が行われた場合の救済策についても検討が必要」と答弁した。
AIを利用した行政の判断に疑義があった場合や誤った判断がなされた場合のこの救済策などのルールの整備についても検討が行う必要があるのではないかと思っています。
城内実大臣(賛成寄り)は「AIの導入は単に効率化を目的とするのではなく、業務の高度化を進める観点が重要であり、単純な定員削減やコストカットに直結するものではない」と明言した。竹谷とし子議員(賛成寄り)は「余計な業務はAIに任せ、人間が本当に必要な業務に割けるよう効率化を進めることが大事」と主張した。鬼木誠議員(中立)はAI導入による効率化は認めつつも「定員削減に直結することへの懸念」を示したが、大臣の「直結するものではない」との答弁を受け確認した。
AIの導入に関しましては、単に効率化を目的とするのではなく、AIによる業務の高度化をしっかりと進めていくという観点が重要であることから、私自身も鬼木委員と同じく、単純にその定員削減やコストカット等に直結するものではないというふうに認識を同じくするものであります。
政府が国民サービスの向上に取り組めるように、余計な業務はAIにやってもらって、大事な人間の判断業務であるとか人と接することが必要な業務とか、本当に必要なところに人を割けるようにするという業務の効率を行うということも大事だと思いますし、やはり一番大事なのが、このリスクの軽減であるとか、また安全に安心して使えるようにするとか、そうしたことをしっかり示していくということも大変重要なことであるというふうに思っております。
AI導入によって効率化ができる、効率化できたから人減らしていいよねというような考えに直結すると怖いなというふうに思っています。この定員削減との関係について、考えがあるかどうかということについてお答えいただければと思います。
柴田巧議員(賛成寄り)は「補助金交付や保育所選考でAI活用が進む中で説明責任と救済策のルール整備が必要」と主張した。内閣府参考人は、デジタル庁のガイドラインに説明責任やバイアスへの留意が盛り込まれていることを説明し、「重大な行政判断をAIが行う場合には救済措置についても検討が必要」との認識を示した。竹谷とし子議員も読売新聞の保育所選考事例(事務処理時間が一〇〇時間以上から一時間に短縮)を紹介しながら、安全性担保の重要性を強調した。
補助金の交付であったり保育所の選考に係る事務など、地方公共団体を含め、行政ではもう既にAIの活用が進んでいるわけです。ただ、先ほども触れましたように、AIのこの判断過程というのは非常にブラックボックスというか不透明なわけですね。どのようなデータを用いたのかとか、あるいは出力結果が公平性を欠いていないかなど、このAIを利用した際には特に説明責任を果たすことがこれ必須になってくると思っています。
本田太郎副大臣(賛成寄り)は「防衛省AI活用推進基本方針においても、AIが行うのは人間の判断のサポートであって、その活用に当たっては人間の関与を確保する必要があると記載されており、人間中心の考え方の下で進めることが不可欠」と表明した。石川大我議員(反対寄り)は「防衛分野でのAI活用が前のめりになりすぎており、平和国家としての限界を明確にすべき。AIが独自に判断して相手を攻撃するような自律型装備が許されるのか明確な線引きがない」と批判した。
井上哲士議員(賛成寄り)は「EUではハイリスクAIに雇用・人事選考が位置付けられ第三者機関による適合性審査が義務付けられている。日本でも第三者機関による外部チェックが必要」と強く主張した。城内実大臣(反対寄り)は「各国の歴史や文化の背景が異なる。我が国では既存法とガイドライン等を組み合わせてリスクに対応することを基本とする」と述べ、第三者審査の義務付けには否定的な見解を示した。
政府はAIのイノベーション促進とリスク対応の両立を図る法案として提出し、AI戦略本部設置による司令塔機能強化と指針整備を通じた自主的な取組促進を基本方針として一貫して主張した。一方、野党からは、規制のない推進法への懸念、要配慮個人情報の取扱い緩和方針への反対、採用・人事評価でのAI利用に対する第三者審査義務付けの必要性、国民の責務規定への批判など、リスク対応の具体性と実効性に関する問題提起が多数なされた。会議全体として重要事項の結論・決定には至らず、引き続き審議が行われることとなった。
この要約はAI(自然言語処理モデル)を用いて生成しています。 要約の精度向上に努めていますが、解釈の違いや誤りが含まれる可能性があります。
必ず元の議事録本文もご確認ください。
政府はAIのイノベーション促進とリスク対応の両立を図る法案として提出し、AI戦略本部設置による司令塔機能強化と指針整備を通じた自主的な取組促進を基本方針として一貫して主張した。一方、野党からは、規制のない推進法への懸念、要配慮個人情報の取扱い緩和方針への反対、採用・人事評価でのAI利用に対する第三者審査義務付けの必要性、国民の責務規定への批判など、リスク対応の具体性と実効性に関する問題提起が多数なされた。会議全体として重要事項の結論・決定には至らず、引き続き審議が行われることとなった。
○国務大臣(城内実君) ただいま議題となりました人工知能関連技術の研究開発及び活用の推進に関する法律案につきまして、提案理由及びその内容の概要を御説明いたします。 人工知能関連技術は、その適正かつ効果的な活用によって行政事務及び民間の事業活動の著しい効率化及び高度化、並びに新産業の創出をもたらすものとして経済社会の発展の基盤となる技術であるとともに、安全保障の観点からも重要な技術であります。近...
○委員長(和田政宗君) 以上で趣旨説明の聴取は終わりました。 これより質疑に入ります。 質疑のある方は順次御発言願います。
| モデル | Claude (Anthropic) |
|---|---|
| 要約方式 | 抽出+要約 |
| 対象範囲 | 議事録 全文 (約91,789文字) |
AIによる自動生成のため、一部情報が省略されている場合があります。
