AIのブラックボックス化とバイアスの問題認識に関する国会での議論をまとめています。カテゴリ: 教育・科学技術
ログインしてコメントする
AIによるプロパガンダと認知戦への対応
このテーマに関する国会会議を一覧します
AIによる要約
AIのブラックボックスとバイアスが差別や不利益をもたらす危険を指摘し法規制を求めた
これが就職試験とか人事評価、人間の評価、選別に活用されれば、差別や不利益をもたらす危険があるということも指摘をされてきました。
ブラックボックス化とバイアスの問題を明確に認識し対応策を示した
ＡＩをめぐる問題の中には、機械学習モデルについて透明性が欠如、すなわちブラックボックスとなっていて内部動作が理解しにくく、重要な意思決定の場面で問題を引き起こす可能性があることや、あるいは偏ったデータを学習に使用することでＡＩが下す判断も偏ってしまうと、すなわちバイアスが掛かってしまう可能性があることなどがあると認識しております。
行政でのAI活用にはブラックボックスやバイアスの問題があり慎重な対処が必要と指摘
ただ一方で、ＡＩの活用においては、この機械学習に用いるデータ等の偏りによるバイアスであったり、あるいは判断過程のブラックボックス化などの問題が指摘をされていまして、同じく中間とりまとめでは、国民の権利利益に重大な影響を及ぼしかねないものについては、ＡＩの出力結果を自動的に採用することのリスクを踏まえて慎重に取り組むべきであるというふうになされていると思います。
