AI指令の不正注入と意図しない動作の防止に関する国会での議論をまとめています。カテゴリ: 教育・科学技術
ログインしてコメントする
AIセーフティ・インスティテュートの役割と国際連携
このテーマに関する国会会議を一覧します
AIによる要約
プロンプトインジェクション等の不正注入リスクを認め、シャットダウン等の安全確保措置の必要性を主張
これについては、したがって、結果をちゃんと検証して、ドローンの場合であれば、多分違った方向に行ったのが目に見えますので、その時点でシステムをシャットダウンして、安全回復、安全確保措置を講じるみたいなことが要請されることになります。