AIエージェント・リスクと評価No.124 / 204
プロンプトインジェクション
Web ページや文書の中に、AI への不正な指示を紛れ込ませ、AI に意図しない動き(情報の持ち出しなど)をさせる攻撃。
確認問題
次の説明に当てはまる用語はどれか。
AI やエージェントの出力の質を、決めたテストや基準で測ること。導入の前だけでなく、継続的なモニタリングも大切。
AIエージェント・リスクと評価No.124 / 204
Web ページや文書の中に、AI への不正な指示を紛れ込ませ、AI に意図しない動き(情報の持ち出しなど)をさせる攻撃。
次の説明に当てはまる用語はどれか。
AI やエージェントの出力の質を、決めたテストや基準で測ること。導入の前だけでなく、継続的なモニタリングも大切。