生成AI用語ドリル

AIエージェント・リスクと評価No.124 / 204

プロンプトインジェクション

Web ページや文書の中に、AI への不正な指示を紛れ込ませ、AI に意図しない動き(情報の持ち出しなど)をさせる攻撃。

確認問題

次の説明に当てはまる用語はどれか。

AI やエージェントの出力の質を、決めたテストや基準で測ること。導入の前だけでなく、継続的なモニタリングも大切。