生成AI用語ドリル

AIエージェント・リスクと評価No.127 / 204

Eval(評価)

AI やエージェントの出力の質を、決めたテストや基準で測ること。導入の前だけでなく、継続的なモニタリングも大切。

確認問題

次の説明に当てはまる用語はどれか。

エージェントに必要以上の権限(データの削除・送金・外部への送信など)を与えてしまうこと。誤動作や悪用のときの被害が大きくなる。