AIエージェント・リスクと評価No.127 / 204
Eval(評価)
AI やエージェントの出力の質を、決めたテストや基準で測ること。導入の前だけでなく、継続的なモニタリングも大切。
確認問題
次の説明に当てはまる用語はどれか。
エージェントに必要以上の権限(データの削除・送金・外部への送信など)を与えてしまうこと。誤動作や悪用のときの被害が大きくなる。
AIエージェント・リスクと評価No.127 / 204
AI やエージェントの出力の質を、決めたテストや基準で測ること。導入の前だけでなく、継続的なモニタリングも大切。
次の説明に当てはまる用語はどれか。
エージェントに必要以上の権限(データの削除・送金・外部への送信など)を与えてしまうこと。誤動作や悪用のときの被害が大きくなる。