AI▸LLM活用
AI: エージェントと安全（ツール使用・ハルシネーション・プロンプトインジェクション）
knowledge所要 25分最新草稿
意味グラフ（この教材と内容的に近い教材・1ネスト）
例え（Analogies）
エージェント＝監督の要る有能な助手
自分で道具を取りに行き手順を進める助手。優秀だが、そのまま信じ込むと暴走や勘違いもある。重要な操作は承認制にし、渡す権限と情報を絞るのが安全。
概要
📍 AI ▸ LLM活用 ▸ エージェント・安全 ｜ 種別: knowledge ｜ facts_as_of 2026-06
公式ドキュメント — knowledge
🎞 スライド
クリックで一覧（遷移しない）
出典（sources）
Anthropic/OWASP 一般 ; 2026-06確認
確認問題（Review-Questions）
外部から取り込んだテキストに潜むリスクは？択一
基礎公式
解答・解説▾ 開く
プロンプトインジェクション。
AIエージェント運用の安全策を2つ。記述
応用公式
解答・解説▾ 開く
人間の確認(human-in-the-loop)と権限最小化。加えて取得文書等の入力を信用しない。