AI 利用時のよくある懸念事項と対応策
公開日 : 2026.09.03
Share:
この記事で学べること
- AI 利用時のよくある懸念事項を知ることができる
- その懸念を解消するための対策を知ることができる
業務効率化の強力な味方となる AI の導入をご検討中のお客様や既にご利用中のお客様に、ぜひ把握しておいていただきたい「懸念事項」がございます。
AI 利用時のよくある懸念事項
それでは、それぞれの対策を見ていきましょう！
情報漏洩
まずは、情報漏洩です。
Salesforce では、お客様が安全に AI をご利用いただけるように AI Trust Layer を提供しています。
Salesforce は、OpenAI や Azure OpenAI などの外部パートナーモデルプロバイダーとゼロデータ保持ポリシーを締結しており、Salesforce から LLM に送信されたデータは保持されず、応答が Salesforce に返送された後に削除されます。このポリシーは、Salesforce をご利用中の全ての組織に適用されるため、安心してご利用いただけます。
※ ゼロデータ保持ポリシーについては、MSA（マスターサブスクリプション契約）から参照されている NLI（Notices and License Information）文書に、「LLM プロバイダーが契約以外の目的で顧客データを使用しない」と明記されています。NLI 文書には、こちらのページの [Agentforce Operations (f/k/a Agentforce Supply Chain)] セクションから最新情報をご確認いただけます。
また、AI Trust Layerについては、以下リソースもご確認ください。
関連リソース：
なお、AI エージェントを社外に公開する場合（例：ヘルプサイトに AI エージェントを追加する等）は、AI エージェントのユーザーに付与する権限を必要最小限にしましょう
（最小権限の原則を遵守しましょう！）
これにより、ヘルプサイトの訪問者（ゲストユーザー）に対する情報漏洩を防ぐことができます。
詳細は、以下関連リソースをご確認ください。
関連リソース：
💡ポイント！
社内向け AI エージェントは、利用ユーザーの権限が適用されます。
そのため、ユーザーに対するアクセス権が最小権限の原則に則っていない場合は、AI エージェント経由で業務上不要なデータにアクセスができてしまう可能性があるため、注意しましょう。
ハルシネーション
AI からの正しい回答には質問だけでなく文脈が必要
人が質問に回答をする場合でも、文脈は必要ですよね。それは AI も同じで、質問者の属性や利用している商品情報、質問の背景などがあれば、より最適な回答を生成することができるようになります！
AI に渡す情報は、プロンプトに依存します。そのため、生成される回答が意図した内容になるかどうかはプロンプトにかかっていると言っても過言ではありません。
（プロンプトは、まさに AI を利用する際の「根幹」です！）
プロンプトの作成方法は、以下オンラインワークショップにて学ぶことができます。
オンラインワークショップ：
また、各種関連リソースもございます。
関連リソース：
- Salesforce における RAG の仕組み（サクセスナビ）
- プロンプト作成時のベストプラクティス（サクセスナビ）
- エージェントをデータでグラウンディングする（Trailhead）
- Agentforce: RAG による Agentforce のサービス向上（オンラインワークショップ）
AI が何を参照して回答したかわかるようにする
AI の回答が正しいかどうかを判断するには、どの情報を元に AI が回答を生成したのかがわかる必要があります。Salesforce では、回答に引用元を表示する機能をご用意しています。詳細は、引用を使用した AI 応答への信頼の構築（ヘルプ）をご確認ください。
💡ポイント！
参照元のデータに古い情報が含まれている場合には、ソースデータの更新プロセスが確立しているか等のオペレーション周りも確認することを推奨します。
AI エージェントに期待する振る舞いと禁止事項をきちんと設定する
AI に渡す情報はプロンプトに依存しますが、AI エージェントへ渡す情報は（プロンプトに加えて）エージェント自体の設定にも依存します。
以下オンラインワークショップで、AI エージェントの作成方法を学ぶことができます！
オンラインワークショップ：
また、各種関連リソースもございます。
関連リソース：
- AIエージェントが動く仕組みを理解しよう（サクセスナビ）
- AIエージェントを作成して動作を確認しよう（サクセスナビ）
- エージェントスクリプト（ヘルプ）
リリース前には十分にテストをする
システムやアプリをリリースする前には、多くのテストを実施していますよね。それは AIも同じです。Salesforce では、AI の一括テストを実行する機能をご用意しています。ぜひご活用ください。
関連リソース：
- AIエージェントのテスト観点と評価基準を整理しよう（サクセスナビ）
- テスト結果をもとにAIエージェントの対応精度を改善しよう（サクセスナビ）
- Agentforce テストセンター（ヘルプ）
リリースして終わりではなく、モニタリングして最適化プロセスを回す
AI をリリースしたら、「ちゃんと使われているか」「改善できる点はないか」を定期的に確認しましょう！
具体的な内容は、以下関連リソースをご確認ください。
関連リソース：
- ログと現場の声をもとにAIエージェントを育てよう（サクセスナビ）
- AIエージェントのPoCの成果を可視化して次の展開につなげよう（サクセスナビ）
いかがでしたでしょうか。
ここまで、システム管理者様にぜひとも把握しておいていただきたい、AI 利用時のよくある懸念に対する対策を見てきました。AI をご利用いただく際のヒントになれば幸いです。
💡最後に 一番大切なこと：
対策を一度実施して終わりではなく、日々監視をして改善プロセスを回し続けることで最適化をしていくことが重要です
参考セミナー
まとめ
- AI を利用する際には、情報漏洩やハルシネーションといった懸念事項がある
- Salesforce には、それらの対策となる機能がある
- AI はリリースして完了ではなく、リリース後も改善し続けることが重要である
公開日 : 2026.09.03
Share:
この情報は役に立ちましたか？
ご意見お待ちしております。
フィードバックありがとうございます。
より役に立つために
役に立たなかった一番の理由を教えてください。
