この記事の内容：
- カスタマーサービスにおけるAIの主なデメリットとは？
- なぜAIは顧客が本当に意味していることを誤解するのか？
- AIが誤った回答をしたとき、何が起こるのか？
- AIは怒っている顧客や複雑な顧客に対応できるのか？
- 人間のエージェントへの引き継ぎはなぜうまくいかないのか？
- 顧客は個人データをAIに預けることを信頼しているのか？
- LiveAgentはこれらの限界にどう役立つのか？
- どこから始めるべきか？
以下の各限界には、その根拠と、ローンチ前に適用できる解決策が添えられています。
カスタマーサービスにおけるAIの主なデメリットとは？
カスタマーサービスにおけるAIには5つの主な限界があります。曖昧なリクエストを誤解すること、自信を持って誤った回答をすること、複雑な顧客や怒っている顧客への対応に苦労すること、人から遠ざけて閉じ込める可能性があること、データに関する懸念を生むことです。Qualtrics は、カスタマーサービスにAIを使った消費者のほぼ5人に1人が何のメリットも感じなかったことを明らかにしました。
Qualtricsの2026年消費者体験トレンドレポートは、2025年第3四半期に14か国、2万人以上の消費者を調査したもので、その失敗率はAI全般の利用における失敗率のほぼ4倍であるとしました。実際のところ、チャットボットのデメリットとAIエージェントのデメリットは大きく重なるため、以下の限界は両方を網羅しています。AIサービスデスク に関する当社のガイドでは、AIチャットボットに過度に依存することのより広範なリスクを扱っています。
| 限界 | 何がうまくいかないか | 解決策 |
|---|---|---|
| リクエストの誤解 | AIが顧客が尋ねていない質問に答える | 確認の質問を1つして、それから引き継ぐ |
| 誤った回答 | AIが事実ではないポリシーや価格を述べる | 回答を承認済みコンテンツに限定する |
| 複雑な顧客や怒っている顧客 | 人が必要なのにAIが試行を続ける | 紛争や苦情は人にルーティングする |
| 人へのアクセスの遮断 | 顧客が出口のないままボットをループする | 最初の返信から人の選択肢を表示する |
| データへの懸念 | 顧客がAIに何が見えるかを知らない | AIが使うデータを明示し、機密フィールドを除外する |
なぜAIは顧客が本当に意味していることを誤解するのか？
顧客は「注文が間違っている」のような短く曖昧なメッセージを送ることが多く、AIはどの問題を意味しているのか推測しなければなりません。推測を誤ると、誰も尋ねていない質問に対して自信に満ちた返信を生み出します。解決策は、AIに確認の質問を1つさせ、それでも不明な場合は引き継ぐことです。
「注文が間違っている」は、品物が違う、住所が違う、請求が違うのいずれかを意味する可能性があり、それぞれ次のステップが異なります。人間のエージェントはどれなのかを尋ねます。その質問を省略するAIエージェントは、最も可能性の高い意味を選んで答えてしまいます。
Gartnerのアナリスト、Eric Keller氏は、Gartnerの2026年8月のプレスリリース でこの設計原則を説明しました。GenAI（生成AI）は、情報を収集し、意図を理解し、確信度が高い場合にのみ問題の解決を試み、人的サポートへの明確な経路を備えているときによりよく機能します。これを適用するには、整った例文の質問ではなく、過去のチケットにある実際の言い回しでAIをテストしてください。顧客が3語とスクリーンショットを書いたチケットこそが、AIを壊すものです。
AIが誤った回答をしたとき、何が起こるのか？
回答の責任は企業にあります。2024年2月、ブリティッシュコロンビア州の審判所は、ウェブサイトのチャットボットが顧客に遺族運賃について誤った情報を与えた後、Air Canadaに責任があると判断しました。
ある法律事務所による判決の要約 （Moffatt v. Air Canada, 2024 BCCRT 149）によると、チャットボットは顧客に対し、旅行後に遺族運賃を申請できると伝えましたが、これは航空会社自身のウェブページと矛盾していました。審判所は、チャットボットが別個の存在であるという主張を退け、それは「依然としてAir Canadaのウェブサイトの一部にすぎない」と述べました。
ツールが対応していれば、3つの管理策がリスクを減らします。
- AIを承認済みコンテンツに限定し、ヘルプセンター以外からは答えないようにする。
- コンテンツに答えがない場合は、知らないと伝えて引き継ぐように指示する。
- 返金条件、価格、ポリシーの例外は人に任せるか、承認済みの正確な文言を引用する。
そのうえで、毎週AIの会話をサンプルとして読んでください。誤った回答は、顧客が返信を信じて苦情を言わなかった会話に隠れています。AIチャットボットの問題 に関する当社のガイドでは、注意すべき警告サインを挙げています。
AIは怒っている顧客や複雑な顧客に対応できるのか？
問題が難しくなるほど、対応は苦手になります。2023年の消費者金融におけるチャットボットのレビューで、米国消費者金融保護局（CFPB） は、チャットボットは基本的な問い合わせは解決できるかもしれないが、その「有効性は問題が複雑になるにつれて薄れていく」と記しました。
CFPBのレビューは銀行を対象としていましたが、このパターンはあらゆるサポートキューに当てはまります。定型的な質問はAIに適しており、紛争はそうではありません。以下は既定で人に回してください。
- 請求に関する紛争と返金の例外
- 解約のリクエスト
- 同じ問題についてすでに連絡してきた顧客からの苦情
- 法的または安全に関わるあらゆるもの
まずAIに注文番号と問題を収集させ、担当者が事実から始められるようにしましょう。チャットボットとライブチャット の比較では、それぞれがどこに適しているかを示しています。
ニュースレター登録
最新のヒントやお得な情報をお届けします。
人間のエージェントへの引き継ぎはなぜうまくいかないのか？
引き継ぎは、顧客が人への道を見つけられないとき、または担当者がゼロから始めるときに失敗します。3,566人の顧客を対象とした2026年の調査 で、Gartnerは87%が企業がGenAIを使う場合に人間のエージェントにたどり着く選択肢があることが不可欠だと述べていることを明らかにしました。
同じ調査では、50%の顧客が企業がGenAIを使うとやり取りが簡単になると述べています。反発は、人への道を遮るAIに向けられています。Gartnerはまた、何度も失敗するAIの試行を強いられた顧客はそのツールを再び使う可能性が低くなると警告し、あらゆる問題に対してGenAIを必須の第一ステップにすることに反対しています。
CFPBは最悪のケースを「ドゥームループ」と呼びました。それは、「人への出口のないまま」役に立たない回答を繰り返すボットです。解決策は、最初の返信に目に見える「人と話す」オプションを設け、会話全体を通してそれを維持することです。引き継ぎが行われるときは、会話全体を送り、顧客が問題を繰り返さなくて済むようにしましょう。
誰もオンラインでないときに何が起こるかも決めておきましょう。応答時間を約束したオフラインフォームは、行き止まりよりも優れています。AIサポートのパラドックス に関する記事ではその瞬間の設計方法を扱い、AIはカスタマーサービスを代替するのか？ には信頼に関するGartnerの完全なデータがあります。
顧客は個人データをAIに預けることを信頼しているのか？
多くの人は信頼していません。Qualtricsは、企業がやり取りを自動化するためにAIを使うとき、個人データの悪用が今や消費者の最大の懸念であり、53%の消費者 がその不安を共有しており、過去1年間で8ポイント増加したことを明らかにしました。
サポートの会話には住所、注文履歴、支払いに関する質問が含まれ得るため、この懸念は抽象的なものではありません。顧客には、AIと話しているときはそのことと、AIに何が見えるかを伝えましょう。
支払いの詳細やID番号は、AIが読み取る内容から除外してください。実際のチケットを接続する前に、以下のFAQにある質問を使ってベンダーのデータ条件を確認しましょう。
LiveAgentはこれらの限界にどう役立つのか？
LiveAgentは当社の製品であり、以下の機能は現時点での動作のままに説明しています。
AI Agentでは、管理者が各エージェントが実行できるアクションを「構成 > AI > AI Agents」で選択します。「許可されたツール」リストには、チケットの読み取り、メモやタグの追加、メールまたはWhatsAppでの返信が含まれます。
書き込みを行うツールはすぐに動作します。「メールで返信」にチェックを入れると、AI Agentはレビューなしでメールを送信するため、返信ツールにチェックを入れないままにしておけば、エージェントが顧客に直接メッセージを送ることを防げます。同じリストには「チケットを解決」や「ナレッジベース記事を更新」といったアクションも含まれており、これらも即座に反映されるため、各エージェントに必要なものだけにチェックを入れてください。
下書きについては、LiveAgentには別の機能があります。Answer Assistant は返信エディタ内でチケット履歴から返信を作成し、エージェントが送信前に編集して承認します。
ライブチャットでは、LiveAgentのAIによる人への引き継ぎ により、顧客は「人間のエージェントとのチャットをリクエスト」ボタンで人を求めることができます。管理者は「人間のエージェントとのチャットを開始するために必要な回答数」フィールドで、最初に何回のチャットボット回答を必要とするかを設定でき（既定は3、すぐにボタンを表示するには0）、チャットボタンの部門に利用可能なエージェントがいない場合、ボタンは「チャットボットを停止してオフラインメッセージを残す」に変わります。エージェントと訪問者の両方が、同じチャットウィンドウとチケットで以前の会話を確認できます。
どこから始めるべきか？
今日最も多くの顧客を失っている限界から始めましょう。それがどれかわからない場合は、人へのアクセスから始めてください。Gartnerの87%という数字が、顧客がそれをどれほど重視しているかを示しています。ローンチの準備ができたら、AIカスタマーサービスエージェントを展開する 際は段階的に行い、初日から実際の会話を読んでください。
