Updated January 13, 2025: We have updated the rollout timeline below. Thank you for your patience

Custom engine agents and Teams bots can now stream responses like Microsoft Copilot. They can provide real-time updates on their actions while delivering parts of the response as they generate it, making interactions feel faster and more engaging.

This message is associated with Microsoft 365 Roadmap ID 422261

[When this will happen:]

Targeted Release: We will begin rolling out mid-November 2024 and expect to complete by late November 2024.

General Availability (Worldwide): We will begin rolling out mid-December 2024 and expect to complete by late January 2025 (previously late December) 

[How this will affect your organization:]

When users interact with a custom engine agent or Teams bot that streams its response, they will experience the new UX.

Users will first see informative updates from the agent on what it is doing while it generates a response to the user’s message:

Once the agent has performed prerequisite actions and is ready to respond, users will start to see the agent’s response flow in as incremental chunks until the full response is available. This experience is very similar to how the response iteratively appears on leading AI experiences like ChatGPT or Copilot:

Users will have the option to stop generating the response if they feel the agent is headed down an ineffective path. Users can simply click on the stop button underneath the response, and this will stop the agent’s response. Users can then prompt the agent again:

[What you need to do to prepare:]

You may consider updating your training and documentation as appropriate.

2025年1月13日更新:以下のロールアウトタイムラインを更新しました。ご理解いただきありがとうございます

カスタム エンジン エージェントと Teams ボットは、Microsoft Copilot のような応答をストリーミングできるようになりました。彼らは、アクションに関するリアルタイムの更新を提供しながら、レスポンスを生成するときにその一部を提供できるため、インタラクションがより速く、より魅力的に感じられます。

このメッセージは、Microsoft 365 ロードマップ ID 422261に関連付けられています

[これがいつ起こるか:]

対象を絞ったリリース: 2024 年 11 月中旬にロールアウトを開始し、2024 年 11 月下旬までに完了する予定です。

一般提供 (全世界): 2024 年 12 月中旬にロールアウトを開始し、2025 年 1 月下旬 (以前は 12 月下旬) までに完了する予定です

[これがあなたの組織にどのように影響しますか:]

ユーザーがカスタム エンジン エージェントまたはその応答をストリーミングする Teams ボットと対話すると、新しい UX が体験されます。

ユーザーには、エージェントからの操作に関する情報の更新が最初に表示され、ユーザーのメッセージに対する応答が生成されます。

エージェントが前提条件のアクションを実行し、応答する準備ができたら、完全な応答が利用可能になるまで、エージェントの応答フローが増分チャンクとして表示されるようになります。このエクスペリエンスは、ChatGPT や Copilot などの主要な AI エクスペリエンスで応答が繰り返し表示される方法と非常によく似ています。

ユーザーは、エージェントが効果のない道を進んでいると感じた場合、応答の生成を停止するオプションがあります。ユーザーは、応答の下にある停止ボタンをクリックするだけで、エージェントの応答を停止できます。その後、ユーザーはエージェントに再度プロンプトを送信できます。

【準備に必要なこと】

必要に応じて、トレーニングとドキュメントの更新を検討してください。