Просмотр исходного кода

feat: add handling for main message generation state in pre-message delta processing

Shun Miyazawa 9 месяцев назад
Родитель
Сommit
95ea97e95f
1 измененных файлов с 11 добавлено и 0 удалено
  1. 11 0
      apps/app/src/features/openai/server/routes/message/post-message.ts

+ 11 - 0
apps/app/src/features/openai/server/routes/message/post-message.ts

@@ -121,12 +121,23 @@ export const postMessageHandlersFactory: PostMessageHandlersFactory = (crowi) =>
         'Cache-Control': 'no-cache, no-transform',
       });
 
+      let isMainMessageGenerating = false;
+
       const preMessageDeltaHandler = (delta: ChatCompletionChunk.Choice.Delta) => {
+        if (isMainMessageGenerating) {
+          return;
+        }
+
         const content = { text: delta.content };
         res.write(`data: ${JSON.stringify(content)}\n\n`);
       };
 
       const messageDeltaHandler = async(delta: MessageDelta) => {
+        console.log('isMainMessageGenerating', isMainMessageGenerating);
+        if (!isMainMessageGenerating) {
+          isMainMessageGenerating = true;
+        }
+
         const content = delta.content?.[0];
 
         // If annotation is found