Skip to content

[Fix] 비정상적인 LLM 스트리밍 문제 수정 #112

@gaeunee2

Description

@gaeunee2

🐛 버그 설명

  • Review, problem_splitter와 같은 내부 노드에서 모델 호출 시 skip_stream 설정이 빠져 있어, 해당 노드의 응답이 비정상적으로 사용자에게 노출되었습니다.
  • 모델의 응답이 llm.token.delta로 흘러나오면서 화면에 표시되는 문제 발생
Image

🔄 재현 방법

  1. Review 노드나 Problem Splitter 노드를 실행
  2. 스트리밍되는 내용이 화면에 표시되는 현상 확인

✅ 예상 동작

  • Review와 같은 내부 노드는 사용자에게 보여지지 않고, 필요한 데이터만 처리되며 스트리밍되지 않아야 합니다.
  • skip_stream 설정이 빠진 노드들은 llm.token.delta를 사용자에게 표시하지 않도록 해야 합니다.

📌 비고

  • 내부 노드들에는 skip_stream 설정이 추가되어, 이제는 사용자에게 불필요한 정보를 표시하지 않도록 수정되었습니다.

Metadata

Metadata

Assignees

Labels

bugSomething isn't working

Type

No fields configured for Bug.

Projects

No projects

Milestone

No milestone

Relationships

None yet

Development

No branches or pull requests

Issue actions