Question 1

Manifest에서 기존 제공자 계정의 만료된 OAuth 토큰을 어떻게 갱신할 수 있나요?

Accepted Answer

현재 "Renew Auth Token" 액션이 내장되어 있지 않습니다. 현재 해결 방법은 만료된 프로바이더 계정을 삭제한 후 OAuth flow를 통해 다시 추가하는 것입니다. 이렇게 하면 재인증되어 자격 증명이 업데이트되지만, 라우팅 설정, 에이전트별 선택 항목, 계정 레이블을 다시 적용해야 합니다. 비파괴적 갱신 플로우에 대한 기능 요청이 있습니다.

Question 2

DeepSeek 도구 호출이 Manifest에서 'reasoning_content must be passed back' 오류로 실패하는 이유는 무엇인가요?

Accepted Answer

이는 알려진 버그(#2047)로, Manifest가 다중 대화에서 필수 reasoning_content 필드를 누락시킵니다. 해결 방법: tool calling을 사용하는 모든 티어(예: 'complex' 티어)에서 DeepSeek 모델을 제거하십시오. 이렇게 하면 오류는 피할 수 있지만 추론 품질이 떨어집니다. reasoning_content를 보존하기 위한 영구적인 수정이 보류 중입니다.

Question 3

Manifest에서 성공적인 LLM 요청에 대해 토큰과 비용이 0으로 표시되는 이유는 무엇인가요?

Accepted Answer

Manifest v6.8.2로 업그레이드하세요. 이는 동적 사용자 지정 제공업체에 대한 누락된 스트리밍 사용량 요청을 수정합니다. 업그레이드 후에도 토큰이 여전히 0으로 표시되면 업스트림 제공업체(예: LLM7.io)가 API 응답에서 `usage` 블록을 반환하지 않는 것입니다. Manifest는 해당 블록에서 정확한 토큰을 기록하며, 블록이 없으면 0을 보고하고 비용을 계산할 수 없습니다.

Question 4

Gemini 스트리밍 tool calls가 병합되거나, completion IDs가 변경되거나, finish_reason이 "tool_calls" 대신 "stop"을 반환하는 문제를 해결하려면 어떻게 하나요?

Accepted Answer

PR "fix: Gemini 스트림 상태를 SSE 이벤트 전반에서 유지"가 포함된 릴리스로 업그레이드하세요. 버그는 google-adapter.ts의 transformGoogleStreamChunk에 있습니다: 모든 Gemini 이벤트마다 스트림 상태를 다시 생성합니다. 업그레이드 후에는 SSE 스트림당 한 번 상태가 유지되므로: (1) tool_calls[].index가 이벤트 전반에서 0으로 재설정되지 않고 증가합니다; (2) 하나의 completion ID와 created 타임스탬프가 모든 델타에 재사용됩니다; (3) 어떤 tool call이든 방출된 경우, usage-only 트레일러가 뒤따르더라도 최종 finish reason은 tool_calls입니다; 그리고 (4) finish/usage 청크는 한 번만 방출됩니다. 업그레이드할 수 없다면, completion ID, created 값, 다음 tool-call 인덱스, hasToolCalls 플래그를 이벤트별 변환 밖으로 이동하여 전체 스트림 동안 유지되도록 하세요.

Question 5

How to fix Gemini `functionDeclarations` being recorded as unnamed empty tools in llm-gateway?

Accepted Answer

Upgrade to a version containing the PR "fix: keep tool calls and Gemini tools in recorded conversations." The bug is in `extractRequestTools` in `packages/shared/src/chat-message.ts`: it normalizes `tool.function` and flat tool fields but does not handle Gemini's `functionDeclarations` array.

As a workaround, add a Gemini-specific branch that expands each declaration:

```js
return tools.flatMap((tool) => {
  if (Array.isArray(tool.functionDeclarations)) {
    return tool.functionDeclarations.map((fn) => ({
      type: "function",
      function: {
        name: fn.name,
        description: fn.description,
        parameters: fn.parameters,
      },
    }));
  }

// Keep the existing normalization for tool.function and flat tool fields.
});
```

After the fix, a Gemini request containing `functionDeclarations: [{ name: "lookup", ... }]` is recorded as a named function tool with its description and JSON Schema parameters instead of `[{"type":"function","function":{}}]`.

Manifest

주요 기능

할 수 없는 것

사용 사례

태그

시작하기

유사한 프로젝트