agents

PR #7580 を含む LiveKit Agents のリリースにアップグレードしてから、LIVEKIT_AGENTS_PRELOAD_EOT=0 を指定してワーカーを起動してください。無効化の値としては 0、false、no、off が使用できます。

一時的にシェルから起動する場合:

export LIVEKIT_AGENTS_PRELOAD_EOT=0
python your_worker.py

systemd ワーカーの場合は、以下を追加してください:

[Service]
Environment=LIVEKIT_AGENTS_PRELOAD_EOT=0

これにより、軽量な VAD のプリロードは維持したまま、約 240 MB の end-of-turn モデルのプリロードをスキップします。後でローカルの TurnDetector が実際に使用された場合、その重みは初回使用時に遅延的にロードされます。Linux の forkserver では、EOT プリロードはデフォルトで有効のままです。1 台のホストで複数のワーカーを実行する場合は、1 つの AgentServer で num_idle_processes を大きく設定することで、ワーカーごとにロードする代わりに単一のコピーを共有することもできます。

livekit-agents を **1.8.3 以降**にアップグレードしてください。このシャットダウンの競合状態は PR #7225 で修正されました。1.8.1 を含むバージョンでは、アイドル状態のプリウォーム済み THREAD ランナーが、シャットダウンの確認応答が読み取られる前に終了すると、ハングする可能性があります。

pip install --upgrade 'livekit-agents>=1.8.3'

uv を使用している場合:

uv add 'livekit-agents>=1.8.3'

その後、ワーカーを再起動し、アイドル状態のランナーが初期化された後に SIGTERM/Ctrl+C を送信してください。ワーカーは job did not ack shutdown in time エラーを繰り返すことなく、速やかにシャットダウンするはずです。

すぐにアップグレードできない場合は、このハングが発生しない JobExecutorType.PROCESS を使用してください。2回目のシグナルを送信してもプロセスが強制終了されるだけであり、グレースフルな回避策ではありません。

この問題は、livekit-agents==1.8.4 などの影響を受けるバージョンで発生します。_ProcClient.run() は asyncio イベントループを作成しますが、保留中のタスクのキャンセル、非同期ジェネレーターのシャットダウン、スレッドループのリセット、ループのクローズを行いません。

**推奨される修正:** PR fix(ipc): close the job loop when the runner exits（issue #7629 を修正）を含むリリースに livekit-agents をアップグレードしてください。

すぐにアップグレードできない場合は、_ProcClient.run() 内の finally ブロックにパッチを適用し、asyncio.run() と同じシャットダウンシーケンスを実行してください。

finally:
    loop_monitor.stop_monitoring(loop)
    try:
        pending = [t for t in asyncio.all_tasks(loop) if not t.done()]
        for task in pending:
            task.cancel()
        if pending:
            loop.run_until_complete(
                asyncio.gather(*pending, return_exceptions=True)
            )
        loop.run_until_complete(loop.shutdown_asyncgens())
        loop.run_until_complete(loop.shutdown_default_executor())
    finally:
        asyncio.set_event_loop(None)
        loop.close()

一時的な回避策として、スレッドの代わりにプロセス分離を使用してください。

server = AgentServer(job_executor_type=JobExecutorType.PROCESS)

修正後、完了したジョブループは is_closed() == True を返すようになり、Python は ResourceWarning: unclosed event loop を出力しなくなります。

根本原因：SpeechStream._send_audio（livekit-plugins-meta）において、ペーシングクロック（pacing_origin）はストリームの開始時ではなく、最初のパケットが*送信*された時点で開始されます。_runは先に_connect_ws()をawaitするため、Muse websocketの接続中にキューに入ったオーディオフレームは永続的なオフセットを生じさせます。ペーシングは実時間より速く送信されることはなく、バックログが追いつかれることもないため、ストリームの残り全体で、すべてのパケットが接続時間分だけ遅れて送信されます（例：接続時間300 ms ≈ 221 msの一定の遅延）。これにより、トランスクリプトとend-of-turnイベントが同じ分だけ遅延します。

修正（PR #7890）：最初の送信時ではなく、ストリームの実行開始時にペーシングクロックを開始するようにしました。ソケットの準備ができ次第、バッファされたバックログは直ちにフラッシュされ、後続のパケットは従来どおり実時間に対してペーシングされます。

修正版リリースまでの回避策：_input_chにキューイングされたフレームがまだ残っている間はペーシングのスリープをスキップするよう、_send_audioをモンキーパッチします（バッファが空になってからのみスリープ）。影響が確認されたもの：livekit-agents==1.8.6、muse-voice-transcribe-1.0を使用したlivekit-plugins-meta==1.8.6。

影響を受けるバージョン: livekit-agents 1.8.3 および main @ 57b3227。_transcripts_equivalent() は split_words(..., ignore_punctuation=True) を呼び出しますが、livekit/agents/tokenize/_basic_word.py の句読点除去リストは ASCII のみです。そのため、アラビア語の ، ؛ ؟、ウルドゥー語の ۔、デーヴァナーガリーの ।、全角 CJK の ，。 が単語に付着したまま残り、最終的なトランスクリプトが異なって表示され、preemptive generation invalidated ... because the transcript ... changed がトリガーされます。

既存の ASCII 句読点に加えて、すべての Unicode 句読点カテゴリ(P*)を除去するようにトークナイザーを修正してください:

import unicodedata

def _is_punctuation(char: str) -> bool:
    return (
        char in tokenize.tokenizer.PUNCTUATIONS
        or unicodedata.category(char).startswith("P")
    )

ignore_punctuation=True が文字をフィルタリングするすべての箇所で、_basic_word.py 内にこのチェックを使用してください。これにより、カテゴリ S を持つ $ や + などの記号、およびカテゴリ Mn を持つアラビア語の発音区別符号が保持されます。

以下で検証してください:

from livekit.agents.voice.agent_activity import _transcripts_equivalent

assert _transcripts_equivalent("مرحبا كيف حالك", "مرحبا، كيف حالك؟")
assert _transcripts_equivalent("你好 我很好", "你好，我很好。")
assert _transcripts_equivalent("आप कैसे हैं", "आप कैसे हैं।")

パッチを適用したパッケージを再ビルドまたは再インストールしてください。上流の修正がリリースされたら、pip install -U livekit-agents でアップグレードしてください。