MCP-серверСообщество

LLM Eval Harness

Run a golden set and gate LLM model swaps on accuracy, with latency and cost per request.

Описание на языке оригинала

razilzul · ↓ 0 установок

Установка

Добавьте конфиг в настройки клиента. Значения в <угловых скобках> замените своими.

claude_desktop_config.json

{
  "mcpServers": {
    "llm-eval-harness": {
      "command": "docker",
      "args": [
        "run",
        "-i",
        "--rm",
        "-e",
        "ANTHROPIC_API_KEY",
        "-e",
        "GEMINI_API_KEY",
        "ghcr.io/razilzul/llm-eval-harness:1.0.0"
      ],
      "env": {
        "ANTHROPIC_API_KEY": "<ANTHROPIC_API_KEY>",
        "GEMINI_API_KEY": "<GEMINI_API_KEY>"
      }
    }
  }
}

Или одной командой — CLI допишет конфиг выбранного клиента:

CLI

npx ai-point add io.github.razilzul/llm-eval-harness

Инструменты

Список инструментов появится, когда у сервера будет sandbox или его заполнит редакция.

Сообщить о проблеме ↗ (Откроется GitHub в новой вкладке)