Brunobkr/2BKR_KERNEL.py

⚡ 2BKR KERNEL

Sovereign Inference Engine, Multi-Port Auto-Discovery & Autonomous Agentic Runtime

Ecosistema Unificado de Alta Performance para llama.cpp / llama-server

---

📌 Sumário

1. Visão Geral
2. Arquitetura & Pilares
3. Auto-Descoberta de Portas & Binding Dinâmico
4. Compatibilidade Total com llama-server
5. Ferramentas Nativas (Kernel Built-in Tools)
6. Sub-sistema Agêntico Autônomo
7. Speculative Decoding & Detecção MTP
8. Interface Gráfica Unificada (WebUI)
9. Segurança, Sessões & TLS
10. Referência de Endpoints HTTP
11. Instalação & Guia de Execução
12. Estrutura de Diretórios

---

📖 Visão Geral

O 2BKR Kernel é uma camada de controle, proxy reverso de alta velocidade, ambiente de execução agêntico e interface gráfica moderna desenvolvida especialmente para operar em sintonia direta com instâncias do llama-server (llama.cpp).

Projetado para operar em ambientes estritamente soberanos (100% local, air-gapped ready, zero telemetria externa), o Kernel abstrai a orquestração do modelo, gerencia chamadas de ferramentas (tool calling), oferece persistência criptográfica e garante compatibilidade transparente com qualquer variante recente do llama-server.

https://zenodo.org/records/22162014

---

🏛 Arquitetura & Pilares

flowchart TD
    subgraph ClientLayer["Camada de Apresentação & Acesso"]
        Browser["🖥 Navegador Web / Mobile"]
        CLI["💻 Clientes HTTP / Curl / SDK"]
    end

    subgraph KernelLayer["2BKR KERNEL (FastAPI + Asynchronous Core)"]
        Gate["🛡 Gate Middleware (CORS "*" / Argon2 Auth)"]
        Scanner["🔍 TCP Port Scanner (/proc/net/tcp & ss)"]
        ToolsEngine["🛠 10 Sovereign Kernel Tools"]
        AgentThread["🤖 Autonomous Agent Worker Thread"]
        ReverseProxy["⚡ Reverse Proxy & SSE Stream Rewriter"]
    end

    subgraph UpstreamLayer["Camada de Inferência Upstream"]
        LlamaServer["🦙 llama-server (:8080, :5173, etc.)"]
        ViteUI["⚡ Vite Dev Server / WebUI (:5173 / :4173)"]
    end

    Browser -->|HTTPS/TLS| Gate
    CLI -->|HTTP/REST| Gate
    Gate --> ReverseProxy
    Gate --> ToolsEngine
    Gate --> AgentThread

    Scanner -.->|Auto-detecta portas| LlamaServer
    Scanner -.->|Auto-detecta portas| ViteUI

    ReverseProxy -->|/v1/chat, /completion, /props| LlamaServer
    ReverseProxy -->|/llama/* WebUI| ViteUI
    ToolsEngine <-->|Fallback & MCP Sync| LlamaServer
    AgentThread -->|Ciclos de Raciocínio| LlamaServer

---

🔍 Auto-Descoberta de Portas & Binding Dinâmico

O Kernel elimina a necessidade de configurações manuais de portas para conectar-se ao servidor LLM ou à WebUI:

• Varredura Ativa do Kernel Linux: Examina dinamicamente tabelas do kernel em /proc/net/tcp, /proc/net/tcp6 e comandos de baixo nível (ss -tln) para listar portas ativas em tempo real.
• Portas Monitoradas por Padrão: Sondagem instantânea concorrente em portas padrão como 8080, 5173, 4173, 8081, 5001, 8000, 11434 e 9090.
• Identificação Automática de Serviços:
  • llama-server: Sondado através de requisições a /health (retornando 200 ou 503) e /props.
  • Vite Server / WebUI: Sondado através de marcadores HTML específicos (@vite, llama-ui).
• Resiliência a Reinícios: Se o processo do llama-server for reiniciado em outra porta arbitrária, o Kernel detecta a transição e atualiza os upstreams sem interromper o estado da sessão do usuário.

---

🦙 Compatibilidade Total com llama-server

O 2BKR Kernel foi desenvolvido com paridade completa para a execução com o binário llama-server oficial e forks avançados operando sob a seguinte diretiva de inicialização:

llama-server \
  --agent \
  --tools all \
  --reasoning auto \
  --kv-unified \
  --load-mode mmap \
  --cors-origins "*" \
  --webui-mcp-proxy \
  --threads-http -1

Funcionalidades Mapeadas:

Flag do llama-server	Comportamento no 2BKR Kernel
--agent	Suporte completo a múltiplos turnos com chamadas iterativas de ferramentas.
--tools all	Exposição e execução das ferramentas nativas via GET /tools e POST /tools.
--reasoning auto	Extração de blocos <think>...</think>, reasoning_content e exibição em caixas de raciocínio dedicadas.
--kv-unified & --load-mode mmap	Proxy de streaming SSE assíncrono com baixa latência e zero cópia redundante.
--cors-origins "*"	Manipulação universal de preflight OPTIONS (retornando 204) e cabeçalhos permissivos em todas as rotas.
--webui-mcp-proxy	Endpoint dedicado /cors-proxy para requisições externas originadas de extensões e MCPs.
--threads-http -1	Pipeline de I/O não-bloqueante baseado em asyncio e httpx.

---

🛠 Ferramentas Nativas (Kernel Built-in Tools)

O Kernel traz integradas 10 ferramentas soberanas em Python, com assinaturas e esquemas idênticos aos definidos no fork llama_server_VULLKAN_MIXED (tools/server/server-tools.cpp):

┌────────────────────────────────────────────────────────────────────────┐
│                        2BKR KERNEL TOOLS ENGINE                        │
├───────────────────────┬────────────────────────────────────────────────┤
│ Ferramenta            │ Função Primária                                │
├───────────────────────┼────────────────────────────────────────────────┤
│ 1. web_search_exa     │ Busca na Web (DuckDuckGo + Fallback Wikipedia) │
│ 2. web_fetch_exa      │ Download de URL com conversão para texto limpo │
│ 3. read_file          │ Leitura cirúrgica de arquivos com append_loc   │
│ 4. file_glob_search   │ Descoberta rápida de arquivos via glob         │
│ 5. grep_search        │ Busca regex/texto com contexto e numeração     │
│ 6. exec_shell_command │ Execução controlada de comandos de terminal    │
│ 7. write_file         │ Criação atômica de arquivos e subdiretórios    │
│ 8. edit_file          │ Substituição cirúrgica com checagem de unívoco │
│ 9. get_datetime       │ Carimbo de data/hora UTC ISO-8601              │
│ 10. get_info          │ Metadados do S.O., Python, cwd e arquitetura   │
└───────────────────────┴────────────────────────────────────────────────┘

Detalhes de Cada Ferramenta

1. web_search_exa

• Assinatura: {"query": string, "num_results": int}
• Comportamento: Realiza buscas em tempo real sem necessidade de chaves de terceiros. Se a variável EXA_API_KEY estiver configurada, utiliza a API oficial da Exa. Caso contrário, emprega DuckDuckGo com sanitização de HTML e um fallback enciclopédico de alta disponibilidade.

• Saída: Blocos formatados exatamente como esperado pelo visualizador WebUI: ```text Title: <Título> URL: Published: Author: Highlights:

2. web_fetch_exa

• Assinatura: {"url": string, "max_chars": int}
• Comportamento: Efetua o download HTTP/HTTPS da página solicitada, remove tags <script>, <style> e de formatação bruta, e extrai o texto legível.

3. read_file (Read file)

• Assinatura: {"path": string, "start_line": int, "end_line": int, "append_loc": bool}
• Comportamento: Lê trechos específicos de arquivos. Se append_loc=true, prefixa as linhas no padrão <número>→<conteúdo>.

4. file_glob_search (Search files)

• Assinatura: {"path": string, "include": string, "max_entries": int}
• Comportamento: Varre pastas recursivamente ignorando diretórios de ruído (.git, node_modules, __pycache__, .venv, etc.).

5. grep_search (Search in files)

• Assinatura: {"path": string, "pattern": string, "case_sensitive": bool, "return_line_numbers": bool}
• Comportamento: Realiza busca por padrão literal ou regex dentro de arquivos ou árvores de diretórios.

6. exec_shell_command (Run command)

• Assinatura: {"command": string, "cwd": string, "timeout": int}
• Comportamento: Executa comandos no shell do sistema com isolamento de saída, limite de tempo e formatação do código de retorno ([exit code: 0]).

7. write_file (Write file)

• Assinatura: {"path": string, "content": string}
• Comportamento: Escreve o conteúdo fornecido criando automaticamente quaisquer diretórios pai inexistentes.

8. edit_file (Edit file)

• Assinatura: {"path": string, "edits": [{"old_text": string, "new_text": string}]}
• Comportamento: Aplica edições precisas e pontuais, rejeitando a operação se o old_text não for encontrado ou aparecer de forma ambígua no arquivo.

9. get_datetime (Current time)

• Assinatura: {}
• Comportamento: Retorna a data e hora atuais em padrão UTC no formato YYYY-MM-DDTHH:MM:SSZ.

10. get_info (Runtime info)

• Assinatura: {}
• Comportamento: Retorna relatório detalhado do ambiente: versão do Kernel Linux, arquitetura x86_64/ARM, diretório de trabalho (cwd) e runtime do Python.

---

🤖 Sub-sistema Agêntico Autônomo

O Kernel integra um Agente Autônomo Único que opera em segundo plano (background worker thread):

• Execução Cíclica: Intervalo configurável em segundos (ex.: a cada 300s).
• Missão Personalizada: Objetivo livre definido pelo usuário.
• Memória de Longo Prazo: Histórico de ações e contexto armazenados em formato JSON na pasta 2BKR_data/agent/.
• Capacidades Habilitáveis:
  • Execução de Shell Commands
  • Execução de Scripts Python isolados
  • Requisições HTTP
  • Escrita no Sistema de Arquivos
  • Raciocínio via LLM Upstream
• Relatórios por Ação: Cada intervenção gera um relatório atômico consultável diretamente pela interface gráfica.

---

⚡ Speculative Decoding & Detecção MTP

O Kernel monitora passivamente e sinaliza o uso de técnicas de decodificação especulativa (como Medusa ou Multi-Token Prediction - MTP):

1. Sondagem de /props: Extrai os parâmetros speculative, speculative.n_max e speculative.n_min.
2. Auditoria de Timings ao Vivo: Durante o streaming de tokens, analisa as métricas de draft_n_accepted e draft_n_generated.
3. Indicador Visual na Barra Lateral:
   • ⚪ Cinza: Upstream offline ou estado desconhecido.
   • 🔴 Vermelho: Upstream online, mas sem especulação ativa.
   • 🟢 Verde: Especulação ativa via /props.
   • 🔵 Ciano (✓): Especulação confirmada ativamente durante a geração de tokens (com taxa de aceitação percentual).

---

🖥 Interface Gráfica Unificada (WebUI)

A UI embutida é servida diretamente pelo Kernel (GET /), proporcionando uma experiência completa e offline:

• Renderização Matemática (KaTeX): Fórmulas $\LaTeX$ inline $x^2$ e em bloco $$\int f(x)dx$$.
• Destaque de Sintaxe (Highlight.js): Suporte a dezenas de linguagens de programação com tema escuro elegante.
• Injeção de Arquivos: Suporte nativo a upload de arquivos .txt, .md e .pdf (com extração automática de texto via pypdf/pdfminer).
• Interruptor de Ferramentas (🛠): Botão direto na barra de digitação para ligar/desligar o envio das 10 ferramentas para o modelo.
• Cards Interativos de Tool Call: Quando o modelo aciona uma ferramenta, o Kernel executa o comando, plota um card colapsável de "Resultado" e retroalimenta o modelo de forma autônoma.
• Personas Customizáveis: Criação e seleção de personas com injeção em tempo real no system prompt.
• Métricas em Tempo Real: Tokens gerados, taxa de geração (tok/s), tempo até o primeiro token (TTFT) e uso da janela de contexto.

---

🛡 Segurança, Sessões & TLS

• Argon2 Password Hashing: Senhas administrativas protegidas pelo algoritmo Argon2id via passlib.
• Proteção contra Brute Force: Bloqueio de IP após tentativas consecutivas inválidas com tempo de expiração.
• Sessões Criptográficas: Cookies assinados com proteção HttpOnly e política SameSite=Lax.
• Gerador de Certificado TLS Automático:
  • Geração automática de chaves RSA e certificados X.509 autoassinados válidos por 10 anos.
  • Extensão SAN (Subject Alternative Name) abrangendo localhost, 127.0.0.1, IPs de rede local (LAN) e o gateway hotspot 10.42.0.1.

---

📡 Referência de Endpoints HTTP

Rota	Método	Descrição
/	GET	Interface Web unificada (HTML5/CSS3/ES6).
/login	GET / POST	Autenticação administrativa no Kernel.
/tools	GET	Lista de ferramentas nativas e do upstream mescladas.
/tools	POST	Executa ferramenta nativa ou repassa para o upstream.
/cors-proxy	ANY	Proxy universal com suporte total a CORS (*).
/api/health	GET	Relatório de status do LLM, WebUI, portas e MTP.
/api/config	GET	Configurações atuais, upstream detectado e contexto.
/api/tools	GET	Definições OpenAPI das 10 ferramentas do Kernel.
/api/tokenize	POST	Contagem de tokens repassada ao llama-server.
/llama/{path}	ANY	Proxy reverso para a WebUI nativa do llama-server ou Vite.
/v1/*	ANY	Proxy transparente para a API OpenAI-compatible do llama-server.

---

🚀 Instalação & Guia de Execução

1. Dependências do Sistema e Python

Certifique-se de possuir o Python 3.10 ou superior instalado:

pip install "fastapi[standard]" uvicorn httpx itsdangerous "passlib[argon2]" cryptography pypdf

2. Inicialize o llama-server

Inicie o llama-server em qualquer porta (por exemplo, 8080 ou 5173):

./llama-server \
  -m /caminho/para/seu/modelo.gguf \
  --port 8080 \
  --agent \
  --tools all \
  --reasoning auto \
  --kv-unified \
  --load-mode mmap \
  --cors-origins "*" \
  --webui-mcp-proxy \
  --threads-http -1

3. Inicie o 2BKR Kernel

Execute o Kernel na pasta do projeto:

python3 2BKR_KERNEL.py

O Kernel inicializará o servidor seguro HTTPS, escaneará as portas ativas, localizará o llama-server automaticamente e disponibilizará o painel em:

https://localhost:8443   (ou no IP local de sua máquina)

---

📂 Estrutura de Diretórios

2BKR_KERNEL/
├── 2BKR_KERNEL.py          # Núcleo soberano do Kernel (FastAPI + Proxy + Tools)
├── 2BKR_KERNEL.py.bak      # Backup de segurança intacto
├── README.md               # Este documento
├── capa.jpeg               # Arte oficial da capa (Padrão HF / GitHub)
└── 2BKR_data/              # Armazenamento local e isolado (gerado na execução)
    ├── config.json         # Configurações de porta, binds e hash Argon2
    ├── certs/              # Certificados SSL/TLS autoassinados (cert.pem / key.pem)
    ├── chats/              # Histórico persistido de conversas em JSON
    ├── personas/           # Definições de personas salvas
    ├── agent/              # Estado, memória persistente e relatórios do agente autônomo
    └── static/             # Dependências de frontend para operação 100% offline

---

_{Desenvolvido com foco em Soberania Tecnológica, Agência Real e Máxima Performance Local.}