LFM3-Kali-1.7B — v0.1.0

Modèle complet fusionné en FP16 après un fine-tuning QLoRA réalisé par Aheshman Itibar sur 5 948 exemples de commandes, d'appels d'outils et d'explications de cybersécurité. Les quatre shards Safetensors incluent la base et les modifications apprises.

Base : OpenIntelligenceNet/LFM3-1.7B-Uncensored, révision immuable 8e7cf5cccd95afa9d34a3a66ebfb8fef1b55c204, dérivée de LiquidAI/LFM3-1.7B. Les adaptateurs d'origine sont distribués séparément dans le dossier adapter/ à la racine du dépôt. La licence du modèle d'origine, LFM Open License v1.0, reste applicable.

Usage prévu

Le modèle s'adresse aux professionnels de la cybersécurité pour les laboratoires, les CTF et les audits de sécurité autorisés. Il peut assister la préparation de commandes, l'analyse technique et le travail avec les outils disponibles dans l'environnement. Les commandes proposées doivent être vérifiées avant exécution ; leur utilisation relève de la responsabilité de l'opérateur.

Kali Linux et Windows / WSL

L'assistant peut être utilisé avec les outils installés sous Kali Linux, ou sous Windows via WSL avec une distribution Linux et les outils nécessaires. Le modèle et le moteur d'inférence produisent les réponses ; l'exécution dépend de l'interface ou du harness qui les relie au système. Les fonctions nécessitant un accès direct au matériel, notamment certains usages Wi-Fi, dépendent des interfaces et des pilotes accessibles dans WSL.

Retours d'utilisation locale

J’ai effectué des tests de sécurité et d’intrusion sur mon HP Gbook 15, équipé d’un processeur Xeon, de 4 Go de VRAM et de 32 Go de RAM. Sur les tâches que je lui ai confiées, le modèle suit les étapes et répond aux besoins de mon travail, même si certains points restent à améliorer. Ces essais complètent mes comparaisons sur Colab. Je n’ai pas encore publié les traces détaillées, les paramètres du moteur d’inférence et les mesures de débit.

Pour mon flux de travail, une fenêtre de contexte de 64K tokens (65 536) est suffisante. Ce réglage concerne l'inférence et la gestion du cache KV. Il ne garantit pas que 64K tokens remplis tiennent intégralement dans 4 Go de VRAM : la mémoire réellement utilisée dépend du backend, de la quantification du cache, de l'offload vers la RAM et de la longueur occupée. La configuration du modèle autorise jusqu'à 262 144 positions ; la limite de 1 536 tokens utilisée pendant le fine-tuning n'est pas sa limite d'inférence.

Données et paramètres

Source	Entraînement
KaliBench	3 329
Cyber-SFT-Agent, premier appel uniquement	1 583
HackMentor, explications	932
Gabarits français	104

313 exemples de validation, 5 294 exemples séparés réservés à l'évaluation. QLoRA NF4, rang 16, alpha 32, dropout 0,05, une époque, accumulation 8, taux initial 1e-4, FP16, 16 105 472 paramètres entraînables. 744 étapes en 3 553,3157 s sur Tesla T4 ; 1 365 622 tokens d'entrée, 283 503 tokens supervisés.

Évaluation et limites observées

La perte finale 0,008758 est calculée sur les 64 premiers exemples de validation, un sous-ensemble non représentatif. Elle ne prouve pas la qualité conversationnelle. Aucun score d'exécution KaliBench global n'est annoncé.

La première comparaison améliore le scan Nmap TCP connect et le filtre DNS tshark. D'autres tests produisent nmap -sV pour afficher la version du binaire, des définitions incorrectes des états de ports et des appels d'outils à la place d'explications. La version v0.1.0 reste à évaluer et améliorer.

MSF est peu représenté : pas de parcours pratique de msfconsole/msfvenom. Le corpus n'enseigne pas de boucle complète d'exécution et de retour d'outil. Les commandes des comparaisons qualitatives Colab n'ont pas été exécutées ; mes essais locaux relèvent d’un protocole distinct. Aucun corpus de refus n'a été ajouté ; aucun comportement sans refus n'est garanti.

Charger le modèle complet

import torch
from transformers import AutoModelForCausalLM, AutoTokenizer, BitsAndBytesConfig

model_path = "aheshman/LFM3-Kali-1.7B"
tokenizer = AutoTokenizer.from_pretrained(model_path, trust_remote_code=True)
model = AutoModelForCausalLM.from_pretrained(
    model_path,
    trust_remote_code=True,
    dtype=torch.float16,
    device_map={"": 0},
    quantization_config=BitsAndBytesConfig(
        load_in_4bit=True,
        bnb_4bit_quant_type="nf4",
        bnb_4bit_use_double_quant=True,
        bnb_4bit_compute_dtype=torch.float16,
    ),
).eval()

messages = [{
    "role": "user",
    "content": "Avec tshark, lis capture.pcap et affiche les paquets DNS.",
}]
prompt = tokenizer.apply_chat_template(
    messages, tokenize=False, add_generation_prompt=True, enable_thinking=False,
)
inputs = tokenizer(prompt, return_tensors="pt", add_special_tokens=False).to("cuda")
with torch.inference_mode():
    generated = model.generate(
        **inputs, max_new_tokens=160, do_sample=False, use_cache=True,
        pad_token_id=tokenizer.eos_token_id,
    )
print(tokenizer.decode(generated[0, inputs.input_ids.shape[1]:], skip_special_tokens=True))

Environnement utilisé : torch 2.11.0, transformers 5.20.2, peft 0.21.2, accelerate 1.15.0, bitsandbytes 0.50.2. Dépôt du code et des sources : https://github.com/codeur261/LFM3-Kali-1.7B

Sources : RISys-Lab/KaliBench (CC BY 4.0), hotdogs/cyber-sft-agent-qwen38 (Apache 2.0), tmylla/HackMentor (dépôt Apache 2.0). Les révisions, empreintes et filtres de sélection sont publiés avec le code et le manifeste.

Distribution Hugging Face

La racine de ce dépôt contient le modèle complet fusionné FP16 et son tokenizer. Le sous-dossier adapter/ contient les adaptateurs LoRA du même entraînement.

Pour charger uniquement l'adaptateur sur la base originale à sa révision fixée :

adapted = PeftModel.from_pretrained(base, "aheshman/LFM3-Kali-1.7B", subfolder="adapter")

Code, données, checkpoints et documentation : https://github.com/codeur261/LFM3-Kali-1.7B

Révision de la documentation : 08ebe298eca10abd0319c2932d4a3903e725bd24

Version Ollama disponible

Le modèle fine-tuné est aussi disponible en GGUF Q4_K_M, avec Modelfile, empreinte SHA-256 et rapport de test. Installation et chat local. Import et génération vérifiés avec Ollama 0.40.14 ; contexte de test : 4096 tokens.