Update main_process/moe_router.py

main_process/moe_router.py

@@ -72,29 +72,6 @@ class SalamandraClient:
 
     def chat(self, prompt) -> str:
         return get_from_prompt(prompt)
-        encodings = self.tokenizer(
-            prompt,
-            return_tensors="pt",
-            padding=True,
-        )
-
-        inputs = encodings["input_ids"].to(self.model.device)
-        attention_mask = encodings["attention_mask"].to(self.model.device)
-
-        outputs = self.model.generate(
-            input_ids=inputs,
-            attention_mask=attention_mask,
-            pad_token_id=self.tokenizer.pad_token_id,
-            max_new_tokens=300,  # más grande si el texto es largo
-            temperature=0.01,         # control de creatividad
-            top_k=50,                # tokens más probables
-            top_p=0.9
-        )
-        print(self.tokenizer.decode(outputs[0], skip_special_tokens=True))
-        print("Separación")
-        # Cortar la parte del prompt
-        generated_tokens = outputs[0][inputs.shape[1]:]
-        return self.tokenizer.decode(generated_tokens, skip_special_tokens=True)
 
 # Esto aquí sólo se utiliza para la valoración:
 class GPT5Client: