Update README.md

README.md

@@ -137,28 +137,29 @@ For a better experience, we recommend to use [the following generation parameter
 ### Tool Use
 
 ```python
-def get_current_weather(location: str, date: str) -> float:
+def obtener_temperatura_actual(location: str) -> float:
     """
-    Obtener datos del tiempo de una localización.
+    Obtener la temperatura actual de una localización.
     
     Args:
         location: La locaización, con el siguiente formato: "Ciudad, País."
-        date: La fecha, en el formato AAAA-MM-DD.
     Returns:
-        El tiempo en dicha localización.
+        El tiempo en dicha localización, en grados Celsius.
     """
-    return {"temperatura": 22, "cielo": "nublado", "probabilidad de lluvias": "60%"}
+    return 22.
+
 
 messages = [
-  {"role": "user", "content": "Este fin de semana quiero visitar Madrid, y no se qué ropa llevarme. ¿Podrías decirme qué tal va a hacer? Es el puente del 6 de diciembre de 2024."}
+  {"role": "user", "content": "¿Cuál es el tiempo en Madrid ahora mismo?"}
 ]
 
 text = tokenizer.apply_chat_template(
     messages,
     tokenize=False,
-    tools=[get_current_weather],
+    tools=[obtener_temperatura_actual],
     add_generation_prompt=True
 )
+
 model_inputs = tokenizer([text], return_tensors="pt").to(model.device)
 
 generated_ids = model.generate(
@@ -170,10 +171,69 @@ generated_ids = [
 ]
 
 response = tokenizer.batch_decode(generated_ids, skip_special_tokens=True)[0]
+print(response)
 ```
 
 Check the [tool use documentation](https://huggingface.co/docs/transformers/main/chat_templating#advanced-tool-use--function-calling) from HuggingFace for more information.
 
+If the model generates a tool call, you should add it to the chat like so:
+
+```python
+import re
+import json
+
+tools = {
+    "obtener_temperatura_actual" : obtener_temperatura_actual,
+}
+
+tool_call = re.search(
+    r"<tool_call>\s*(\{.*?\})\s*</tool_call>",
+    response,
+)
+tool_call = json.loads(tool_call.group(1))
+
+# Add tool metadata to messages
+messages.append(
+    {
+        "role": "assistant",
+        "tool_calls": [{"type": "function", "function": tool_call}],
+    },
+)
+
+# Add tool result to messages
+messages.append(
+    {
+        "role": "tool",
+        "name": tool_call["name"],
+        "content": tools[tool_call["name"]](**tool_call["arguments"]),
+    },
+)
+```
+
+The above code is intended only for when the model generates a function call, but the same logic can be used if several functions are called at the same time. After that, you can continue to generate messages as normal:
+
+```python
+text = tokenizer.apply_chat_template(
+    messages,
+    tokenize=False,
+    tools=[obtener_temperatura_actual],
+    add_generation_prompt=True
+)
+
+model_inputs = tokenizer([text], return_tensors="pt").to(model.device)
+
+generated_ids = model.generate(
+    **model_inputs,
+    max_new_tokens=1024
+)
+generated_ids = [
+    output_ids[len(input_ids):] for input_ids, output_ids in zip(model_inputs.input_ids, generated_ids)
+]
+
+response = tokenizer.batch_decode(generated_ids, skip_special_tokens=True)[0]
+print(response)
+```
+
 ## Training Details
 
 ### Training Data