Monta tu propia base de conocimiento
Si le preguntas a la IA "¿se puede reembolsar el taxi de un viaje de trabajo?", no conoce las normas de tu empresa y solo puede adivinar. Si le pegas el documento completo de políticas, cuando haya muchos archivos ya no caben, y además puede que no te apetezca pegarlo.
El enfoque de una base de conocimiento local es: primero encontrar en tus archivos las frases más relevantes para la pregunta, entregarle al modelo solo esas frases y hacer que responda según ellas. Este enfoque se llama RAG (generación aumentada por recuperación). Todo el proceso ocurre en tu computadora.
Primero veamos cómo encuentra la respuesta. Los datos, las puntuaciones de similitud y la respuesta que aparecen abajo se obtuvieron ejecutando de verdad el script de esta sección en la máquina local:
Política de reembolsos.txt
Reglamento de vacaciones.txt
Control de acceso y visitantes.txt
1. Primero la pregunta se convierte en una serie de números (vectores).
Qué sabrás hacer al terminar
- Explicar los cuatro pasos de una base de conocimiento: fragmentar, convertir en vectores, buscar lo más relevante y entregarlo al modelo
- Ejecutar con éxito una base de conocimiento en tu propia computadora
- Cambiar a tus propios archivos para hacer preguntas
Los cuatro pasos
| Paso | Qué se hace | Qué se usa |
|---|---|---|
| 1. Fragmentar | Cortar el archivo en trozos pequeños | El script lo corta solo, aquí un fragmento por línea |
| 2. Convertir en vectores | Cada fragmento se convierte en una serie de números; cuanto más cercano el significado, más cercanos los números | El modelo de embeddings de Ollama embeddinggemma |
| 3. Buscar lo más relevante | La pregunta también se convierte en vector y se compara con cada fragmento, eligiendo los tres más parecidos | Similitud coseno |
| 4. Entregarlo al modelo | Se ponen esos tres fragmentos en el prompt, exigiendo que responda solo según ellos | deepseek-r1:8b |
La documentación oficial de Ollama sobre vectores dice: los vectores pueden guardarse en una base de datos vectorial, recuperarse con similitud coseno y usarse en RAG; su interfaz /api/embed devuelve vectores de longitud unitaria, así que multiplicar dos vectores directamente y sumar los resultados da la similitud coseno.
- 1?
- 2?
- 3?
- 4?
Haz clic uno por uno, en orden.
Antes de empezar
- Ollama está en ejecución, ya has descargado
deepseek-r1:8b - Tienes Python 3 instalado (el script solo usa librerías incluidas con Python)
Paso 1: descargar el modelo de embeddings
ollama pull embeddinggemmaDeberías ver: la última línea es success. En nuestro caso su tamaño es de 621 MB.
- En
ollama listapareceembeddinggemma
Paso 2: preparar los materiales y el script
Crea una carpeta nueva con lo siguiente dentro:
kb.py: el script de la base de conocimiento, descargar- La carpeta
docs/: tus materiales, archivos.txt. Empieza probando con nuestros tres archivos de ejemplo: Política de reembolsos.txt, Reglamento de vacaciones.txt, Control de acceso y visitantes.txt (políticas de una empresa ficticia, solo para practicar)
El núcleo del script son justamente los cuatro pasos de arriba:
# 2. 变成向量:一次把所有块交给嵌入模型
vectors = post("/api/embed", {"model": EMBED_MODEL, "input": [c["text"] for c in chunks]})["embeddings"]
# 3. 找最相关的块:问题也变成向量,和每一块比相似度
q = post("/api/embed", {"model": EMBED_MODEL, "input": question})["embeddings"][0]
scored = sorted(((sum(a * b for a, b in zip(q, v)), c) for v, c in zip(vectors, chunks)),
key=lambda x: x[0], reverse=True)[:3]
# 4. 交给模型回答:把找到的内容放进提示词,要求只根据它们回答
prompt = f"只根据下面的资料回答问题。资料里没有的,就说“资料里没有写”。\n\n资料:\n{context}\n\n问题:{question}"- En la carpeta hay
kb.pyy la carpetadocs/con los tres archivos
Paso 3: pregúntale
python3 kb.py "出差打车能报销吗?"Deberías ver: primero se listan las tres frases encontradas con sus similitudes, y luego se da la respuesta. Nuestra prueba real:
[0.71] 报销制度.txt: Reembolso de gastos de viaje: los gastos de taxi durante el viaje de trabajo se pueden reembolsar; hay que aportar la factura electrónica y presentarla dentro de los 30 días posteriores al fin del trayecto.
[0.53] 报销制度.txt: Las comidas se reembolsan según un estándar de 100 yuanes al día; el excedente corre por cuenta propia.
[0.43] 报销制度.txt: El alojamiento se tarifica por ciudad: en ciudades de primer nivel, no más de 500 yuanes por noche; en otras ciudades, no más de 350 yuanes por noche.
Respuesta: Sí se puede reembolsar.
Según los materiales, los gastos de taxi durante el viaje de trabajo se pueden reembolsar; hay que aportar la factura electrónica y presentarla dentro de los 30 días posteriores al fin del trayecto.Las puntuaciones y la redacción de la respuesta pueden variar ligeramente en cada ejecución.
$python3 kb.py "¿Qué hago si perdí mi credencial?"
[0.72] Control de acceso y visitantes.txt: los empleados entran a la zona de oficinas con su tarjeta de identificación; si la pierden, deben avisar al departamento administrativo ese mismo día para reponerla, con un costo de 20 yuanes.
- Hice una pregunta y vi las frases encontradas y la respuesta
Paso 4: preguntar algo que no está en los materiales
python3 kb.py "公司几点上班?"La respuesta que obtuvimos en nuestra prueba real fue:
Los materiales no indican a qué hora abre la empresa.En los tres archivos realmente no aparece el horario laboral. Las tres frases que encontró tienen puntuaciones bajas, y el modelo, siguiendo la instrucción del prompt, dijo que "no está escrito", sin inventar un horario. Esto es precisamente lo que hace más fiable una base de conocimiento que preguntar directamente al modelo: las respuestas tienen fuente, y cuando no la hay, lo dice.
- Vi que respondió "no está escrito" a una pregunta ausente de los materiales
Cambia a tus propios materiales
Basta con sustituir los archivos de docs/ por tus propios archivos .txt. Tres consejos:
- Una frase por línea. Este script fragmenta por líneas, así que lo ideal es que cada línea sea una información completa.
- Si cambian los materiales, vuelve a ejecutarlo. El script recalcula los vectores de todas las frases en cada ejecución; con muchos materiales se vuelve lento. Para un uso real, se pueden guardar los vectores: eso es lo que hace una base de datos vectorial.
- Si no acierta, mira primero las puntuaciones. Si la frase más relevante no aparece en los primeros puestos, lo más probable es que esa línea esté escrita de forma demasiado dispersa; divídela en trozos más cortos.
Puntos de control
- Sé explicar los cuatro pasos de una base de conocimiento
- Ejecuté con éxito
kb.pyen mi propia computadora - Vi que respondió con honestidad "no está escrito" a una pregunta ausente de los materiales
Malentendidos frecuentes
Creer que la base de conocimiento "entrena" los archivos dentro del modelo. No es así. El modelo no cambia en absoluto; cada vez solo se colocan temporalmente en el prompt las frases encontradas. Si cambias los materiales, la siguiente pregunta ya usa los nuevos.
Creer que lo encontrado siempre es correcto. Lo que se busca son las frases "más parecidas en significado", sin garantía de que sean la respuesta. Por eso el script imprime las frases encontradas y sus puntuaciones, para que puedas comprobar en qué se basa.
Fin del curso
Ahora tienes un DeepSeek corriendo en tu propia computadora y una base de conocimiento que usa solo tus archivos. Vuelve al inicio del curso para ver qué otra sección te gustaría repasar.