¿Alguna vez has deseado que tu IA pudiera recordar que prefieres respuestas breves y directas? ¿O que le gustan respuestas más detalladas sobre determinados temas? La memoria AI lo hace posible, permitiendo que el sistema recuerde sus preferencias y se adapte a diferentes conversaciones.

En LLMChat, hemos estado trabajando para crear experiencias de chat de IA que se sientan más intuitivas, haciendo que la IA sea más inteligente, pero también más personal. Una de las formas clave en que lo hemos hecho es dándole a la IA la capacidad de recordar.

Cómo funciona la memoria de IA

La memoria AI almacena información específica del usuario para personalizar interacciones futuras. Aprovecha un enfoque de llamada de funciones, desencadenando acciones específicas cuando es necesario agregar, actualizar o eliminar nueva información. Por ejemplo, si le dices a la IA que prefieres respuestas concisas, lo recuerda y ajusta sus respuestas en futuros chats.

Este es el esquema que utilizamos para administrar la memoria:

const memoryToolSchema = z.object({
  memory: z.array(
    z.string().describe("Key information about the user")
  ).describe("New info to be added or updated"),
  question: z.string().describe("The user's request"),
});

La función de la memoria en acción

Veamos el núcleo de nuestro sistema de memoria de IA. Cuando se proporciona nueva información, como las preferencias del usuario, nuestra DynamicStructuredTool garantiza que la IA actualice o agregue los detalles necesarios de forma dinámica. He aquí un vistazo de cómo funciona:

const memoryFunction = (context: ToolExecutionContext) => {
  return new DynamicStructuredTool({
    name: "memory",
    description: "Manages user preferences and adapts interactions...",
    schema: memoryToolSchema,
    func: async ({ memory, question }) => {
      const existingMemories = context.preferences?.memories || [];

      const chain = RunnableSequence.from([
        PromptTemplate.fromTemplate(`
          User request: "{question}"
          New info: {new_memory}
          Existing memories: {existing_memory}

          Update memories:
          1. Update existing details
          2. Remove if necessary
          3. Add new unique memories`),
        context.model,
        memoryParser,
      ]);

      const response = await chain.invoke({
        new_memory: memory.join("\n"),
        existing_memory: existingMemories.join("\n"),
        question: question,
      });

      context.updatePreferences?.({ memories: response.memories });
      return question;
    },
  });
};

Esta función garantiza que la IA se adapte continuamente a las preferencias del usuario, haciendo que cada interacción se sienta personalizada y más relevante.

Por qué es importante la memoria

La memoria AI mejora las experiencias del usuario al hacer que las interacciones sean más personalizadas. Ya sea para recordar cómo le gustan sus respuestas, realizar un seguimiento de los proyectos en curso o conocer sus preferencias, la memoria permite que la IA funcione de manera más inteligente. También brinda control a los usuarios, permitiéndoles administrar lo que se recuerda, actualizar las preferencias o borrar todo si es necesario.

// Example: Updating user preferences in real-time
context.updatePreferences?.({
  memories: response.memories,
});

Conclusión

La memoria hace que la IA sea más que una simple herramienta: se convierte en un compañero que se adapta a ti. Al utilizar un enfoque de llamada de funciones, hemos desbloqueado nuevas posibilidades para conversaciones dinámicas y personalizadas. En LLMChat, estamos entusiasmados con la forma en que la memoria puede transformar las interacciones de la IA, haciéndolas más inteligentes y más parecidas a las humanas.