귀하가 짧고 직접적인 답변을 선호한다는 사실을 AI가 기억할 수 있기를 바랐던 적이 있습니까? 아니면 특정 주제에 대해 더 자세한 답변을 원하시나요? AI 메모리를 사용하면 시스템이 사용자의 선호도를 기억하고 다양한 대화에 적응할 수 있으므로 이것이 가능합니다.

LLMChat에서는 AI를 더욱 스마트하면서도 더욱 개인화하여 더욱 직관적인 AI 채팅 경험을 구축하기 위해 노력해 왔습니다. 우리가 이를 수행한 주요 방법 중 하나는 AI에 기억할 수 있는 능력을 부여하는 것입니다.

AI 메모리 작동 방식

AI 메모리는 사용자별 정보를 저장하여 향후 상호 작용을 개인화합니다. 이는 함수 호출 접근 방식을 활용하여 새로운 정보를 추가, 업데이트 또는 제거해야 할 때 특정 작업을 트리거합니다. 예를 들어 AI에게 간결한 답변을 선호한다고 말하면 AI는 이를 기억하고 향후 채팅에서 응답을 조정합니다.

메모리 관리에 사용하는 스키마는 다음과 같습니다.

const memoryToolSchema = z.object({
  memory: z.array(
    z.string().describe("Key information about the user")
  ).describe("New info to be added or updated"),
  question: z.string().describe("The user's request"),
});

실제 메모리 기능

AI 메모리 시스템의 핵심을 살펴보겠습니다. 사용자 기본 설정과 같은 새로운 정보가 제공되면 DynamicStructuredTool은 AI가 필요한 세부 정보를 동적으로 업데이트하거나 추가하도록 보장합니다. 작동 방식은 다음과 같습니다.

const memoryFunction = (context: ToolExecutionContext) => {
  return new DynamicStructuredTool({
    name: "memory",
    description: "Manages user preferences and adapts interactions...",
    schema: memoryToolSchema,
    func: async ({ memory, question }) => {
      const existingMemories = context.preferences?.memories || [];

      const chain = RunnableSequence.from([
        PromptTemplate.fromTemplate(`
          User request: "{question}"
          New info: {new_memory}
          Existing memories: {existing_memory}

          Update memories:
          1. Update existing details
          2. Remove if necessary
          3. Add new unique memories`),
        context.model,
        memoryParser,
      ]);

      const response = await chain.invoke({
        new_memory: memory.join("\n"),
        existing_memory: existingMemories.join("\n"),
        question: question,
      });

      context.updatePreferences?.({ memories: response.memories });
      return question;
    },
  });
};

이 기능을 사용하면 AI가 사용자 선호도에 지속적으로 적응하여 모든 상호 작용이 맞춤화되고 관련성이 높아지는 느낌을 받을 수 있습니다.

기억이 중요한 이유

AI 메모리는 상호 작용을 더욱 개인화하여 사용자 경험을 향상시킵니다. 답변이 마음에 드는지 기억하든, 진행 중인 프로젝트를 추적하든, 선호도를 아는 것이든 기억을 통해 AI는 더욱 지능적으로 작동할 수 있습니다. 또한 사용자에게 제어권을 부여하여 기억된 내용을 관리하고, 기본 설정을 업데이트하고, 필요한 경우 모든 항목을 지울 수 있습니다.

// Example: Updating user preferences in real-time
context.updatePreferences?.({
  memories: response.memories,
});

결론

메모리는 AI를 단순한 도구 이상으로 만들어 사용자에게 적응하는 동반자가 됩니다. 함수 호출 접근 방식을 사용하여 역동적이고 개인화된 대화를 위한 새로운 가능성을 열었습니다. LLMChat에서는 메모리가 AI 상호 작용을 어떻게 변화시켜 AI 상호 작용을 더욱 스마트하고 인간과 비슷하게 만드는 방법에 대해 기쁘게 생각합니다.