dspy : LLM 응용 프로그램을 구축하고 개선하기위한 선언적 프레임 워크

dspy (선언적 자체 개선 언어 프로그램)는 신속한 엔지니어링의 복잡성을 추상화하여 LLM 애플리케이션 개발에 혁명을 일으킨다. 이 튜토리얼은 DSPY의 선언적 접근 방식을 사용하여 강력한 AI 응용 프로그램 구축에 대한 포괄적 인 안내서를 제공합니다.

학습 목표 :

• LLM 애플리케이션 개발을 단순화하기위한 DSPY의 선언적 방법을 파악하십시오.
• DSPY가 신속한 엔지니어링을 자동화하고 복잡한 작업에 대한 성능을 최적화하는 방법을 이해합니다.
• 수학적 문제 해결 및 감정 분석과 같은 실제 DSPY 예제를 탐색합니다.
• DSPY의 장점에 대해 배우십시오 : 모듈성, 확장 성 및 지속적인 자기 개선.
• DSPY를 기존 시스템에 통합하고 LLM 워크 플로우 최적화에 대한 통찰력을 얻습니다.

(이 기사는 데이터 과학 블로그의 일부입니다.)

목차 :

• dspy 란 무엇입니까?
• dspy 기능은 어떻게 작동합니까?
• dspy로 프롬프트 엔지니어링 자동화
• 실용적인 dspy 프롬프트 예제
• dspy의 장점
• 결론
• 자주 묻는 질문

dspy 란 무엇입니까?

dspy는 선언적 접근 방식을 사용하여 LLM 기반 응용 프로그램의 개발을 단순화합니다. 사용자는 모델이해야 할 일 을 정의합니다. 주요 구성 요소는 다음과 같습니다.

서명 :
• 선언 사양 모듈 입력/출력 동작을 정의하는 선언 사양 (예 : "Question -> answer"). 서명은 모델의 의도 된 기능을 명확히합니다.
모듈 :
• LLM 파이프 라인 내에서 추상 표준 프롬프트 메커니즘. 각 모듈은 특정 서명 및 프롬프트 방법을 처리합니다. 모듈은 복잡한 응용 프로그램을 만들기 위해 결합됩니다.
최적화기 :
• 정확도와 같은 메트릭을 향상시키기 위해 DSPY 프로그램 매개 변수 (모델 가중치, 프롬프트)를 수정합니다. 이 자동화는 수동 프롬프트 엔지니어링을 제거합니다.

dspy 기능은 어떻게 작동합니까?

DSPY는 모듈 식 구성 요소 및 선언 프로그래밍을 통해 워크 플로 생성을 간소화합니다. 워크 플로 설계, 최적화 및 실행을 자동화하여 사용자가 목표 정의에 집중할 수 있습니다. 프로세스에는 다음이 포함됩니다 :

작업 정의 :
1. 작업 (예 : 요약, 질문 응답) 및 성능 메트릭 (정확도, 응답 시간).
데이터 수집 :
2. 라벨이 붙거나 표지되지 않은 관련 입력 예제를 수집합니다. DSPY 처리를위한 데이터 준비.
파이프 라인 구성 :
3. 적절한 DSPY 모듈을 선택하고 각각의 서명을 정의하고 데이터 처리 파이프 라인을 조립합니다.
최적화 :
4. DSPY의 최적화기를 사용하여 소수의 학습 및 자기 개선을 활용하여 프롬프트 및 매개 변수를 개선합니다.
컴파일 및 실행 :
5. 최적화 된 파이프 라인을 실행 파이썬 코드로 컴파일하고 배포합니다. 정의 된 메트릭에 대한 성능 평가.
반복 :
6. 성능 분석, 파이프 라인을 개선하고 (조정 모듈, 데이터, 최적화 매개 변수) 개선 된 결과를 위해 반복하십시오.

dspy를 사용한 프롬프트 엔지니어링 자동화

dspy는 프롬프트 엔지니어링을 수동 작업이 아닌 기계 학습 문제로 취급합니다.

bootstrapping :
• 예제 및 모델 출력에 따라 초기 프롬프트를 반복적으로 개선합니다.
프롬프트 체인 :
• 복잡한 작업을 더 간단한 하위 프로모스로 나눕니다.
프롬프트 앙상블 :
• 는 견고성과 성능 향상을위한 여러 프롬프트 변형을 결합합니다.

실용적인 dspy 프롬프트 예

수학 문제 해결 (사고) :

DSPY 가져 오기 lm = dspy.lm ( 'Openai/gpt-4o-mini', api_key = 'API 키') # API 키로 교체하십시오. dspy.configure (lm = lm) math = dspy.chainofthought ( "질문 -> 답 : float") 응답 = 수학 (질문 = "킬로미터의 지구와 태양 사이의 거리는 얼마입니까?") 인쇄 (응답)

• 감정 분석 :

import dspy
lm = dspy.LM('openai/gpt-4o-mini', api_key='Your api key') # Replace with your API key
dspy.configure(lm=lm)
math = dspy.ChainOfThought("question -> answer: float")
response = math(question="What is the distance between Earth and the Sun in kilometers?")
print(response)

수입 문자를 입력 한 것입니다 클래스 분류 (dspy.signature) : 문장 : str = dspy.inputfield () 감정 : 리터럴

= dspy.outputfield () 자신감 : float = dspy.outputfield () classify = dspy.predict (classify) Classify (sentence = "나는 새로운 기술을 배우는 것을 좋아합니다!")

from typing import Literal
class Classify(dspy.Signature):
    sentence: str = dspy.InputField()
    sentiment: Literal['positive', 'negative', 'neutral'] = dspy.OutputField()
    confidence: float = dspy.OutputField()
classify = dspy.Predict(Classify)
classify(sentence="I love learning new skills!")

스팸 탐지 :

(감정 분석과 유사한 구조, 이메일을 스팸/스팸으로 분류)

FAQ 자동화 :

(질문/답변 쌍의 서명을 정의)

dspy의 장점 :

선언 프로그래밍

modularity

자동 최적화

• 자기 개선
• 확장 성
• 쉬운 통합
• 연속 모니터링
• 결론:
dspy는 LLM 애플리케이션 개발을 단순화하여보다 접근 가능하고 효율적입니다. 선언적 접근 방식, 모듈 식 디자인 및 자동 최적화 기능은 강력하고 확장 가능한 AI 솔루션으로 이어집니다.

자주 묻는 질문 :

Q1 : DSPY가 다른 LLM 프레임 워크와 어떻게 다릅니 까? Q3 : DSPY는 다양한 AI 모델을 지원합니까?

A : 예, 모델에 대한 정보가 필요합니다 (API 키가 필요).

• (참고 : 이미지 소스는 저자가 소유하지 않으며 허가를 받아 사용됩니다.)