هناك العديد من الأدوات الرائعة التي تساعد في بناء تطبيقات الذكاء الاصطناعي الإبداعية. لكن البدء باستخدام أداة جديدة يستغرق وقتًا للتعلم والممارسة.

لهذا السبب، قمت بإنشاء مستودع يحتوي على أمثلة لأطر عمل مفتوحة المصدر شائعة لبناء تطبيقات الذكاء الاصطناعي التوليدية.

توضح الأمثلة أيضًا كيفية استخدام أطر العمل هذه مع Amazon Bedrock.

يمكنك العثور على المستودع هنا:

https://github.com/danilop/oss-for-geneative-ai

في بقية هذه المقالة، سأصف الأطر التي حددتها، وما هو موجود في نموذج التعليمات البرمجية في المستودع، وكيف يمكن استخدامها عمليًا.

الأطر المدرجة

• LangChain: إطار عمل لتطوير التطبيقات المدعومة بنماذج اللغة، ويضم أمثلة على:

  • استدعاء النموذج الأساسي
  • مطالبات التسلسل
  • إنشاء واجهة برمجة التطبيقات
  • إنشاء عميل
  • تنفيذ الشات بوت
  • استخدام وكلاء الأساس

• LangGraph: امتداد لـ LangChain لبناء تطبيقات متعددة الجهات مع نماذج لغوية كبيرة (LLMs)

• Haystack : إطار عمل شامل لبناء أنظمة البحث وتطبيقات نماذج اللغة

• LlamaIndex: إطار بيانات للتطبيقات المستندة إلى LLM، مع أمثلة على:

  • RAG (جيل الاسترجاع المعزز)
  • بناء الوكيل

• DSPy : إطار عمل لحل مهام الذكاء الاصطناعي باستخدام نماذج لغوية كبيرة

• RAGAS : إطار لتقييم خطوط أنابيب توليد الاسترجاع المعزز (RAG)

• LiteLLM: مكتبة لتوحيد استخدام LLMs من مقدمي خدمات مختلفين

نظرة عامة على الأطر

لانجشين

إطار عمل لتطوير التطبيقات المدعومة بالنماذج اللغوية.

الميزات الرئيسية:

• المكونات المعيارية للتطبيقات التي تدعم LLM
• السلاسل والوكلاء لسير عمل LLM المعقد
• أنظمة الذاكرة للتفاعلات السياقية
• التكامل مع مصادر البيانات المختلفة وواجهات برمجة التطبيقات

حالات الاستخدام الأساسية:

• بناء أنظمة الذكاء الاصطناعي للمحادثة
• إنشاء أنظمة الإجابة على الأسئلة الخاصة بالمجال
• تطوير أدوات التشغيل الآلي التي تعمل بالذكاء الاصطناعي

لانغغراف

امتداد لـ LangChain لبناء ممثلين متعددين. التطبيقات مع LLMs

الميزات الرئيسية:

• إدارة سير العمل على أساس الرسم البياني
• إدارة الحالة لتفاعلات الوكيل المعقدة
• أدوات لتصميم وتنفيذ أنظمة متعددة الوكلاء
• سير العمل الدوري وحلقات التغذية الراجعة

حالات الاستخدام الأساسية:

• إنشاء أنظمة وكلاء الذكاء الاصطناعي التعاونية
• تنفيذ مسارات عمل الذكاء الاصطناعي المعقدة والفعالة
• تطوير عمليات المحاكاة والألعاب التي تعمل بالذكاء الاصطناعي

كومة قش

إطار عمل مفتوح المصدر لبناء تطبيقات LLM جاهزة للإنتاج.

الميزات الرئيسية:

• أنظمة الذكاء الاصطناعي القابلة للتركيب مع مسارات مرنة
• دعم الذكاء الاصطناعي متعدد الوسائط (نص، صورة، صوت)
• جاهز للإنتاج مع خطوط أنابيب ومراقبة قابلة للتسلسل

حالات الاستخدام الأساسية:

• بناء خطوط أنابيب RAG وأنظمة البحث
• تطوير الذكاء الاصطناعي للمحادثة وروبوتات الدردشة
• إنشاء المحتوى وتلخيصه
• إنشاء خطوط أنابيب وكيلة ذات مسارات عمل معقدة

LlamaIndex

إطار بيانات لبناء التطبيقات التي تدعم LLM.

الميزات الرئيسية:

• استيعاب البيانات المتقدمة وفهرستها
• معالجة الاستعلام وتوليف الاستجابة
• دعم موصلات البيانات المختلفة
• خوارزميات استرجاع وتصنيف قابلة للتخصيص

حالات الاستخدام الأساسية:

• إنشاء قواعد المعرفة وأنظمة الإجابة على الأسئلة
• تنفيذ البحث الدلالي عبر مجموعات البيانات الكبيرة
• إنشاء مساعدين ذكاء اصطناعي مدركين للسياق

DSPy

إطار عمل لحل مهام الذكاء الاصطناعي من خلال برامج نماذج اللغة التصريحية والقابلة للتحسين.

الميزات الرئيسية:

• نموذج البرمجة التعريفية لتفاعلات LLM
• التحسين التلقائي لمطالبات ومعلمات LLM
• نظام الكتابة القائم على التوقيع لمدخلات / مخرجات LLM
• الملقن (المحسن الآن) للتحسين الفوري التلقائي

حالات الاستخدام الأساسية:

• تطوير مسارات البرمجة اللغوية العصبية القوية والمحسنة
• إنشاء أنظمة ذكاء اصطناعي ذاتية التحسين
• تنفيذ مهام التفكير المعقدة مع LLMs

راجاس

إطار تقييم لأنظمة توليد الاسترجاع المعزز (RAG).

الميزات الرئيسية:

• التقييم الآلي لخطوط أنابيب RAG
• مقاييس تقييم متعددة (الإخلاص، وملاءمة السياق، وملاءمة الإجابة)
• دعم لأنواع مختلفة من الأسئلة ومجموعات البيانات
• التكامل مع أطر عمل RAG الشائعة

حالات الاستخدام الأساسية:

• قياس أداء نظام RAG
• تحديد مجالات التحسين في خطوط أنابيب RAG
• مقارنة تطبيقات RAG المختلفة

لايتLLM

واجهة موحدة لمقدمي خدمات LLM المتعددة.

الميزات الرئيسية:

• واجهة برمجة التطبيقات الموحدة لـ 100 نموذج LLM
• الرجوع التلقائي وموازنة التحميل
• آليات التخزين المؤقت وإعادة المحاولة
• تتبع الاستخدام وإدارة الميزانية

حالات الاستخدام الأساسية:

• تبسيط تطوير تطبيقات LLM المتعددة
• تنفيذ نموذج التكرار والاستراتيجيات الاحتياطية
• إدارة استخدام LLM عبر مقدمي الخدمات المختلفين

خاتمة

أخبرني إذا استخدمت أيًا من هذه الأدوات. هل فاتني شيء ترغب في مشاركته مع الآخرين؟ لا تتردد في المساهمة مرة أخرى في المستودع!