أريد اليوم مشاركة Offload، وهي حزمة تطوير برامج جافا سكريبت لتشغيل الذكاء الاصطناعي مباشرة على متصفح المستخدمين.

ما هو التفريغ؟

إنها حزمة SDK يمكنك استخدامها لإضافة الذكاء الاصطناعي إلى موقع الويب الخاص بك ولكن مع خصوصية واحدة: فهي تتيح للمستخدمين تشغيل مهام الذكاء الاصطناعي محليًا، والاحتفاظ ببياناتهم على أجهزتهم، وتجنب الحاجة إلى إرسالها إلى واجهة برمجة تطبيقات استدلال تابعة لجهة خارجية.

بالإضافة إلى ذلك، فإنه يقلل من تكاليفك ويساعد على توسيع نطاق تطبيقك بتكلفة زهيدة. نظرًا لتفريغ المزيد من الاستدلال على أجهزة المستخدمين، قل عدد الموارد التي تحتاجها لتخصيص أو إنفاق واجهات برمجة التطبيقات التابعة لجهات خارجية.

إذا كنت مطور تطبيقات، فإن دمج Offload لن يؤدي إلا إلى تحسين تطبيقك، حيث سيستمر في العمل كالمعتاد مع تقديم للمستخدمين القدرة على معالجة بياناتهم محليًا، دون أي جهد من جانبك.

ميزات التفريغ

يمكنك دمج Offload كبديل مباشر لأي SDK تستخدمه الآن، فقط قم بتغيير استدعاءات دالة الاستدلال.

يوفر إلغاء التحميل ** نماذج بأحجام مختلفة للمستخدمين تلقائيًا **، اعتمادًا على الجهاز وموارده. إذا لم يكن جهاز المستخدم يحتوي على موارد كافية، فلن يُظهر إلغاء التحميل لذلك المستخدم خيار معالجة البيانات محليًا وسيعود إلى أي واجهة برمجة تطبيقات تحددها عبر لوحة المعلومات.

في لوحة المعلومات، يمكنك تكوين المطالبات وإدارتها، وتخصيصها واختبارها للنماذج المختلفة، والحصول على التحليلات من المستخدمين، والمزيد. كل شيء دون تعريض بيانات المستخدمين لأي طرف ثالث، حيث تتم معالجة كل شيء على الجهاز.

يدعم إلغاء التحميل إنشاء استجابات نصية، وفرض كائنات البيانات المنظمة عبر مخططات JSON، وتدفق استجابة النص، والمزيد.

إذا كان هناك أي شيء آخر لا ندعمه وترغب في رؤيته، فيرجى ترك تعليق!

لماذا يعد إلغاء التحميل مهمًا؟

أعتقد أن الذكاء الاصطناعي المحلي هو المستقبل. ومع ذلك، مع استمرار الذكاء الاصطناعي في التقدم، أشعر بقلق متزايد بشأن كيفية معالجة بياناتنا.

يستخدم كل تطبيق يطبق ميزة الذكاء الاصطناعي اليوم واجهة برمجة تطبيقات بعيدة، حيث يرسل بيانات المستخدمين. تستخدم معظم هذه التطبيقات واجهات برمجة التطبيقات العامة مثل OpenAI وAnthropic وغيرها. يكون التدفق بسيطًا: يقوم التطبيق بجمع بيانات المستخدم وإرسالها مع المطالبة إلى واجهة برمجة التطبيقات البعيدة، والتي ترد بالنص أو الصورة التي تم إنشاؤها.

المشكلة الكبيرة في هذا الأسلوب هي أنه عندما تمنح تطبيقًا حق الوصول إلى مستند (أو صورة أو فيديو أو أي جزء من البيانات)، فإنه يرسل المستند الخاص بك إلى واجهة برمجة تطبيقات بعيدة، والتي قد تتضمن أي معلومات حساسة عليه يتضمن. من المحتمل أن تقوم واجهة برمجة التطبيقات البعيدة بتسجيل المطالبات، أو استخدام البيانات لتدريب نماذج جديدة، أو بيع بياناتك لأغراض أخرى.

أعتقد أن مشكلة خصوصية البيانات أصبحت أسوأ الآن بعد أن حصلنا على ماجستير إدارة الأعمال. تسمح LLMs بفهرسة كميات هائلة من المعلومات غير المنظمة بطرق جديدة لم تكن ممكنة من قبل، وهذا يزيد من خطر كشف أي جزء من المعلومات الشخصية.

على سبيل المثال، لنفترض أن لديك مذكرات. من المحتمل أن يتضمن ذلك المكان الذي تعيش فيه، وجداولك الزمنية، ومن هم أصدقاؤك، ومكان عملك، وربما المبلغ الذي تكسبه، وغير ذلك الكثير. وحتى لو لم تتم كتابته بشكل مباشر، فمن المحتمل أن يتم استنتاجه من محتوى اليوميات. حتى الآن، لاستنتاج تلك المعلومات، سيحتاج شخص ما إلى قراءتها بالكامل. ومع ذلك، مع ماجستير إدارة الأعمال، يمكن للمرء الحصول على ما يكفي من البيانات لانتحال شخصيتك في ثوانٍ.

باستخدام أحد التطبيقات للدردشة مع مذكراتك، من المحتمل أن تعرض معلوماتك، حيث يتم إرسالها إلى بعض واجهات برمجة التطبيقات.
من ناحية أخرى، إذا كان هذا التطبيق يستخدم Offload، فيمكنك استخدامه بشكل آمن نظرًا لأن بياناتك لا تترك جهازك، وبالتالي لا يمكن كشفها.

هذا مهم بشكل خاص في الصناعات التي تعمل مع بيانات حساسة للغاية، مثل الرعاية الصحية، والقانونية، وتطبيقات معالجة المستندات، والمساعدين الشخصيين، وما إلى ذلك.

دمج إلغاء التحميل في تطبيقك اليوم!