كيفية إعداد chatbot من AI في وضع عدم الاتصال الخاص بك

فائدة chatbots الشهيرة على الإنترنت مثل ChatGPT لا جدال فيها – فهي تساعدنا في الكتابة وتحليلها وحل المشكلات يوميًا. ولكن ماذا لو كنت لا تريد تخزين محادثاتك على خوادم شخص آخر أو تحتاج إلى الوصول إلى الذكاء الاصطناعي حتى بدون اتصال بالإنترنت؟ يمكنك إعداد chatbot AI الخاصة بك في وضع عدم الاتصال الذي يعمل بالكامل على جهاز الكمبيوتر الخاص بك.

ما هو chatbot من الذكاء الاصطناعي وماذا يمكن أن تفعل؟

يعد AI chatbot محليًا (غير متصل) من الذكاء الاصطناعي نموذجًا للذكاء الاصطناعي يعمل مباشرة على جهاز الكمبيوتر الخاص بك ، وذلك باستخدام موارد الأجهزة الخاصة بك – وحدة المعالجة المركزية (المعالج) ، و GPU (بطاقة الرسومات) ، وذاكرة (ذاكرة) – لمعالجة وإنشاء ردود.

هناك العديد من نماذج الذكاء الاصطناعي المحلي المتوفرة اليوم ، مع إصدار نماذج جديدة بانتظام. تعتمد معظمها على نماذج مفتوحة المصدر التي نشرتها شركات التكنولوجيا الكبرى مثل Meta (LLAMA) و Google (GEMMA) و Microsoft (PHI) و MISTRAL (CODESTRAL ، MISTRAL_7B). يمكنك العثور على تصنيفاتهم على لوحة LLM Open.

نماذج مختلفة تتفوق في مهام مختلفة. البعض متخصصون-بشكل خاص في الترميز ، والكتابة الإبداعية ، والعب الأدوار-في حين أن البعض الآخر هم من العموميين الذين يمكنهم التعامل مع مجموعة واسعة من المهام. كما أنها تختلف في تصفية المحتوى الخاص بها: يتم تصفية بعض النماذج بدقة ولن تلمس أي شيء NSFW (غير آمن للعمل) ، في حين أن البعض الآخر لا يتردد في استخدام المفردات التي من شأنها أن تجعل استحى بحار قديم.

عند اختيار نموذج الذكاء الاصطناعي المحلي ، يعد الحجم عاملاً آخر يجب مراعاته. من الناحية المثالية ، يجب أن يتناسب النموذج بأكمله مع VRAM (RAM) في GPU. على سبيل المثال ، إذا كانت بطاقة الرسومات الخاصة بك تحتوي على 8 جيجابايت من VRAM ، فيمكنك تشغيل طراز 7 جيجابايت بشكل مريح ، ولكن سيكون طراز 10 جيجابايت كبيرًا جدًا. بشكل عام ، تميل النماذج الكبيرة إلى تحقيق نتائج أفضل ، لكنها تتطلب أجهزة أكثر قوة.

بالنسبة لهذا الدليل ، أستخدم نموذج QWEN2.5 Coder 14B ، لأنه مضغوط نسبيًا (8.37 جيجابايت) ، يمكن استخدامه تجاريًا ، ويظهر قدرات ترميز مثيرة للإعجاب لحجمها. أوصي بتجربة نماذج مختلفة للعثور على ما هو أفضل لاحتياجاتك. المجتمعات مثل R/Localllama هي موارد ممتازة للبقاء على اطلاع دائم.

كيفية تثبيت وتكوين chatbot AI في وضع عدم الاتصال

لإعداد chatbot AI غير متصل بالإنترنت ، تحتاج إلى مكونين رئيسيين: نموذج منظمة العفو الدولية المحلية وواجهة سهلة الاستخدام للتفاعل مع النموذج في نمط الدردشة المألوف. هناك حلول برامج تتعامل مع كلا الجانبين بسلاسة.

أفضل اختيار لي هو يناير ، حيث إنه مفتوح المصدر تمامًا ويوفر واجهة نظيفة وبديهية تشبه تطبيقات الدردشة الشائعة. ويشمل أيضًا مركزًا نماذج مدمجًا يجعل تنزيل نماذج الذكاء الاصطناعى وإدارتها مباشرة. هناك خيار آخر هو LM Studio ، والذي يضيف عمومًا دعمًا للنماذج المتطورة عاجلاً ولكنه لا ينشر رمز المصدر الخاص به.

تثبيت Jan.ai وتنزيل نموذجك الأول

أولاً ، تفضل بزيارة موقع Jan.ai على الويب وقم بتنزيل الإصدار المناسب لنظامك. عملية التثبيت واضحة: قم بتشغيل ملف التثبيت الذي تم تنزيله واتبع مطالبات التثبيت القياسية.

بمجرد التثبيت ، إطلاق Jan.ai. انقر فوق مَركَز علامة تبويب لتصفح النماذج المتاحة. ابحث عن نموذج يلبي معاييرك ويتوافق مع أجهزتك (Jan.ai يجعل هذا واضحًا) ، وانقر فوق تحميل. قد يستغرق التنزيل والتثبيت بعض الوقت ، اعتمادًا على اتصال الإنترنت الخاص بك.

قبل البدء في الدردشة ، هناك خطوة أكثر أهمية للأداء الأمثل. إذا كان لديك بطاقة رسومات NVIDIA متوافقة ، فانتقل إلى إعدادات وتجد تسارع GPU خيار. قم بتمكينه من تحسين سرعة استجابة النموذج بشكل كبير. قد تحتاج إلى تثبيت أو تحديث الخاص بك سائقي Nvidia و مجموعة أدوات CUDA إذا طُلب.

إجراء محادثة مع chatbot من الذكاء الاصطناعي المحلي الخاص بك

مع تنزيل نموذج ، ابدأ الدردشة الأولى من خلال النقر على زر الدردشة في الجزء العلوي من الشريط الجانبي الأيسر. سيتم فتح موضوع جديد ، وسيتم تحديد نموذجك تلقائيًا. إذا قمت بتنزيل أكثر من طراز واحد ، فانقر فوق اسم الطراز لاختيار واحد.

لإرسال رسالة الدردشة الأولى الخاصة بك عبر chatbot من الذكاء الاصطناعي الخاص بك ، انقر فوق اسألني أي شيء الحقل ، اكتب أي شيء تريده ، وضرب يدخل. ستستغرق الاستجابة الأولى بعض الوقت ، حيث يتعين على النموذج أن يتم تحميله أولاً ، ولكن يجب أن تكون الاستجابات اللاحقة سريعة نسبيًا.

تابع المحادثة في نفس الموضوع ، وهو أمر منطقي إذا كنت ترغب في البحث بشكل أعمق في نفس الموضوع ، حيث يمكن أن يستفيد AI chatbot من السياق الذي توفره رسائلك السابقة. بدلاً من ذلك ، انقر فوق موضوع جديد زر في الزاوية العلوية اليسرى.

بشكل عام ، أوصي بإنشاء موضوع جديد كلما أردت بدء موضوع جديد أو تحويل إلى مهمة مختلفة. يساعد هذا في الحفاظ على محادثاتك منظمة ويمنع الذكاء الاصطناعى من الخلط من خلال خلط السياق غير المرتبط من المناقشات السابقة.

تكوين كيفية تصرف chatbot من الذكاء الاصطناعي الخاص بك

ما هو رائع في Jan.ai هو أنه يمكنك تخصيص كيفية استجابة chatbot منظمة العفو الدولية لمطالبك. بشكل رئيسي ، يحدث هذا التخصيص بطريقتين: من خلال التعليمات العامة والمعلمات المحددة.

أولاً ، أعط تعليمات عامة مساعدة منظمة العفو الدولية حول كيفية تصرفها. انقر فوق إعدادات زر بجوار اسم النموذج الخاص بك وانتقل إلى مساعد علامة التبويب في الشريط الجانبي الأيمن من أي موضوع دردشة للعثور على تعليمات مجال.

يمكنك كتابة الإرشادات حول كيفية الرد على الذكاء الاصطناعي. على سبيل المثال ، يمكنك أن تخبرها بـ “العمل كمدرس برمجة يشرح المفاهيم بعبارات بسيطة” أو “الرد مثل مدرب الكتابة الإبداعية الذي يقدم تعليقات بناءة”.

إلى جانب التعليمات الأساسية ، يمكنك ضبط المعلمات التقنية المختلفة التي تتحكم في كيفية إنشاء الذكاء الاصطناعي. في نموذج علامة التبويب من الشريط الجانبي الأيمن ، ستجد العديد من الإعدادات المهمة ، بما في ذلك:

• درجة حرارة: فكر في هذا كمستوى إبداعي لمنظمة العفو الدولية. تجعل القيم المنخفضة (0.0 – 0.5) استجابات أكثر قابلية للتنبؤ بها ، في حين أن القيم الأعلى (0.8 – 2.0) تجعلها أكثر إبداعًا وتنوعًا (ولكن من المحتمل أن تكون غير مركزة).
• الرموز القصوى: يتحكم في المدة التي يمكن أن تكون فيها ردود الذكاء الاصطناعي. تسمح القيم الأعلى بإجابات أطول وأكثر تفصيلاً ، في حين أن القيم المنخفضة تبقي الأشياء موجزة.
• طول السياق: يحدد مقدار محادثتك التي يمكن أن تتذكرها الذكاء الاصطناعي والرجوع إليها. سياق أطول يعني أن الذكاء الاصطناعى يمكنه الحفاظ على المزيد من المناقشات التفصيلية ولكنه قد يعمل أبطأ.

والأفضل من ذلك كله ، يمكنك إنشاء مؤشرات ترابط دردشة مختلفة مع تكوينات مختلفة ، مثل مؤشر ترابط مع إعداد درجات الحرارة العالية للكتابة الإبداعية والآخر مع إعداد درجات الحرارة المنخفض للحصول على إجابات فنية دقيقة-لذلك لا تخف من التجربة.

من خلال نموذج جيد يعمل على تشغيل chatbot من AI ، يمكنك إنجاز مجموعة رائعة من المهام. لقد استخدمت شخصياً chatbot منظمة العفو الدولية لمساعدتي في إنشاء تطبيق ويب حديث من نقطة الصفر ، والإمكانيات لا تنتهي حقًا: من الكتابة والترميز إلى التحليل والمشاريع الإبداعية.

جميع الصور ولقطات شاشة ديفيد موريلو.