4 أسباب لماذا توقفت عن تخصيص chatbots منظمة العفو الدولية

يعد تخصيص AI chatbots أحدث اتجاه ، حيث يقدم ChatGPT و Gemini و Copilot وغيرهم الآن ميزات التخصيص. تبدو مشاركة تفضيلاتك مفيدة ، ولكنها يمكن أن تأتي بنتائج عكسية وإنتاج استجابات غير مرغوب فيها. بعد تجربة هذه الميزة لبعض الوقت ، إليك أربعة أسباب تجعلني أتوقف عن تخصيص chatbots.

ملحوظة: تجربتي تأتي بشكل أساسي من تخصيص ChatGpt و Google Gemini. قد يكون هناك chatbots التي قد تتعامل مع التخصيص بشكل أفضل ، ولكن هذه المشكلات كانت متسقة في كلا chatbots ، مع كون chatgpt أفضل قليلاً.

قد يعطون إجابات متحيزة

بصراحة ، كانت هذه نتيجة متوقعة ؛ بعد كل شيء ، من المعروف أن chatbots تتفق مع المستخدمين. عندما تخبر الذكاء الاصطناعي بما تحب وما لا تفعله ، فإنهم يحاولون عدم إعطاء ردود تدحضك مباشرة. هذا يعني أنك ستحصل في كثير من الأحيان على ردود حيث تفضيلاتك تسليط الضوء.

على سبيل المثال ، طلبت من Gemini “تصنيف أفضل توزيعات Linux للألعاب” ، وتصنف البوب! _OS في المركز الأول لأنه يعلم أنني أستخدمه بالفعل.

ومع ذلك ، عندما قمت بتشغيل نفس البحث بالضبط (نسخ/لصق) دون تخصيص ، فإن مشروع Nobara يحتل المرتبة الأولى في القائمة ، مع Pop! _OS 5th. يمكن أن يكون هذا التحيز سيئًا حقًا لتجربتك لأنه يمكن أن يمنعك من العثور على أشياء جديدة ويبقيك واثقًا من أن كل ما تفعله على صواب ، حتى لو كان غير أفضل.

يزيد من فرص الهلوسة الذكاء الاصطناعي

الهلوسة من الذكاء الاصطناعى هي مشكلة شائعة ، حتى أن المتسللين يستخدمونها لتنفيذ هجمات النزول. AI chatbots هلوسة المعلومات وتقديمها كحقائق ، وغالبًا ما يصعب دحض مطالباتهم. تخصيص تخصيص المزيد من مشكلة الهلوسة من الذكاء الاصطناعي لأنها غالبا ما تنظر في استفساراتك مع معلومات التخصيص الخاصة بك في التركيز.

حتى عندما تطرح سؤالاً حول شيء مختلف تمامًا ، سيحاول توصيل النقاط لجعلها بشأن معلوماتك الشخصية. هذا غالبًا ما يؤدي إلى توصيل المعلومات بقوة بمعلوماتك الشخصية والكذب.

على سبيل المثال ، سألت Gemini عن استخدام RCS في رسائل Google في إعداد مزدوج SIM. نظرًا لأنه يعلم أنني أستخدم Linux ، فقد قامت بطريقة ما بتوصيل استعلامي حول Android إلى Linux. لقد أعطاني بثقة تعليمات حول تطبيق Android على Linux. حتى أنها تستدعي رسائل Google تطبيق المراسلة الافتراضية على POP! _OS.

أنا مجبر على توضيح الأشياء التي لا يجب أن أضطر إلى ذلك بشكل طبيعي

عادة ، إذا طرحت سؤالًا دون تقديم أي سياق ، فإن AI chatbots تأخذ أفضل تخمين وغالبًا ما تكون صحيحة. هذا يعني أنه يمكنك بدء معظم الدردشات دون الخوض في تفاصيل ما تتحدث عنه بالضبط ، وتوفير الوقت. مع التخصيص ، سيحاول توصيل الاستعلام بمعلوماتك الشخصية إذا كان شبه مرتبط. هذا يؤدي إما إلى توفير معلومات غير صحيحة أو من الذكاء الاصطناعى طرح المزيد من الأسئلة للتوضيح.

على سبيل المثال ، سألت ChatGPT استعلامًا بسيطًا حول مواجهة BSOD بعد تحديث برامج التشغيل. الشاشة الزرقاء للموت (BSOD) هي خطأ حصري لـ Windows ، لذلك عادةً ما يخمن أنني أواجه المشكلة في Windows. ومع ذلك ، فقد بدأ الأمر بدلاً من ذلك يطلب مني تقديم المزيد من التفاصيل لأنه يعلم أنني أستخدم Linux ، مما يجبرني على توضيح أنني أستخدم Windows.

تضيع الذكاء الاصطناعى مساحة الإجابة والرموز عن طريق إضافة معلومات إضافية

AI chatbots معالجة المعلومات باستخدام نظام رمزي. نظرًا لأن إجابات AI تستخدم الكثير من موارد الأجهزة ، فإن هذا النظام الرمزي يتيح لـ chatbot إدارة طول الإجابة بناءً على السؤال وخطة المستخدم ، مثل الإصدارات المجانية أو المدفوعة. لذلك ، فإن جميع المعلومات في إجابة محدودة بواسطة هذا النظام الرمزي ؛ أي معلومات إضافية لا تحتاجها لا تزال تستهلك هذه الرموز.

مع التخصيص ، أي سؤال تطرحه حتى شبه مرتبط بمعلوماتك الشخصية ، فإن الذكاء الاصطناعى سوف يضيع بعض الرموز المميزة لتوفير معلومات إضافية.

على سبيل المثال ، كنت أتحدث مع Gemini حول Windows Defender وكيف يعمل مع برامج مكافحة الفيروسات الطرف الثالث. لم يكن هناك ذكر لـ Linux ، ومع ذلك قررت تكريس قسم لـ Linux لتكرار نفس المثال الذي قدمه لي لنظام التشغيل Windows. كان من الممكن استخدام هذه المساحة لتوفير مزيد من المعلومات حول Windows.

يمكن أن يجعل التخصيص المعلومات أكثر صلة ، ولكنه يمكن أن يؤدي أيضًا إلى إجابات وتحيز غير صحيحة ، مما يجعل من الصعب الوثوق بالإجابات. لقد قمت بتعطيل التخصيص على جميع chatbots منظمة العفو الدولية التي أستخدمها وأحاول بدلاً من ذلك صياغة المطالبات بطريقة أحصل على الإجابة الدقيقة التي أحتاجها.