بتقولك كلام فارغ.. أى من برامج الدردشة تُصاب بالهلوسة أكثر من غيرها

بتقولك كلام فارغ.. أى من برامج الدردشة تُصاب بالهلوسة أكثر من غيرها



كتبت أميرة شحاتة

بتقولك كلام فارغ.. أى من برامج الدردشة تُصاب بالهلوسة أكثر من غيرها


لا تخلو برامج الدردشة الآلية من العيوب، فقد تُخطئ أحيانًا، ببساطة، تُدرَّب نماذج اللغة الكبيرة للذكاء الاصطناعي (LLMs) على استخدام الأنماط للتنبؤ بالكلمة التالية المحتملة في سلسلة من الكلمات، وإذا لم يتمكن النموذج من إيجاد نمط محدد للإجابة على سؤال ما، فسيحاول الإجابة عليه بتجميع كلمات منطقية إحصائيًا، حتى لو كانت غير صحيحة من الناحية الواقعية، وهو ما يسمى بهلوسة الذكاء الاصطناعى.

وفقا لما ذكره موقع "Phonearena"، لهذا السبب، لا تزال نماذج الذكاء الاصطناعي بحاجة إلى تدخل بشري للتحقق من البيانات، مثل أسعار الأسهم والأسماء والتواريخ، ولا يُلام نموذج الذكاء الاصطناعي عندما يُخطئ، فهو لا يزال يتبع ما بُرمج عليه حتى لو لم تكن البيانات متوفرة للإجابة.

أجرت شركة Legal Guardian Digital، وهي شركة متخصصة في تحسين محركات البحث، استطلاع عن أكثر روبوتات الدردشة التي تُخطئ في إجاباتها، ودرست الدراسة روبوتات الدردشة الذكية الأكثر موثوقية من خلال تحديد مدى تكرار تقديم كل نموذج لمعلومات خاطئة، وأيها يحظى بأعلى معدلات رضا العملاء، وأيها يبقى متاحًا للمستخدمين دون أعطال، واستُخدمت كل من هذه المتغيرات لحساب مؤشر (من 0 إلى 100).

يُعدّ روبوت الدردشة "جوجل جيميني" Gemini الأعلى في التصنيف من حيث معدل الخطأ، ويشير التقرير إلى أن "جيميني" يُخطئ في 32% من ردوده، وهو ما قد يُثير قلق بعض المسؤولين في شركة آبل.

ويُذكر أن عملاق التكنولوجيا يدفع لشركة جوجل ما لا يقل عن مليار دولار سنويًا لاستخدام نموذج "جيميني إل إل إم" المُخصص ذي 1.2 تريليون مُعامل لتشغيل روبوت الدردشة "سيري" المُتوقع إطلاقه مع نظام iOS 27 في وقت لاحق من هذا العام.

يأتي روبوت الدردشة "تشات جي بي تي" ChatGPT في المرتبة الثانية من حيث احتمالية الخطأ، حيث يحدث ذلك في ثلاثة من كل عشرة ردود.

أما روبوت الدردشة الأقل احتمالًا للخطأ فهو "بيربلكسيتي إيه آى" Perplexity AI ، حيث تصل إجاباته الخاطئة إلى المستخدمين في 13% فقط من الحالات.


وكان نموذجا DeepSeek الصيني وGrok المملوك لإيلون ماسك هما الأقل احتمالاً لتقديم إجابات خاطئة بعده، حيث بلغت نسبة الإجابات الخاطئة 14% و15% على التوالى.

وبعبارة أخرى، فإن ChatGPT، الذي يقدم إجابات غير دقيقة بنسبة 30%، أكثر عرضة بمرتين للإجابة على استفسارك بإجابة غير صحيحة مقارنةً بـ DeepSeek، وتجدر الإشارة إلى أن تدريب DeepSeek تم بتكلفة أقل بكثير من تكلفة تدريب ChatGPT.

شكرا لك على الطرح المفيد
بارك الله فيك وجزاك كل خير