ليه الذكاء الاصطناعي «يهلوس» ويألّف معلومات؟

سألت الذكاء الاصطناعي عن نظام رسمي، فجاوبك بمادة قانونية كاملة… غير موجودة أصلًا. ما كذب عليك عمدًا — هو «يهلوس».

الفكرة ببساطة

تخيل موظفًا جديدًا ذكيًا جدًا، لكن عنده عيب واحد: عمره ما قال «ما أدري». أي سؤال تسأله، يجاوبك بثقة كاملة — حتى لو كان يخمّن.

النموذج اللغوي مصمم ليكمل الكلام بأكثر إجابة «تبدو منطقية»، مو بأكثر إجابة صحيحة. إذا ما عنده المعلومة، يبني جوابًا يشبه الحقيقة شكلًا.

ليه يصير هذا؟

النموذج ما عنده «قاعدة حقائق» يرجع لها — عنده أنماط لغوية تعلّمها من نصوص كثيرة. فلما تسأله عن شي نادر أو جديد، يركّب جوابًا من الأنماط اللي يعرفها.

عشان كذا تشوفه يخترع أسماء كتب، أرقام أنظمة، وروابط ما فُتحت في حياتها.

ليه يهمك هذا؟

لا تعتمد على الذكاء الاصطناعي وحده في أي معلومة تُتخذ عليها قرارات: أرقام، أنظمة، عقود. استخدمه للمسودة والصياغة والأفكار، وتحقق من الحقائق من مصدرها. والحل التقني الأقوى لهذه المشكلة اسمه RAG — وهو موضوع حلقة قادمة.

أسئلة شائعة

وش معنى هلوسة الذكاء الاصطناعي؟

هي إنتاج النموذج لمعلومات خاطئة أو مخترعة بصياغة واثقة، لأنه يكمل الكلام بما يبدو منطقيًا وليس بما هو صحيح بالضرورة.

هل ممكن نمنع الهلوسة نهائيًا؟

ما نقدر نمنعها 100%، لكن نقدر نقلّلها كثيرًا: بربط النموذج بمصادرك (RAG)، وبطلب المصدر في السؤال، وبمراجعة بشرية للمعلومات الحساسة.

متى تكون الهلوسة خطيرة فعلًا؟

في المجالات اللي فيها قرارات: القانونية، الطبية، المالية. في العصف الذهني والصياغة، ضررها أقل بكثير.

عندك مفهوم محيّرك؟ اقترحه وخلّه الحلقة الجاية

تابع السلسلة على لينكدإن