الذكاء الاصطناعي من الأساس · الجزء 2
Why It Makes Things Upلماذا يختلق الأشياء
إنه لا يبحث عن شيء. وحين تعرف ما الذي يفعله بدلًا من ذلك، يتبع كل شيء آخر.
لا يقول أبدًا لا أعرف. لا تطلب منه أن يتذكّر، بل أعطِه المصدر.
شارك هذه المحاضرة
بقية السلسلة
- 01The Story of AI
- 02Why It Makes Things Upأنت هنا
- 03The AI Race
عن هذه المحاضرة
«لماذا يختلق الأشياء» هي المحاضرة الثانية في سلسلة «الذكاء الاصطناعي من الأساس» التي يقدّمها د. محمد مصلوح، وقد أُلقيت في 9 سبتمبر 2026 في الراوند الأسبوعي يوم الأربعاء لقسم جراحة الأطفال بقصر العيني في القاهرة. تشرح المحاضرة لماذا تختلق النماذج اللغوية مثل ChatGPT المعلومات والمراجع: فهي لا تبحث عن شيء، وتوقفت عن القراءة حين انتهى تدريبها، وقُيّمت بطريقة تكافئ التخمين الواثق على قول «لا أعرف». ثم تعرض ما جُرّب لإصلاح ذلك، وتختم بخمس عادات يستطيع أي شخص اتباعها. الشرائح بالإنجليزية، والإلقاء بالعامية المصرية.
- المراجع المختلقة موجودة بالفعل في الأدبيات المحكّمة: فقد وجد تدقيق شمل 2.5 مليون ورقة طبية حيوية أن الإشارة إلى دراسات غير موجودة ارتفعت من ورقة واحدة في كل 2,828 عام 2023 إلى ورقة واحدة في كل 277 في الأسابيع الأولى من 2026.
- يختلق النموذج لأنه يجيب مما قرأه قبل انتهاء تدريبه، ولأنه قُيّم كامتحان لا يخسر فيه التخمين الخاطئ أكثر من ترك الإجابة فارغة، فيصبح التخمين مربحًا دائمًا.
- يزداد الخطر كلما كان السؤال أكثر تحديدًا: المعرفة العامة غالبًا آمنة، أما الجرعات الدقيقة، والدراسات المسمّاة، والمراجع الكاملة برقم DOI، والأحداث الحديثة، وكل ما يخص مريضك أو قسمك، فهي مواضع الاختلاق.
- إعطاء النموذج مصدرًا يقرأ منه هو الأنجع: ففي دراسة على أسئلة عن السرطان، انخفضت العبارات المختلقة من 37% عند الإجابة من الذاكرة إلى 13% مع البحث على الإنترنت، وإلى 0% حين أُرفقت الوثائق المصدرية.
- الخطوات الخمس هي: أعطِه المصدر، واطلب منه أن يذكر المرجع، وافتح ما يستشهد به، وأخبره أن قول «لا أعرف» مسموح، ولا تسأله أبدًا إن كان متأكدًا.
أسئلة
لماذا يختلق ChatGPT الأشياء؟
لا يبحث ChatGPT عن أي شيء، بل يولّد الكلمة التالية الأكثر احتمالًا مما قرأه قبل انتهاء تدريبه، فإذا غابت عنه المعلومة كتب إجابة سلسة على أي حال. ويضيف بحث من OpenAI في سبتمبر 2025 أن النماذج قُيّمت كامتحانات يحصل فيها التخمين على درجة أعلى من الاعتراف بعدم المعرفة، فتعلّمت ألا تقول «لا أعرف» أبدًا.
هل يمكن للذكاء الاصطناعي أن يختلق مراجع واستشهادات وهمية؟
نعم. تعرض المحاضرة مرجعًا مولّدًا يتكوّن من أسماء مؤلفين حقيقية، ومجلة حقيقية، وأرقام صفحات معقولة، ورقم DOI يفتح ورقة حقيقية مختلفة. وفي دراسة عام 2023 كانت 55% من استشهادات GPT-3.5 و18% من استشهادات GPT-4 غير موجودة. والحل أن تطلب الرابط وتفتحه بنفسك.
هل أسأل ChatGPT إن كان متأكدًا من إجابته؟
لا. سؤال «هل أنت متأكد؟» يدفع النموذج غالبًا إلى التخلي عن الإجابة الصحيحة بدلًا من الدفاع عنها: فعلى عشرة نماذج وسبع مهام، غيّر هذا السؤال وحده 27% من الإجابات. والأفضل أن تعطيه المصدر وتطلب منه مراجعة ما كتبه في ضوئه، أو أن تلصق الإجابة في محادثة جديدة بلا سجل سابق.
كيف أمنع الذكاء الاصطناعي من الهلوسة؟
لا يمكنك إيقافها تمامًا، لكن يمكنك تقليلها. أرفق الورقة، أو اربطه بأداة بحث في الأدبيات، أو الصق الدليل الإرشادي حتى يجيب من مصدر لا من ذاكرته. اطلب منه ذكر مرجع لكل عبارة، وافتح كل رابط، وقل له صراحةً إنه إن لم يجد الإجابة في الملف فعليه أن يقول ذلك.
من قدّم محاضرة «لماذا يختلق الأشياء»، وأين أجد الشرائح؟
قدّمها د. محمد مصلوح، طبيب الامتياز بقصر العيني، في 9 سبتمبر 2026 بوصفها المحاضرة الثانية في «الذكاء الاصطناعي من الأساس»، في الراوند الأسبوعي يوم الأربعاء لقسم جراحة الأطفال. كل شريحة تحمل مصادرها، والعرض يُفتح مجانًا في أي متصفح على maslooh.com/lectures/why-it-makes-things-up.