Civil Legal Liability of Damages Caused by AI Legal Hallucinations
الملخص
يتناول البحث المسؤوليّة المدنيّة النّاشئة عن الأضرار الّتي قد تترتّب على الهلوسة القانونيّة الصّادرة عن أنظمة الذّكاء الاصطناعيّ التّوليديّ، في ظلّ اتّساع استخدامها في المجال القانونيّ. وتثير هذه الظّاهرة إشكاليّة تحديد الأساس القانونيّ للمسؤوليّة عن مخرجات قد تبدو صحيحة في ظاهرها، رغم افتقارها إلى أساس قانونيّ أو واقعيّ سليم. ويخلص البحث إلى أنّ خصوصيّة الهلوسة القانونيّة تثير صعوبات في إثبات الخطأ والسّببيّة وتحديد الضّرر القابل للتّعويض. وتقترح الدّراسة آليات قانونيّة وتقنية تكفل تعزيز حماية المتضرّر وتيسير إثبات المسؤوليّة وجبر الضرر.
الكلمات المفتاحية: الهلوسة القانونية ـ الذّكاء الاصطناعيّ التّوليديّ ـ المسؤوليّة المدنيّة ـ الخطأ ـ الضّرر ـ التّعويض.
Abstract
This study examines civil liability for damages arising from legal hallucinations generated by generative artificial intelligence systems, in light of their increasing use in the legal field. This phenomenon raises the question of determining the legal basis of liability for outputs that may appear accurate despite lacking a sound legal or factual basis. It concludes that the specific nature of legal hallucinations creates particular difficulties in establishing fault and causation and in determining compensable harm. The study proposes legal and technical mechanisms to enhance the protection of injured parties, facilitate proof of liability, and ensure effective redress.
Keywords: Legal Hallucinations; Generative Artificial Intelligence; Civil Liability; Fault; Damage; Compensation.
المقدّمة
كلّما اقتربت الآلة من صناعة المعرفة، كلّما اتّسعت المسافة الّتي يتعيّن على القانون أن يقطعها بحثًا عن المسؤول، وتزداد هذه المسافة اتّساعًا حين تتجاوز أنظمة الذّكاء الاصطناعيّ التّوليديّ حدود استرجاع المعرفة إلى إنتاجها وصياغتها. غير أنّ قدرة الآلة على محاكاة المعرفة لاتعني بالضّرورة امتلاكها لها؛ فالمظهر المنطقيّ للمعلومة قد يخفي وراءه خطأً في مصدرها، أو اضطرابًا في مضمونها.
وتبرز هذه المفارقة بصورة أكثر حساسيّة عندما يتعلّق الأمر بالمعلومة القانونيّة، الّتي لا تستمدّ قيمتها من اتّساقها الّلغويّ أو منطقيّة عرضها فحسب، وإنّما من اتّصالها بمصدر قانونيّ قائم وصحيح. وبذلك تكتسب المعلومة القانونيّة التي تنتجها أنظمة الذّكاء الاصطناعيّ خصوصيّة تتجاوز مجرّد التّحقّق من دقّتها، إذ إنّ أي انحراف عن مصدرها القانونيّ الصّحيح قد يحوّل المعلومة من وسيلة للمعرفة إلى مصدر للخطأ. وتظهر هذه الصّورة بوضوح فيما اصطلح على تسميته بـ”الهلوسة القانونيّة” (Legal Hallucinations). ولا تقف خطورة هذه الظّاهرة عند حدود الخلل في المخرجات التّقنيّة، وإنّما تتعاظم حين تنتقل المعلومة القانونيّة من فضاء الاستخدام المجرّد إلى فضاء الفعل، فتسهم في توجيه سلوك أو اتّخاذ قرار يترتّب عليه ضرر.
وتنبع أهمّية البحث من كونه يتناول إشكاليّة مستحدثة، تفرضها العلاقة المتزايدة بين أنظمة الذّكاء الاصطناعيّ التّوليديّ والممارسات القانونيّة، في وقت لم تستقرّ فيه بعد المعالجة التّشريعيّة والفقهيّة لمسألة المسؤوليّة عن الأضرار النّاجمة عن الهلوسة القانونيّة. كما تتجلّى أهمّيّته في اختبار مدى قدرة القواعد التّقليديّة للمسؤوليّة المدنيّة على استيعاب هذه الظاهرة، في ضوء خصوصيّة مصدر المعلومة المضلّلة، وتعدّد الأطراف المحتمل إسهامها في نشوء الضّرر.
وبذلك، تتمحور إشكاليّة البحث حول التّساؤل التّالي: متى تتحوّل المعلومة القانونيّة المهلوسة إلى واقعة منشئة للمسؤوليّة المدنيّة، ومن يتحمّل تبعة الضّرر النّاشئ عنها؟
ويعتمد البحث المنهج التّحليليّ، من خلال تحليل ماهية الهلوسة القانونيّة، تمهيدًا لتحديد طبيعة الأضرار النّاشئة عنها، ثمّ تحليل قواعد المسؤوليّة المدنيّة وتطبيقها على الأضرار النّاجمة على الهلوسة القانونيّة، والوقوف على الاتّجاهات القضائيّة والفقهيّة الحديثة في هذا المجال. لذا نتناول ماهية الهلوسة القانونيّة (المبحث الأوّل)، قيام المسؤوليّة المدنيّة عن الهلوسة القانونيّة (المبحث الثّاني).
المبحث الأوّل: ماهية الهلوسة القانونيّة
أفرز توظيف أنظمة الذّكاء الاصطناعيّ التّوليديّ في المجال القانونيّ نمطًا مستحدثًا من الأخطاء، لا تكمن خطورته في عدم صحّة المعلومة فحسب، وإنّما في قدرتها على الظّهور في قالب قانونيّ متماسك يوحي بالدّقة والموثوقيّة. ومن هنا تبرز الهلوسة القانونيّة بوصفها ظاهرة تستدعي الوقوف على حقيقتها قبل بيان الآثار القانونيّة النّاشئة عنها، وذلك من خلال تحديد مفهوم الهلوسة القانونيّة (مطلب أوّل) ومن ثمّ، توضيح صور الهلوسة القانونيّة (مطلب ثانٍ).
المطلب الأوّل: مفهوم الهلوسة القانونيّة
لا يستقيم تحديد الطّبيعة القانونيّة للهلوسة إلّا بضبط مدلولها أوّلًا، ثمّ الوقوف على السّمات الّتي تكشف عن خصوصيّتها وتميّزها عن غيرها من صور الخطأ في المخرجات الرّقميّة. ومن ثمّ، يتناول هذا المطلب تعريف الهلوسة القانونيّة (فرع أوّل)، ومن ثمّ بيان خصائص الهلوسة القانونيّة (فرع ثانٍ).
الفرع الأوّل: تعريف الهلوسة القانونيّة
يعدّ مصطلح “الهلوسة” من المصطلحات المستحدثة الّتي أفرزها التّطوّر المتسارع لأنظمة الذّكاء الاصطناعيّ التّوليديّ، وعلى الرّغم من شيوع استخدامه في الأدبيّات المرتبطة بنماذج الّلغة الكبيرة (LLMs) (1)، إلّا أنّه لم يستقرّ الفقه على تعريف موحّد لها، وإنّما تعدّدت المقاربات الّتي سعت إلى تحديد مضمونها، وتصنيف صورها.
وفي هذا الإطار عرّف البعض(2) الهلوسة في نماذج الّلغة الكبيرة بأنّها: “توليد النّموذج لمحتوى يتّسم بالطّلاقة والصّحّة النّحويّة، لكنّه يكون غير دقيق من النّاحية الواقعيّة أو غير مستند إلى أدلّة خارجيّة تدعمه”. ويكشف هذا التّعريف عن عنصرين متلازمين في الظّاهرة؛ يتمثّل العنصر الأوّل بالمظهر الّلغويّ المتماسك للمعلومة المولّدة، بينما يتمثّل العنصر الثّاني بافتقار مضمون المعلومة إلى المطابقة الواقعيّة أو سندٍ ما يمكن التّحقّق منه.
ولا يقف مفهوم الهلوسة عند عدم الدّقة الواقعيّة للمحتوى المولّد، إذ اتّجهت بعض الدّراسات(3) إلى النّظر إليها من زاوية أوسع، بحيث تربط تحقّقها بدرجة مطابقة المخرج للمعلومات المقدّمة إلى النّموذج، وللأدلّة الّتي يستند إليها، وللوقائع الخارجيّة الّتي يفترض أن يعكسها.
وفي هذا الاتّجاه عُرّفت الهلوسة بأنّها: “محتوى ينتجه النّموذج يبدو متماسكًا، إلّا أنّه ينطوي على أوجه من الخلل، تتمثّل في انحرافه عن المدخلات المقدّمة إليه، أو افتقاره إلى دليل تجريبيّ، أو خلوّه من الاتّساق، أو تعارضه مع الوقائع الخارجيّة”.
وتكشف التّعريفات المتقدّمة عن قاسم مشترك يتمثّل في أنّ الهلوسة لا تتعلّق بمجرّد الخطأ في المخرج، وإنّما بظهور المحتوى في صورة متماسكة وموثوقة، رغم افتقاره إلى الأساس الّذي يكفل صحّته أو مطابقته للمعلومات والوقائع الّتي يفترض أن يستند إليها.
وإذا كان هذا المفهوم قد نشأ في إطار عام لوصف مخرجات نماذج الّلغة، فإنّ انتقال هذه النّماذج إلى المجال القانونيّ يضفي على الظّاهرة خصوصيّة تتعلّق بطبيعة المعرفة القانونيّة ومصادرها، إذ لا تكمن خطورة المخرج المهلوس في كونه غير صحيح فحسب، وإنّما في قدرته على أن يتّخذ هيئة المعلومة القانونيّة الصّحيحة، وأن يستعير في صياغته لغة القاعدة أو الحكم القانونيّ، بما قد يحجب عن المتلقّي حقيقة افتقاره إلى الأساس القانونيّ الّذي يكفل صحّة المعلومة وموثوقيّتها.
وفي هذا الإطار، وُصفت الهلوسة القانونيّة بأنّها مخرجات نصّيّة لا تتوافق مع الوقائع القانونيّة(4)، وهو تصوّر يضع عدم مطابقة المخرج للواقع القانونيّ في صميم الظّاهرة، بما يفتح المجال لتحديدها على نحو أكثر دقّة في ضوء طبيعة المعلومة القانونيّة ومصدرها ووظيفتها.
وعلى هذا الأساس، يمكن تعريف الهلوسة القانونيّة بأنّها كلّ محتوى ذي مضمون قانونيّ يولّده نظام من أنظمة الذّكاء الاصطناعيّ في صورة تتّسم بالتّماسك والمظهر الدّقيق الموثوق، بينما يحتوي مضمونه على عدم مطابقة للأساس القانونيّ الّذي يفترض أن يقوم عليه، سواء تعلّق ذلك بالقاعدة القانونيّة الواجبة التّطبيق، أم بالواقعة محلّ البحث، على نحو من شأنه أن يُنشئ لدى المتلقّي تصوّرًا قانونيًا غير صحيح.
الفرع الثّاني: خصائص الهلوسة القانوينّة
إذا كانت الهلوسة القانونيّة وفق التّعريف المتقدّم، محتوى ذا مضمون قانونيّ يتّسم في ظاهره بالتّماسك والمظهر الموثوق، بينما ينفصل مضمومنه عن الأساس القانونيّ الصّحيح الّذي يفترض أن يقوم عليه، فإنّ هذه المفارقة بين ما يبدو عليه المخرج وما هو عليه في حقيقته، تكشف عن طبيعة الظّاهرة وخصوصيّتها. فالخلل هنا لا يستقرّ على سطح المعلومة بحيث يسهل تبيّنه، وإنّما يتوارى خلف صياغة قد تمنحها مظهر المعرفة القانونيّة الحقيقيّة، فيغدو التّحدّي الحقيقيّ متجاوزًا مجرّد وقوع الخطأ، إلى قدرته على الظّهور في صورة لا تدلّ عليه.
ومن ثمّ، فإنّ تحديد خصائص الهلوسة القانونيّة يقتضي تفكيك هذه المفارقة، والوقوف على السّمات الّتي تجعل المخرج المهلوس قريبًا في مظهره من المخرج القانونيّ الصّحيح، بعيدًا عنه في أساسه ومضمونه، وذلك على النّحو التّالي: التّماسك الظّاهريّ للمخرج، إنفصال المخرج عن الأساس القانونيّ، تعذّر الاكتشاف المباشر.
أوّلًا: التّماسك الظّاهريّ للمخرج القانونيّ
يتّخذ المخرج المهلوس في كثير من الأحيان بناءً لغويًّا منتظمًا، يمنحه مظهرًا من الإنسجام الدّاخليّ؛ فتتآلف عباراته، وتتابع أفكاره في سياق يبدو منطقيًّا، وتصاغ نتائجه في صورة تتلاءم، من حيث البناء والأسلوب، مع ما سبقها من مقدّمات(5). ولا يقتصر هذا التّماسك على سلامة الصّياغة من النّاحية الّلغويّة، بل قد يمتدّ إلى طريقة بناء الإجابة ذاتها، بحيث توحي أنّ عناصرها قد رتّبت وفق مسار فكريّ متّصل، ممّا يجعل المخرج يبدو وكأنّه ثمرة استدلال منظّم، حتّى عندما تكون الرّوابط الّتي يقوم عليها الاستدلال غير صحيحة.
وعليه، يمكن أن يكون النّموذج قادرًا على إنتاج نصوص تتّخذ أنماطًا مألوفة في السّياق القانونيّ، من حيث ترتيب الأفكار والصّياغة والاستدلال وعرض النّتائج، ممّا يمنح المخرج مظهرًا من الانضباط الّذي يتناسب مع طبيعة الكتابة القانونيّة، دون أن يعكس بالضّرورة حقيقة المخرج من حيث مصدره.
ولا تنحصر أهمّيّة هذا التّماسك في كونه سمة أسلوبيّة، إذ إن انتظام المخرج وترابط أجزائه قد يجعلان بنيته مقبولة، سيّما عندما يأتي في صورة تحليل متسلسل لا يتضمّن أيًّا من مظاهر الاضطراب. وفي هذا السّياق أظهرت إحدى الدّراسات الّتي تناولت التّحليل القانونيّ المولّد آليًا، أنّ بعض أوجه الخلل في هذا النّوع من المخرجات قد لا تكون ظاهرة بصورة مباشرة عند التّعامل مع النّصّ بوصفه وحدة لغويّة متماسكة، وهو ما يبرز الدّور الّذي يؤدّيه البناء النّصّيّ في تشكيل الانطباع الأوّل لدى المتلقّي(6).
ومن ثمّ، يمثّل التّماسك الظّاهريّ للمخرج إحدى الخصائص المميّزة للهلوسة القانونيّة، لا لأنّه يدلّ على صحّة المضمون، وإنّما لأنّه يمنح المحتوى المولّد صورة من الانتظام والانسجام تجعله يبدو، في بنيته، أقرب إلى المعرفة القانونيّة المصاغة بصورة سليمة.
ثانيًا: إنفصال المخرج عن الأساس القانونيّ
إنّ سلامة المعلومة القانونيّة الّتي تصدر عن النّظام الذّكائيّ لا تقاس بمضمونها المجرّد أو بطريقة صياغتها فحسب، وإنّما بمدى استنادها إلى مصدر قانونيّ ذي صلة، يكون من شأنه تبرير النّتيجة الّتي تنتهي إليها.
وفي هذا الإطار، ميّزت إحدى الدّراسات(7) المعنيّة بتقييم أدوات البحث القانونيّ القائمة على الذّكاء الاصطناعيّ التّوليديّ، بين صحّة المعلومة القانونيّة، وبين مدى استنادها إلى المصادر القانونيّة المشرّعة لها، واعتبرت أنّ المخرج غير مؤسَّس عندما يكون المصدر المستند إليه غير داعم للإدّعاء القانونيّ الوارد فيه، أو غير منطبق على المسألة محلّ البحث. ويعبّر عن قيام هذا الارتباط بالمصادر القانونيّة بـ “Groundedness”، في حين يدلّ مصطلح “Misgroundedness” على اختلال هذا الارتباط.
وتبعًا لذلك، يتمثّل الانفصال في عدم قيام رابطة حقيقيّة بين المخرج والمصدر القانونيّ الّذي يفترض أن يؤسّس مضمونه؛ ومن ثمّ، قد يحافظ المخرج على بنيته القانونيّة من حيث الصّياغة والاستدلال، مع افتقاره في الوقت عينه إلى الأساس القانونيّ الّذي يضفي على مضمونه المشروعيّة والموثوقيّة.
ثالثًا: تعذّر الاكتشاف المباشر
تتّسم الهلوسة القانونيّة بصعوبة اكتشافها بمجرّد فحص المخرج الّذي ينتجه النّظام، إذ قد لا يكشف النّصّ ذاته عن وجود الخلل القانونيّ الكامن فيه. فقد يتطلّب التّحقّق من صحّة المعلومة أو النّتيجة الّتي يقدّمها النّظام، الرّجوع إلى النّصوص القانونيّة، والأحكام القضائيّة، والمصادر الّتي افترض أنّه استند إليها، ومقارنة المخرج بها للتحقّق من سلامة ما أورده النّظام. وبالتّالي، فإنّ اكتشاف بعض حالات الهلوسة يعدّ أمرًا صعبًا من خلال الفحص النّصّيّ للمخرج وحده، بما يجعل التّحقّق منه مرتبطًا بدرجة معرفة المتلقّي بالمسألة محلّ البحث، وقدرته على مراجعة الأساس الّذي بني عليه المخرج.
المطلب الثّاني: صور الهلوسة القانونيّة
تكشف الخصائص المتقدّمة أنّ الهلوسة القانونيّة قد تجمع بين تماسك المخرج ظاهريًّا، وانفصاله عن الأساس القانونيّ، مع صعوبة اكتشاف هذا الانفصال بمجرّد قراءة النّصّ. غير أنّ تحديد طبيعة هذه الهلوسة لا يكتمل بمجرّد الوقوف على سماتها، إذ يقتضي كذلك الكشف عن الموضع الّذي يقع فيه الخلل داخل بناء المعلومة القانونيّة.
وتبعًا لذلك، تتعدّد صور الهلوسة القانونيّة، والّتي يمكن ردّها إلى صورتين أساسيّتين: الهلوسة في المصادر القانونيّة (فرع أوّل)، والهلوسة في التّحليل القانونيّ (فرع ثانٍ).
الفرع الأوّل: الهلوسة في المصادر القانونيّة
تمثّل المصادر القانونيّة الأساس الّذي تستمدّ منه المعلومة القانونيّة حجيّتها وقابليّتها للتّحقّق، ولذلك فإنّ الخلل الّذي يصيب المصدر القانونيّ ينعكس مباشرة على سلامة المخرج الّذي يبنيه النّظام عليه. وفي هذا الإطار، تكمن الهلوسة القانونيّة في المصادر إمّا في اختلاق المصادر القانونيّة(8)، وإمّا في تحريف مضمون المصادر القانونيّة(9).
أوّلًا: إختلاق المصادر القانونيّة (Citation Fabrication)
تتحقّق هذه الصورة عندما ينشىء النّظام إستشهادًا قانونيًّا لا وجود له في الواقع، فيقدّم للمستخدم إسم قضيّة أو رقمها أو إسم المحكمة أو غير ذلك من بيانات المصدر، على نحو يوحي بوجود سلطة قانونيّة يمكن الرّجوع إليها، بينما لا يكون لها وجود فعليّ. وقد يظهر ذلك أيضًا، في اختلاق نصّ تشريعيّ أو مادّة قانونيّة أو قرار قضائيّ، أو إنشاء بيانات قانونيّة لا تقابل مصدرًا حقيقيًّا.
وتكشف النّتائج التّجريبيّة المتعلّقة بأداء نماذج الّلغة في المجال القانونيّ عن ارتفاع معدل المخرجات الّتي تتضمّن معلومات قانونيّة غير قابلة للتّحقّق، بما في ذلك ما يتّصل بالقضايا القضائيّة وبياناتها ومضمونها. وقد تراوحت معدّلات الهلوسة الّتي رصدت في إحدى التّجارب(10) بين 58% لدى(11) GPT-4 و 88% لدى(12) Llama، بما يدلّ على أنّ المخرج القانونيّ قد يتضمّن معلومات تبدو في ظاهرها مرتبطة بمصدر قانونيّ قائم، أو سلطة قضائيّة قائمة، دون أن تكون متّفقة مع الوقائع القانونيّة الّتي يمكن التّحقّق منها.
وتتضّح صورة اختلاق المصدر القانونيّ في قضيّة (Mata v. Avianca, Inc)، إذ تضمّنت مذكّرة قدّمت إلى المحكمة إحالات إلى أحكام قضائيّة لم تتمكّن المحكمة من التّحقّق من وجودها، ليتبيّن لاحقًا أنّ تلك الأحكام لا وجود لها في الواقع، وأنّ المعلومات المنسوبة إليها قد أُنشئت بواسطة نظام ChatGPT. وقد ظهرت هذه المعلومات في صورة إستشهادات وصياغات قضائيّة مألوفة، الأمر الّذي منحها مظهرًا ظاهريًا يوحي بأنها تستند إلى سلطات قضائيّة حقيقيّة(13).
وبالتّالي، تكشف هذه الواقعة، أنّ اختلاق المصدر القانونيّ لا يتمثّل في إنتاج معلومة قانونيّة غير صحيحة فحسب، وإنّما قد يمتدّ إلى إنشاء سند قانونيّ وهميّ، يقدّم للمستخدم باعتباره مصدرًا قائمًا يمكن الرّجوع إليه.
ثانيًا: تحريف مضمون المصادر القانونيّة (Citation Misrepresentation)
لا يقتصر الخلل في المصادر القانونيّة على اختلاق مصدر لا وجود له، وإنّما قد يقع مع وجود المصدر القانونيّ ذاته، عندما ينسب النّظام إليه مضمونًا لا يتّفق مع ما ورد فيه. وتتحقّق هذه الصّورة عندما يعرض المخرج قاعدة قانونيّة أو حكمًا قضائيًا على نحو يغيّر من دلالته الأصليّة، أو ينسب إليه عبارة أو نتيجة لم يتضمّنها، بما يؤدّي إلى قيام انفصال بين المصدر القائم والمعلومة الّتي يقدّمها النّظام استنادًا إليه. وتبرز خطورة هذه الصّورة في أنّ المظهر التّوثيقيّ للمخرج قد يوحي بسلامة المعلومات الواردة فيه، في حين لا ينكشف الخلل إلّا بالرّجوع إلى المصدر الأصليّ، ومقارنة ما أورده النّظام، بما يتضمّنه ذلك المصدر فعلًا. ولذلك، فإنّ التّحقّق من المصدر القانونيّ لا يقتصر على التّثبّت من وجوده فقط، وإنّما يمتدّ إلى التّحقّق من صحّة المضمون المنسوب إليه، ومدى دلالته على النّتيجة الّتي انتهى إليها النّظام(14).
الفرع الثّاني: الهلوسة في التّحليل القانونيّ
قد تكون القاعدة القانونيّة قائمة ومحدّدة، إلّا أنّ الخلل يقع في تحليلها أو استخلاص مدلولها أو تنزيلها على الوقائع محلّ البحث. ومن ثمّ، يكون موضع الهلوسة في المسار الاستدلاليّ الّذي يربط بين القاعدة والنّتيجة، لا في وجود المصدر القانونيّ أو صحّة نسبته.
وتكتسب هذه الصّورة أهمّيّة خاصّة، باعتبار أن التّحليل القانونيّ لا يقتصر على استحضار القاعدة القانونيّة فحسب، بل يقتضي تحديد المسألة، وفهم القاعدة القانونيّة ذات الصّلة، وبيان مدى انطباقها على الوقائع، وصولًا إلى نتيجة يمكن تبريرها قانونًا. وقد اعتمدت بعض الدّراسات هذا التّصوّر(15) (IRAC Framework) في تقييم قدرات النّماذج الّلغويّة، وقد أظهرت نتائجها أنّ إنتاج تحليل قانونيّ منظّم لا يضمن بالضّرورة سلامة الاستدلال الّذي يقوم عليه(16).
وعلى هذا الأساس، يمكن تمييز صورتين أساسيّتين للهلوسة في التّحليل القانونيّ: الخلل في الاستدلال القانونيّ، والخلل في تطبيق القاعدة القانونيّة على الوقائع.
أوّلًا: الخلل في الاستدلال القانونيّ (Legal Reasoning Error)
يتمثّل الخلل في الاستدلال القانونيّ في عدم سلامة المسار الّذي ينتقل من خلاله النّظام من المعطيات القانونيّة والواقعيّة إلى النّتيجة الّتي ينتهي إليها. فالوصول إلى نتيجة قانونيّة سليمة لا يتوقّف على استحضار القاعدة القانونيّة ذات الصّلة، وإنّما يقتضي إقامة رابطة منطقيّة بين المسألة القانونيّة، القاعدة، الوقائع، والنّتيجة، بحيث تكون النّتيجة مترتّبة على المقدّمات الّتي اعتمد عليها النّظام.
وتعدّ هذه العناصر من المراحل الأساسيّة في عمليّة الاستدلال القانونيّ، وقد يقع الخلل في هذه العمليّة رغم صحّة القاعدة القانونيّة، وذلك عندما لا يقيم النّظام علاقة استدلاليّة سليمة بينها وبين الوقائع المعروضة، فقد يهمل عنصرًا واقعيًا مؤثّرًا، أو يفترض توافر شروط تطبيق القاعدة دون أساس، أو ينتقل من القاعدة إلى نتيجة لا تقتضيها مقدّماتها، ومن ثمّ، يكون موطن الخلل في عمليّة الاستدلال (Inferential Process) ذاتها، وليس بصحّة القاعدة القانونيّة.
وقد أظهرت بعض الاختبارات التّجريبيّة لقدرات النّماذج الّلغويّة في مهما الاستدلال القانونيّ وجود أخطاء في فهم العناصر ذات الصّلة بالقاعدة، وفي بيان سبب انطباقها على الوقائع، بما يؤكّد أنّ امتلاك النّموذج للمعلومة القانونيّة، لا يكفي وحده لضمان سلامة النّتيجة الّتي يبنيها عليها(17).
وعليه، ينصرف الخلل في الاستدلال القانونيّ، إلى سلامة الانتقال من المقدّمات القانونيّة والواقعيّة إلى النّتيجة، بحيث يكون الخلل واقعًا في بناء النّتيجة، لا في صحّة القاعدة القانونيّة.
ثانيًا: الخلل في تطبيق القاعدة القانونيّة (Rule Application Error)
يتحقّق الخلل في تطبيق القاعدة القانونيّة، عندما تكون القاعدة المستحضرة صحيحة في ذاتها، إلّا أنّ أنّ النّظام لا يحسن إنزالها على الوقائع المعروضة، فيعامل واقعة لاتستوفي شروط القاعدة كما لو كانت داخلة في نطاقها، أو يهمل قيدًا لازمًا لانطباقها، أو يوسّع من مجالها إلى وقائع لا يشملها نصّ القاعدة القانونيّة. إذ يقتضي تطبيق القاعدة القانونيّة تحديد مدى انطباقها على الواقعة محلّ البحث، في ضوء عناصرها وشروطها، وليس مجرّد إيرادها أو إعادة صياغتها في المخرج.
ويظهر هذا الخلل بصورة خاصة عندما يتعامل النّظام مع الوقائع باعتبارها معطيات كافية لتطبيق القاعدة، دون التّحقّق من مدى استيفائها للعناصر الّتي تتطلّبها هذه القاعدة. فقد تكون القاعدة صحيحة، والواقائع الواردة في المسألة صحيحة كذلك، إلّا أنّ الجمع بينهما يتمّ على نحو غير سليم.
كما أنّ أداء النّموذج قد يعتريه خلل حتّى عندما يكون قادرًا على استحضار القاعدة القانونيّة ذات الصّلة، إذ قد يخطئ في تحديد الجزء الّذي يحكم الواقعة، أو في بيان الكيفيّة الّتي تنطبق بها القاعدة على عناصر الواقعة المعروضة. ويكشف ذلك عن أنّ المعرفة بالقاعدة القانونيّة لا تستلزم القدرة على تطبيقها تطبيقًا صحيحًا، وأنّ إنتاج مخرج قانونيّ متماسك ظاهريًّا، لا يكفي لإثبات سلامة عمليّة التّطبيق(18).
ومن ثم، فإنّ الخلل في تطبيق القاعدة القانونيّة يتمثّل في إسناد حكم القاعدة إلى واقعة لا تستوفي شروط انطباقها، أو في إغفال عنصر من عناصرها المؤثّرة في تحديد نطاق التّطبيق، بما يؤدّي إلى نتيجة تختلف عن عما يقتضيه التّطبيق الصّحيح.
المبحث الثّاني: قيام المسؤوليّة المدنيّة عن الهلوسة القانونيّة
إذا كانت الهلوسة القانونيّة قد تكشف عن خلل في المعلومة أو في توظيفها، فإنّ الضّرر النّاجم عن هذا الخلل، يثير التّساؤل عن الأساس الّذي يمكن أن تبنى عليه المسؤوليّة المدنيّة، ومدى كفاية القواعد العامّة لاستيعاب هذه الصّورة المستحدثة من الأضرار، في ضوء خصوصيّة أنظمة الذّكاء الاصطناعيّ التّوليديّ. ويقتضي ذلك بحث أساس المسؤوليّة المدنيّة (المطلب الأوّل)، ثم بيان آثار المسؤوليّة المدنيّة (المطلب الثّاني).
المطلب الأوّل: أساس المسؤوليّة المدنيّة
تثير الأضرار النّاشئة عن الهلوسة القانونيّة تساؤلًا حول الأساس الّذي يمكن أن تقوم عليه المسؤوليّة المدنيّة، لا سيّما في ظلّ الطّبيعة التّقنية لأنظمة الّذكاء الاصطناعيّ، وصعوبة تحديد مصدر الخطأ، والجهة الّتي يمكن إسناد الضّرر إليها. وقد دفعت هذه الخصوصيّة جانبًا من الفقه إلى البحث عن أسس خاصّة للمسؤوليّة عن أضرار الذّكاء الاصطناعيّ، ومنها المسؤوليّة عن الأشياء، ومسؤوليّة المنتج، ونظريّات توزيع المخاطر(19).
غير أنّ هذه الاتّجاهات لم تفضِ في الإطار التّشريعيّ إلى قيام نظام مستقلّ ومتكامل للمسؤوليّة المدنيّة، خاصّة عن أضرار الهلوسة القانونيّة، الأمر الّذي يقتضي الرّجوع إلى القواعد العامّة لتحديد أساس المسؤوليّة. ومن ثمّ، ينبغي التّمييز بين المسؤوليّة عن الفعل الشّخصيّ (الفرع الأوّل)، والمسؤوليّة عن الإخلال بالإلتزام العقديّ (الفرع الثّاني).
الفرع الأوّل: المسؤوليّة عن الفعل الشّخصيّ
تقوم المسؤوليّة عن الفعل الشّخصيّ على إسناد الضّرر إلى السّلوك الصّادر عن الشّخص، متى توافرت عناصر المسؤوليّة. وتثير الهلوسة القانونيّة في هذا الإطار مسألة تحديد السّلوك الّذي يمكن أن يشكّل خطأً، ولا سيّما عندما يكون المخرج الضّار قد صدر عن نظام للذّكاء الاصطناعيّ التّوليديّ. ويقتضي ذلك بيان أركان المسؤوليّة وفق القواعد العامّة، ثمّ تحديد الشّخص الذّي يمكن إسناد الخطأ إليه في ضوء تعدد الأدوار الّتي تتداخل في إنتاج المخرج المهلوس أو استعماله.
أوّلًا: أركان المسؤوليّة عن الفعل الشّخصيّ
يقوم الأساس العام للمسؤوليّة عن الفعل الشّخصيّ على اجتماع الخطأ والضّرر وعلاقة السّببيّة. وقد أقام المشرّع الّلبنانيّ المسؤوليّة عن العمل غير المشروع على أساس إحداث ضرر بمصلحة الغير، وجعل استحقاق التّعويض مرتبطًا بتوافر الشّروط المقرّر للمسؤوليّة عن الفعل الشّخصيّ، لا سيّما في حالات الإهمال وعدم التّبصّر(20). ويبقى هذا البناء صالحًا للتّطبيق على الأضرار المرتبطة باستخدام أنظمة الذّكاء الاصطناعيّ، وإنّ كانت خصوصيّة الهلوسة القانونيّة تفرض إعادة تحديد مضمون الخطأ ومعيار العناية في ضوء طبيعة هذه الأنظمة.
فالخطأ في هذا المجال لا يتمثّل بمجرّد صدور معلومة قانونيّة غير صحيحة عن النّظام، وإنّما في السّلوك الّذي يمكن إسناده إلى شخص، ويخالف ما كان عليه مراعاته من عناية وتبصّر. فالنّظام قد ينتج حكمًا قضائيًا غير موجود، أو ينسب إلى نصّ قانونيّ حكمًا لا يتضمّنه، دون أن يؤدّي ذلك بالضّرورة إلى مسؤوليّة مدنيّة؛ إذ قد يكتشف المستخدم الخطأ في المعلومة قبل استعمالها، أو قد يراجعها ويستبعدها، فلا يترتّب عليها أي أثر. بينما إذا تعامل مع المعلومة باعتبارها معلومة قانونيّة صحيحة، وأقام عليها رأيًا أو إجراءً أو قرارًا، مع توافر واجب التّحقّق وإمكانه، فإنّ موضع البحث ينتقل من الهلوسة بوصفها ظاهرة تقنيّة إلى الإخلال بواجب العناية بوصفه سلوكًا بشريًّا.
وفي هذا الإطار، تؤكّد بعض التّطبيقات القضائيّة الحديثة ضرورة إخضاع الاستعانة بأدوات الذّكاء الاصطناعيّ لواجب التّحقّق المهنيّ من صحّة المعلومات النّاتجة عنها، لا سيّما متى تعلّقت المخرجات بمراجع أو أحكام قضائيّة يمكن الرّجوع إلى مصادرها الأصليّة، والتّثبّت من توفّر مضمونها.(21)
ويقاس الإخلال بواجب العناية بالنّظر إلى طبيعة الاستعمال والغرض منه، ودرجة الخطر المرتبطة به. فطلب شرح أوّليّ لمفهوم قانونيّ لا يستوي من حيث مستوى العناية المطلوبة، مع طلب تحديد نصّ نافذ أو مهلة إجرائيّة أو حكم قضائيّ يراد الاستناد إليه في مذكّرة أو استشارة. كما أنّ المستخدم العادي لا يعامل بالضّرورة بالمعيار ذاته الّذي يخضع له المحامي أو المستشار القانونيّ، لأنّ هذا الأخير يمارس نشاطًا مهنيًّا يفترض قدرًا من المعرفة بمصادر القانون ووسائل التّحقّق منها.
ومن ثمّ، كلّما كان المخرج معدًا للتّأثير في مركز قانونيّ أو حقّ أو إلتزام، ارتفع واجب التّحقّق وبذل العناية المتوقّع، وبالتّالي فإنّ محلّ الخطأ هنا لا يكمن في مجرّد صدور المعلومة القانونيّة المهلوسة، وإنّما في عدم التّحقّق منها رغم توفّر القدرة.
أمّا الضّرر، فلا ينشأ بمجرّد اكتشاف عدم صحّة المخرج، وإنّما يتحقّق متى ترتّب على استعمال هذا المخرج المساس بمصلحة مشروعة. فقد لا يكون للمعلومة القانونيّة المهلوسة أثر إذا اكتشفت قبل استعمالها، بينما قد ينشأ الضّرر عند اعتمادها، من حيث إهدار حقّ، أو تفويت مهلة، أو تحمّل نفقات، أو تقديم استشارة مؤثّرة في مركز صاحب المصلحة. وبالتّالي، يكون محلّ التّعويض هو النّتيجة الضّارة النّاشئة عن الاعتماد على المخرج، لا مجرّد عدم صحّته.
ويبقى أن يكون هناك علاقة سببيّة بين السّلوك المكوّن للخطأ والضّرر الّلاحق، وهذه العلاقة تكتسب خصوصيّة في حالات الهلوسة القانونيّة، بسبب تعدّد المراحل الّتي قد تفصل بين المخرج والنّتيجة؛ من إنتاج المعلومة وتلقّيها إلى التّحقّق منها أو إهمال التّحقّق، لذا يجب التثبّت ممّا إذا كان الضّرر قد نشأ فعلًا عن الاعتماد على المعلومة المهلوسة، أم عن سبب مستقلّ. وهنا، تكمن صعوبة إثبات العلاقة السّببيّة في البيئة التّقنيّة، ممّا يستدعي تطوير أدوات الإثبات، دون أن يعني ذلك التّخلّي عن المبادئ العامّة للمسؤوليّة المدنيّة(22).
وقد انعكست هذه الصّعوبة في الاتّجاه الأوروبّيّ الحديث نحو تعزيز القواعد الوقائيّة إلى جانب قواعد المسؤوليّة التّقليديّة. فالتّنظيم الأوروربّيّ للذّكاء الاصطناعيّ لا يقرّر مسؤوليّة مدنيّة تلقائيّة عن كلّ مخرج غير صحيح، وإنّما يضع مجموعة من الإلتزامات سيّما للأنظمة العالية المخاطر، الّتي يمكن أن تساعد في سياق ترتّب المسؤوليّة على تحديد مستوى العناية الواجب(23). ومن ذلك إنشاء نظام لإدارة المخاطر، وفرض الإشراف البشريّ، ومتطلّبات الدّقة والمتانة والأمن السيبراني، ممّا يكشف عن انتقال الاكتفاء بالنّظر إلى الضّرر بعد وقوعه إلى الاهتمام مسبقًا بإدارة المخاطر الّتي يمكن أن تؤدّيه.
وعليه، لا تنشأ المسؤوليّة عن الفعل الشّخصيّ بمجرّد إنتاج النّظام لمعلومة قانونيّة غير صحيحة، بل باجتماع العناصر الثلّاثة؛ الإخلال بسلوك كان يتعيّن اتّباعه، وضرر قابل للتّعويض، وصلة سببيّة بين الإخلال والضّرر.
ثانيًا: إسناد الخطأ في حالات الهلوسة القانونيّة
إذا ثبت الخطأ والضّرر وعلاقة السّببيّة، فإنّه يتعيّن تحديد الشّخص الّذي يسند إليه السّلوك المنشئ للمسؤوليّة، إذ قد يختلف مصدر المعلومة المهلوسة عن مصدر السّلوك الموجب للمساءلة. ويقتضي ذلك تحديد الشّخص الّذي ينسب إليه هذا الإخلال في ضوء دوره في إنتاج المخرج أو استعماله؛ فقد يسند هذا الخطأ إلى المستخدم إذا كان على علم بإمكان وقوع الهلوسة، وكان قادرًا على التّحقّق من المعلومة ثمّ اعتمدها دون مراجعة، ولا سيّما إذا كان استعمالها قد تمّ في إطار نشاط مهنيّ يفرض عناية خاصّة.
وقد يتّجه الإسناد كذلك إلى مقدّم النّظام إذا قبت إخلاله بواجبات مستقلّة تتّصل بمنع المخاطر أو التّحذير منها، وأسهم هذا الإخلال في وقوع الضّرر. ولا يستبعد تعدّد المسؤولين اجتماع أكثر من أساس للمساءلة، متى أسهم سلوك كلّ طرف في النّتيجة الضّارّة؛ إذ ينصرف التّحديد إلى السّلوك القابل للإسناد ومساهمته في الضّرر، لا إلى مجرّد كون النّظام مصدر المعلومة المهلوسة(24).
الفرع الثّاني: المسؤوليّة عن الإخلال بالإلتزام العقديّ
قد تقوم المسؤوليّة العقديّة في نطاق أنظمة الذّكاء الاصطناعيّ التّوليديّ، متى قامت علاقة تعاقديّة بين المستخدم ومقدّم الخدمة، وكان الضّرر النّاجم عن النّظام مرتبطًا بإخلال الأخير بإلتزام تعاقديّ يقع عليه. ويجد هذا الأساس سنده في مبدأ القوّة الملزمة للعقد، الّذي يقتضي تنفيذ(25) الالتزامات النّاشئة عنه، وفقًا لما اتّفق عليه المتعاقدان. ومن ثمّ، لا تنشأ المسؤوليّة لمجرّد صدور مخرج غير صحيح عن النّظام، بل عندما يأتي المخرج أو الضّرر المترتّب عليه نتيجة لإخلال مقدّم الخدمة بإلتزام يقع عليه بموجب العقد.
وتتّخذ هذه المسألة خصوصيّة أكبر في حالة الهلوسة القانونيّة، إذ يمكن أن يتعلّق الإخلال بإلتزامات تتّصل بخصائص الخدمة أو بواجبات الإعلام عن حدود النّظام، ومخاطر الاعتماد على مخرجاته. وقد أظهرت بعض التّطبيقات القضائيّة أنّ الجهة الّتي تضع نظامًا آليًا للتّواصل مع مستخدميها لا تستطيع التّملّص من مسؤوليّاتها لمجرّد أنّ المعلومة الخاطئة صدرت عن النّظام(26).
ويرى الفقه المعاصر أنّ العلاقة العقديّة الّتي تنشأ بمناسبة استخدام أنظمة الذّكاء الاصطناعيّ قد ترتب في ذمّة مقدّم الخدمة إلتزامات محدّدة، لا سيّما الإلتزامات المتعلّقة بسلامة النّظام، وتقديم المعلومات الضّروريّة للمستخدم بشأن خصائصه والقيود المرتبطة به، ويترتّب على الإخلال بهذه الإلتزامات إمكان قيام المسؤوليّة العقديّة متى ثبت أنّ عدم تنفيذ الإلتزام قد أفضى إلى ضرر للمستخدم(27).
وبتطبيق ذلك على الهلوسة القانونيّة، يمكن أن يثور الإلتزام العقديّ عندما يتعهّد مقدّم النّظام بمستوى معيّن من الدّقة أو السّلامة أو الإفصاح عن حدود استخدامه، ثمّ يخلّ بهذا الإلتزام على نحو يؤدّي إلى اعتماد المستخدم على مخرجات قانونيّة غير صحيحة وترتّب الضّرر عليها.
المطلب الثّاني: آثار المسؤوليّة المدنيّة
يترتّب على ثبوت المسؤوليّة المدنيّة إلتزام المسؤول بتعويض الضّرر الّذي لحق بالمتضرّر. وفي إطار الهلوسة القانونيّة، تقتضي خصوصيّة الضّرر النّاشئ عن المخرجات القانونيّة غير الصّحيحة، تحديد نطاق التّعويض عن الضّرر (فرع أوّل)، ومن ثمّ بيان أساس تقدير التّعويض عن الضّرر (فرع ثانٍ).
الفرع الأوّل: نطاق التّعويض عن الضّرر
قد تتّخذ الأضرار النّاشئة عن الهلوسة القانونيّة القابلة للتّعويض، صورة الخسائر والتّكاليف الّتي تترتّب على المخرج القانونيّ غير الصّحيح، وذلك في سياق استخدامه أو الاعتماد عليه. وقد تتمثّل هذه الأضرار في النّفقات الّلازمة لتدارك الخطأ وتصحيحه، كتكاليف إعادة البحث، وإعادة صياغة المستندات، وتصحيح ما سبق تقديمه(28). ويزداد نطاق الضّرر الماليّ كلّما استلزم اكتشاف الخطأ وتصحيحه تدخّلًا مهنيًّا أو إجرائيًّا إضافيًّا.
ولا يقتصر الضّرر الماليّ على تكلفة تصحيح المخرج المهلوس، بل قد يمتدّ إلى النّفقات المرتبطة بالإجراءات الّتي استلزمها معالجة آثاره؛ فقد تشمل نفقات التّقاضيّ، والمصاريف الإداريّة، وساعات العمل الإضافيّة الّتي تبذل للتّحقّق من المعلومة الخاطئة، وإعادة بناء العمل القانونيّ على أساس صحيح(29).
ومن ثمّ، يظهر الضّرر الماليّ النّاشئ عن الهلوسة القانونيّة في صورة عبء ماليّ إضافيّ لم يكن ليقع لولا المخرج القانونيّ غير الصّحيح. ويبرز هذا النّوع من الضّرر بوضوح في قضيّة Mata v. Avianca, Inc، حيث قرّرت المحكمة أنّ إدراج أحكام قضائيّة مختلفة واقتباسات منسوبة إليها في المذكّرة القانونيّة، أدّى إلى إهدار وقت وموارد في التّحقّق من وجود تلك الأحكام، وصحّة ما نسب إليها، ومعالجة آثارها(30).
وقد يتّخذ الضّرر النّاشئ عن الهلوسة القانونيّة صورة معنويّة، وذلك عندما تمسّ المخرجات المهلوسة سمعة الشّخص أو اعتباره أو مركزه المهنيّ، لا سيّما إذا تضمّنت معلومات أو وقائع كاذبة، تنسب إليه على خلاف الحقيقة. وقد تجسّد هذا النّوع من الضّرر في حالات نسبت فيها أنظمة الذّكاء الاصطناعيّ التّوليديّ إلى أشخاص ارتكاب جرائم أو مواقف أو أقوال لم تصدر عنها، بما من شأنه المساس بسمعتهم وحقوقهم الشّخصيّة أمام الغير(31).
وعليه، يمتدّ نطاق التّعويض عن أضرار الهلوسة القانونيّة إلى ما يصيب المتضرّر من خسارة ماليّة أو ضرر معنويّ، متى اتّخذت الهلوسة صورة تمسّ مصالحه الماليّة أو الشّخصيّة أو المهنيّة. ولا تقتصر أهمّيّة هذا التّمييز على تحديد طبيعة الضّرر، وإنّما تتّصل كذلك بتحديد الأساس الّذي يراعى عند تقدير التّعويض عنه.
الفرع الثّاني: تقدير التّعويض عن الضّرر
يتحدّد التّعويض عن أضرار الهلوسة القانونيّة بقدر الضّرر الّذي ثبت وقوعه واتّصل بالمخرج المهلوس اتّصالًا سببيًا، مع مراعاة طبيعته ومداه والآثار المترتّبة عليه. ويُراعى في تقديره ما إذا كان الضّرر ماليًا أو معنويًا، إذ يقدّر الضّرر الماليّ في حدود الخسارة الفعليّة الّتي ترتّبت بصورة مباشرة نتيجة الاعتماد على المخرج المهلوس. أمّا الضّرر المعنويّ، فيُقدّر بالنّظر إلى طبيعة المصلحة التي مسّها المخرج، ومدى جسامة المساس بها، والآثار المترتّبة عليه، مع مراعاة عناصر خاصّة في حالات المساس بالسّمعة أو الاعتبار، كطبيعة المعلومة المضلّلة، ومدى انتشارها، ومدّة بقائها وإمكان تكرار ظهورها.
وقد لا يكون التّعويض النّقديّ وحده كافيًا لتعويض الضّرر، ولا سيّما عندما يستمرّ المخرج المهلوس في الظهور أو يتكرّر تداوله؛ إذ يمكن أن تقتضي الحماية إزالة المعلومة غير الصّحيحة أو تصحيحها أو اتّخاذ التّدابير المناسبة للحدّ من إعادة إنتاجها(32).
وعليه، يقوم تقدير التّعويض عن أضرار الهلوسة القانونية على تحديد الضّرر الفعليّ، ومداه، وآثاره، مع مراعاة خصوصيّة كلّ حالة وطبيعة المخرج المهلوس، بما يحقّق جبر الضّرر الثّابت دون أن يتجاوز نطاقه.
الخاتمــة
خلصت الّدراسة إلى عدد من النّتائج الّتي تكشف خصوصيّة المسؤوليّة المدنيّة عن أضرار الهلوسة القانونيّة، وإلى مقترحات تستهدف معالجة الإشكالات الّتي يثيرها تطبيق القواعد العامّة عليها.
أوّلًا: النّتائج
1. تتميّز الهلوسة القانونيّة بتعدّد صورها، فلا تقتصر على اختلاق المصادر القانونيّة أو تحريف مضمونها، وإنّما تمتدّ إلى الخلل في الاستدلال القانونيّ وتطبيق القاعدة على الوقائع، وهو ما يجعل مجرّد اتّساق المخرج وصياغته القانونيّة غير كافٍ للتّحقّق من سلامته.
2. تستند المسؤوليّة إلى القواعد العامّة، سواء في إطار المسؤوليّة عن الفعل الشّخصيّ أو المسؤوليّة عن الإخلال بالالتزام العقديّ، وذلك في ظلّ غياب تنظيم خاصّ للمسؤوليّة المدنيّة عن الهلوسة القانونيّة، مع بروز صعوبات خاصّة في تحديد الخطأ وإسناده وإثبات العلاقة السّببيّة.
3. يتّحدد التّعويض عن أضرار الهلوسة القانونيّة وفقًا للضّرر الفعليّ ومداه، بحيث يقدّر الضّرر الماليّ في حدود الخسارة المرتبطة بالمخرج المهلوس، بينما يراعى في الضّرر المعنويّ مدى المساس بالسّمعة أو الاعتبار وآثاره، مع إمكانيّة الاستعانة بوسائل تعويض غير نقديّة عند استمرار المخرج المضلّل أو تكراره.
ثانيًا: المقترحات
1. إلزام مقدّمي خدمات الذّكاء الاصطناعيّ سيّما الموجّهة للاستخدام القانونيّ بوضع آلية واضحة لتتبّع مصادر المخرجات القانونية، بحيث يمكن للمستخدم التّحقّق من الأحكام والنّصوص والمراجع القانونيّة، والقرارات القضائيّة الّتي استند إليها النّظام، مع تمكينه من معرفة الحالات التي يتعذّر فيها التّحقّق من المصدر.
2. استحداث قرينة قانونيّة لمصلحة المتضرّر عند تعذّر الوصول إلى البيانات التّقنيّة الّلازمة لإثبات سبب المخرج المهلوس، متى كانت هذه البيانات تحت سيطرة مقدم النّظام أو مشغله وامتنع عن تقديمها دون مبرر، بما يخفّف من عبء إثبات الخطأ والسّببيّة النّاشئ عن عدم التّكافؤ المعلوماتيّ.
3. إقرار التزام محدّد بالتّصحيح عند ثبوت المخرج القانونيّ المهلوس، يوجب على الجهة المسؤولة تصحيح المعلومة المهلوسة، إلى جانب التعّويض عن الضّرر الّذي ثبت وقوعه، بما يضمن عدم استمرار الضّرر النّاتج عن تداول المعلومة المهلوسة.
الهوامش
- (1) قانون الموجبات والعقود الّلبنانيّ، رقم 0 لسنة 1932 وتعديلاته، الجريدة الرّسميّة، العدد 2642، تاريخ 11/04/1932.
- (2) Alansari, Aisha & Hamzah Luqman, “Large Language Models Hallucination: A Comprehensive Survey,” Computer Science Review, Vol. 61, 2026.
- (3) Abouhaiba, Nagwa, Saed Ahmed Khouli & Maya Khater, “Towards Protecting the Injured Party from Errors and Hallucinations of Artificial Intelligence: A Contemporary Legal Perspective,” F1000Research, Vol. 15, 2026.
- (4) Castro, Laura Herrerías, “Legal Remedies for AI-Generated Reputational Harm,” Cambridge Forum on AI: Law and Governance, Vol. 2, 2026.
- (5) Dahl, Matthew, Varun Magesh, Mirac Suzgun & Daniel E.Ho, “Large Legal Fictions: Profiling Legal Hallucinations in Large Language Models,” Journal of Legal Analysis, Vol. 16, No. 1, 2024.
- (6) Demidont, Bohdan, “Quantifying Financial and Reputational Liability of AI Hallucinations in Legal Practice,” Entrepreneurship and Innovation, Issue 39, 2026.
- (7) Guha, Neel, Andy K. Zhang, Christine Tsang, Christopher D. Manning, Julian Nyarko & Daniel E. Ho, “There is No Free Benchmark: An Institutional View of Legal AI Benchmarking,” Proceedings of the National Academy of Sciences of the United States of America, Vol. 123, No. 30, 2026.
- (8) Hou, Abe, William Jurayj, Nils Holzenberger, Andrew Blair-Stanek & Benjamin Van Durme, “Gaps or Hallucinations? Scrutinizing Machine-Generated Legal Analysis for Fine-grained Text Evaluations,” Proceedings of the Natural Legal Language Processing Workshop 2024.
- (9) Khawaldeh, Ahmed M., “Generative AI Hallucinations and Legal Liability in Jordanian Civil Courts: Promoting the Responsible Use of Conversational Chat Bots,” International Journal for the Semiotics of Law, Vol. 38, No. 2, 2025.
- (10) Lin, Zichao, Shuyan Guan, Wending Zhang, Huiyan Zhang, Yugang Li & Huaping Zhang, “Towards Trustworthy LLMs: A Review on Debiasing and Dehallucinating in Large Language Models,” Artificial Intelligence Review, Vol. 57, 2024.
- (11) Magesh, Varun, Faiz Surani, Matthew Dahl, Mirac Suzgun, Christopher D. Manning & Daniel E. Ho, “Hallucination-Free? Assessing the Reliability of Leading AI Legal Research Tools,” Journal of Empirical Legal Studies, Vol. 22, No. 2, 2025.
- (12) Peoples, Lee F., “Artificial Intelligence & Legal Analysis: Implications for Legal Education & the Profession,” Law Library Journal, Vol. 117, No. 1, 2025.
- (13) Salloum, Audine, “The Future of Civil Liability for Artificial Intelligence Systems after the Withdrawal of the European Directive,” JurisPolitica, Vol. 1, No. 1, 2025.
- (14) Directive (EU) 2024/2853 of the European Parliament and of the Council of 23 October 2024 on Liability for Defective Products.
- (15) Mata v. Avianca, Inc., 678 F. Supp. 3d 443 (S.D.N.Y. 2023).
- (16) Moffatt v. Air Canada, 2024 BCCRT 149. 1. Large Language Model. 2. Aisha Alansari & Hamzah Luqman, “Large Language Models Hallucinations: A Comprehensive Survey”, Computer Science Review, Vol. 61, 18 Mar, 2026, p. 1, available at: https://arxiv.org/abs/2510.06265 3. Zichao Lin, Shutan Guan, Winding Zhang, Huiyan Zhang, Yugang Li & Huaping Zhang, “Towards trustworthy LLMs: a review on de-biasing and de- hallucinating in Large Language Models”, Artificial Intelligence Review, Vol. 57, 10 Aug, 2024, pp. 17, available at: https://link.springer.com/ 4. Matthew Dahl, Varun Magesh, Mirac Suzgun & Daniel E. Ho, “Large Legal Fictions: Profiling Legal Hallucinations in Large Languages Models”, Journal of Legal Analysis, Vol. 16, No. 1, 26 June, 2024, pp. 64-93, available at: https://academic.oup.com/ 5. Zicho Lin et al., op. cit. p. 17. 6. Abe Hou, William Jurayj, Nils Holzenberger, Andrew Blair-Stanek & Benjamin Van Durme, “Gaps or Hallucinations? Scrutinizing Machine-Generated Legal Analysis for Fine-grained Text Evaluations,” Proceedings of the Natural Legal Language Processing Workshop 2024, pp. 280-302, available at: https://aclanthology.org/2024.nllp-1.24/?utm. 7. Varun Magesh, Faiz Surani, Matthew Dhl, Mirac Suzgun, Christopher D. Manning, Dniel E. Ho, “Hallucination- Free? Assessing the reliability of Leading AI Legal Research Tools”, Journal of Empirical Legal Studies/ Volume 22, Issue 2, 23 April 2025, pp. 216-242, available at: https://doi.org/10.1111jels.12413?utm. 8. Dahl et al., op. cit., pp. 79- 80. 9. Magesh et al, op. cit., pp. 221-225. 10. .Dahl et al., op. cit., p. 66 11. هو نموذج ذكاء اصطناعيّ متعدّد الوسائط، واسع النّطاق، قادر على معالجة المدخلات النّصّيّة والصّوريّة، وإنتاج مخرجات نصّيّة. يراجع: Open AI, GPT-4, Technical Report, available at: https://cdn.openai.com/papers/gpt-4.pdf?trk=article-ssr-frontend-pulse_little-text-block&utm. 12. هي مجموعة من النّماذج الّلغويّة الكبيرة، تشمل نماذج مدرّبة مسبقًا، ونماذج مخصّصة للحوار. يراجع: Hugo Touvron et al, Llama: Open and Efficient Foundation Language Models, 2023, available at: https://ai.meta.com/research/publications/llama-2-open-foundation-and-fine-tuned-chat models/?utm. 13. Mata v. Avianca, Inc., No.22-CV-1461 (PKC), Opinion and Orders on Sanctions, U.S. District Court, Southern District of New York, June 22,2023, pp. 5-6. 14. Magesh et al, op. cit., pp. 221-222. 15. It means: “Issue-Rules-Application-Conclusion”. Lee F. Peoples, “Artificial Intelligence & Legal Analysis: Implications for Legal Education & the Profession”, Law Library Journal, Vol. 117, No. 1, Feb 13, 2025, p. 3, available at:https://scholarship.law.okcu.edu/works/publication-article/bpmfa-a5065. 16. Lee F. Ibid, p. 5.
- (17) Neel Guha et al. “Legal Bench: A Collaboratively Built Benchmark for Measuring Legal Reasoning in Large Language Models”, Advances in Neural Information Processing Systems, Vol. 36, AUG 20,2023, pp. 6-7, available at:https://de.scribd.com/document/820935724/2308-11462v1?utm.
- (18) Neel Guha et al. op. cit., p. 7.
- (19) Nagwa Abouhaiba, Saed Ahmed Khouli & Maya Khater, “Towards Protecting the Injured Party from Errors and Hallucinations of Artificial Intelligence: A Contemporary Legal Perspective,” F1000Research, Vol. 15, 2026, Article 569, available at: https://f1000research.com/articles/15-569.
- (20) المادّة 122 و 123 من قانون الموجبات والعقود الّلبنانيّ، رقم 0 لسنة 1932 وتعديلاته، الجريدة الرّسميّة، العدد 2642، تاريخ 11/04/1932.
- (21) Mata v. Avianca, Inc, op. cit.
- (22) Audine Salloum, “The Future of Civil Liability for Artificial Intelligence Systems after the Withdrawal of the European Directive”, JURIS POLITICA, Vol. 1, 23 Dec, 2025, pp. 42-44. Available at: https://jurispolitica.com/ojs/index.php/jurispolitica/ar/article/view/7?utm.
- (23) Regulation (EU) 1689/2024 of the European Parliament and of the Council of 13 June 2024 (Artificial Intelligence Act), arts. 9, 14, 15.
- (24) Ahmed M. Khawaldeh, “Generative AI Hallucinations and Legal Liability in Jordanian Civil Courts: Promoting the Responsible Use of Conversational Chat Bots”, International Journal for the Semiotics of Law - Revue internationale de Sémiotique juridique, Vol. 38, No. 2, 2025, pp. 395-396. Available at: International Journal for the Semiotics of Law - Revue internationale de Sémiotique juridique.
- (25) المادّة 221 من قانون الموجبات والعقود الّلبنانيّ، سابق ذكره.
- (26) Moffatt v. Air Canada, 2024, BCCRT 149, Paras, Civil Resolution Tribunal, Small Claims, 14 Feb, 2024, available at https://www.studocu.com/fr-ca/document/universite-de-montreal/droit-des-obligations-2/moffatt-v-air-canada-2024-bccrt-149/85265502?utm_source=chatgpt.com&sid=c934fee4-0d30-4bcc-8418-8ef26d67cf801790189681.
- (27) Nagwa Abouhaiba, et al. op. cit.
- (28) Bohdan Demidont, “quantifying Financial and Reputational Liability of AI Hallucinations in Legal Practice, “Enterpreneurship and Innovation, Issue 39, 2026, p. 216, available at: https://ei-journal.in.ua/index.php/journal/article/download/920/896/?utm.
- (29) Bohdan Demidont, op. cit., p.217.
- (30) Mata v. Avianca, Inc, op. cit.
- (31) Laura Herrerias Castro, “Legal Remedies for AI-Generated Reputational Harm,” Cambridge Forum on AI: Law and Governance, Vol. 2, 29 July,2026, Article e12, pp. 1-17, available at: https://www.cambridge.org/core/journals/cambridge-forum-on-ai-law-and-governance/article/legal-remedies-for-aigenerated-reputational-harm/261B68A5457216EC60ECD09B6FC49340?utm
- (32) Laura Herrerias Castro, op., cit., pp.1-17.
ريما حسن، «المسؤوليّة المدنيّة عن أضرار الهلوسة القانونيّة لأنظمة الذّكاء الاصطناعيّ التّوليدي»، الفكر العربي المعاصر، العدد 174–175، 2026، ص 283–291.