أضاف نظام ذكاء اصطناعي استُخدم لتوثيق موعد طبي في أستراليا إلى ملف مريضة معلومة كاذبة تفيد بأنها تتعاطى الفطر المهلوس، ولم يُكتشف الخطأ إلا بعدما ظهرت المعلومة بالفعل في رسالة طبية أُرسلت إلى طبيب الأسرة الخاص بها.
وصلت ريبيكا غرين إلى موعدها الأول مع طبيبة مسالك بولية، وطُلب منها الموافقة على أن يوثق نظام ذكاء اصطناعي المحادثة. ووافقت من دون تردد، لأسباب من بينها أنها لم ترغب في أن يُنظر إليها كمريضة تصعّب عمل الطبيبة أو تهدر وقتها.
لكن بعد خضوعها في شهر مارس لعملية جراحية بسبب حصى الكلى، قرأت غرين رسالة أرسلتها الطبيبة إلى طبيب الأسرة، واكتشفت فيها معلومة لم تذكرها قط: فقد ورد في الوثيقة أنها تتناول جرعات صغيرة جدًا من الفطر المهلوس، بل وطُرح احتمال وجود صلة بين ذلك ونزيف سابق في منطقة الكلى.
وأكدت غرين أنها لم تستخدم الفطر المهلوس قط. وقالت لشبكة "إيه بي سي" الأسترالية: "كنت مصدومة وبكيت".
وكان للخطأ بالنسبة إليها تأثير يتجاوز مجرد السجل الطبي. ففي تلك الفترة، كانت غرين تتلقى تعويضات إثر إصابة في العمل، وكانت تخشى أن يؤثر ذكر تعاطي مخدرات غير قانونية في ملفها الطبي على شؤونها.
وبعد تقديمها شكوى، اعتذرت طبيبة المسالك البولية وأصدرت وثيقة طبية مصححة. وقالت إنه لم يكن من الممكن تحديد كيفية دخول الإشارة إلى الفطر المهلوس في الوثيقة بشكل قاطع، لكن يبدو أنها نتجت عن خطأ في عملية الإملاء أو النسخ. كما أعلنت الطبيبة أنها ستعيد النظر في طريقة استخدام الذكاء الاصطناعي في العيادة.
وتنضم هذه الواقعة إلى مخاوف متزايدة في أستراليا بشأن استخدام أنظمة الذكاء الاصطناعي التي توثق المحادثات بين الأطباء والمرضى. وأشارت دراسة أجرتها منظمة "ديجيتال رايتس ووتش" إلى حالات أنشأت فيها أنظمة من هذا النوع معلومات طبية خاطئة، رغم أنها لم تُذكر فعليًا.
ومن بين الأمثلة التي كُشف عنها حالة سجل فيها نظام الجانب الخطأ من الجسم في تشخيص سرطان الثدي، وحالة أخرى سُجل فيها أن مريضًا يعاني من الصرع رغم أنه لم يكن مصابًا بالمرض.
وأكدت الهيئة الأسترالية لتنظيم المهن الصحية أن المسؤولية تبقى على عاتق المختصين، وأن عليهم مراجعة المخرجات التي تنتجها أنظمة التوثيق القائمة على الذكاء الاصطناعي والتأكد من دقتها.
وقالت غرين إنها تشعر بقلق خاص بشأن المرضى الذين لا يكتشفون مثل هذه الأخطاء بأنفسهم. وأضافت أن مراجعة بشرية للوثيقة قبل إرسالها كان من الممكن أن تمنع إدخال المعلومات الخاطئة إلى ملفها الطبي.