الطب يستعين بالذكاء الاصطناعي… ولا يُسلّمه القرار

أصدر وكيل وزارة الصحة الشيخ الدكتور سلمان الصباح، قراراً إدارياً باعتماد ونشر الدليل العملي لاستخدام أدوات الذكاء الاصطناعي اللغوية ونماذج اللغة الكبيرة في الممارسة الصحية، ليكون إطاراً إرشادياً للعاملين في المنشآت الصحية التابعة للوزارة، بما يوازن بين الاستفادة من إمكانات هذه التقنيات؛ وحماية خصوصية المرضى وسلامة الممارسة والمسؤولية المهنية.

ووضع الدليل إطاراً منظماً لاستخدام أدوات المحادثة الذكية والتلخيص والترجمة والمساعدة في الصياغة، ومنها ChatGPT وClaude وGemini وOpenEvidence، في سياقات العمل الصحي والإداري والتعليمي والبحثي المرتبطة بالوزارة، سواء داخل منشآتها أو خارجها.

مساعدة لا تحل محل الطبيب

أكد القرار أن الهدف من الدليل تمكين الاستخدام الآمن والمسؤول لأدوات الذكاء الاصطناعي، مع التأكيد على أن مخرجاتها تظل مساعدة وغير نهائية، ولا تمثل بديلاً عن الحكم المهني أو المسؤولية الطبية، ولا يجوز اعتبارها مرجعاً نهائياً أو توصية سريرية معتمدة أو بديلاً عن تقييم الطبيب أو المختص الصحي.

وشدد الدليل على حماية سرية بيانات المرضى والمعلومات الصحية، وحظر إدخال أو تحميل أو نسخ البيانات التعريفية أو السرية، ومنها أسماء المرضى والأرقام المدنية وأرقام الملفات الطبية والصور والتسجيلات الصوتية ونتائج المختبر وتقارير الأشعة وملخصات الخروج ولقطات الشاشة، في أي أداة لغوية أو خدمة سحابية أو منصة غير معتمدة رسمياً من الجهات المختصة في الوزارة.

حدود واضحة للاستخدام السريري

نص الدليل أيضا على عدم جواز استخدام أدوات الذكاء الاصطناعي اللغوية أو خدماتها السحابية، مع بيانات مرضى فعلية أو بيانات سرية أو تشغيلية تخص الوزارة إلا بعد اعتمادها رسمياً، ووفق متطلبات حماية البيانات وأمن المعلومات والحوسبة السحابية وسرية المرضى والضوابط الفنية والقانونية المعمول بها في البلاد، مؤكداً أن شهرة الأداة أو إتاحتها للعامة لا تكفي لاستخدامها في الأعمال المرتبطة بالمرضى أو بيانات الوزارة.

وحظر الاعتماد على مخرجات الذكاء الاصطناعي كأساس وحيد للتشخيص أو العلاج أو الوصف الدوائي أو حساب الجرعات أو تفسير الفحوصات أو قرارات الدخول والخروج والإحالة والفرز والتنبؤ بخطورة الحالة المرضية.

في المقابل، يتيح استخدامها أداة مساعدة للتعلم وترتيب التفكير وتوسيع الاحتمالات وتلخيص المعلومات، شريطة التحقق الدقيق من المخرجات ومصادرها ومراجعتها من المختص المسؤول قبل استخدامها مهنياً أو سريرياً.

ثلاث درجات للخطورة

صنّف الدليل الاستخدامات وفق مستوى الخطورة إلى ثلاثة مستويات: استخدامات منخفضة الخطورة تشمل الصياغة العامة والترجمة والتلخيص وإعداد المواد التعليمية أو الإدارية غير السرية مع المراجعة البشرية ومتوسطة الخطورة تشمل تلخيص الإرشادات وترتيب التشخيصات التفريقية ومراجعة المعلومات الدوائية العامة مع التحقق من المصادر؛ وعالية الخطورة لا يجوز فيها الاعتماد على الذكاء الاصطناعي لاتخاذ القرار، ومنها التشخيص النهائي واختيار العلاج وتحديد الوصفة أو الجرعة والفرز الإكلينيكي والقرارات المتعلقة بمريض محدد.

المسؤولية تبقى بشرية

شدد القرار على مبدأ المسؤولية المهنية البشرية، إذ يبقى الطبيب أو المختص الصحي أو الموظف؛ مسؤولاً مهنياً عن أي قرار أو توصية أو توثيق أو تواصل أو محتوى يعتمده ضمن نطاق عمله، ولا يعفي استخدام أدوات الذكاء الاصطناعي من المسؤولية المهنية أو القانونية أو الأخلاقية.

وفي ما يتعلق بالتحقق من المعلومات، أكد الدليل ضرورة مراجعة مصادر المخرجات ومنطقها وملاءمتها للسياق المحلي، وتوافقها مع سياسات وإرشادات «الصحة»، مشدداً على أن جودة الصياغة أو ثقة الأسلوب لا تعد دليلاً على صحة المعلومة، ولا يجوز قبول المخرجات لمجرد صياغتها بلغة مقنعة أو منظمة.

المحتوى العربي تحت المراجعة

أولى الدليل اهتماماً خاصاً بالمحتوى العربي والترجمة، مؤكداً أن سلامة اللغة لا تعني بالضرورة صحة المحتوى العلمي أو السريري، وأن أي محتوى عربي موجه للمرضى أو الجمهور تم توليده أو ترجمته أو تبسيطه باستخدام هذه الأدوات، يجب أن يخضع للمراجعة والاعتماد من مختص صحي مسؤول، بما يضمن الدقة السريرية وسلامة الترجمة والملاءمة الثقافية ومناسبته لمستوى الثقافة الصحية للفئة المستهدفة.

حظر أدوات تقدم نصائح باسم الوزارة

حظر الدليل على المنشآت الصحية والإدارات والأقسام؛ إطلاق أو استخدام أو الترويج لأدوات لغوية موجهة للمرضى أو الجمهور، لتقديم نصائح صحية أو معلومات علاجية أو خدمات فرز أو توجيه سريري باسم وزارة الصحة أو إحدى منشآتها، إلا بعد وضع آلية رسمية للتقييم والاعتماد تراعي الجوانب السريرية والقانونية والتقنية وأمن المعلومات وخصوصية البيانات وسلامة المرضى ومراقبة أداء الأداة.

لجنة فنية عند الحاجة

وأجاز القرار للوزارة، عند الحاجة، تشكيل فريق أو لجنة فنية لتقييم أدوات ونماذج الذكاء الاصطناعي المقترح استخدامها في العمل الرسمي أو ربطها بأنظمة الوزارة، على أن يراعي التقييم مستوى الخطورة ونوع البيانات والخصوصية والأمن السيبراني وجودة الأداء وقابلية التحقق من المخرجات وملاءمتها للسياق المحلي وآليات المراقبة والتعامل مع الأخطاء والحوادث.

توثيق وإفصاح وتدريب

تضمن الدليل ضوابط للتوثيق والإفصاح، مؤكداً عدم جواز نسخ أي نص مولد أو معدل بواسطة أدوات الذكاء الاصطناعي إلى السجل الطبي أو التقارير الرسمية دون قراءته ومراجعته وتصحيحه واعتماده من المختص المسؤول.

ونص القرار على نشر مواد توعوية وتدريبية للعاملين، حول الاستخدام الآمن والمسؤول لهذه الأدوات، إلى جانب إتاحة إعداد مواد توعوية للجمهور تبين حدود الذكاء الاصطناعي في الموضوعات الصحية وإمكانية إنتاجه معلومات غير دقيقة أو غير مكتملة أو خاطئة، وأنه لا يغني عن استشارة الطبيب أو المختص الصحي أو الرجوع إلى المصادر الطبية المعتمدة.

الإبلاغ عن الأخطاء والاختراقات

ألزم الدليل المنشآت الصحية بالإبلاغ عن أي حادث أو خطأ أو شبهة خرق لخصوصية المرضى أو استخدام غير آمن لأدوات الذكاء الاصطناعي اللغوية، بما يشمل إدخال بيانات المرضى أو البيانات السرية بصورة غير مصرح بها إلى أداة غير معتمدة، أو استخدام مخرجات غير متحقق منها بما قد يؤثر على سلامة المرضى أو جودة الرعاية.

إطار قابل للتحديث

وأشارت الوزارة إلى أن القرار يؤسس إطاراً إرشادياً متكاملاً للاستخدام المسؤول للذكاء الاصطناعي اللغوي في الممارسة الصحية، يجمع بين تمكين الاستفادة من التقنيات الحديثة وترسيخ المسؤولية البشرية وحماية البيانات والخصوصية وسلامة المرضى والتحقق من المعلومات، مع إخضاع الدليل للمراجعة والتحديث دورياً أو كلما دعت الحاجة، لمواكبة التطورات العلمية والتنظيمية والتقنية المتسارعة في هذا المجال.

9 محظورات

1 ـ إدخال بيانات المرضى إلى أدوات الذكاء الاصطناعي أو المنصات السحابية غير المعتمدة.

2 ـ استخدام بيانات المرضى الفعلية أو السرية مع أدوات غير معتمدة رسمياً.

3 ـ الاعتماد على الذكاء الاصطناعي في التشخيص النهائي أو اختيار العلاج.

4 ـ تحديد الوصفات والجرعات الدوائية اعتماداً على مخرجات الذكاء الاصطناعي.

5 ـ تفسير الفحوصات الطبية أو اتخاذ قرارات الدخول والخروج والإحالة والفرز بناءً على مخرجاته وحدها.

6 ـ اتخاذ قرارات تخص مريضاً محدداً اعتماداً على الذكاء الاصطناعي.

7 ـ نسخ المحتوى المولد بالذكاء الاصطناعي إلى السجلات الطبية أو التقارير الرسمية دون مراجعة واعتماد المختص.

8 ـ إطلاق أدوات صحية للجمهور باسم الوزارة لتقديم نصائح أو معلومات علاجية أو خدمات فرز دون اعتماد رسمي.

9 ـ استخدام المخرجات غير المتحقق منها بما قد يؤثر على سلامة المرضى أو جودة الرعاية.

9 استخدامات مسموحة

1 ـ الصياغة العامة وإعداد المحتوى غير السري.

2 ـ الترجمة والتلخيص مع المراجعة البشرية.

3 ـ إعداد المواد التعليمية والإدارية غير السرية.

4 ـ تلخيص الإرشادات الصحية بعد التحقق من المصادر.

5 ـ ترتيب التشخيصات التفريقية كأداة مساعدة، مع مراجعة المختص.

6 ـ مراجعة المعلومات الدوائية العامة والتحقق من مصادرها.

7 ـ التعلم وترتيب التفكير وتوسيع الاحتمالات وتلخيص المعلومات.

8 ـ إعداد محتوى عربي للمرضى والجمهور بعد مراجعته واعتماده من مختص صحي.

9 ـ الاستفادة من أدوات الذكاء الاصطناعي في العمل الصحي والإداري والتعليمي والبحثي ضمن الضوابط المعتمدة.