مخاطر الذكاء الاصطناعي على سلامة التوصيات الطبية

كشفت دراسة حديثة أن خُمس التوصيات العلاجية التي يقدمها الذكاء الاصطناعي قد تحتوي على أخطار سريرية محتملة، مما يستدعي إشرافًا دقيقًا من الأطباء لتجنب الاعتماد الكامل على هذه النماذج دون ضمانات كافية للسلامة.

نتائج الدراسة حول مخاطر الذكاء الاصطناعي الطبية

أعد فريق بحثي من جامعتي ستانفورد وهارفارد دراسة منشورة في 2 يناير/كانون الثاني الجاري على منصة "أرخايف".

حذرت الدراسة من الاعتماد الكلي على نماذج الذكاء الاصطناعي الطبية دون إشراف دقيق من الأطباء المختصين.

أكد الباحثون أن هذه الأخطاء لا تنبع من ضعف التكنولوجيا بحد ذاتها، بل من غياب ضوابط السلامة الصارمة التي تضمن تقديم توصيات آمنة للمرضى.

اعتمد الباحثون على تقييم 31 نموذجاً متقدماً للذكاء الاصطناعي عبر 100 حالة سريرية حقيقية لقياس احتمال إلحاق الضرر بالمريض.

كانت النتيجة أن نحو 22% من التوصيات حملت مخاطر سريرية محتملة على صحة المرضى.

فشلت بعض النماذج في اقتراح فحوص أو إجراءات تشخيصية حاسمة، مما قد يؤدي إلى مضاعفات خطيرة تُلاحظ متأخرة.

غياب "القلق الطبي" وتأثيره على دقة الذكاء الاصطناعي

أظهرت الدراسة أن الأداء العالي في اختبارات الذكاء لا يضمن السلامة السريرية المطلوبة في المجال الطبي.

يفتقد الذكاء الاصطناعي ما أسماه الباحثون بـ"القلق الطبي"، وهو الإدراك الأخلاقي والمسؤولية عن نتائج القرار الطبي.

هذا النقص في الوعي الأخلاقي يجعل الذكاء الاصطناعي غير مؤهل لاتخاذ القرارات الطبية الحاسمة بمفرده.

أهمية الإشراف البشري وضرورة الضوابط

أكدت الدراسة أن الذكاء الاصطناعي يعد أداة دعم فعالة للأطباء في تحسين الرعاية الصحية.

لا يمكن لهذه التقنيات أن تحل محل الإنسان في اتخاذ القرار الطبي النهائي.

يبرز دور الأطباء في تقدير المخاطر الفردية وتحمل المسؤولية الأخلاقية والقانونية تجاه المرضى.

يكمن الحل في مراجعة بشرية دقيقة لكل توصية يقدمها الذكاء الاصطناعي قبل تطبيقها.

يجب تطبيق معايير سلامة سريرية واضحة قبل استخدام أي نظام ذكاء اصطناعي في العلاج الطبي.

هذا التحذير الصارم موجه للمستشفيات والمطورين والهيئات التنظيمية لضمان أن السلامة هي المعيار الأول.

يجب أن يدعم الذكاء الاصطناعي الأطباء بدلاً من أن يحل محلهم في تقديم الرعاية الصحية.

متى يجب استشارة الطبيب فوراً؟

• عند الشك في أي توصية طبية مقدمة من نظام ذكاء اصطناعي دون مراجعة بشرية.
• في حال ظهور أعراض جديدة أو تفاقم أعراض قائمة بعد اتباع توصيات غير مؤكدة.
• عندما تكون هناك حاجة لاتخاذ قرارات علاجية حاسمة تتطلب تقييمًا بشريًا شاملاً.