جوجل تحذف ملخصات الذكاء الاصطناعي بعد تحذيرات صحية خطيرة

حذفت شركة جوجل بعض الملخصات الصحية التي أعدها الذكاء الاصطناعي من نتائج البحث، بعد تحقيق أجرته صحيفة الجارديان كشف أن هذه الملخصات قد تعرض المستخدمين لمخاطر صحية كبيرة، وتُعرف هذه الملخصات باسم AI Overviews، وهي تعتمد على الذكاء الاصطناعي التوليدي لتقديم لمحات سريعة عن مواضيع مختلفة، بما في ذلك الاستفسارات الصحية.

وأشار التحقيق إلى أن ملخصات الذكاء الاصطناعي المتعلقة بفحوصات وظائف الكبد كانت تقدم معلومات مضللة وغير دقيقة. فعلى سبيل المثال، عند الاستفسار عن "النطاق الطبيعي لفحوص دم الكبد"، كانت النتائج تعرض أرقامًا دون سياق كافٍ، متجاهلة عوامل مهمة مثل العمر والجنس والعرق ونوع الفحص، وحذر الخبراء من أن هذه المعلومات قد تمنح المرضى شعورًا زائفًا بأن نتائجهم طبيعية، ما قد يؤخر حصولهم على الرعاية الطبية اللازمة. ووصف أحد الخبراء هذه الملخصات بأنها "خطيرة" و"مقلقة".

ردًا على ذلك، حذفت جوجل ملخصات AI Overviews المتعلقة باستفسارات مثل "ما النطاق الطبيعي لفحوص دم الكبد؟" و"ما هو النطاق الطبيعي لفحوصات وظائف الكبد؟"، وأوضح متحدث باسم جوجل أن الشركة تراجع باستمرار جودة هذه الملخصات وتجري تحسينات عند الحاجة، دون التعليق على حالات الحذف الفردية.

ورغم الترحيب بالحذف، أعرب الخبراء عن قلقهم المستمر. وأشارت فانيسا هيبديتش، مديرة الاتصالات في مؤسسة British Liver Trust، إلى أن تغييرات بسيطة في صياغة الاستفسارات قد تولد ملخصات AI مضللة، مشيرة إلى أن تفسير فحوص الكبد معقد ويتطلب أكثر من مجرد مقارنة الأرقام، وأن الملخصات لا تحذر من أن النتائج الطبيعية لا تعني دائمًا صحة الكبد الجيدة.

كما أكدت سو فارينغتون، رئيسة Patient Information Forum، أن هناك خطرًا مستمرًا من المعلومات الصحية غير الدقيقة على الإنترنت، داعية جوجل لتوجيه المستخدمين إلى مصادر موثوقة قائمة على الأدلة، وأضافت أن ملايين البالغين يواجهون صعوبة في الوصول إلى معلومات طبية موثوقة، ما يجعل دقة محتوى الذكاء الاصطناعي أمرًا بالغ الأهمية.

وأوضحت جوجل أن AI Overviews تظهر فقط عندما تكون واثقة من جودة المعلومات، وأن بعض الملخصات المتعلقة بالسرطان والصحة النفسية لا تزال موجودة، لكنها ترتبط بمصادر موثوقة وتشجع المستخدمين على طلب المشورة من الخبراء.

وأكد الخبراء والصحفيون التقنيون أن جوجل لا تزال تواجه تحديًا كبيرًا لضمان عدم نشر أدوات الذكاء الاصطناعي معلومات صحية مضللة قد تكون خطيرة.