تعرّضت ميزة AI Overviews من Google لانتقادات جديدة بعد أن وُجد أنها تقدم معلومات طبية غير دقيقة وقد تكون خطيرة، ما دفع الشركة إلى حذف الإجابات المتعلّقة من نتائج البحث داخل متصفح Chrome.
ميزة AI Overviews في Chrome تعتمد على ذكاء Google (Gemini) لتوفير إجابات فورية في أعلى نتائج البحث عند طرح سؤال. لكن كما يكشف تحقيق من صحيفة The Guardian البريطانية، تبين أن هذه الإجابات ليست دائمًا موثوقة، خصوصا عندما تتعلّق بصحة الإنسان وأمراض خطيرة.
أمثلة على المعلومات الطبية المضلّلة
التحقيق كشف أن بعض التوصيات التي أعطتها الأداة كانت خاطئة بشكل خطير، منها:
نصيحة لمرضى سرطان البنكرياس بتجنّب الأطعمة العالية الدهون وهو عكس ما يوصي به الأطباء عادة.
إعطاء معلومات غير دقيقة عن اختبارات وظائف الكبد، ما قد يجعل المرضى يعتقدون خطأً أن نتائجهم «طبيعية» بينما هي ليست كذلك.
تحذيرات المجتمع الطبي
أشارت Pamela Healy من جمعية British Liver Trust إلى أن هذه التلخيصات يمكن أن تضلّل الأشخاص الذين يعانون من أمراض الكبد، لأن الأداة قد تعتبر بعض الأعراض «طبيعية» رغم أنها ليست كذلك، مما يجعل المستخدمين يتجاهلون زيارة الطبيب.
ردّ Google
جاء رد Google مقتضبا، حيث أكدت الشركة أنها لا تعلّق على الحذف الفردي للإجابات داخل نتائج البحث، وأنها تعمل باستمرار على تحسين جودة إجابات AI Overviews واتباع سياسات الجودة المناسبة.
وأوضحت Google أن فريقا من الأطباء الداخليين راجع بعض الأمثلة المثارة ووجد أن المعلومات في كثير من الحالات «لم تكن غير دقيقة وكانت مدعومة بمصادر موثوقة»، لكن التحديات في التعامل مع السياق الطبي المعقّد تبقى قائمة.
تبعات هذه الخطوة
قرار الحذف يأتي في وقت يتزايد فيه القلق من المعلومات الصحية المضللة عبر الإنترنت، خصوصًا عندما تقدمها شركات التكنولوجيا الكبرى بصيغة مبسّطة أو تلقائية. كما يظهر أن حذف بعض الأسئلة الطبية لا يعني حل المشكلة ككل، إذ يمكن أن تظهر معلومات مشابهة لمصطلحات بحث مختلفة، أو أن تبقى الإجابات الخاطئة متاحة في مواضع أخرى.
الخلاصة
- Google قامت بحذف إجابات صحية تنتجها الذكاء الاصطناعي بعد أن وُجدت مضللة وقد تكون خطيرة.
- التحقيقات أظهرت أن الأداة قد تقدّم توصيات تتناقض مع الإرشادات الطبية المعترف بها.
- التحدي الحقيقي يكمن في كيفية جعل الذكاء الاصطناعي يقدم معلومات صحية دقيقة وآمنة للمستخدمين.