منظمة الصحة العالمية تحذر من مخاطر محتملة للذكاء الاصطناعي

قد يُحدث الذكاء الاصطناعي التوليدي ثورة في الرعاية الصحية، على سبيل المثال من خلال تسهيل تطوير الأدوية أو التعجيل بالكشف عن الأمراض، لكنّ منظمة الصحة العالمية شددت في تقرير لها على ضرورة إيلاء اهتمام أكبر بالمخاطر المحتملة لهذا التطور.

في وثيقة نُشرت الخميس، حللت منظمة الصحة العالمية مخاطر وفوائد استخدام نماذج كبيرة متعددة الوسائط تسمى “Large Multi-modal Models” أو اختصارا “LMM”، وهي نوع من تكنولوجيا الذكاء الاصطناعي التوليدي يشهد نموا سريعا، في مجال الصحة.

ويمكن للنماذج الكبيرة متعددة الوسائط هذه استخدام أنواع متنوعة من البيانات، بما في ذلك النصوص والصور والفيديو، وإنشاء نتائج لا تقتصر على نوع البيانات التي يتم إدخالها في الخوارزمية.

وقالت منظمة الصحة العالمية إن “من المتوقع أن يتم استخدام وتطبيق النماذج الكبيرة متعددة الوسائط على نطاق واسع في مجال الرعاية الصحية والبحث العلمي والصحة العامة وتطوير الأدوية”.

وحددت المنظمة 5 مجالات يمكن أن تُستخدم فيها هذه التكنولوجيا: الفحص (على سبيل المثال، للرد على الطلبات المكتوبة من المرضى)، والبحث العلمي وتطوير الأدوية، والتعليم الطبي والتمريضي، والمهام الإدارية، والاستخدام من جانب المرضى، على سبيل المثال لمراجعة الأعراض.

ورغم أن هذه التكنولوجيا تتمتع بإمكانات كبيرة، فإن منظمة الصحة العالمية لفتت إلى أنه ثبت أيضا أن هذه النماذج الكبيرة متعددة الوسائط يمكن أن تؤدي إلى نتائج خاطئة، أو غير دقيقة، أو متحيزة، أو غير كاملة، وهو ما قد يفضي بوضوح إلى عواقب سلبية.

وأشارت منظمة الصحة العالمية إلى أنه “نظرا لتزايد استخدام النماذج الكبيرة متعددة الوسائط في الرعاية الصحية والطب، فإن الأخطاء وسوء الاستخدام، وفي نهاية المطاف الإضرار بالأفراد؛ أمر لا مفر منه”.

عمالقة التكنولوجيا

وتقدّم الوثيقة أيضا إرشادات جديدة بشأن أخلاقيات وحوكمة النماذج الكبيرة متعددة الوسائط، إذ أعطت منظمة الصحة العالمية أكثر من 40 توصية للحكومات وشركات التكنولوجيا ومقدمي الرعاية الصحية حول كيفية الاستفادة من هذه التكنولوجيا بأمان تام.

وأكد كبير العلماء في منظمة الصحة العالمية جيريمي فارار أن “تقنيات الذكاء الاصطناعي التوليدي لديها القدرة على تحسين الرعاية الصحية، ولكن فقط إذا عمد أولئك الذين يطورون وينظمون ويستخدمون هذه التقنيات إلى تحديد المخاطر المرتبطة بها وأخذها في الاعتبار بشكل كامل”.

وأضاف “نحن بحاجة إلى معلومات وسياسات شفافة لإدارة تصميم وتطوير واستخدام النماذج الكبيرة متعددة الوسائط لتحقيق نتائج صحية أفضل والتغلب على التفاوتات الصحية المستمرة”.

ودعت منظمة الصحة العالمية إلى وضع قواعد المسؤولية “لضمان تعويض المستخدمين المتضررين من النماذج الكبيرة متعددة الوسائط بشكل مناسب أو حصولهم على ملاذات أخرى” يمكنهم اللجوء إليها.

وأشارت المنظمة أيضا إلى أن درجة امتثال النماذج الكبيرة متعددة الوسائط للقواعد الحالية، لا سيما في ما يتعلق بحماية البيانات، تثير بدورها مخاوف.

إلى ذلك، فإن حقيقة أن النماذج الكبيرة متعددة الوسائط تُطوَّر وتُنشر في كثير من الأحيان من جانب عمالقة التكنولوجيا، تثير مخاوف وقد ترسّخ هيمنة هذه الشركات، بحسب منظمة الصحة العالمية.

ولذلك توصي المنظمة بتطوير النماذج الكبيرة متعددة الوسائط، ليس فقط من العلماء والمهندسين، ولكن أيضا من المتخصصين في الرعاية الصحية والمرضى.

وحذرت منظمة الصحة العالمية أيضا من تعرض النماذج الكبيرة متعددة الوسائط لمخاطر الأمن السيبراني، وهو ما قد يعرض معلومات المرضى وحتى موثوقية الرعاية الصحية للخطر.

أخيرا، خلص التقرير إلى ضرورة أن تفوّض الحكومات السلطات التنظيمية للموافقة على استخدام النماذج الكبيرة متعددة الوسائط في الرعاية الصحية، داعيا إلى تنفيذ عمليات التدقيق لتقييم تأثير هذه التكنولوجيا.