یک تیم بین المللی از محققان سلامت از ایالات متحده، کانادا و تایوان آنها با صدها هزار عکس اشعه ایکس از افراد مختلف به همراه اطلاعات کامل نژادی در مورد آنها، فناوری هوش مصنوعی را آموزش دیده اند که می تواند نژادی از تصاویر را تشخیص دهد.
محققان در مقاله خود نوشتند: «هدف ما ارائه یک ارزیابی جامع از توانایی هوش مصنوعی در تشخیص بود. هویت نژادی بیمار بیایید آن را از تصاویر پزشکی بسازیم.
تحقیقات جدید الگوها را نشان می دهد آموزش عمیق بر اساس هوش مصنوعی آنها می توانند با مردم رقابت کنند اشعه ایکس شناسایی کنید.
هوش مصنوعی در ذات خود از تفکر انسان تقلید می کند تا الگوهای موجود در داده های وارد شده را سریع تشخیص دهد. دقت این سیستم در تشخیص – حتی زمانی که تصاویر بسیار مشابه هستند و یا برخی سرنخ ها در ارتباط با تراکم استخوان حذف شده – تقریبا 90% این یک عدد شگفت انگیز است.
از آنجایی که دیدن چنین تصاویری برای پزشکان غیرممکن است، این توانایی یادگیری، دانشمندان را به شدت نگران کرده است.
این یافته‌ها سوالات نگران‌کننده‌ای را در مورد نقش آموزش عمیق در تشخیص، ارزیابی و ارائه مراقبت‌های بهداشتی مطرح می‌کند: آیا تعصب نژادی می‌تواند به‌طور سهوی توسط نرم‌افزار پیاده‌سازی شود؟ این سوگیری چه تأثیری بر روند درمان و به طور کلی علم پزشکی دارد؟
مطالعه هوش مصنوعی را می توان برای پیش بینی یک مسابقه از تصاویر اشعه ایکس آموزش داد. با این حال، هوش مصنوعی نیز به طور ناخواسته باعث سوگیری می شود.
در حال حاضر، دانشمندان مطمئن نیستند که چرا این سیستم یادگیری عمیق چنین توانایی بالایی در شناسایی نژادی از تصاویر دارد. حتی زمانی که اطلاعات محدودی وارد می شود – به عنوان مثال با حذف سرنخ ها از تراکم استخوان یا اندام های کوچک بدن – باز هم مدل های دارای هوش مصنوعی در حدس زدن مسابقه شگفت انگیز هستند.
دانشمندان پیشنهاد می کنند که این سیستم ها اطلاعاتی را از رنگدانه پوست آنچه را که هنوز برای علم ناشناخته است بدست آورید.
محققان معتقدند در استفاده از این سیستم در علم پزشکی باید دقت بیشتری کرد. آنها معتقدند که تیصمیمیت نژادپرستانه یا جنسیت کسانی که توسط این سیستم گرفتار می شوند در آینده مشکل ساز خواهند شد.