دوره 81، شماره 3 - ( خرداد 1402 )
جلد 81 شماره 3 صفحات 247-246 |
برگشت به فهرست نسخه ها
Download citation:
BibTeX | RIS | EndNote | Medlars | ProCite | Reference Manager | RefWorks
Send citation to:
BibTeX | RIS | EndNote | Medlars | ProCite | Reference Manager | RefWorks
Send citation to:
Iranpour P, Pishdad P. Ethical challenges of artificial intelligence in the
field of radiology: a letter to editor. Tehran Univ Med J 2023; 81 (3) :246-247
URL: http://tumj.tums.ac.ir/article-1-12433-fa.html
URL: http://tumj.tums.ac.ir/article-1-12433-fa.html
ایرانپور پویا، پیشداد پریسا. چالش‌های اخلاقی هوش مصنوعی در حیطه رشته رادیولوژی: یک نامه به سردبیر. مجله دانشکده پزشکی، دانشگاه علوم پزشکی تهران. 1402; 81 (3) :246-247
پویا ایرانپور1 
، پریسا پیشداد* 1
، پریسا پیشداد* 1
1- مرکز تحقیقات تصویربرداری پزشکی، دانشگاه علوم پزشکی شیراز، شیراز، ایران.| گروه رادیولوژی، دانشکده پزشکی، دانشگاه علوم پزشکی شیراز، شیراز، ایران.
چکیده: (995 مشاهده)
سردبیر محترم
انقلاب الگوریتم‌های یادگیری دیجیتال در دهه اخیر منجر به بهبود چشمگیر فناوری‌ها در زمینه پزشکی گردیده است. این انقلاب علمی، به‌سرعت در تشخیص‌های پزشکی و به‌طور خاص در زمینه رادیولوژی تشخیصی کاربرد پیدا کرد. به‌همین‌ترتیب، پیشرفت‌های صورت‌گرفته در الگوریتم‌های یادگیری دیجیتالی باعث شده که دیتاها با استفاده از شبکه‌های پردازش کننده عمیق دیجیتالی به تحلیل و درک عمیق مسایل مختلف برسند و این پیشرفت‌ها علی‌الخصوص در چند سال گذشته با سرعت بیشتری درحال گسترش بوده است و پدیده تکنولوژی هوش مصنوعی را به‌دنبال داشته است.1
گرچه اخیرا نگرانی‌هایی توسط بعضی از کارشناسان مبنی‌بر مخاطرات بالقوه جایگزینی رادیولوژیست‌های انسانی با تکنولوژی هوش مصنوعی و درنتیجه حذف رادیولوژی به‌عنوان یک رشته وجود دارد.2 اما از جهتی دیگر برخی از کارشناسان، از مزایای ادغام هوش مصنوعی در انجام امور رادیولوژی حمایت می‌کنند.3 هوش مصنوعی در علم رادیولوژی می‌تواند به تشخیص و درمان سریع‌تر بیماری‌ها کمک کند، مانند افزایش راندمان و تشخیص زودهنگام بیماری‌ها و جلوگیری از انجام کارهای زمان‌بر و تکراری توسط انسان‌ها یا اپراتورها، جایگزین شدن نیروی انسانی در کارهای وقت‌گیر و تکراری و غیره.1و3
رعایت اخلاق در داده‌پردازی، بخشی جدایی‌ناپذیر از علم هوش مصنوعی در رادیولوژی است و جنبه‌های مختلفی ازقبیل موارد زیر را دربرمی‌گیرد، رضایت آگاهانه بیماران، حفظ حریم شخصی بیمار، محافظت از داده‌ها و اطلاعات، بحث مالکیت در داده‌ها و همچنین شفافیت در چگونگی استفاده از دیتاها. در بعضی از کشورها مالکیت مطالعات انجام شده بر تصویربرداری متعلق به نهادی است که تصویربرداری در آن انجام گردیده است.4 طبق مقررات عمومی حفاظت از داده اتحادیه اروپا، پیش از استفاده از داده‌های تصویربرداری در علم دیجیتال و طراحی الگوریتم، رضایت صریح توسط بیمار اجباری است.5
دیتاهای کدگذاری شده و ناشناس نیز می‌توانند قابل‌کنترل باشند تا شخص یا بیمار آنها قابل‌شناسایی باشد و هنگامی که از مجموعه داده‌های تصویربرداری از سر و گردن استفاده می‌شود، تشخیص چهره ازطریق برنامه‌های بازسازی سه‌بعدی و برنامه‌های کامپیوتری متفرقه امکان‌پذیر است.6 بنابراین بسیار حایز اهمیت است که اقدامات لازم برای محافظت از حریم خصوصی بیماران در طول هر مرحله از توسعه هوش مصنوعی انجام گیرد. هوش مصنوعی عمدتا مبتنی‌بر علم ماشین‌های هوشمند است، که عملا به برنامه‌ریزی زیادی نیاز دارند تا درست عمل کنند. مجموعه عظیم داده‌ها و اطلاعات گردآوری شده، که بعدها توسط توسعه‌دهندگان الگوریتم برای طراحی هوش مصنوعی مورداستفاده قرار می‌گیرد، ممکن است به مشکل پدیده سوگیری داده‌ها گرفتار شود.7و8
معمولا داده‌های بیماران از مراکز تحقیقات کارآزمایی بالینی استخراج می‌شوند. چنین داده‌هایی احیانا و عمدتا شامل دیتاهای بیماری‌های مثبت باشد و معمولا دیتاهای منفی کمتر موردتوجه و گزارش‌دهی قرار می‌گیرند. همچنین اگر داده‌های جمع‌آوری شده نماینده واقعی جمعیت عمومی جامعه نباشد، ممکن است که سوگیری داده‌ها و عدم‌دقت همه‌جانبه در انتخاب دیتاها رخ دهد. مجموعه‌ای از سوگیری در انتخاب داده‌ها که بعدها ممکن است در زمینه طراحی هوش مصنوعی در رادیولوژی تشخیصی استفاده شود، اصطلاحا دیتاست شیفت (Dataset shift) نامیده می‌شود. این داده‌هایی که برای آموزش الگوریتم به ماشین استفاده می‌شود لزوما با داده‌هایی که در مطالعات تصویربرداری در آینده استفاده خواهد شد، یکسان نیست.8 این اتفاق نامطلوب عمدتا به‌دلیل روش‌های مختلف رادیولوژیک و پارامترها و تکنیک‌های اسکن ناشی می‌شود که ممکن است متعاقبا باعث اختلاف‌های ظریفی در داده‌های پیش و پس از پردازش شود دلیل دیگر برای عدم‌دقت در دیتاها و ایجاد پدیده سوگیری داده‌ها در علم رادیولوژی، سودهی در روش انجام درمان است. به‌عنوان مثال می‌توان به زوایای مختلفی که یک رادیولوژیست برای گرفتن عکس سونوگرافی انتخاب می‌کند اشاره کرد.4
جلب اعتماد بیماران به ایمنی و فواید هوش مصنوعی و پذیرش آن، کلید موفقیت‌آمیز گردیدن هوش مصنوعی و استقرار آن در علم پزشکی خواهد بود.8و9 برای جلب اعتماد بیماران به هوش مصنوعی، داشتن شفافیت حداکثر درمورد نحوه تصمیم‌گیری و برنامه‌ریزی ضروری است.4 استقلال بیماران در پذیرش یا عدم‌پذیرش استفاده‌از هوش مصنوعی در مراقبت‌های بهداشتی خود، از اهمیت بالایی برخوردار است زیرا در نگرش بیماران به استفاده از هوش مصنوعی در علم پزشکی ممکن است تردیدهایی وجود داشته باشد.
درحالی‌که علم و دانش، اولویت‌ها، ارزش و اعتقادات فرد در تصمیم‌گیری انسان تاثیرگذار است، تصمیمات هوش مصنوعی براساس داده‌های ورودی و یادگیری و آموزش قبلی ماشینی است.4
اصول اخلاقی و برابری مفاهیم هوش مصنوعی نیستند و وظیفه رادیولوژیست‌ها آزمایش، مستندسازی و نظارت بر سیستم‌ها و الگوریتم‌های هوش مصنوعی برای اطمینان از حداکثر ایمنی و امنیت بیماران است.10 همچنین باید کاهش اثر جعبه‌سیاه که معمولا بخشی ذاتی از یک سیستم هوشمند مصنوعی است و مشکلاتی را در تصمیم‌گیری هوش مصنوعی ایجاد می‌کند، موردتوجه قرار گیرد.11
در مدل هوش مصنوعی به سطوح مناسب تفسیرپذیری و توضیح‌پذیری برای درک عملکرد و توضیح روند تصمیم‌گیری نیاز است تا درحالی‌که هنوز از سیستم که به‌طور بالقوه حریم خصوصی را به خطر می‌اندازد در برابر حملات مخرب محافظت می‌کنید، چنین تعادل عملکرد بهینه الگوریتم را تضمین می‌کند.
یک جنبه مهم مسایل اخلاقی در دسترس بودن مزایای آن برای جامعه است. از آنجا که هوش مصنوعی برای توسعه و پیاده‌سازی به‌مقدار زیادی اطلاعات و مهارت نیاز دارد، ممکن است زیرگروه‌های جامعه به تمام مزایای آن دسترسی نداشته باشند. بنابراین اطمینان از استقرار عادلانه هوش مصنوعی در جوامع و کشورها و نه فقط درمورد افرادی که منابع بیشتری دارند، به‌عهده شرکت‌های توسعه‌دهنده و سیستم‌های بهداشتی است. همچنین سوالاتی مربوط به مسئولیت نهایی درمواردی که هوش مصنوعی در فرآیند تصمیم‌گیری ادغام شده است وجود دارد. درصورت آسیب به بیمار ناشی از تشخیص رادیولوژیک نامناسب چه کسی مسئول است. آیا رادیولوژیستی که از هوش مصنوعی استفاده کرده است، شرکتی که این سیستم را توسعه داده است یا بیمارستانی است که آن را خریداری کرده است.
مساله اخلاقی دیگر، وجود بالقوه تعارض منافع است. ازآنجاکه بسیاری از رادیولوژیست‌ها درگیر فرآیند توسعه کاربردهای رادیولوژیک هوش مصنوعی در شرکت‌های تجاری هستند، رادیولوژیست‌ها و همچنین سایر افراد درگیر ممکن است هنگام تصمیم‌گیری درمورد استفاده از هوش مصنوعی در مراکز وابسته به خود، در تضاد منافع قرار بگیرند.8
تکامل سریع و تلفیق مدل‌ها و الگوریتم‌های هوشمند مصنوعی در پزشکی و به‌طور خاص رادیولوژی، توسعه و به‌روزرسانی کدهای اخلاقی را برای اطمینان از حداکثر سود و ایمنی بیمار ضروری می‌کند. آشنایی رادیولوژیست و کارآموزان با فناوری‌های نوین همراه با ملاحظات اخلاقی، می‌تواند تاثیرات مثبتی در تشخیص، مدیریت و نتیجه داشته باشد.
انقلاب الگوریتم‌های یادگیری دیجیتال در دهه اخیر منجر به بهبود چشمگیر فناوری‌ها در زمینه پزشکی گردیده است. این انقلاب علمی، به‌سرعت در تشخیص‌های پزشکی و به‌طور خاص در زمینه رادیولوژی تشخیصی کاربرد پیدا کرد. به‌همین‌ترتیب، پیشرفت‌های صورت‌گرفته در الگوریتم‌های یادگیری دیجیتالی باعث شده که دیتاها با استفاده از شبکه‌های پردازش کننده عمیق دیجیتالی به تحلیل و درک عمیق مسایل مختلف برسند و این پیشرفت‌ها علی‌الخصوص در چند سال گذشته با سرعت بیشتری درحال گسترش بوده است و پدیده تکنولوژی هوش مصنوعی را به‌دنبال داشته است.1
گرچه اخیرا نگرانی‌هایی توسط بعضی از کارشناسان مبنی‌بر مخاطرات بالقوه جایگزینی رادیولوژیست‌های انسانی با تکنولوژی هوش مصنوعی و درنتیجه حذف رادیولوژی به‌عنوان یک رشته وجود دارد.2 اما از جهتی دیگر برخی از کارشناسان، از مزایای ادغام هوش مصنوعی در انجام امور رادیولوژی حمایت می‌کنند.3 هوش مصنوعی در علم رادیولوژی می‌تواند به تشخیص و درمان سریع‌تر بیماری‌ها کمک کند، مانند افزایش راندمان و تشخیص زودهنگام بیماری‌ها و جلوگیری از انجام کارهای زمان‌بر و تکراری توسط انسان‌ها یا اپراتورها، جایگزین شدن نیروی انسانی در کارهای وقت‌گیر و تکراری و غیره.1و3
رعایت اخلاق در داده‌پردازی، بخشی جدایی‌ناپذیر از علم هوش مصنوعی در رادیولوژی است و جنبه‌های مختلفی ازقبیل موارد زیر را دربرمی‌گیرد، رضایت آگاهانه بیماران، حفظ حریم شخصی بیمار، محافظت از داده‌ها و اطلاعات، بحث مالکیت در داده‌ها و همچنین شفافیت در چگونگی استفاده از دیتاها. در بعضی از کشورها مالکیت مطالعات انجام شده بر تصویربرداری متعلق به نهادی است که تصویربرداری در آن انجام گردیده است.4 طبق مقررات عمومی حفاظت از داده اتحادیه اروپا، پیش از استفاده از داده‌های تصویربرداری در علم دیجیتال و طراحی الگوریتم، رضایت صریح توسط بیمار اجباری است.5
دیتاهای کدگذاری شده و ناشناس نیز می‌توانند قابل‌کنترل باشند تا شخص یا بیمار آنها قابل‌شناسایی باشد و هنگامی که از مجموعه داده‌های تصویربرداری از سر و گردن استفاده می‌شود، تشخیص چهره ازطریق برنامه‌های بازسازی سه‌بعدی و برنامه‌های کامپیوتری متفرقه امکان‌پذیر است.6 بنابراین بسیار حایز اهمیت است که اقدامات لازم برای محافظت از حریم خصوصی بیماران در طول هر مرحله از توسعه هوش مصنوعی انجام گیرد. هوش مصنوعی عمدتا مبتنی‌بر علم ماشین‌های هوشمند است، که عملا به برنامه‌ریزی زیادی نیاز دارند تا درست عمل کنند. مجموعه عظیم داده‌ها و اطلاعات گردآوری شده، که بعدها توسط توسعه‌دهندگان الگوریتم برای طراحی هوش مصنوعی مورداستفاده قرار می‌گیرد، ممکن است به مشکل پدیده سوگیری داده‌ها گرفتار شود.7و8
معمولا داده‌های بیماران از مراکز تحقیقات کارآزمایی بالینی استخراج می‌شوند. چنین داده‌هایی احیانا و عمدتا شامل دیتاهای بیماری‌های مثبت باشد و معمولا دیتاهای منفی کمتر موردتوجه و گزارش‌دهی قرار می‌گیرند. همچنین اگر داده‌های جمع‌آوری شده نماینده واقعی جمعیت عمومی جامعه نباشد، ممکن است که سوگیری داده‌ها و عدم‌دقت همه‌جانبه در انتخاب دیتاها رخ دهد. مجموعه‌ای از سوگیری در انتخاب داده‌ها که بعدها ممکن است در زمینه طراحی هوش مصنوعی در رادیولوژی تشخیصی استفاده شود، اصطلاحا دیتاست شیفت (Dataset shift) نامیده می‌شود. این داده‌هایی که برای آموزش الگوریتم به ماشین استفاده می‌شود لزوما با داده‌هایی که در مطالعات تصویربرداری در آینده استفاده خواهد شد، یکسان نیست.8 این اتفاق نامطلوب عمدتا به‌دلیل روش‌های مختلف رادیولوژیک و پارامترها و تکنیک‌های اسکن ناشی می‌شود که ممکن است متعاقبا باعث اختلاف‌های ظریفی در داده‌های پیش و پس از پردازش شود دلیل دیگر برای عدم‌دقت در دیتاها و ایجاد پدیده سوگیری داده‌ها در علم رادیولوژی، سودهی در روش انجام درمان است. به‌عنوان مثال می‌توان به زوایای مختلفی که یک رادیولوژیست برای گرفتن عکس سونوگرافی انتخاب می‌کند اشاره کرد.4
جلب اعتماد بیماران به ایمنی و فواید هوش مصنوعی و پذیرش آن، کلید موفقیت‌آمیز گردیدن هوش مصنوعی و استقرار آن در علم پزشکی خواهد بود.8و9 برای جلب اعتماد بیماران به هوش مصنوعی، داشتن شفافیت حداکثر درمورد نحوه تصمیم‌گیری و برنامه‌ریزی ضروری است.4 استقلال بیماران در پذیرش یا عدم‌پذیرش استفاده‌از هوش مصنوعی در مراقبت‌های بهداشتی خود، از اهمیت بالایی برخوردار است زیرا در نگرش بیماران به استفاده از هوش مصنوعی در علم پزشکی ممکن است تردیدهایی وجود داشته باشد.
درحالی‌که علم و دانش، اولویت‌ها، ارزش و اعتقادات فرد در تصمیم‌گیری انسان تاثیرگذار است، تصمیمات هوش مصنوعی براساس داده‌های ورودی و یادگیری و آموزش قبلی ماشینی است.4
اصول اخلاقی و برابری مفاهیم هوش مصنوعی نیستند و وظیفه رادیولوژیست‌ها آزمایش، مستندسازی و نظارت بر سیستم‌ها و الگوریتم‌های هوش مصنوعی برای اطمینان از حداکثر ایمنی و امنیت بیماران است.10 همچنین باید کاهش اثر جعبه‌سیاه که معمولا بخشی ذاتی از یک سیستم هوشمند مصنوعی است و مشکلاتی را در تصمیم‌گیری هوش مصنوعی ایجاد می‌کند، موردتوجه قرار گیرد.11
در مدل هوش مصنوعی به سطوح مناسب تفسیرپذیری و توضیح‌پذیری برای درک عملکرد و توضیح روند تصمیم‌گیری نیاز است تا درحالی‌که هنوز از سیستم که به‌طور بالقوه حریم خصوصی را به خطر می‌اندازد در برابر حملات مخرب محافظت می‌کنید، چنین تعادل عملکرد بهینه الگوریتم را تضمین می‌کند.
یک جنبه مهم مسایل اخلاقی در دسترس بودن مزایای آن برای جامعه است. از آنجا که هوش مصنوعی برای توسعه و پیاده‌سازی به‌مقدار زیادی اطلاعات و مهارت نیاز دارد، ممکن است زیرگروه‌های جامعه به تمام مزایای آن دسترسی نداشته باشند. بنابراین اطمینان از استقرار عادلانه هوش مصنوعی در جوامع و کشورها و نه فقط درمورد افرادی که منابع بیشتری دارند، به‌عهده شرکت‌های توسعه‌دهنده و سیستم‌های بهداشتی است. همچنین سوالاتی مربوط به مسئولیت نهایی درمواردی که هوش مصنوعی در فرآیند تصمیم‌گیری ادغام شده است وجود دارد. درصورت آسیب به بیمار ناشی از تشخیص رادیولوژیک نامناسب چه کسی مسئول است. آیا رادیولوژیستی که از هوش مصنوعی استفاده کرده است، شرکتی که این سیستم را توسعه داده است یا بیمارستانی است که آن را خریداری کرده است.
مساله اخلاقی دیگر، وجود بالقوه تعارض منافع است. ازآنجاکه بسیاری از رادیولوژیست‌ها درگیر فرآیند توسعه کاربردهای رادیولوژیک هوش مصنوعی در شرکت‌های تجاری هستند، رادیولوژیست‌ها و همچنین سایر افراد درگیر ممکن است هنگام تصمیم‌گیری درمورد استفاده از هوش مصنوعی در مراکز وابسته به خود، در تضاد منافع قرار بگیرند.8
تکامل سریع و تلفیق مدل‌ها و الگوریتم‌های هوشمند مصنوعی در پزشکی و به‌طور خاص رادیولوژی، توسعه و به‌روزرسانی کدهای اخلاقی را برای اطمینان از حداکثر سود و ایمنی بیمار ضروری می‌کند. آشنایی رادیولوژیست و کارآموزان با فناوری‌های نوین همراه با ملاحظات اخلاقی، می‌تواند تاثیرات مثبتی در تشخیص، مدیریت و نتیجه داشته باشد.
نوع مطالعه: مقاله اصیل |
| بازنشر اطلاعات | |
 |
این مقاله تحت شرایط Creative Commons Attribution-NonCommercial 4.0 International License قابل بازنشر است. |
