Journal of Modern Medical Information Sciences

fa از ابزار تا هم تیمی بالینی: بازاندیشی نقش هوش مصنوعی در تیم درمان From Tool to Clinical Teammate: Redefining AI's Role in Healthcare Teams تخصصي Special نامه به سردبیر Letter to editor <div style="text-align: justify;">ورود سیستمهای مبتنی بر هوش مصنوعی به محیط بالینی و عملکرد آنها، جایگاه هوش مصنوعی را از یک ابزار صرف به یک همتیمی بالینی ارتقا داده است؛ عضوی که در کنار انسان، اطلاعات میدهد، تصمیم میگیرد و بر تصمیمات نهایی اثر میگذارد ]1[. در این بستر تحولساز، پزشک و هوش مصنوعی، توانمندیهای متفاوتی دارند؛ پزشک در درک زمینه بیمار، ارزشها، قضاوت بالینی، مسئولیتپذیری در قبال تصمیمات بالینی اخذ شده و نیز ارتباطات انسانی دارای مزیت میباشد. در مقابل، هوش مصنوعی در پردازش حجم زیاد دادهها، تشخیص الگوهای پیچیده و ارائه عملکرد پایدار برتری دارد. بنابراین، حاصل کار مشترک آنها بهتر از عملکرد جداگانه هر کدام خواهد بود و یک همافزایی برای مشارکتکنندگان در تیم درمان، بیمار و مراکز درمانی ایجاد خواهد کرد ]2[. در مطالعه‌ انجام شده توسط Gallo et al. در بیمارستان استنفورد، سیستم هوش مصنوعی مبتنی بر شاخص وخامت اپیک با پردازش همزمان داده‌های حیاتی، آزمایشگاهی و سوابق الکترونیک، خطر وخامت بیمار را چندین ساعت زودتر پیش‌بینی می‌کند و به پزشکان و پرستاران به‌صورت خودکار هشدار می‌دهد. این هم تیمی منجر به کاهش 4/10 درصدی رویدادهای وخامت مانند انتقال به ICU یا فعال‌سازی تیم پاسخ سریع در بیماران پرخطر شد و نشان داد چگونه هوش مصنوعی با پوشش ضعف‌های انسانی در نظارت مداوم، تیم درمانی را به سطح بالاتری از کارایی و ایمنی می‌رساند ]3[. تکمیل‌گری متقابل عناصر انسانی و هوشمند در هم تیمی پزشک–هوش مصنوعی طراحی ساختار صحیح برای ایجاد یک همتیمی برای پزشک مستلزم در نظر گرفتن نقاط قوت و ضعف هر یک از این بازیگران تیم است و باید تکمیلگری در این زمینه اتفاق بیفتد تا بتوان ضعفهای هر یک را با قوتهای دیگری پوشش داد. همچنین در این ساختار، نباید نقاط کور انسان و ماشین با هم همپوشانی داشته باشند؛ بلکه نقاطی که کادر درمان مستعد خطا هستند، الگوریتمهای هوش مصنوعی بتواند آنها را جبران کند و بالعکس ]1، 4[. از طرف دیگر، وزن همتیمی شدن برای وظایف مختلف متفاوت است و باید بین تقویت انسان و خودکارسازی تعادل برقرار شود. در فعالیتهای روزانه، پرحجم و استاندارد، نقش هوش مصنوعی میتواند پررنگتر باشد و در تصمیمگیریهای پیچیده، حساس و اخلاقی، نقش اصلی با پزشک خواهد بود ]4[. تمایز عملکردی پزشک و هوش مصنوعی باید به‌گونه‌ای طراحی شود که منجر به ایجاد ابهام حقوقی و اخلاقی درباره مسئولیت نهایی تصمیمات بالینی نشود. توصیف هوش مصنوعی به‌عنوان هم‌تیمی صرفاً اشاره به نقش آن در تسهیل فرآیند تصمیم‌گیری دارد نه انتقال مسئولیت. هوش مصنوعی به‌عنوان یک سیستم فنی فاقد شخصیت حقوقی، آگاهی اخلاقی و توانایی پاسخگویی است. بنابراین، مسئولیت نهایی در قبال تصمیمات بالینی، حتی زمانی که بر اساس خروجی الگوریتم‌ها اتخاذ شود، همواره بر عهده پزشک به‌عنوان عامل قانونی تصمیم‌گیری است. این اصل، در ادبیات اخلاق پزشکی معاصر، چارچوب‌های نظارتی بین‌المللی از جمله دستورالعمل‌های اتحادیه اروپا و راهنمایی‌های FDA در مورد نرم‌افزارهای پزشکی مبتنی بر یادگیری ماشین تأکید شده است [5]. یکی دیگر از ابعاد مهم در طراحی تیم پزشک–هوش مصنوعی، نحوه تعامل آن‌ها است که معمولاً به دو شیوه متوالی و هم‌زمان انجام می‌شود. در شیوه متوالی، پزشک ابتدا برداشت یا تصمیم اولیه خود را شکل می‌دهد و سپس با مشاهده خروجی هوش مصنوعی، آن را اصلاح یا تأیید می‌کند. در شیوه هم‌زمان، پزشک از ابتدا به داده‌های بالینی و پیشنهاد سیستم دسترسی دارد و هر دو جریان اطلاعات را در شکل‌دهی قضاوت خود ادغام می‌کند [6]. این تمایز در مطالعه Attia et al. در زمینه تفسیر نوار قلب (ECG) مطرح شده است. در شیوه متوالی، پزشک ابتدا ECG را مستقل تفسیر و تشخیص خود را ثبت می‌کند؛ سپس با مشاهده خروجی هوش مصنوعی و در صورت عدم تطابق، سرنخ‌های الکتروکاردیوگرافی را بازبینی می‌کند. در مقابل، در شیوه هم‌زمان، سیستم هنگام ثبت ECG، تشخیص فیبریلاسیون دهلیزی را به‌صورت بلادرنگ نمایش می‌دهد و پزشک  با بررسی منحنی‌ها، پیشنهاد الگوریتم را در نظر می‌گیرد ]7[. همطراحی و توضیح پذیری کاربردی در هم تیمی پزشک–هوش مصنوعی باید توجه داشت که تعامل پزشک و هوش مصنوعی پدیده‌ای صرفاً فنی نیست و نباید تنها بر دقت الگوریتم‌ها متمرکز شود؛ بلکه باید در چارچوب یک سیستم اجتماع-فنی و با درنظرگرفتن هم‌زمان عوامل انسانی، سازمانی، فرایندهای کاری و فناوری بررسی شود [8]. از دیگر جنبه‌های مهم، مشارکت پزشکان به‌عنوان هم‌طراح در توسعه سیستم‌های هوش مصنوعی است که از پیش‌شرط‌های موفقیت این تیم محسوب می‌شود. حضور فعال پزشکان در مراحل اولیه تعریف مسئله، انتخاب شاخص‌های عملکرد، طراحی رابط کاربری و تعیین نحوه ادغام سیستم در فرایندهای کاری روزانه، امکان توجه به نیازهای واقعی بالینی، محدودیت‌های محیط کار و ملاحظات اخلاقی را فراهم می‌کند و در نهایت، تناسب سیستم با زمینه بالینی و اعتماد به آن را افزایش می‌دهد ]9[. جنبه قابل توجه دیگر، ایجاد تمایز بین شفافیت کامل فنی و توضیح پذیری کاربردی سیستم های مبتنی بر هوش مصنوعی است. این سیستمها به جای تلاش برای آشکار کردن جزئیات فنی مدل، باید بتوانند خروجیهای با سطح توضیح پذیری بالا، قابل فهم و قابل پیش بینی برای پزشک ایجاد کنند تا پزشک بتواند با دریافت میزان عدم قطعیت، رفتار سیستم را در موقعیتهای مختلف پیشبینی نماید، روند عملکرد سیستم را پایش کرده و در صورت تعارض با قضاوت بالینی، تصمیم نهایی را به صورت آگاهانه از خروجی الگوریتم تفکیک نماید. در حقیقت، توضیح پذیری ابزاری برای حفظ کنترل انسانی، تقویت تصمیمگیری انتقادی و جلوگیری از اتکای بیش از حد به هوش مصنوعی تلقی میشود ]10[. به طور کلی، تمرکز یک سویه بر اینکه هوش مصنوعی چه کاری می تواند انجام دهد، کافی نیست؛ بلکه باید نقاط ضعف و قوت انسان و ماشین در کنار یکدیگر دیده شود تا یک سیستم مکمل ایجاد شود. آینده موفق هوش مصنوعی در همتیمی شدن با پزشکان نه در جایگزینی آنها، بلکه در طراحی هوشمندانه تیمهای انسان و هوش مصنوعی در چارچوبی اجتماعی-فنی و با مشارکت فعال تیم بالینی در طراحی، انتخاب شیوه تعامل مناسب، رعایت توضیحپذیری کاربردی و حفظ کنترل و مسئولیت نهایی پزشک است. با این رویکرد، امکان گذار از خودکارسازی ساده به همافزایی واقعی فراهم میشود و توان تکمیلی پزشک و ماشین به ارتقای معنادار دقت، ایمنی و کارآمدی بالینی میانجامد.</div>   <div style="text-align: justify;">The integration of artificial intelligence (AI)-based systems into clinical settings, along with their demonstrated performance, has elevated AI from a mere tool to a clinical teammate—an entity that provides information, participates in decision-making, and influences final clinical decisions alongside human professionals [1]. Within this transformative context, physicians and AI systems possess distinct capabilities. Physicians have advantages in understanding the clinical context of patients, their values, clinical judgment, accountability for clinical decisions, and human communication. In contrast, AI excels at processing large volumes of data, identifying complex patterns, and delivering consistent performance. Consequently, their collaborative performance may surpass that of either working independently, generating synergistic benefits for healthcare teams, patients, and healthcare organizations [2]. In a study conducted by Gallo et al. at Stanford Hospital, an AI system based on the Epic Deterioration Index processed vital signs, laboratory results, and electronic health records simultaneously to predict patient deterioration several hours in advance and automatically alert physicians and nurses. This human–AI teaming was associated with a 10.4% reduction in deterioration events, including ICU transfers and rapid response team activations, among high-risk patients. The findings demonstrated how AI can compensate for human limitations in continuous patient monitoring, thereby enhancing the efficiency and safety of clinical teams [3]. Mutual complementarity of human and intelligent elements in clinician–AI teaming Designing an effective physician–AI team requires an understanding of the strengths and limitations of both actors and the establishment of mutual complementarity, whereby the weaknesses of each can be compensated for by the strengths of the other. Furthermore, their respective blind spots should not substantially overlap; rather, AI algorithms should compensate for areas in which healthcare professionals are prone to error, and vice versa [1, 4]. The relative contribution of AI to teamwork should also vary according to the task, requiring an appropriate balance between human augmentation and automation. AI may assume a more prominent role in routine, high-volume, and standardized activities, whereas physicians should retain the primary role in complex, sensitive, and ethically challenging decisions [4]. The functional distinction between physicians and AI should be designed to avoid legal and ethical ambiguity regarding accountability for clinical decisions. Describing AI as a teammate refers to its role in facilitating decision-making, rather than transferring responsibility. As a technical system, AI lacks legal personhood, moral awareness, and the capacity for independent accountability. Therefore, ultimate responsibility for clinical decisions, even when based on algorithmic outputs, remains with the physician as the legally responsible human decision-maker. This principle is emphasized in contemporary medical ethics literature, international regulatory frameworks, including European Union guidelines on trustworthy AI, and FDA guidance on machine learning-based medical software [5]. Another important aspect of physician–AI team design is the mode of interaction, which is generally classified as sequential or simultaneous. In sequential interaction, physicians first formulate their initial interpretation or decision and subsequently review the AI output to confirm or revise their judgment. In simultaneous interaction, physicians have access to clinical data and AI recommendations from the outset, integrating both information streams into their clinical judgment [6]. This distinction has been illustrated in the context of electrocardiogram (ECG) interpretation in the study by Attia et al. In the sequential approach, physicians independently interpret the ECG and record their diagnosis before reviewing the AI output. In cases of disagreement, they may reconsider relevant electrocardiographic findings. Conversely, in the simultaneous approach, the system displays an AI-generated diagnosis of atrial fibrillation in real time during ECG acquisition, allowing physicians to consider the algorithm's recommendation while examining the waveforms [7]. Co-design and practical explainability in clinician–AI teaming The interaction between physicians and AI should not be regarded as a purely technical phenomenon focused exclusively on algorithmic accuracy. Rather, it should be examined within a sociotechnical systems framework, which simultaneously considers human, organizational, workflow, and technological factors [8]. Another critical aspect is the involvement of physicians as co-designers in the development of AI systems, which is a prerequisite for successful physician–AI teaming. Active physician participation in the early stages of problem definition, selection of performance metrics, user interface design, and integration of the system into routine workflows enables the consideration of actual clinical needs, workplace constraints, and ethical concerns. Ultimately, this involvement enhances the clinical contextual fit of the system and fosters trust in its use [9]. Another important consideration is the distinction between complete technical transparency and practical explainability in AI-based systems. Rather than focusing solely on revealing the technical details of a model, these systems should provide physicians with highly interpretable, understandable, and predictable outputs. By communicating the degree of uncertainty, AI systems should enable physicians to anticipate system behavior across different clinical situations, monitor its performance, and consciously distinguish their final decisions from algorithmic recommendations when these conflict with clinical judgment. Accordingly, explainability serves as a means of preserving human control, strengthening critical decision-making, and preventing excessive reliance on AI [10]. In summary, a unidimensional focus on the capabilities of AI is insufficient; rather, the respective strengths and limitations of both human and machine must be jointly considered to establish a genuinely complementary system. The successful future of AI in clinical practice lies not in the replacement of physicians, but in the intelligent design of human–AI teams within a socio-technical framework. This approach requires active participation of clinical teams in system design, thoughtful selection of interaction modalities, adherence to principles of practical explainability, and preservation of ultimate human control and accountability. Through such an integrated strategy, the transition from simplistic automation to genuine synergy becomes achievable, enabling the complementary capabilities of physician and machine to meaningfully enhance clinical accuracy, safety, and overall healthcare efficiency.</div> هم‌تیمی پزشک-هوش مصنوعی, تکمیل‌گری, هم‌طراحی, توضیح‌پذیری کاربردی, سیستم اجتماعی- فنی Clinician-AI Teammate, Complementary, Co-design, Practical explainability, Socio-technical system 0 0 http://jmis.hums.ac.ir/browse.php?a_code=A-10-179-2&slc_lang=fa&sid=1 Zahra Mastaneh زهرا مستانه zmastaneh@gmail.com 0000-0003-2308-2216 No Department of Health Information Technology, School of Paramedicine, Social Determinants in Health Promotion Research Center, Hormozgan Health Research Institute, Hormozgan University of Medical Sciences, Bandar abbas, Iran گروه فناوری اطلاعات سلامت، دانشکده پیراپزشکی، مرکز تحقیقات عوامل اجتماعی در ارتقاء سلامت، پژوهشکده سلامت هرمزگان، دانشگاه علوم پزشکی هرمزگان، بندرعباس، ایران. Ali Mouseli علی موصلی mouseli136025@gmail.com 0000-0003-0853-5184 Yes Department of Health Services Management, School of Public Health, Social Determinants in Health Promotion Research Center, Hormozgan Health Research Institute, Hormozgan University of Medical Sciences, Bandar abbas, Iran. گروه مدیریت خدمات بهداشتی و درمانی، دانشکده بهداشت، مرکز تحقیقات عوامل اجتماعی در ارتقاء سلامت، پژوهشکده سلامت هرمزگان، دانشگاه علوم پزشکی هرمزگان، بندرعباس، ایران.