توسط : در عصری که هوش مصنوعی (AI) به سرعت در حال نفوذ به تمامی جنبه‌های زندگی بشر است، کاربرد آن در حوزه‌های حساسی چون صنعت داروسازی و تأیید دارو، هم پتانسیل‌های بی‌نظیری دارد و هم چالش‌هایی جدی را پیش رو می‌گذارد. سازمان غذا و داروی آمریکا (FDA)، که همواره در خط مقدم نوآوری و نظارت قرار دارد، ابزار هوش مصنوعی خود را با نام «اِلسا» (Elsa) برای افزایش سرعت در فرآیندهای تأیید داروها و تجهیزات پزشکی رونمایی کرده بود. اما گزارش‌های اخیر حاکی از آن است که این ابزار پیشرفته، با مشکل جدی “توهم هوش مصنوعی” مواجه شده است.
«توهم هوش مصنوعی» به پدیده‌ای اشاره دارد که در آن، یک سیستم هوش مصنوعی اطلاعاتی را تولید می‌کند که غیرواقعی، نادرست یا تحریف شده است. در مورد «السا»، این ابزار در مواردی مطالعات غیرواقعی تولید کرده و تحقیقات را تحریف نموده است. این خطاها، اعتماد کارکنان FDA به این ابزار را زیر سوال برده و آن را برای انجام وظایف حساس “غیرقابل اعتماد” ساخته است. در حالی که «السا» قرار بود با تهیه یادداشت‌ها و خلاصه‌های جلسات یا قالب‌های ایمیل و اطلاعیه به کارمندان FDA کمک کند، خطاهای آن در زمینه تولید محتوای مرتبط با مطالعات و تحقیقات، پیامدهای جدی به دنبال داشته است.
این حادثه، درس‌های حیاتی برای به‌کارگیری هوش مصنوعی در زمینه‌های حساس مانند تأیید داروها و تجهیزات پزشکی به همراه دارد. با وجود پتانسیل هوش مصنوعی برای صرفه‌جویی در زمان و افزایش کارایی، تجربه «السا» نشان می‌دهد که اتکا به آن بدون نظارت دقیق انسانی، می‌تواند زمان زیادی را برای بررسی و اصلاح اطلاعات نادرست تولید شده توسط آن هدر دهد. این موضوع بر اهمیت نظارت انسانی، اعتبارسنجی دقیق خروجی‌های هوش مصنوعی، و ضرورت شفافیت در عملکرد الگوریتم‌ها تاکید می‌کند. تضمین ایمنی و اثربخشی داروها و تجهیزات پزشکی، خط قرمزی است که نباید با خطاهای هوش مصنوعی به خطر بیفتد.
تحلیل نهایی فارمافود نیوز:
تجربه «توهم» در ابزار هوش مصنوعی «السا» سازمان غذا و داروی آمریکا، زنگ خطری مهم برای تمامی حوزه‌هایی است که قصد دارند از AI در فرآیندهای حساس استفاده کنند. از منظر فارمافود نیوز، در حالی که هوش مصنوعی پتانسیل بی‌نظیری برای تسریع و بهینه‌سازی فرآیندهای تأیید دارو و تجهیزات پزشکی دارد، این حادثه بر نقش غیرقابل جایگزین نظارت انسانی، اعتبارسنجی دقیق و درک محدودیت‌های فناوری تاکید می‌کند. سلامت و ایمنی بیماران خط قرمز اصلی است که نباید قربانی سرعت یا اتکای بی‌رویه به سیستم‌های هوشمند شود. فارمافود نیوز تاکید دارد که توسعه و به‌کارگیری هوش مصنوعی در صنعت سلامت، نیازمند چارچوب‌های رگولاتوری سختگیرانه، شفافیت در عملکرد الگوریتم‌ها، و سرمایه‌گذاری بر آموزش نیروی انسانی برای کار با این ابزارهاست تا نوآوری، همگام با ایمنی و اعتماد پیش برود.
