اخطار تند معتبرترین ژورنال پزشکی جهان ضد پزشک های مصنوعی
به گزارش جاوید شو، در صورتیکه تب استفاده از هوش مصنوعی در تشخیص و درمان داغ تر از همیشه است، مجله معتبر «نیچر مدیسین» با انتشار مقاله ای کوبنده، ادعاهای تبلیغاتی شرکت های فناوری را زیر سؤال برد و نسبت به دستاوردهای جبران ناپذیر اعتماد کور به چت بات ها اخطار داد.
به گزارش جاوید شو به نقل از خبر آنلاین و بر طبق گزارش هوشیو، در دنیای هوش مصنوعی، مرز بین «بهبود سلامت» و «فریب علمی» به مویی بند شده است. در حالیکه طبق آخرین آمارها در سال ۲۰۲۶، میلیونها نفر در سراسر دنیا بجای رفتن به پزشک، تشخیص بیماری خودرا به دست چت بات ها سپرده اند، جامعه علمی حال ترمز این قطار پرسرعت را کشیده است.
ژورنال معتبر Nature Medicine در جدیدترین شماره خود، با لحنی بی سابقه به نقد نفوذ سریع هوش مصنوعی در سیستم های درمانی پرداخته است. در قسمتی از این سرمقاله آمده است: «شواهد بر اساس این که ابزارهای هوش مصنوعی ارزش افزوده ای برای بیماران، پزشکان یا سیستم های بهداشتی ایجاد می کنند، بازهم نایاب است.»
این نشریه استدلال می کند که بازار امروز پر شده از محصولات و مقالاتی که ادعای «تأثیر بالینی مثبت» دارند، اما هیچ توافق جمعی بر سر این که چه سطح از شواهدی برای اثبات این ادعاها لازم است، وجود ندارد. نتیجه این آشفتگی، پیاده سازی سریع و خطرناک ابزارهایی است که هنوز در دنیای واقعی امتحان خودرا پس نداده اند.
گزارش های میدانی نشان داده است که مدلهای بزرگ زبانی (LLM) با وجود ظاهر فریبنده، با مشکلات ساختاری دست وپنجه نرم می کنند:
تشخیص های اشتباه ۸۰ درصدی: مطالعه ای در ژورنال JAMA Medicine فاش کرد که مدلهای پیشرو هوش مصنوعی در رویارویی با علایم مبهم و پیچیده، در بالاتر از ۸۰ درصد موارد از تشخیص درست باز می مانند.
توهم در تحلیل تصاویر: برخی مدلها بدون آن که تصویری به آنها ارایه شود، گزارش های بالینی مفصل و ساختگی از تصاویر رادیولوژی خیالی عرضه کرده اند.
بیماری های ساختگی: در یک آزمایش جالب، پژوهشگران دانشگاه گوتنبرگ دو مقاله جعلی درباره ی یک بیماری پوستی بطورکامل ساختگی منتشر کردند؛ دیری نپایید که هوش مصنوعی نه فقط وجود این بیماری را تأیید کرد، بلکه مقالات دیگری هم با استناد به آن داده های غلط، به چاپ رسیدند.
دکتر «جیمی رابرتسون»، استادیار جراحی در دانشکده پزشکی هاروارد، اعتقاد دارد بااینکه هوش مصنوعی می تواند کارهای خسته کننده مثل کدنویسی برای تحلیل داده ها را سرعت ببخشد، اما اتکای بیش از اندازه به آن، «صلابت علمی» را قربانی می کند. او هشدار می دهد که داده های بیش ازحد تعمیم یافته و توهمات آماری هوش مصنوعی، درحال آلوده کردن بدنه دانش پزشکی هستند.
سرمقاله نیچر تاکید می کند که مرحله بعدی پیشرفت هوش مصنوعی، نه در گرو مدلهای قدرتمندتر، بلکه در گرو ایجاد یک چارچوب ارزیابی دقیق است. تا وقتی که معیارهای مشخصی برای تعریف «تأثیر بالینی» وجود نداشته باشد، استفاده از این ابزارها چیزی فراتر از یک ریسک بزرگ بر روی جان انسان ها نخواهد بود.
خلاصه اینکه توهم در تحلیل تصاویر: برخی مدلها بدون آنکه تصویری به آنها ارائه شود، گزارش های بالینی مفصل و ساختگی از تصاویر رادیولوژی خیالی عرضه نموده اند. سرمقاله نیچر تأکید می کند که مرحله بعدی پیشرفت هوش مصنوعی، نه در گرو مدل های قدرتمندتر، بلکه در گرو ایجاد یک چارچوب ارزیابی دقیق است.
این پست جاوید شو را پسندیدید؟
(1)
(0)
تازه ترین مطالب مرتبط
نظرات بینندگان در مورد این مطلب