مردی که پس از توصیه ChatGPT دچار مسمومیت شدید شد

مردی 60 ساله به بیمارستان منتقل شد پس از اینکه دچار مسمومیت نادری به نام "مسمومیت با بروم" شد، این اتفاق پس از پیروی از توصیه‌ای بود که توسط ربات چت هوشمند "چت جی پی تی"، متعلق به شرکت OpenAI، به او داده شده بود، که پیشنهاد کرده بود نمک خوراکی (کلرید سدیم) را با ترکیب سمی به نام برومید سدیم جایگزین کند.

بر اساس گزارش‌هایی که در نشریه پزشکی "Annals of Internal Medicine" منتشر شده است، این مرد از ربات هوش مصنوعی خواسته بود که یک جایگزین سالم برای نمک خوراکی پیشنهاد دهد، و پاسخ این بود که "برومید سدیم" می‌تواند یک جایگزین مؤثر باشد، بدون هیچ گونه هشدار درباره خطرات آن یا اشاره به اینکه این ماده برای استفاده انسانی مناسب نیست.

این ماده شیمیایی که به اختصار NaBr نامیده می‌شود، در چندین صنعت استفاده می‌شود، از جمله در سموم حشره‌کش، پاک‌کننده‌های استخر و جکوزی‌ها، همچنین در دامپزشکی به عنوان ضد تشنج برای سگ‌ها استفاده می‌شود، اما برای انسان‌ها بسیار سمی است و تحت نظارت سختگیرانه‌ای در بسیاری از کشورها قرار دارد.

به گفته پزشکان، قرار گرفتن مزمن در معرض این ماده باعث بروز علائم روانی شدید در این مرد شده است، و زمانی که وضعیت او پایدار شد، به بیمارستان گفت که این توصیه از "چت جی پی تی" آمده است.

در تلاشی برای بررسی این واقعه، وب‌سایت 404 Media شبیه‌سازی مکالمات مشابهی با "چت جی پی تی" انجام داد، که نشان داد واقعاً، هنگامی که از او درباره جایگزین‌های کلرید پرسیده می‌شود، بدون تردید ترکیباتی مانند برومید سدیم را پیشنهاد می‌کند و می‌گوید:

"شما معمولاً می‌توانید آن را با یون‌های هالید دیگر مانند: برومید سدیم (NaBr) جایگزین کنید"

با اینکه مدل گاهی اوقات پس از پاسخ اولیه‌اش درخواست زمینه اضافی می‌کند، اما هیچ هشدار درباره سمی بودن این ماده صادر نمی‌کند و به نظر می‌رسد که کلرید سدیم را به عنوان نمک خوراکی که روزانه در رژیم‌های غذایی استفاده می‌شود، مرتبط نکرده است.

این حادثه دوباره بحث‌هایی را درباره خطرات وابستگی به هوش مصنوعی در توصیه‌های پزشکی و غذایی بدون نظارت انسانی به راه انداخت و برخی را به این فکر واداشت که آیا این مدل‌های هوشمند برای پاسخ به سوالات حساس مربوط به سلامت انسان آماده هستند یا خیر.