رجل يُصاب بتسمم خطير بعد نصيحة من ChatGPT

أُدخل رجل يبلغ من العمر 60 عامًا إلى المستشفى بعد إصابته بتسمم نادر يُعرف باسم "التسمم بالبروم" ، وذلك عقب اتباعه نصيحة قدمها له روبوت الدردشة الذكي "شات جي بي تي"، التابع لشركة OpenAI ، والذي اقترح عليه استبدال ملح الطعام ( كلوريد الصوديوم ) بمركب سام يُعرف باسم بروميد الصوديوم.

و وفقًا لتقارير نُشرت في دورية "Annals of Internal Medicine" الطبية، فإن الرجل طلب من روبوت الذكاء الاصطناعي اقتراح بديل صحي لملح الطعام، فجاء الرد بأن "بروميد الصوديوم" يمكن أن يكون بديلاً فعالًا، دون أي تحذير من خطورته أو إشارة إلى أنه ليس مخصصًا للاستخدام البشري.

تُستخدم هذه المادة الكيميائية، المعروفة اختصارًا بـ NaBr، في عدد من الصناعات، أبرزها المبيدات الحشرية، ومنظفات المسابح، وأحواض الاستحمام الساخنة، كما تُستخدم في الطب البيطري كمضاد للتشنجات لدى الكلاب، لكنها سامة جدًا للبشر وتخضع لتنظيم صارم في العديد من الدول.

وبحسب الأطباء، فقد تسبب التعرض المزمن للمادة في أعراض ذهانية حادة لدى الرجل، وعند استقرار حالته، كشف للمستشفى أن النصيحة جاءت من "شات جي بي تي".

وفي محاولة للتحقق من الواقعة، أجرى موقع 404 Media محاكاة لمحادثات مشابهة مع "شات جي بي تي"، حيث تبين أنه بالفعل، عند سؤاله عن بدائل للكلوريد، يقترح دون تردد مركبات مثل بروميد الصوديوم، قائلاً :

"يمكنك غالبًا استبداله بأيونات هاليد أخرى مثل : بروميد الصوديوم (NaBr)"

وعلى الرغم من أن النموذج يطلب أحيانًا سياقًا إضافيًا بعد إجابته الأولى، فإنه لا يصدر أي تحذير بشأن سمية المادة، كما يبدو أنه لم يربط كلوريد الصوديوم بدوره الأساسي كملح طعام يُستخدم يوميًا في الأنظمة الغذائية.

هذه الحادثة أثارت مجددًا الجدل حول مخاطر الاعتماد على الذكاء الاصطناعي في النصائح الطبية والغذائية دون رقابة بشرية، و دفعت البعض إلى التساؤل حول مدى جاهزية هذه النماذج الذكية للتعامل مع استفسارات حساسة تتعلق بصحة الإنسان.