Annals of Internal Medicine mecmuasında yayımlanan bir makaleye nazaran, adamın ChatGPT’ye sofra tuzuna alternatif sorduğunda chatbot’un “sodyum bromür” teklifiyle başladı. Fakat bu husus, tarım ilaçları, havuz temizleyicileri ve köpeklerde epilepsi tedavisinde kullanılan, toksik bir kimyasal.
AĞIR NÖROLOJİK TEHLİKELER YARATIYOR
Sodyum bromür, 19. ve 20. yüzyıllarda yatıştırıcı ve baş ağrısı tedavisinde yaygın kullanılsa da, kandaki birikimi “bromizm” ismi verilen zehirlenmeye yol açabiliyor. Bu durum; konuşma bozukluğu, halüsinasyon, psikoz ve komaya kadar giden ağır nörolojik belirtiler yaratabiliyor. Kelam konusu husus 1970’lerde ABD’de yasaklanmasına karşın, bu olayda görüldüğü üzere hala tehlike arz ediyor.
Habere nazaran, ChatGPT’yi test eden 404 Media, emsal sorularda chatbot’un yeniden sodyum bromürü önerdiğini, fakat bunun tehlikelerine dair ihtar yapmadığını ortaya koydu.
OpenAI CEO’su Sam Altman, yeni GPT-5 modelinin “sağlık hususlarında en yeterli yapay zeka” olduğunu tez ederken, bu olay eski modellerin sıhhat tavsiyesi konusundaki risklerini bir sefer daha gündeme getirdi.