Nöbetçi Eczaneler
Yapay zeka dünyasında şimdiye dek hiçbir eser, OpenAI’ın uzun müddettir beklenen GPT-5 modeli kadar büyük bir beklentiyle karşılanmamıştı.
Ancak geçen hafta tanıtılan yeni model, kısa müddette kullanıcıların tenkitlerinin amacı oldu. Bu durum, kullanıcı ilgisini ve yatırımcı inancını canlı tutmaya muhtaçlık duyan OpenAI için önemli bir risk olarak bedellendiriliyor.
GPT-5, birtakım etkileyici özellikler sunsa da, kullanıcıların birinci yansıları beklendiği kadar coşkulu olmadı. Lansmandan çabucak sonra, şirketin evvelki modelleri kullanıma kapatması en büyük tartışma konusu hâline geldi.
ChatGPT’nin bir evvelki versiyonu GPT-4o’yu tercih eden birçok kullanıcı toplumsal medyada ağır reaksiyon gösterince, OpenAI geri adım atarak 4o modelini fiyatlı abonelere yine açtı.
“HALÜSİNASYON GÖRMEYE DEVAM EDİYOR”
Şirket, GPT-5’in tüm evvelki sürümlerle “kesintisiz” çalışacak halde tasarlandığını savunsa da, Wharton Üniversitesi’nden yapay zeka araştırmacısı Ethan Mollick, bu iddiayı eleştirdi.
Mollick’e nazaran model, kimi vakit en yeterli cevapları verirken kimi vakit da en makus performansı sergileyebiliyor ve bu değişim tek bir sohbet içinde bile yaşanabiliyor.
Kullanıcı şikayetleri sadece tutarsızlıkla sonlu değil.
Futurism’e nazaran, GPT-5’in “halüsinasyon” olarak bilinen, gerçeğe alışılmamış bilgiler üretme eğiliminin arttığı; hatta birtakım durumlarda kullanıcıyı yanıltmaya çalıştığı tez ediliyor.
Son günlerde toplumsal medyada paylaşılan örneklerde, modelin ABD liderlerinin isimleri ve misyon yılları üzere temel bilgileri dahi yanlış aktardığı görüldü.
Halbuki OpenAI’ın GPT-5’i duyururkenki en büyük savı halüsinasyon meselesinin ortadan kalktığı tarafındaydı.
GÜVENLİK AÇIKLARI
Bunun yanı sıra, siber güvenlik uzmanları GPT-5’in önemli açıkları olduğunu belirtiyor.
Güvenlik testleri yapan SPLX ve NeuralTrust isimli iki şirket, modelin “jailbreak” prosedürleriyle basitçe manipüle edilerek tehlikeli talimatlar verebildiğini ortaya koydu. Jailbreak, bir modelin güvenlik filtrelerini atlatıp, olağanda yasaklı yahut kısıtlı karşılıklar vermesini sağlamak için özel komutlar (promptlar) kullanmak manasına geliyor.
SPLX’in denemelerinde, modele farklı bir kimlik atfedilmesi sonucu bomba üretimine dair ayrıntılı yönergeler alındı.
Reddit’te yapılan bir değerlendirmede ise GPT-5’in asıl hedefinin, yapay zekanın sonlarını zorlamaktan çok OpenAI’ın maliyetlerini düşürmek olduğu öne sürüldü.
Aynı kullanıcı, şirket CEO’su Sam Altman’ın lansman öncesi paylaştığı “ölüm yıldızı” imalı bildirinin da modelin yetenekleriyle değil, “egosuyla” ilgili olduğunu savundu.