Gemini Durdur Komutunu İhmal Ederek Korkunç Yüz Efekti Oluşturdu

İOS üzerinden Gemini uygulamasını kullanırken bugün gece saat 10–11 civarında yaşadığım bir durumdan dolayı şikayetçiyim. Uygulamaya kendi yüzümün olduğu bir fotoğraf yükledim. İşlemi durdurmasını istememe rağmen süreç devam etti ve fotoğrafım iznim dışında korkutucu, canavar benzeri ve kırık cam efekti verilmiş bir görünüme dönüştürüldü. Bu görüntü beni gerçekten korkuttu ve psikolojik olarak rahatsız etti.

İşlem sonrasında ekranda “Gemini durdu” şeklinde bir uyarı göründü ancak bu uyarı çıksa da istenmeyen içerik zaten oluşturulmuştu. Ayrıca yüzüm kullanılarak oluşturulan gülümseyen görseller de beni rahatsız etti ve kendimi huzursuz hissetmeme neden oldu. Dur komutunu vermiş olmama rağmen sistemin işlemi sürdürmesi ve istemediğim görseller üretmesi benim açımdan kabul edilebilir değil.

Gemini’nin özellikle insan fotoğraflarında kullanıcının “dur” ya da benzeri komutlarını mutlaka dikkate alacak şekilde sınırlandırılması, bu tür korkutucu veya rahatsız edici içeriklerin üretilmesinin engellenmesi ve güvenlik filtrelerinin güçlendirilmesi gerektiğini düşünüyorum. Bu konuda gerekli teknik ve güvenlik önlemlerinin alınmasını, sistemde düzenlemeler yapılarak benzer bir durumun tekrar yaşanmamasını ve bu tür içeriklerin tamamen engellenmesini talep ediyorum.