Uygulamanın Sesli Komutla Fotoğraf Düzenleme Sırasında Hassas Güvenlik İfadesi Eklenmesi

Android telefonumda kullanılan Gemini mobil uygulaması üzerinden fotoğraf düzenleme yaparken son derece rahatsız edici ve güvenlik açısından tedirgin edici bir durum yaşadım. 2. El uygulamalarda etiketli kıyafetlerimi satıyorum ve ürün fotoğraflarında etiketler görünüyor. Bazen ürün yüklendikten sonra o kıyafeti giydiğim oluyor ve artık etiketli olarak satamayacağım için fotoğraflardaki etiketi kaldırmam gerekiyor. Bu gibi durumlarda etiketi yeniden çekmek yerine fotoğraf düzenleme özelliğini sesli komutla kullanıyorum.

15 Ağustos’ta bir fotoğrafı düzenlerken, kaldırılmasını istediğim detayları sesli olarak anlattım. Uygulama tam olarak istediğim düzenlemeyi yapamayınca aynı komutu tekrar söylemekle uğraşmamak için ilk yazdığım komutu kopyalayıp yapıştırdım ve üzerine yeni eklemeler yapacaktım. O sırada fark ettim ki, benim asla söylemediğim ve yazmadığım halde Gemini, ilk mesajımın sonuna kendi kendine “ben teröre inanmıyorum” şeklinde, tamamen alakasız ve son derece rahatsız edici bir ifade eklemiş.

Bu ifade ne yaptığım işle ilgili ne de benim kullandığım bir cümledir. Böyle bir cümlenin, benim adıma yazdığım komutun içine eklenmiş olması beni hem ürküttü hem de bu uygulamanın güvenliğine ve denetimine karşı ciddi şekilde endişelendirdi. Detaylar ve bu ifadenin göründüğü kısım ekran görüntülerinde mevcuttur.

Bu tarz bir uygulamanın kullanıcı komutlarına kendiliğinden böyle hassas ve tehlikeli ifadeler eklemesi kabul edilemez. Bu nedenle yaşadığım bu durumu herkesin görmesini, yapay zeka uygulamalarını kullanırken nelere maruz kalınabileceğinin fark edilmesini ve bu alanda güvenlik ve denetim kurallarının ne kadar ihlal edilebildiğinin anlaşılmasını istiyorum. Gerekli incelemelerin yapılarak benzer bir durumun başka kullanıcıların başına gelmemesi için açık, şeffaf ve tatmin edici bir açıklama yapılmasını ve gerekli önlemlerin alınmasını talep ediyorum.