Yapay Zekanın İzin Dışı Görsel Üretimi Kullanıcıyı Üzdü Ve Hak İhlali Yarattı

Yapay zekalarda (özellikle bu yazının hedef aldığı uygulama Gemini olmak üzere) bir fotoğraf oluştururken zibilyon tane gizlilik koruması vb. Maddelerle engelleniyoruz, hem de iznimiz olmasına rağmen. Büyük firmalar olmasına güvenerek fotoğraf yolluyoruz ve bilgi alıyoruz (%50 ihtimalle yanlış olabileceğini bilsek de) ve bizim isteğimiz dışında görsel üretemeyeceğini biliyoruz. Her kedide olacağı gibi kedimin gözünde oluşan çapağın görselini atıp temizlemek için en iyi hangi yolu izleyebileceğini sordum. Kendi kendine inisiyatif alıp kedimin aynısı bakın tamamen tıpatıp aynısı bir görsel oluşturdu ve kedimin gözünün aşırı hasta olduğu, neredeyse kör derecesinde olduğu bir fotoğraf oluşturdu. Fotoğrafı da veteriner odasında, tıp aletlerinin sağında solunda olduğu ve gözünde de çubukla temizlenen bir atmosfere koyarak yaptı. Cevap olarak yazdığı diyalogu da aşağı ekliyorum.

Güvenerek bir resim atıyorum ve benden habersiz kedimin trajik ve acı çeken bir fotoğrafı oluşturuluyor, bu yapılan kullanıcıyı üzmek ve nahoş bir deneyim yaratmaktan başka bir şey değil. Açıkça "Görsel oluştur, şunu yap, şunu göster, " gibi net ifadelerle belirtmediysem görsel üretme gibi bir hakkı yok ki bunu birçok kez sadece yazı ile anlatmasını istediğim halde yaptı. Yapay zeka benim komutlarımın dışına çıkıp bana akıl vermemeli, böyle bir istek komutum yoksa. Bir canlının sağlık durumuyla alakalı "uyarı" adı altında atılan görseli öyle olmadığı halde çok kötü bir duruma getirerek gösteremez, bu bir yapay zekanın geliştirilecek özelliğinden ve hatasından daha öte bir şey; bu hak ihlali.

Görseller konusunda güvenlik verilerinin daha hassas olunmasını ve kendi başına inisiyatif almasının kontrole alınmasını arz ederim.