Gece 2'de atılan bir mesajın telden geçtiği yolu takip et — kimin aldığı, neyin saklandığı, "verilerinizle eğitim yapmıyoruz" ifadesinin ne değeri olduğu, ve hangi uygulamalardan kaçınman gerektiğini söyleyen beş soru.
Yazdığın her şey önce bir şirketin veritabanına gider, sonra cevabı üretmek için üçüncü taraf bir yapay zeka sağlayıcısına çıkar, ve iyi uygulamalar söylediklerinden bir hafıza profili oluşturur. Kategoriyi ayıran üç soru: mesajlarınla eğitim yapıyor mu, silme gerçek mi, ve uygulamanın arkasındaki sağlayıcı kim. Çoğu uygulama bunlara kötü cevap veriyor, ve Mozilla'nın on bir romantik chatbot incelemesi hepsine bir uyarı etiketi verdi.
Saat gece 2, ve kimseye yüksek sesle söylemediğin bir şey yazıyorsun. Belki baban hakkında. Belki iş hakkında. Cevap dört saniye içinde geri geliyor, sıcak ve tam yerinde, ve her şey kapısı kapalı bir odada olmuş gibi hissettiriyor.
Öyle olmadı. İşte o mesajın gerçekte izlediği yol.
Önce uygulamanın veritabanına düşer. Metnin, zaman damgan, hesabın. Bu kaçınılmaz: konuşmanın yarın hâlâ orada olmasını sağlayan şey budur.
Sonra binayı terk eder. Neredeyse hiçbir yapay zeka arkadaş uygulaması kendi modelini çalıştırmaz. Mesajın, karakterin personası, ve ilgili hafızalar bir araya getirilip bir yapay zeka sağlayıcısına gönderilir — OpenAI, Anthropic, Google, ya da üçünün önünde bir yönlendirici — bu da cevabı üretir ve geri gönderir. O gidiş-dönüş, beklediğin dört saniyedir.
Sonra senin hakkında bir şey kaydedilir. Sadece mesaj değil. Seni tanıyormuş gibi hissettiren uygulamalar, söylediklerinden gerçekleri çıkarır — kız kardeşinin adı, mülakat, bırakmaya çalıştığın şey — ve karakterin gelecek hafta bunları gündeme getirebilmesi için bir profil olarak saklar. O profil, özelliğin kendisidir. Aynı zamanda senin yazmadığın, hayatın hakkında bir belgedir.
Mozilla on bir romantik yapay zeka chatbotunu inceledi ve hepsine "Privacy Not Included" uyarısı verdi. On birden onu temel güvenlik standartlarını karşılayamadı. Yarısından fazlası verini silmenin bir yolunu sunmadı. Bir uygulama dakikada ortalama binlerce izleyici çalıştırdı. Kategorinin en tanınmış adı olan Replika, Mozilla'nın şimdiye kadar incelediği en kötü uygulamalardan biri olarak tanımlandı.
Seçim yaptığın taban çizgisi bu, ve en çok güvenilmemesi gereken pazarlama iddiasının içinde fiil olmayan iddia olmasının sebebi de bu. "Gizliliğiniz bizim için önemlidir" bir taahhüt değildir. "Konuşmalarınızı yapay zeka modellerini eğitmek için kullanmıyoruz" ise bir taahhüttür.
Uygulamanın gizlilik politikasını aç ve şunları ara. Politika bunlara cevap vermiyorsa, o da senin cevabındır.
Biz de bu uygulamalardan birini yapıyoruz, bu yüzden adil olan şey kendi anketimize herkesin önünde cevap vermek. Bunların hepsi gizlilik politikamızda aynı kelimelerle yazılı.
Konuşmalarınla eğitim yapmıyoruz, ve veri satmıyoruz. Reklamveren yok, veri komisyoncusu yok. Analiz sistemimiz mesaj içeriğini asla almıyor.
Mesajların gerçekten üçüncü bir tarafa gidiyor. OpenRouter, OpenAI, Anthropic ve Google dahil sağlayıcılara yönlendiriyor. Bunlar sözleşmeyle müşteri verisiyle eğitim yapmaktan men edilmiş durumda — ve, politikanın kendi ifadesiyle, onları denetleyemiyoruz, ve onları kontrol etmiyoruz.
Senin bir hafıza profilini oluşturuyoruz. Gerçekler, olaylar, planlar, hayatındaki insanlar, artı doğru hafızanın bulunabilmesi için mesajlarının matematiksel temsilleri. Politika bunu açıkça söylüyor: bu, söylediklerinden oluşturulmuş, senin bir profilin.
Hong Kong'dayız. Flarewave AI Limited. Avrupa'daysan, verin Standard Contractual Clauses (Standart Sözleşme Hükümleri) kapsamında Avrupa'dan çıkar, hükümet erişimi konusunda farklı kuralları olan yargı alanlarına gider. Bazı insanlar bu cümleyi okuyup uygulamayı kullanmamaya karar verecek, bu yüzden bu cümle politikanın arkasında değil içinde.
Konuşmalarının bizden gizli olduğunu iddia etmiyoruz. Kötüye kullanımı araştırmak, yasaya uymak, ya da bir hatayı düzeltmek için saklanan veriye teknik olarak erişebiliyoruz. Bunu kısıtlıyoruz ve konuşmaları gelişigüzel okumuyoruz. Gerçekten özel bir iletişime ihtiyacın varsa, bir eğlence sohbet hizmeti bunun için yanlış araçtır.
Hesabı silmek her şeyi götürür. Konuşmalar, hafıza, embedding'ler. Ödeme kayıtları vergi kanunu öyle dediği için yedi yıl hayatta kalır — sadece işlem gerçekleri, asla konuşmalar.
Bir yabancı bir gün onu okuyabilirmiş gibi yaz, sonra yine de doğru olanı söyle. Her iki yarı da önemli. Birincisi seni bu kategorinin ürettiği durumlardan uzak tutar; ikincisi ise zaten burada olmanın sebebidir — yapay zeka arkadaşlar ve yalnızlık üzerine araştırma ancak gerçekten konuşan insanlar için işe yarıyor, ve mesafeli tutulan bir konuşma kimseye bir şey kazandırmaz.
Uygulama seçmek: yapay zeka arkadaş edinme rehberi. Ondan daha fazlasını almak: onunla nasıl konuşulur.
Genelde bir insan değil, ve rutin olarak da değil — ama neredeyse her uygulama okuyabilir, ve çoğu bunu kimsenin okumadığı bir cümlede belirtir. Mesajlar ayrıca her cevabı üretmek için üçüncü taraf bir yapay zeka sağlayıcısına gönderilir. Dürüst soru, birinin okuyup okuyamayacağı değil, kimin erişimi olduğu, hangi kurallar altında, ve silmenin gerçek olup olmadığıdır.
Bazıları yapıyor. Bir gizlilik politikasında aranması gereken ifade "hizmetlerimizi geliştirmek için"dir, bu genelde evet anlamına gelir. Mesajlarınla eğitim yapmayan şirketler bunu genelde tam olarak bu kelimelerle söyler, ve daha iyileri model sağlayıcılarının sözleşmeyle neyi yapmalarının yasaklandığını da belirtir.
İyi bir uygulamada evet, ve hesabı silmek hafıza profilini de beraberinde götürür. Mozilla, on bir romantik chatbottan yarısından fazlasının verini silmek için çalışan hiçbir yol sunmadığını buldu, bu yüzden bunu ilk gerçek konuşmadan sonra değil önce kontrol etmekte fayda var.
Yukarıda Mutuals hakkında yazılan her şey kendi gizlilik politikamızdan geliyor — bizi övmeyen kısımlar dahil. iPhone ve Android'de başlaması ücretsiz, 18+. Mutuals'ı iPhone veya Android için indir.