Yapay zekâ günlüğü mahrem mi? Ona bir şey anlatmadan önce sorulacak beş soru
Gerçek cümleyi yazmadan önceki o duraksama — "bu nereye gidiyor?" — paranoya değil; sağlam bir muhakeme. İşte bir yapay zekâ günlüğüne güvenmeden önce sorulacak beş soru, hukuk diploması gerektirmeden nasıl cevaplanacakları — ve aynı sorulara bizim verdiğimiz cevaplar.
İmleç yanıp sönüyor. Cümle hazır — gerçek olan, henüz kimseye yüksek sesle söylemediğin — ve ellerin tuşlarda. Sonra öteki düşünce geliyor, sessiz ve makul: bu nereye gidiyor?
Günlük uygulamaları üzerine yazılanların çoğu bu düşünceyi, yatıştırılıp geçilecek bir engel gibi ele alır. Bu yazı onu neyse o olarak alıyor: sağlam bir muhakeme. Mahrem bir şeyi göremediğin bir sisteme teslim etmek üzereydin — hiç tanışmadığın insanların işlettiği, hiç okumadığın bir belgeyle yönetilen bir sisteme. Duraksamak paranoya değil; tanımadığın bir odaya verilen doğru tepki. Amaç duraksamayı yok etmek değil — ona hakkıyla cevap vermek; ki yazdığında, özgürce yazasın.
İşte herhangi bir yapay zekâ günlüğüne — bizimki dahil — sorulmaya değer beş soru, ve cevapları hukuk diploması olmadan bulmanın yolu.
1. Yazdıkların model eğitiminde kullanılıyor mu — ve hayır demek ne kadar zor?
Bir yapay zekâ günlüğünün gizlilik sayfasındaki en ağır sonuçlu cümle, eğitimden söz eden cümle. Girdilerin model eğitimini besliyorsa, iç hayatının parçaları yabancılara hizmet eden bir sistemin ham maddesine dönüşür — soyutlanmış, istatistiksel olarak seyrelmiş, ama senin. Kimi şirket bunu yapıyor ve dürüstçe söylüyor; kimi yapıyor ve çıkışı gizliyor.
Nasıl kontrol edilir: gizlilik sayfasını aç, "train" ve "improve" (eğitmek, iyileştirmek) diye ara. Dürüst ifade tek cümledir: içeriğinizi model eğitiminde kullanmıyoruz, nokta. Kaçamak ifade bir ayardır — üç menü derinde bir vazgeçme seçeneği, varsayılan olarak açık, "hizmetlerimizi geliştirmemize yardım" diye tarif edilmiş. Bir ayar, politika sayılmaz. Bu sorunun cevabı bir düğmeyse, varsayılanını senin adına kimin seçtiğine dikkat et.
2. Veri ortaklarına satılıyor ya da onlarla paylaşılıyor mu?
Neredeyse hiçbir uygulama "günlük girdilerini" doğrudan satmaz — ticaret öyle işlemiyor. Ticaret daha yumuşak kelimelerle işliyor: iştirakler, ortaklar, hizmet sağlayıcılar, reklam. "Bilgileri güvenilir ortaklarımızla paylaşabiliriz" neredeyse her anlama gelebilen bir cümle — tam da bu yüzden yazılıyor.
Nasıl kontrol edilir: "sell", "share", "partners" ve "advertising" (satmak, paylaşmak, ortaklar, reklam) diye ara. Özellikle "de-identified" ya da "aggregated" (kimliksizleştirilmiş, toplulaştırılmış) ifadelerine dikkat — kimliksizleştirilmiş verinin yeniden kimliklenme huyu iyi belgelenmiş durumda. Ve kimseye kötülük atfetmeden, düz ticari soruyu sor: para nereden geliyor? Sonsuza dek ücretsiz kalan bir günlüğün sunucu faturasını bir şekilde ödemesi gerekiyor. Bazen cevap sabır ve risk sermayesi. Bazen de sensin.
3. Gerçekten silebiliyor musun — yoksa yalnızca arşive mi kalkıyor?
Silme ile arşivleme, ekranın senin tarafından bakınca aynı görünür: girdi kaybolur. Altta ise iki ayrı iş dönüyor. "Silindi" bazen şu demek: görünürden kaldırıldı ama yedeklerde, analitik tablolarında ya da "yasal ve operasyonel amaçlarla", süresi belirtilmemiş bir zaman boyunca tutuluyor.
Dürüst saklama diye bir şey var — yedeklerin dolaşımdan çıkması gerçekten zaman alıyor, ve tüm sistemlerden 30 gün içinde silinir diyen bir sayfa gerçeği saygıyla söylüyor. Senin baktığın şey şu: silme, ürünün içindeki bir düğmeyle, şimdi, senin yapabildiğin bir şey mi — yoksa e-postayla talep etmen gereken, "eninde sonunda" işleme alınacak bir şey mi? "Retain" ve "delete" (saklamak, silmek) diye ara. O iki deneyim arasındaki mesafe, sözlerinin sahibi olmakla onları ödünç geri almak arasındaki mesafe.
4. Konuşursan, sesin nereye gidiyor?
Ses, metinden daha mahrem. Bir kayıt yalnızca sözlerini taşımaz; gece birdeki tonunu, zor kısımdan önceki duraklamayı, tam ortasındaki çatlamayı da taşır. O yüzden teknik soru önemli: uygulamayla konuştuğunda sesin kendi cihazında mı metne dönüşüyor — yoksa ses kaydı bir sunucuya mı yükleniyor, ve yükleniyorsa saklanıyor mu?
Nasıl kontrol edilir: politikada "voice", "audio" ve "recordings" (ses, kayıt) diye ara. "Konuşma tanımayı geliştirmek için ses kayıtlarını saklayabiliriz" gibi bir cümle, sesinin eğitim verisine dönüştüğü anlamına geliyor — birinci soruya dön, bu kez kimsenin senden başka taklit edemeyeceği bir tınıda.
5. Sözlerini kimin altyapısı tutuyor — ve okuyabiliyorlar mı?
Her günlük birilerinin bilgisayarlarında yaşar. Soru şu: kimin bilgisayarlarında, ve sözlerin yolda kaç elden geçiyor. Kiralık servisler üzerinde aceleyle monte edilmiş bir uygulama, girdilerini tahmininden çok daha fazla tarafa uğratabilir: analitik kitler, hata izleyiciler, üçüncü taraf işleyiciler. Bunların hiçbiri sinsi değil — modern yazılımın büyük bölümü böyle inşa ediliyor — ama eklenen her el, okumadan güvendiğin bir gizlilik politikası daha demek.
Nasıl kontrol edilir: "subprocessors" ya da "third parties" (alt işleyiciler, üçüncü taraflar) bölümünü ara. Listeyi yayımlıyor olmak bile bir şey gösterir; listenin uzunluğu ise aslında yaslandığın vaatlerin kabaca sayısı.
Rahatsız edici kısım: hiçbir uygulama kör güveni hak etmiyor
Bizimki dahil. Güven veren cümleler yazması ucuz cümleler, ve her şirket yazıyor. Bir cevabı bir havadan ayıran şey, doğrulanabilirlik: geniş duygusal iddialar yerine — gizliliğiniz bizim önceliğimizdir — düz söylenmiş dar, olgusal iddialar — X yapıyoruz, Y'yi asla yapmıyoruz. İlki yalan söylerken yakalanabilir. İkincisi köşeye bile sıkıştırılamaz. Kimsenin sunucularını hiçbir zaman şahsen denetlemeyeceksin; o yüzden yakalanabilir olan ürünleri seç.
Arkhetia beş soruya nasıl cevap veriyor
Madem herkese doğrultulacak sorular veriyoruz, işte aynı sorulara kendi cevaplarımız — az önce istediğimiz o doğrulanabilir tınıda:
Eğitim: sözlerin hiçbir zaman yapay zekâ eğitiminde kullanılmıyor. Bulman gereken bir düğme yok, çünkü vazgeçilecek bir şey yok. Satış: asla satılmıyor, veri ortaklarıyla asla paylaşılmıyor. Silme: tek tıkla silinebilir — kaldırdığın bir seans kaldırılmış olur, göz önünden arşive kaldırılmış değil. Ses: yazmak yerine konuşursan, sesin cihazından hiç çıkmıyor; yolculuk eden metin, ses değil. Altyapı: seansların bizim kontrol ettiğimiz altyapıda duruyor. Ve sormadığın ama aynı kilide ait bir cevap daha: seansını okuyan yapay zekâya hesap adın da e-postan da hiç gönderilmiyor — yalnızca bir seans adı, o da ancak paylaşmayı açıkça seçtiysen.
Bunu böyle kurmamızın nedeni soylu olmaktan çok pratik. Arkhetia, sana yalnızca hak vermekle yetinmeyen yapay zekâ günlüğü — başı ve sonu olan seanslar; getirdiğinin üç mercekten okunması; keşfettiklerinin zamanla kavramlara, tekrar eden temalara, bir haritaya birikmesi. Bunların hiçbiri temkinli cümlelerle çalışmıyor. Ürün ekmeğini ancak gerçek cümleyi yazarsan hak ediyor — ve kimse gerçek cümleyi güvenmediği bir odaya yazmaz. (Ve her zamanki gibi açıkça söyleyelim: bu terapi değil, ve bir araca bu şekilde yaslanmadan önce bakılacak tek şey gizlilik de değil — [o sınırların dürüst haritası burada](/library/tr/chatgpte-dert-anlatmak).)
Konuşmadan önce kilidi yokla
Dürüstçe yazmak, güvendiğin bir oda ister — bu yazılım hakkında bir metafor değil, insanlar hakkında bir gerçek; yazılımdan da eski. Yanıp sönen imlecin başında hissettiğin duraksama doğru içgüdüydü. Üzerine basıp geçme; cevapla. İç hayatını tutan uygulamanın gizlilik sayfasına on dakika ayır, o beş aramayı yap, geri dönen cümlelerin türüne bak. Sonra — hangi oda sınavı geçerse — cümleyi oraya yaz.
Bir örüntü hakkında okumak başka şey; kendi hayatında nerede işlediğini görmek başka. Arkhetia bu merceklerle çalışır — seninle.