Apple, geçtiğimiz hafta düzenlenen iPhone etkinliğinde tanıttığı yeni Apple Watch Series 12 ile birlikte iki dikkat çekici özellik sundu: Siri Recap ve Live Rewind. Her iki özellik de gerçek dünyadaki konuşmalarınızı metne dönüştürüyor ve dilerseniz kaydetmenize olanak tanıyor. Ancak bu yenilikler, beraberinde önemli gizlilik sorularını da getiriyor.
Bu özellikler isteğe bağlı çalışıyor; yani yalnızca siz açıkça etkinleştirdiğinizde devreye giriyor. Yine de Meta’nın akıllı gözlükleri gibi cihazların gizlilik ihlali endişelerini hatırlatan bu durum, Apple Watch’un da benzer bir tartışmanın merkezine oturmasına neden olabilir. Apple ise kullanıcıları rahatlatmak için Audio Intelligence adını verdiği teknolojinin çalışma prensiplerini ve gizlilik unsurlarını detaylandıran bir belge yayımladı.
Siri Recap Nasıl Çalışıyor?
Etkinleştirildiğinde Siri Recap, gün boyunca konuşmaları dinliyor ve bunları başlık, kısa özet ve anahtar maddeler içeren özetlere dönüştürüyor. Bu özetler Siri uygulamasında görünüyor ve dilerseniz kaydedebiliyorsunuz. Kaydetmezseniz, Recap yedi gün sonra otomatik olarak siliniyor.
Peki saat, bir konuşma yaptığınızı nasıl anlıyor? S11 işlemcisi içindeki bir yapay zeka modeli, Apple Watch’un algıladığı seslerin belirli konuşma işaretlerine uyup uymadığını belirliyor. Bir konuşma algılandığında ses, işlemcinin fiziksel olarak ayrı bir bölmesi olan ve Apple’ın işletim sistemi, diğer uygulamalar, kullanıcı ve hatta Apple’ın kendisi tarafından erişilemez olduğunu iddia ettiği Secure Exclave‘e yönlendiriliyor.
Ardından ses şifrelenerek iPhone’unuzun kendi Secure Exclave’ine gönderiliyor; burada şifre çözülüyor ve metne dönüştürülüyor. Cihaz üzerindeki bir yapay zeka modeli, metni orijinal uzunluğunun yarısından daha azına indirgeyerek temel anlamı koruyor. Bu yoğunlaştırılmış metin, telefonunuzdan ayrılan tek veri oluyor ve Apple’ın bulut yapay zeka işleme sistemi olan Private Cloud Compute (PCC)‘ye gönderiliyor. PCC, Takvim bilgileriniz veya genel konumunuz gibi bağlam detaylarını alıp metni başlık, özet ve anahtar maddeler içeren tamamlanmış bir Recap’e dönüştürüyor.
Ses, iPhone’unuzda ilk yoğunlaştırılmış metne dönüştürüldükten sonra Apple’a göre “derhal ve kalıcı olarak siliniyor ve her iki cihazın Secure Exclave’inde artık mevcut olmuyor.” Buluta hiçbir ses gönderilmiyor. Ses, saat ve telefon arasında seyahat ediyor, dolayısıyla “kayıt yok” ifadesi zamana bağlı. Ancak yoğunlaştırılmış metin çıkarıldıktan sonra hiçbir şey kalmıyor.
Apple, dinlenen çevrenizdeki kişilerin gizliliği konusunda da kayıt olmadığını ve bir Recap’ten kayıt oluşturulamayacağını yineliyor. Konuşmacılar tanımlanmıyor ve çıktı, “bir kişinin konuşmadan sonra yazabileceği notlara” benzetiliyor.
Live Rewind Nasıl Çalışıyor?
Apple, lansman etkinliğinde Live Rewind için bir restorandaki çift üzerinden bir kullanım senaryosu gösterdi. Garson günün öğle spesiyallerini hızlıca sayıp ortadan kayboluyor. Bir müşteri, Ultra Watch 4’ün dijital tepe düğmesine çift tıklıyor ve garsonun okuduğu metnin transkripti saat ekranında beliriyor.
Bu özellik etkinleştirildiğinde, Apple Watch kullanıcıları istedikleri anda saatin algıladığı son 15 saniyelik sesin transkriptini alabiliyor. Bu sürekli erişimi sağlamak için Secure Exclave, sürekli üzerine yazılan bir ses tamponu tutuyor. Tepe düğmesine çift tıklama, son 15 saniyelik tamponlanmış sesi iPhone’unuza gönderiyor (telefonunuz yakında değilse ses siliniyor). Telefonunuzdaki cihaz üzeri konuşma tanıma, sesi metne dönüştürüyor ve bu metin saat ekranında görünüyor. Ses siliniyor ve siz metni Siri uygulamasına kaydetmeyi seçmediğiniz sürece, görüntüledikten kısa bir süre sonra o da kayboluyor. Rewind özelliğinin hiçbir parçası, Siri’ye transkript hakkında soru sormadığınız sürece saat ve telefon ekosisteminizden çıkmıyor; bu durumda sorgunuz (çoğu Siri sorgusu gibi) işlenmek üzere Apple’ın PCC’sine gönderiliyor.
Audio Intelligence’ın Gizlilik Etkileri Neler?
Siri Recap ve Live Rewind, Apple Watch Series 12 (ve Ultra 4) ile gelen Audio Intelligence özelliklerinin sadece yarısı. Ancak Shazam (müzik tanımlamak için sürekli dinleyen) ve Sound Recognition (işitme güçlüğü çekenleri sirenler, kapı zilleri vb. için uyaran) özelliklerinin çoğu insan için aynı gizlilik sorularını tetikleyeceğini sanmıyorum. Siri Recap ve Live Rewind ise açıkça tetikliyor.
Teknoloji şirketleri hakkımızda daha fazla veri topladıkça, önemli bir endişe Apple’ın bu verilere erişip erişemeyeceği. Apple’ın gizlilik belgesi, Apple’ın Audio Intelligence özellikleri için toplanan ses veya diğer bilgilere asla erişemeyeceğini defalarca vurguluyor. Stanford İnsan Merkezli Yapay Zeka Enstitüsü‘nde Gizlilik ve Veri Politikası Uzmanı olan Jennifer King, “Kolluk kuvvetleri ve müşterilerin kayıtlarına erişim talep edebilecek diğerleri için bir ses izi oluşturmamak adına önemli çaba sarf ettikleri görülüyor” diyor. Ancak King, “Apple’ın bu yeni özellikle çok zarif bir teknik çözüm yarattığı görülse de, kullanımı sosyal etkileşimlerimizin bir parçası olarak her zaman açık ses kaydını ne ölçüde istediğimiz konusunda soruları gündeme getiriyor” diye ekliyor.
Electronic Frontier Foundation‘da kıdemli güvenlik ve gizlilik aktivisti olan Thorin Klosowski ise burada dikkate alınması gereken iki yön olduğunu söylüyor. Birincisi, cihaz kullanıcısının gizliliği; Klosowski’ye göre bu “oldukça makul bir şekilde, tam bir Apple tarzında” ele alınıyor. Ancak ikincisi, “bu cihazı kullanan bir kişinin etrafındaki herkesin gizliliği, ki bu pek dikkate alınmıyor.”
Klosowski, saatin kayıt yeteneklerini yaygın olarak ürkütücü bulunan Meta’nın Ray-Ban akıllı gözlükleriyle karşılaştırıyor; ancak en azından onlar ayırt edici. “Bir kayıt ışığı var ve bunu görebiliyorsunuz, belki kaydedildiğinizi biliyorsunuz” diyor. “Ama Apple Watch birkaç nesildir aynı tasarıma sahip, bu yüzden birinin bileğine bakıp bu [dinleme] yeteneğine sahip olduğunu anlayamazsınız.”
Live Rewind, kullanıldığında yakındaki kişileri sesli bir çınlama ile uyarıyor; saat sessizde olsa bile. Saat ekranı da özelliğin kullanımda olduğunu belirten bir animasyonla doluyor. Ancak Klosowski’nin işaret ettiği gibi, insanların bu çınlamanın ve animasyonun ne anlama geldiğini bilip bilmeyeceği belirsiz. Siri Recap ise kullanıcıya, çevredekilere fonksiyonun kullanımda olduğuna dair herhangi bir işaret sunmuyor. Sonuç bir kayıt değil, söylenenlerin üst düzey bir özeti olduğu için Apple, özelliği bir konuşmadan sonra not almakla karşılaştırıyor. Bir Recap’in tam olarak ne içerdiğini görene kadar, bu bildirim eksikliğinin sorunlu olup olmadığını bilmek zor.
Her Zaman Açık Dinlemeyle Nasıl Başa Çıkacağız?
Neredeyse her akıllı telefon, bir Sesli Not veya Google Recorder uygulamasına dokunarak bir konuşmanın her kelimesini yakalayabilir. Telefonu masaya koyarak tam şeffaflık sağlayabilir ya da cebinize koyup hiçbir şey söylemeden kimsenin fark etmeyeceği şekilde kaydedebilirsiniz. Yani gizli makine dinlemesi yeni bir şey değil. Ancak Siri Recap’in farkı, her zaman açık olması ve siz hiçbir şey yapmadan konuşmanızın özünü yakalaması. Bu da onu bir kayıt cihazını açmaktan farklı hissettiriyor. Yine de belki de aynı kurallar geçerli olmalı. Klosowski, “Sorun gizlilikten çok sosyal normlarla ilgili olabilir” diyor; “birbirimizle halk içinde farklı şekillerde yaşama yaklaşımımız.”
Siri Recap kullanan birinin konuşma başlamadan önce bunu belirtmesi zamanla kibar bir davranış haline gelebilir. King’in ifadesiyle, “Arkadaşlarınız, aileniz, işverenleriniz ve hatta gördüğünüz profesyoneller (örneğin doktorlar), en azından izin alınmadan kaydedilmeme konusunda güçlü bir istek duyabilir.” Ancak King, insanlara bu özellikleri kullandığınızı bildirmenin yasal gerekliliklerden çok kişilerarası ilişkiler meselesi haline geleceğini ekliyor. “Tasarım, bir kayıt veya kelimesi kelimesine transkript üretmeyerek katı anlamda bir telefon dinleme biçimi olmaktan kaçınıyor gibi görünüyor.”
Klosowski’ye göre bu makine dinleme yeteneklerinin en büyük tehdidi, bu her zaman açık kayıt davranışının normalleşmesi. “Apple devasa bir şirket” diyor, “Bu, diğer şirketlerin de bunu yaptığı ve söylediğiniz her şeyin kelimesi kelimesine transkript edildiği bir yöne kayabilir.” Diğer şirketlerin zaten bu cihazları ve özellikleri sunduğunu belirtiyor: Plaud AI gibi her zaman açık yapay zeka not alıcıları zaten piyasada. Fark, bu cihazların Apple Watch kadar yaygın olmaması ve bu ekipmanı üreten birçok küçük markanın Apple’ın sofistikasyon seviyesine veya gizlilik konusundaki aynı bağlılığa sahip olmaması. Apple’ın yeni bir teknolojiyi benimsemesi onu ana akım haline getiriyor. Bu, gizlilik konusunda belki de aynı derecede endişeli olmayan şirketler tarafından tasarlanan taklit dinleyicilere yol açar mı? Bu Apple’ın kontrol edebileceği bir şey değil, ancak bu teknoloji hayatımıza girerken farkında olunması gereken bir durum.
“Keşfedilmemiş Bölge”
Ne Siri Recap ne de Live Rewind bu yılın sonuna kadar kullanıma sunulmayacak. Bu özelliklerin gizlilikle nasıl ilişkilendiğini kullanımda görene kadar tam olarak bilemeyeceğiz. King, “Bu özelliklerin gerçek dünyada nasıl işlediğini anlamak önemli olacak” diyor; “isimleri veya bazı kişisel veri türlerini yakalamamak üzere tasarlanmış olsalar bile, mükemmel olmaları pek olası değil.” Klosowski de aynı fikirde: “Bu özetleri görene kadar, ne tür gizlilik etkileri olabileceğini gerçekten daha iyi anlamak için beklememiz gerekecek.” Ona göre tüm bu süreç “keşfedilmemiş bir bölge.”
Benim gibi unutkan biri olarak, her an yanımda otomatik bir kişisel not alıcı olmasının faydasını görebiliyorum. Ve bana donmuş tamale satan kişinin ısıtma talimatlarını dinlemek yerine dalıp gittiğimde, o zaman dilimini yeniden yakalayabilmek güzel olabilir. Ancak bugünlerdeki birçok yeni teknoloji gibi, bu özellikler de gizlilik ve hatta sosyal sorumluluk sorularını gündeme getiriyor. King, “Gizlilik odaklı tasarlanmış olsa bile, bir şeyin sizi kaydettiğini sürekli varsaymak zorunda kalmak yorucu bir ihtimal” diyor.
Gerçekten de, insanların bu araçları nasıl kullanacağını ve hayatlarımıza kabul edilebilir bulduğumuz şekillerde girip girmeyeceğini görmemiz gerekecek. Ve açık olmak gerekirse, Apple bu şeyleri kullanmanız gerektiğini söylemiyor. Her ikisi de isteğe bağlı özellikler ve her an kolayca kapatılabilir. Bazı insanlar bunları asla kullanmayacak. Klosowski, “Bunu sürtünmesiz, her zaman olan bir şey haline getirmek bence sorunlu ve hayatımda olmasını gerçekten istemediğim bir şey” dedi. “Bir konuşmayı hatırlayamıyorsam veya bir ana dikkat edemiyorsam, bu benim sorunum.”
Kaynak: Teknoloji
