Bir CSAM Tarama Sistemi Oluşturan Üniversite Araştırmacıları, Apple'ı 'Tehlikeli' Teknolojiyi Kullanmamaya Çağırıyor

Saygın üniversite araştırmacıları, Apple'ın tarama planlarının arkasındaki teknolojinin alarm zillerini çalıyor. iPhone kullanıcıların CSAM için fotoğraf kitaplıkları veya çocuklara yönelik cinsel istismar materyalleri, teknolojiyi 'tehlikeli' olarak nitelendiriyor.

Princeton Üniversitesi'nde bilgisayar bilimi ve halkla ilişkiler bölümünde yardımcı doçent olan Jonanath Mayer ve Princeton Üniversitesi Bilgi Teknolojisi Politikası Merkezi'nde araştırmacı olan Anunay Kulshrestha, her ikisi de bir op-ed kaleme aldı için Washington post , bina görüntü algılama teknolojisiyle ilgili deneyimlerini özetliyor.

Araştırmacılar, uçtan uca şifreli çevrimiçi hizmetlerde CSAM'ı tanımlamak için iki yıl önce bir proje başlattı. Araştırmacılar, kendi alanları göz önüne alındığında, 'verileri üçüncü taraf erişiminden koruyan uçtan uca şifrelemenin değerini bildiklerini' belirtiyorlar. CSAM 'şifreli platformlarda çoğalıyor' konusunda onları dehşete düşüren şeyin bu endişe olduğunu söylüyorlar.

iphone'da eski metin mesajları nasıl silinir

Mayer ve Kulshrestha, durum için bir orta yol bulmak istediklerini söylediler: çevrimiçi platformların CSAM bulmak ve uçtan uca şifrelemeyi korumak için kullanabileceği bir sistem kurun. Araştırmacılar, alandaki uzmanların böyle bir sistem olasılığından şüphe duyduklarını, ancak bunu kurmayı başardıklarını ve bu süreçte önemli bir sorun fark ettiklerini belirtiyorlar.

Çevrimiçi hizmetlerin zararlı içeriği tespit ederken, aksi takdirde uçtan uca şifrelemeyi koruyabileceği olası bir orta yolu keşfetmeye çalıştık. Konsept basitti: Birisi, bilinen bir zararlı içerik veri tabanıyla eşleşen materyali paylaşırsa, hizmet uyarılırdı. Bir kişi masum içeriği paylaşsaydı, hizmet hiçbir şey öğrenemezdi. İnsanlar veri tabanını okuyamadı veya içeriğin eşleşip eşleşmediğini öğrenemedi, çünkü bu bilgiler yasa uygulama yöntemlerini ortaya çıkarabilir ve suçluların tespitten kaçmasına yardımcı olabilir.

Bilgili gözlemciler, bizimki gibi bir sistemin uygulanabilir olmaktan çok uzak olduğunu savundular. Birçok yanlış başlangıçtan sonra çalışan bir prototip oluşturduk. Ama bariz bir sorunla karşılaştık.

Apple'ın özelliği duyurmasından bu yana şirket bombalandı. endişelerle CSAM'i tespit etmenin arkasındaki sistemin, baskıcı hükümetlerin talebi üzerine diğer fotoğraf biçimlerini tespit etmek için kullanılabileceğini söyledi. Apple, hükümetlerden gelen bu tür herhangi bir talebi reddedeceğini söyleyerek böyle bir olasılığa şiddetle karşı çıktı.

Bununla birlikte, CSAM tespiti için kullanılan teknolojinin gelecekteki etkilerine ilişkin endişeler yaygındır. Mayer ve Kulshrestha, hükümetlerin CSAM dışındaki içerikleri tespit etmek için sistemi nasıl kullanabileceği konusundaki endişelerinin kendilerini 'rahatsız ettiğini' söylediler.

macbook pro 2020 ekran görüntüsü nasıl alınır

Örneğin, yabancı bir hükümet, beğenilmeyen siyasi söylemleri paylaşan insanlara hizmet vermeye zorlayabilir. Bu bir varsayım değil: Popüler Çin mesajlaşma uygulaması WeChat, muhalif materyalleri belirlemek için zaten içerik eşleştirmeyi kullanıyor. Hindistan, bu yıl, hükümet politikasını eleştiren içeriğin ön taramasını gerektirebilecek kuralları yürürlüğe koydu. Rusya geçtiğimiz günlerde demokrasi yanlısı protesto materyallerini kaldırmadıkları için Google, Facebook ve Twitter'a para cezası verdi.

Diğer eksiklikleri tespit ettik. İçerik eşleştirme sürecinin yanlış pozitifleri olabilir ve kötü niyetli kullanıcılar, masum kullanıcıları incelemeye tabi tutmak için sistemi oyuna getirebilir.

O kadar rahatsızdık ki, bilgisayar bilimi literatüründe daha önce görmediğimiz bir adım attık: Kendi sistem tasarımımıza karşı uyardık ve ciddi olumsuzlukları nasıl azaltabileceğimiz konusunda daha fazla araştırma yapmaya çağırdık....

Apple, planlarıyla ilgili kullanıcı endişelerini gidermeye devam etti. ek belgeler yayınlamak ve bir SSS sayfası . Apple, bir kullanıcının cihazında gerçekleşecek olan CSAM algılama sisteminin uzun süredir devam eden gizlilik değerleriyle uyumlu olduğuna inanmaya devam ediyor.