ChatGPT dünyayı kasıp kavurdu. Yayınlandıktan sonraki iki ay içinde 100 milyona ulaştı. aktif kullanıcılaronu en hızlı büyüyen tüketici yapıyor şimdiye kadar başlatılan uygulama. Kullanıcılar aracın çekiciliğine kapılır gelişmiş yetenekler— ve aksamaya neden olma potansiyelinden endişe duyuyor çeşitli sektörler.
Çok daha az tartışılan bir sonuç, ChatGPT’nin her birimiz için oluşturduğu gizlilik riskleridir. Daha dün, Google açıkladı Bard adlı kendi konuşma yapay zekası ve diğerleri kesinlikle onu takip edecek. Yapay zeka üzerinde çalışan teknoloji şirketleri iyi ve gerçekten bir silahlanma yarışına girdiler.
Sorun şu ki, kişisel verilerimizden besleniyor.
300 milyar kelime. Seninki kaç tane?
ChatGPT, çalışması ve iyileştirilmesi için çok büyük miktarda veri gerektiren büyük bir dil modeliyle desteklenir. Model ne kadar çok veri üzerinde eğitilirse, kalıpları tespit etmede, sonra ne olacağını tahmin etmede ve makul metin oluşturmada o kadar iyi olur.
ChatGPT’nin arkasındaki şirket olan OpenAI, aracı biraz besledi 300 milyar kelime İnternetten sistematik olarak kazınmış: kitaplar, makaleler, web siteleri ve gönderiler – izin alınmadan elde edilen kişisel bilgiler dahil.
Daha önce bir blog gönderisi veya ürün incelemesi yazdıysanız ya da çevrimiçi bir makaleye yorum yaptıysanız, bu bilgilerin ChatGPT tarafından kullanılmış olma olasılığı yüksektir.
Peki bu neden bir sorun?
ChatGPT’yi eğitmek için kullanılan veri toplama, birkaç nedenden dolayı sorunludur.
İlk olarak, hiçbirimize OpenAI’nin verilerimizi kullanıp kullanamayacağı sorulmadı. Bu, özellikle veriler hassas olduğunda ve bizi, aile üyelerimizi veya konumumuzu belirlemek için kullanılabiliyorsa, gizliliğin açık bir ihlalidir.
Veriler herkese açık olduğunda bile, kullanımı dediğimiz şeyi ihlal edebilir. bağlamsal bütünlük. Bu, mahremiyetin yasal tartışmalarında temel bir ilkedir. Bireylerin bilgilerinin, orijinal olarak üretildiği bağlamın dışında ifşa edilmemesini gerektirir.
Ayrıca OpenAI, kişilerin şirketin kişisel bilgilerini saklayıp saklamadığını kontrol etmesi veya silinmesini talep etmesi için herhangi bir prosedür sunmaz. Bu, Avrupa Genel Veri Koruma Yönetmeliği uyarınca garanti edilen bir haktır (GDPR)—ChatGPT’nin uyumlu olup olmadığı hala tartışılıyor olsa da GDPR gereklilikleri ile.
Bu “unutulma hakkı”, bilgilerin yanlış veya yanıltıcı olduğu durumlarda özellikle önemlidir. düzenli oluşum ChatGPT ile.
Ayrıca, ChatGPT’nin üzerinde eğitildiği kazınmış veriler tescilli olabilir veya telif hakkıyla korunabilir. Örneğin, onu yönlendirdiğimde, araç Peter Carey’nin “Kelly Çetesinin Gerçek Tarihi” adlı romanının telif hakkıyla korunan bir metninin ilk birkaç paragrafını oluşturdu.
Uri Gal tarafından ChatGPT’den ekran görüntüsü
Son olarak, OpenAI internetten kazıdığı veriler için ödeme yapmadı. Bunu üreten bireylere, web sitesi sahiplerine ve şirketlere tazminat ödenmedi. Bu, OpenAI’nin son zamanlarda olduğu düşünüldüğünde özellikle dikkate değerdir. 29 milyar ABD doları değerindeiki katından fazla 2021’deki değer.
OpenAI aynı zamanda sadece ChatGPT Plus’ı duyurdu, müşterilere araca sürekli erişim, daha hızlı yanıt süreleri ve yeni özelliklere öncelikli erişim sunacak ücretli bir abonelik planı. Bu plan, beklenen 2024 yılına kadar 1 milyar dolar gelir.
Verilerimiz -verilerimiz- iznimiz olmadan toplanmadan ve kullanılmadan bunların hiçbiri mümkün olmazdı.
Dayanıksız bir gizlilik politikası
Başka bir gizlilik riski, ChatGPT’ye kullanıcı istemleri biçiminde sağlanan verileri içerir. Araçtan soruları yanıtlamasını veya görevleri gerçekleştirmesini istediğimizde, yanlışlıkla hassas bilgi ve kamu malına koyun.
Örneğin, bir avukat araçtan bir boşanma sözleşmesi taslağını incelemesini isteyebilir veya bir programcı ondan bir kod parçasını kontrol etmesini isteyebilir. Sözleşme ve kod, çıktısı alınan makalelere ek olarak artık ChatGPT veritabanının bir parçasıdır. Bu, aracı daha fazla eğitmek için kullanılabileceği ve diğer kişilerin istemlerine verilen yanıtlara dahil edilebileceği anlamına gelir.
Bunun ötesinde OpenAI, diğer kullanıcı bilgilerinin geniş bir kapsamını toplar. şirkete göre Gizlilik Politikasıkullanıcıların IP adresini, tarayıcı türünü ve ayarlarını ve kullanıcıların etkileşimde bulunduğu içerik türü, kullandıkları özellikler ve yaptıkları işlemler dahil olmak üzere siteyle etkileşimlerine ilişkin verileri toplar.
Ayrıca, kullanıcıların zaman içinde ve web siteleri genelinde göz atma etkinlikleri hakkında bilgi toplar. Endişe verici bir şekilde, OpenAI bunun olabileceğini belirtiyor kullanıcıların kişisel bilgilerini paylaşmak iş hedeflerini karşılamak için, belirtilmemiş üçüncü taraflarla, onlara haber vermeden.
Dizginleme zamanı mı?
Bazı uzmanlar ChatGPT’nin AI için bir devrilme noktası— çalışma, öğrenme, yazma ve hatta düşünme biçimimizde devrim yaratabilecek bir teknolojik gelişmenin gerçekleştirilmesi. Potansiyel faydalarına rağmen, OpenAI’nin çıkarları ve ticari zorunlulukları daha büyük toplumsal ihtiyaçlarla uyumlu olması gerekmeyen özel, kar amaçlı bir şirket olduğunu unutmamalıyız.
ChatGPT’ye bağlı olarak gelen gizlilik riskleri bir uyarı sesi vermelidir. Artan sayıda AI teknolojisinin tüketicileri olarak, bu tür araçlarla hangi bilgileri paylaştığımız konusunda son derece dikkatli olmalıyız.
Konuşma, yorum için OpenAI’ye ulaştı, ancak son tarihe kadar yanıt vermediler.
Uri Gal şirketinde işletme bilgi sistemleri profesörüdür. Sidney Üniversitesi
Bu makale şu adresten yeniden yayınlanmıştır: Konuşma Creative Commons lisansı altında. Okumak orijinal makale.