Chatbot’lar Bilimsel nitelikli Yıldızı Öldürdü

Üç dergide editörlük yapmış biri olarak bir derginin yapması ihtiyaç duyulan en zor şeyin yargıcı bulmak bulunduğunu söyleyebilirim. Bu yüzden geçen hafta yargıcı olarak kullanmak için bir “refbot” (iyi, yayınlanabilir bir yazı için eğitilmiş bir yazılım) olmasının ne kadar güzel olacağını düşünüyordum. Ve sonrasında ansızın yeni bir tür tekillik tasarladığımı fark ettim.

“Tekillik” kelimesi Latince’den gelir ve peşinden Fransızca, olağandışı, istisnai, benzersiz davranış anlamına gelir. Bilimsel olarak, bir tekillik, penetrasyonu mekaniği, elektromanyetizmayı ve nerede ise her şeyi yöneten tüm fizyolojik kuralların askıya alınması yada olumsuzlanmasıyla sonuçlanan bir vaka ufkudur.

Matematiksel olarak tekillik, bir işlemin tanımlanmadığı zamandır. Bu, yapılamayacak kadar oldukça değil, aksine, öncüllerin yada tümevarımın düzgüsel mantıksal kuralları kullanılarak tam anlamıyla tanımlanamaz yada anlaşılması imkansız. “Sıfıra bölmeyi” yada “rankı K<N olan bir NxN matrisini tersine çevirmeyi" düşünün.

Kendi Tekilliğiniz

Hepsi oldukça doğa ötesi görünebilir ve “anlayamazsınız”, dolandırıcıların para istemeden ilkin devamlı söyledikleri şeydir. Burada olan bu değil. Hepimizin kolaylıkla anlayabileceği bir tekillikten bahsediyorum:

• AI söyleşi robotları makaleler yazmaya ve bu tarz şeyleri dergilere göndermeye başlayın (Bu, şu anda çok çok fazla oluyor millet). İlk başta, söyleşi robotları, belirli araştırmacılar tarafınca aslına bakarsan yazılacak olan bir yazının yazılmasına destek olmak için kullanılacaktı. Sadece oldukça fazla aksama süresi var ve yazmak kolay.
• Günlüğe gönderildikten sonrasında, refbot’lar, Belirli bir mecmua için “eğitilmiş”, o dergideki “iyi” (evvel yayınlanmış) bilimsel nitelikli yazıların külliyatını çözümleme ederek, kim bilir editörlerin mecmua mimi’sine haiz olmayı arzuladıkları öteki bilimsel nitelikli çalışmalarla mayalanmış, gönderimleri değerlendirecektir. Refbot’lar çelişkileri araştıracak, düşünce birliği arayacak ve referansları denetim edecek. (Bu kulağa oldukça yüzeysel gelebilir, sadece bu, yargıcı dergilerinin gerçekte bulabileceği insan hakemlerinin ortalama 2/3’ünden daha iyi olur ve süratli olur. Öte taraftan, değişen teknolojinin hemen hemen tam olarak orada olmadığı görülüyor.)
• Geri besleme döngüsü hemen sonra tarafınca kapatılır. gelecek nesil yayınlanmış literatürü tarayan ve neyin mühim olduğuna kabul eden, bu çalışmaya atıfta bulunan söyleşi robotlarının gösterilen yazıların bir sonraki turu. Yeni nesil chatbot yazarlarından en oldukça alıntıyı alan makaleler ve bir sonraki, seçim süreci cürufları temizledikten sonrasında, insan araştırmacıların kullanımı için “en iyi” yazıları döndüren arama motorlarında daha yüksek statüye haiz olacak.

Makine öğrenimi gitgide daha süratli hale geldikçe, bir “nesil”in bir haftadan fazla yada birkaç saniyeden kısa olabileceğine dikkat edin. Sistem herhangi bir insan aracılığı olmaksızın dinamik olarak kendini güncelleyeceğinden, yazıların her zamanki şeklinde “yayınlanmasını” beklemek için hiçbir niçin yoktur. Oldukca geçmeden tüm bilimsel nitelikli mecmua yazıları yazılmış olacak.

Söyleşi robotları, “ustalaşmış” dergilerde rutin olarak yayınladığımız türden fena yazılar yazabilir. Ve bir “refbot”, yayınlanabilir yazıları yayınlanamaz yazılardan ayırt etmek için (görünüşe gore kolay olmasa da) eğitilebilir. Sokol Aldatmacası ve Lindsay, Pluckrose ve Boghossian “Şikâyet Emekleri” Deneyi dahil olmak suretiyle düzmece, saçma sapan sunumlardan meydana gelen bilimsel nitelikli skandallar yanlış yorumlanmıştır. Yakınma Emekleri yayınlarına verilen ikincil yanıtlar neredeyse doğrudur: Problem, düzmece çalışmaların yayınlanabilmesi değil, dergilerde gösterilen öteki çalışmaların çoğunun fiilen düzmece olmasıdır. (Daha çok gözden geçirmeyeceğim pek oldukça zorlayıcı kanıt örneği var).

Problemi görebilirsiniz: söyleşi robotları süratli fakat fena yazabilir ve günlükleri tıkayacak tomar tomar şey üretebilirler. En fena mesele, chatbotlar yeterince yazarsa, bir kısmının iyi görünmesidir. Bu, otomatik ayar ve bilgisayar tarafınca üretilen melodilerin ve sözlerin ezici bir pop şarkı tsunamisi ürettiği müzikte aslına bakarsan bir mesele. Çoğunun fena olması mühim değil, şundan dolayı bazıları üstesinden gelir ve hit olur.

Fakat chatbot’lar bilimsel nitelikli yıldızı öldürdüler, daha doğrusu bilimsel nitelikli mesleği öldürecekler, en azından bildiğimiz kadarıyla. Standart kariyer stratejisi (“asla kimse okumasa bile bir sürü yazı yazıp yayınlayın”) artık geçerli olmayacaktır. Bir çok disiplinde bunun fena olduğu açık değil. Burs, araştırmanın aksine tekrardan revaçta olabilir, doğrusu Shakespeare öğreten bir profesör, Hamlet’in kolonyal bağlılığı yada toplumsal cinsiyet disforisi üstüne “son olarak araştırmaları” yerine aslen Shakespeare’in metnine odaklanabilir. Daha açık bir halde ifade etmek gerekirse, metin üretme kabiliyeti bir kez sınırsız olduğunda, iyi metne ve onun niçin iyi olduğuna tekrardan odaklanabiliriz.

Benim için fena

Bu yazının başlığında, söyleşi robotlarının bilimsel nitelikli “yıldızı” öldürdüğünü iddia ettim. Fakat her zamanki şeklinde kendimi düşünüyordum. Birçok kez belirttiğim şeklinde, akademisyenlerdeki karşılaştırmalı avantajım süratli yazmak; Othello’nun deyişiyle, “Ben zekice değil, oldukça süratli yazan biriyim.” Akademisyenlerde iyi yazmak lüzumlu değildir ve bazı iyi yazılar ciddi olmadığı şüphesiyle bile görülür. Her neyse ki (benim için), birçok bilimsel nitelikli yazı fena. Hatta “iyi mi daha azca fena yazılır” üstüne bazı tavsiyeler yazdım ve başkalarının tavsiyenin yararlı bulunduğunu söylemesini sağladım. (Bir yorumcu, başlığın fena yazıldığını söylemiş oldu; evet tatlım, sorun buydu!)

Ufukta (benim) sonumu şimdiden görebiliyorum. “Zekice değil, oldukça süratli yazan biri” olmak ayırt edici olmayacaktır, tekillik gelir, şundan dolayı GPT4 varlıkları fena yazabilir ve hakikaten fakat hakikaten süratli. Elbet, metnin düzenlenmesi gerekecek ve aynı hesabın rakip sürümleri içinde karar vermek için refbot’lara gereksinim duyulacak. Sadece bu tarz şeyleri yaparken elde ettiğim avantajlar, (nispeten) süratli bir halde yazarken devamlı haiz olduğum avantajdan oldukça daha azca mühim.