Yapay zeka teknolojilerinin hızla gelişmesiyle birlikte, sahte bilimsel makalelerin sayısında da artış gözlemleniyor. Ancak New York Eyalet Üniversitesi’nden araştırma görevlisi Ahmed Abdeen Hamed, bu sorunla başa çıkmak için xFakeSci adını verdiği yeni bir makine öğrenimi algoritması geliştirdi. Bu algoritma, yapay zeka tarafından üretilen sahte akademik makaleleri %94 doğruluk oranıyla tespit edebiliyor.
xFakeSci, geleneksel veri madenciliği yöntemlerine kıyasla neredeyse iki kat daha başarılı. Hamed, biyomedikal bilişim alanındaki uzmanlığıyla sahte tıbbi yayınların yayılmasından endişe duyduğunu belirterek, sahte bilgi akışını durdurmak amacıyla bu algoritmayı geliştirdi.
50 Sahte Makale Üretildi ve Karşılaştırıldı Yapılan deneylerde, Alzheimer, kanser ve depresyon gibi üç popüler tıbbi konu için 50 sahte makale üretildi ve bunlar, aynı konulardaki gerçek makalelerle karşılaştırıldı. xFakeSci, makalelerin nasıl yazıldığına dair iki önemli özelliği analiz etti: Birincisi, “iklim değişikliği” veya “biyomedikal literatür” gibi sık birlikte görülen ikili kelimelerdi; ikincisi ise bu kelimelerin metindeki diğer sözcüklerle nasıl bağlantı kurduğunu inceledi.
Bilimsel Literatüre Güven Artıyor Hamed, ChatGPT gibi yapay zeka araçlarının bilgileri belirli anahtar kelimelerle ikna etmeye çalıştığını, oysa gerçek bilimsel makalelerin dürüstçe yapılan deneyleri raporladığını belirtti. xFakeSci gibi araçların geliştirilmesi, sahte bilimsel makalelerle mücadelede ve bilimsel literatürün bütünlüğünü korumada önemli bir rol oynayacak.
