Yapay Zekaya Halüsinasyon Tespit Algoritması
Yapay Zeka Modellerinde Halüsinasyonları Tespit Eden Yeni Algoritma İle Güvenilirlik Artıyor
Yapay Zekaya Halüsinasyon Tespit Algoritması
Araştırmacılar, yapay zekanın halüsinasyonlarını tespit edebilen bir algoritma geliştirdi. Yeni algoritma, yapay zeka modellerinin doğruluğunu artırmayı hedefliyor.
Oxford Üniversitesi Bilgisayar Bilimleri Bölümü’nden araştırmacılar tarafından geliştirilen bu algoritma, yapay zeka tarafından üretilen yanıtların yaklaşık %79 doğru olup olmadığını belirleyebiliyor. Yöntem, sohbet botlarına aynı soruları tekrarlayarak ve yanıtların anlam benzerliğini ölçerek çalışıyor. Bu sayede, yapay zekanın doğru olmayan bilgiler üretme olasılığını azaltarak güvenilirliği artırıyor.
Araştırmacılar, bu algoritmanın sohbet botlarına kolayca entegre edilebileceğini ve kullanıcıların yanıtlarının güvenilirlik puanlarını görebileceğini belirtiyor. Bu gelişme, yapay zekanın halüsinasyonlarını tespit etme konusunda önemli bir adım olarak değerlendiriliyor.
Haber: Bülten