Yapay zekanın halüsinasyon görmesi: Olmayan bilgileri sunuyor

Var olmayan ancak gerçek gibi görünen algısal yanılsamalar halüsinasyonlar olarak adlandırılır. ChatGPT, DeepSeek ve Gemini gibi büyük dil modellerinin kullanıcılarına yanlış, çarpık veya gerçek olmayan çıktılar sunması, insanlara “Yapay zeka halüsinasyon görebilir mi?” sorusunu akıllara getiriyor.

Yapay zeka, insan zekasına özgü bazı işlevleri yerine getirebilir ancak bilinçli değildir. Bununla birlikte, bir insan gibi “halüsinasyonlar görebilir.”

Genellikle “tarafsız ve doğru” olarak kabul edilen yapay zekanın, gerçek dışı ve yanıltıcı veriler üretmesi, güvenilirlik ve şeffaflık endişelerini artırıyor. Yapay zeka destekli sohbet robotları, girilen komuta uygun yanıtlar sunarak yapay zekanın “yanılmaz” olduğu algısını yaratsa da “halüsinasyonlar görmesi” ciddi sonuçlara neden olabilir.

Uzmanlara göre, yapay zekanın yanlış veya gerçek dışı bilgi sunması, kullanıcıya fayda sağlama amacından kaynaklanmaktadır. Profesör Ehsan Hoque, yapay zekanın “dalkavukluk” yaptığını belirterek, yanlış bilgi aktarımının, eksik verilerden kaynaklanabileceğini vurguladı.

Hoque’a göre, yapay zeka modelleri, gerçekleri doğrulamak yerine kelime kalıplarına dayanarak metin oluşturur. Bu durum, yanlış ve yanıltıcı metinlerin üretilmesine neden olabilir.

Hoque, halüsinasyonların kasıtlı olmadığını ancak sisteme değer yargılarının kodlanabileceğini belirtti. Şu anki teknolojinin halüsinasyon sorununu çözecek kapasiteye sahip olmadığını ifade etti.

Uzmanlar, yapay zekanın gerçek olmayan bilgileri doğruymuş gibi sunmasını, nöropsikiyatrik bir hastalık olan “konfabulasyon” rahatsızlığına benzetiyorlar. Bu durumun, yapay zekanın resmi belgelerde kullanılması durumunda ciddi sonuçlara yol açabileceği belirtilmektedir.

Washington Üniversitesi Dilbilimi Bölümü Profesörü Bender, yapay zekaya mutlak güvenilmemesi gerektiğini vurgulayarak yapay zekaya duyulan aşırı güvenin pazarlama stratejileriyle ilişkili olduğunu belirtti. Bender, yapay zekanın halüsinasyon sorununu çözecek bir şeye sahip olmadığını ifade etti.

Related Posts

Chery’den Haziran ayına özel SUV şöleni: Tüm modellerde cazip indirim ve kredi fırsatları

tr.motor1.com’dan Mert Gökhan’ın haberine göre, Chery, tüm SUV modellerinde önemli nakit alım indirimleri ve avantajlı kredi olanakları sunarak yeni bir araç sahibi olmayı kolaylaştırıyor. AİLELERİN TERCİHİ TIGGO7 PRO MAX’TE CAZİP SEÇENEKLER Konfor …

Drone’larla yağmur yağdıracaklar! Çöllere bile hayat gelecek

Birleşik Arap Emirlikleri (BAE), kurak iklimiyle mücadele etmek için bilim ve teknolojinin sınırlarını zorladı. Yıllık yağış miktarı 100 milimetreden az olan bu çöl ülkesi, drone teknolojisiyle yağmur yağdırmanın yollarını aradı. Reading Üniversitesi …

Tek tıkla kıyafet değiştirin. Google’ın yeni yapay zekası kadınların favorisi olabilir

Yapay zeka seçeneklerine bir yenisini daha dahil eden Google, tek tıkla kıyafet deneyebildiğiniz araçla seçimlerinizi kolaylaştırmak istiyor. 

Türkiye Sujeti ve Flyboard Türkiye Motosurf Şampiyonası Bodrum’da yapılacak

Türkiye Sujeti ve Flyboard Türkiye Motosurf Şampiyonası yarın Muğla’nın Bodrum ilçesinde başlayacak.

Bilim insanları dilin haritasını çıkardı

Araştırmacılar, canımızın nasıl tatlı çektiğini anlamanın obeziteyle mücadeleye yardımcı olabileceğini söylüyor.

Yapay zeka asistanı Gemini’ye doğrudan erişim genişletildi

Samsung, Galaxy A Serisi’nin bazı modellerinde, tek tuşla Google’ın yapay zeka (A) destekli asistanı Gemini’ye doğrudan erişimi genişletti.