Yapay zekanın halüsinasyon görmesi: Olmayan bilgileri sunuyor

Var olmayan ancak gerçek gibi görünen algısal yanılsamalar halüsinasyonlar olarak adlandırılır. ChatGPT, DeepSeek ve Gemini gibi büyük dil modellerinin kullanıcılarına yanlış, çarpık veya gerçek olmayan çıktılar sunması, insanlara “Yapay zeka halüsinasyon görebilir mi?” sorusunu akıllara getiriyor.

Yapay zeka, insan zekasına özgü bazı işlevleri yerine getirebilir ancak bilinçli değildir. Bununla birlikte, bir insan gibi “halüsinasyonlar görebilir.”

Genellikle “tarafsız ve doğru” olarak kabul edilen yapay zekanın, gerçek dışı ve yanıltıcı veriler üretmesi, güvenilirlik ve şeffaflık endişelerini artırıyor. Yapay zeka destekli sohbet robotları, girilen komuta uygun yanıtlar sunarak yapay zekanın “yanılmaz” olduğu algısını yaratsa da “halüsinasyonlar görmesi” ciddi sonuçlara neden olabilir.

Uzmanlara göre, yapay zekanın yanlış veya gerçek dışı bilgi sunması, kullanıcıya fayda sağlama amacından kaynaklanmaktadır. Profesör Ehsan Hoque, yapay zekanın “dalkavukluk” yaptığını belirterek, yanlış bilgi aktarımının, eksik verilerden kaynaklanabileceğini vurguladı.

Hoque’a göre, yapay zeka modelleri, gerçekleri doğrulamak yerine kelime kalıplarına dayanarak metin oluşturur. Bu durum, yanlış ve yanıltıcı metinlerin üretilmesine neden olabilir.

Hoque, halüsinasyonların kasıtlı olmadığını ancak sisteme değer yargılarının kodlanabileceğini belirtti. Şu anki teknolojinin halüsinasyon sorununu çözecek kapasiteye sahip olmadığını ifade etti.

Uzmanlar, yapay zekanın gerçek olmayan bilgileri doğruymuş gibi sunmasını, nöropsikiyatrik bir hastalık olan “konfabulasyon” rahatsızlığına benzetiyorlar. Bu durumun, yapay zekanın resmi belgelerde kullanılması durumunda ciddi sonuçlara yol açabileceği belirtilmektedir.

Washington Üniversitesi Dilbilimi Bölümü Profesörü Bender, yapay zekaya mutlak güvenilmemesi gerektiğini vurgulayarak yapay zekaya duyulan aşırı güvenin pazarlama stratejileriyle ilişkili olduğunu belirtti. Bender, yapay zekanın halüsinasyon sorununu çözecek bir şeye sahip olmadığını ifade etti.

Related Posts

Honor telefon pazarının en incesi olma yolunda

Honor, katlanabilir telefon segmentindeki iddiasını Magic V5 modeliyle sürdürüyor. Şirket, 2 Temmuz’da resmi olarak tanıtılacak olan bu yeni cihazın, sektördeki en ince ve en hafif katlanabilir telefon olacağını iddia ediyor. Bu iddia, özellikle Oppo …

Teknoloji ve finans uzmanlarını buluşturan zirve sona erdi

2019’dan bu yana düzenlenen Istanbul Fintech Week (IFW), 11-12 Haziran tarihlerinde finans ve teknoloji sektörlerindeki kanaat önderlerini ve sektör profesyonellerini altıncı kez İstanbul’da bir araya getirdi. Bu yıl “Finansın Geleceğini Yapay Zeka …

ChatGPT ile konuşmalarınız “sonsuza dek” saklanabilir!

OpenaI CEO’su Sam Altman, yapay zekâ ile görüşmelerin “doktor ya da avukatla konuşurmuşçasına” özel olması gerektiğini söylüyor ancak ChatGPT yakında tüm görüşmelerimizi saklamak zorunda kalabilir

Reçeteli gözlüklerin sonu geliyor: Yeni sensör ve sıvı kristal teknolojisi umutlandırdı

Gözlük sektörü yıllık yüzde 8-9 büyüme ile 190 milyar dolar seviyesindeki devasa pazarda yeni bir devrime hazırlanıyor. Finlandiya merkezli IXI, gözlük camlarında otomatik netleme yapabilen teknolojisiyle görme sorunlarını kökten çözmeyi hedefliyor …

Chery’den Haziran ayına özel SUV şöleni: Tüm modellerde cazip indirim ve kredi fırsatları

tr.motor1.com’dan Mert Gökhan’ın haberine göre, Chery, tüm SUV modellerinde önemli nakit alım indirimleri ve avantajlı kredi olanakları sunarak yeni bir araç sahibi olmayı kolaylaştırıyor. AİLELERİN TERCİHİ TIGGO7 PRO MAX’TE CAZİP SEÇENEKLER Konfor …

Drone’larla yağmur yağdıracaklar! Çöllere bile hayat gelecek

Birleşik Arap Emirlikleri (BAE), kurak iklimiyle mücadele etmek için bilim ve teknolojinin sınırlarını zorladı. Yıllık yağış miktarı 100 milimetreden az olan bu çöl ülkesi, drone teknolojisiyle yağmur yağdırmanın yollarını aradı. Reading Üniversitesi …