Yapay zekâ zihni zayıflatıyor mu?

Televizyon için ‘aptal kutusu’ diye bir tabir vardı, insanı daha az düşünmeye ve boş bakmaya yönelttiği için kullanılan... İnsanın bilgiyle etkileşimini hızlandıran ve kolaylaştıran teknolojiler, yeni çıktıkları zamanlarda çoğunlukla bilişsel kabiliyetlerimizi zayıflatabileceği düşüncesiyle eleştirilmişler. Şaşırtıcı gelebilir ancak aritmetik becerilerimizi azaltacağı sanılan hesap makinesi, hatta hafızayı zayıflatacağı öne sürülen matbaaya kadar geçmişi olan bir konu bu... Gerçekçi yanı da var;
cep telefonlarından önceki yıllarda en az 10-20 telefon numarasını aklımızda tutardık. Şimdiyse o yıllardan aklımızda kalan numara sayısı 2-3’ü geçmiyor. Yüzyıllar boyunca sezgilerimiz, yol işaretleri ve haritalarla dünya üzerinde her yeri sora sora bulabilirken şimdilerde yönlendirme olmadan yola çıkmaktan çekinir olduk. Hatta bildiğimiz yollarda bile navigasyon açma ihtiyacı geliştirdik.

Bugünse bilişsel bir devrimin eşiğindeyiz ve işlerimizde yapay zekâ yardımını kullanmaya alışmaya başlıyoruz. Akademisyenlerden gazetecilere, borsacılardan araştırmacılara kadar bilgiyle çalışan herkese yapay zekâ muazzam kolaylıklar sunuyor. Ancak ortada önemli sorular var: Yapay zekâya işleri devretmenin kolaylığına kapıldıkça kendi analiz ve eleştirel düşünme yetilerimizi zayıflatıyor olabilir miyiz? Yapay zekâya ne kadar güvenebiliriz? İlk sorunun yanıtı, hepimizin sağduyuyla hissedebileceği şekilde, ‘Evet’.

‘Eleştirel düşünme’

Microsoft Research Cambridge ve Carnegie Mellon Üniversitesi’nden araştırmacıların önceki hafta yayımladığı bir makaleye göre insanlar işlerinde üretken yapay zekâya giderek daha fazla güvendikçe eleştirel düşünme kabiliyetlerini daha az kullanıyorlar. Araştırmaya göre işlerin çoğunu yapay zekâya devretmek ‘korunması gereken bilişsel yetilerin bozulmasına neden olabilir’. Yapay zekânın düşünme yeteneğine etkilerini inceleyen araştırmada 319 kişiyle deneyler yapılmış. Sonuçlar, kullanıcıların yapay zekâya güvendikçe daha az eleştirel düşündüklerini gösteriyor. Yapay zekânın çıktılarından emin olmayan kullanıcılarsa daha fazla eleştirel düşünceyle sonuçları değerlendirme ve geliştirme eğiliminde olmuşlar.

Literatürde ‘eleştirel düşünme’ (critical thinking) insanın her tür bilgiyi derinlemesine değerlendirip bulgularına göre karar vermesi yönündeki süreci ifade ediyor. Öğrenme sürecini karakterize eden unsurlar arasında bilgi, kavrama, uygulama, analiz, sentez (fikirleri birleştirme) ve değerlendirme adımları var. Bu nitelikleriyle eleştirel düşünme, bilgiyle çalışan insanlara gerekli olan temel zihin kasını ifade ediyor. Bu perspektiften bakınca yapay zekâ, tam da desteklemek için kullanıldığı kabiliyeti zayıflatır görünüyor. Araştırmada yapay zekâ araçlarını kullanan kişilerin aynı görev için daha az çeşitli sonuçlar ürettiği ve bunun eleştirel düşünmenin azalmasıyla ilişkili olduğu da belirtilmiş. Zaman baskısı altındaki çalışanların yapay zekâdan destek alırken daha az eleştirel düşündüğü, risk oranı yüksek işlerde çalışanlarınsa yapay zekâ çıktılarının kalitesine daha fazla dikkat ettiği gözlemlenmiş. Yani iş yetiştirmek için kullanımı daha fazla düşünce tembelliğine yol açarken çalışanların sorumluluk payı ve riskler arttıkça tembelleşme de azalıyor.

Araştırmacılar bu durumu ‘bir otomasyon ironisi’ olarak nitelendiriyorlar: “Rutin görevleri mekanikleştirip istisnai durumları insana bıraktığınızda, kullanıcıların muhakeme yapma ve bilişsel kaslarını güçlendirme fırsatlarını elinden alırsınız. Bu da beklenmedik durumlar ortaya çıktığında yetersiz kalmalarına neden olabilir.” Peki, tüm bu hadiseyi yapay zekânın insanları aptallaştıracağı şeklinde yorumlayabilir miyiz? Fikrime göre doğal seçilimin yani evrimin kendini göstereceği bir senaryoyla karşı karşıyayız. Yapay zekâ az nitelik gerektiren işlerde çalışan bir insanı tembelleştirerek ona daha az ihtiyaç duyulan bir ortam yaratabilir. Kişi ya niteliklerini geliştirme ya da işini kaybetme seçenekleri arasında kalır. Daha kabiliyetli ve kendini geliştiren, sorumluluk alabilen bireylerse sezgilerini yapay zekânın çıktılarını ve çalışma biçimini değerlendirecek şekilde geliştirebilir ve üstün güçler kazanabilirler.

Bir seçenek daha var ki; o da yapay zekânın insanın düşünme kabiliyetini destekleyecek biçimde geliştirilmesi. Araştırmacılar “Yapay zekâ araçları, kullanıcıların eleştirel düşünme becerilerine yardımcı olacak şekilde tasarlanabilir. Örneğin, argümanları analiz etme veya kesin kaynaklarla çapraz doğrulama yapma yetilerini teşvik edebilir” diye belirtiyorlar.

Bilmediğini biliyor mu?

Yapay zekânın çıktılarından emin olmak bilgi çağının en büyük handikaplarından biri. Halüsinasyon tabir edilen uydurma bilgiler, çoğunlukla yazılımı geliştirenlerin kritik bir tercihinden kaynaklanıyor. Üretken yapay zekâlar, ‘Bilmiyorum’ demek yerine bir sonuca ulaşmaya güdümlü oldukları için bazen sonuçları ‘bulabildiği kadar’ veya alakasız yerlerinden ilişkilendirerek bir yanıta ulaştığına karar verebiliyor. Şayet yapay zekâ kâr amacı güden bir kuruluşa aitse ‘her koşulda bir sonuç göstermesi ve kullanıcıyı yanıtsız bırakmamasına’ öncelik verilmiş olabilir. İşte bu yüzden yapay zekânın birkaç şirketin tekelinde değil, insanlığa açık kaynaklı olması büyük önem taşıyor.