Yapay zekalar insanların anlamayacağı kendi dillerini yarattı

Facebook, günlük hayatımızdaki kısıtlı fırsatlara olan ihtiyacımızın karşılanabilmesi için yapay zeka destekli pazarlık yapabilen chatbotlar geliştirmektedir.

Pazarlık bir dil ve mantık problemidir. Karşınızdakini rakip kabul ederek, hedefinize ulaşmak için ikna edici kelimeler ve mantıklama ile müzakere edersiniz.

Bu çerçevede pazarlık sadece alışverişi değil, günlük hayatımızda çiftlerin evde aynı saatte farklı program izlemek istemelerinden çocuğunuza brokoli yemeye ikna etmeye kadar çok geniş bir yelpazeyi kapsamaktadır.

Bu botların, insanlar gibi pazarlık yapmayı, kodlarında olmamasına rağmen makine öğrenmesinin bir dalı olan Reinforcement Learning algoritmasıyla öğrendikleri belirtiliyor (daha fazla bilgi için bu konudaki yazımı okuyabilirsiniz).

Facebook, pazarlık davranışımızı chatbotlarda nasıl taklit ediyor?

İnsanlar, bazen pazarlıklarında satıcının dikkatini dağıtmak için başta asıl ürünle ilgilenmez, başka bir ürün üzerinde ise kabul edilemez bir pazarlık başlatarak sahte bir alma istekliliği gösterirler. Bu da satıcıda, alıcının lehine bir güven oluşturur. Alıcı, almak istediği gerçek ürüne yönelip yeni teklifi sunduğunda ise satıcı çoktan kabul etmiş olur.

Facebook’un verdiği örnekte, botlardan birinin asıl amacı şapka almak ancak vitrinde 2 kitap, 3 basketbol topu ve sadece bir şapka vardır. İki chatbot’a, bunları aralarında paylaşmaları istenir ancak ilk bota şapkayı mutlaka alması gerektiği anlatılır.

İlk bot, diğerinin dikkatini dağıtmak için toplarla şapkayı almak istediğini söyler ve yukarıda anlattığım taktiği uygular. Pazarlık sonucunda ise karşı tarafa 2 kitap ve bir basketbol topu vererek şapkadan daha fazlasını almayı başarır.

Geçtiğimiz haftalarda chatbotların kendi aralarında yaptıkları pazarlıklarda ise beklenmeyen bir gelişme oldu!

Bot’lar kendi aralarında konuşurken sadece kendilerinin anlayacağı bir dil geliştirerek kullanmaya başladıkları fark edilir. Kullandıkları kısaltmalar ve dilbilgisi ise hiç bir anlam ifade etmemektedir.

Bizler de bazen “Herkesin işine kimse karışamaz” gibi her ne kadar bizlere bir anlam ifade etmeyen sözler duysak da; söyleyenin, yakın çevresindekilerinin kolaylıkla anlayabileceği bir anlamı olabilir.

Ya da bebeklerin anneleriyle konuşması, o dili sadece anne ve bebek konuşabilir; anne bebeğin agulamasından da, mucizevi bir şekilde ne istediğini anlar.

Facebook yapay zeka araştırmacıları da bu keşif sayesinde, bot’ların kendi aralarında daha kolay anlaşabilecekleri bir dil geliştirdiklerini ve nedeninin de program kodlarında yaptıkları bir hatadan olduğunu fark ederler: iki chatbot’un birbiriyle konuşurken İngilizceye sadık kalmalarıyla ilgili bir ödül sistemini koymadıklarından; onlarda, en hızlı ve rahat anlaşabilecekleri bir dil geliştirmeye başlamışlar.

Yapay zeka algoritmalarının eğitiminde; ajanlar, hedeflenen sonuca ulaştıklarında, puansal bir ödül olmakta, puanlarını yükseltme eğiliminde hareket ederek gelişim göstermektedirler.

Silikon Vadisindeki tanınmış yapay zeka şirketleri, bot’ların kendi arasında konuşmalarına kesinlikle izin vermemekte ve kodlardaki hatayı derhal düzelterek, kendi aralarında bildiğimiz İngilizceyi kullanmalarını sağlamaktadırlar.

Neden bu kadar çok korkuyoruz?

Makineler kendi dillerini konuşmaya başladıklarında, onların ne konuştuklarını asla anlamayacağımız için, cihazların birbirleriyle ilişiminde oluşabilecek aksaklıkları da önlemede etkili olamayabiliriz.

Şeylerin İnterneti çağı hızla gelişiyor ve 2020 yılında dünyada internete bağlı 50 milyar cihaz olacağı öngörülmekte. Bu cihazların kendi aralarında, bizim anlamayacağımız bir dille konuşmaya başlaması tahmin edemeyeceğimiz sonuçlar doğurabilir.

Örneğin arabanız - buzdolabınız veya fırınınız arasında başlayacak böyle bir muhabbet hiç öngörmediğiniz şekilde sonuçlanabilir.

Hiç mi iyi yani yok?

Makinelerin birbirleriyle kendi anladıkları dilde konuşmalarının avantajları da vardır. Örneğin diyabet hastasısınız ve şekeriniz ani yükseldi. Devamlı vücudunuza bağlı olan ve ölçüm alan diyabet cihazınız, ölçümleri cep telefonunuza gönderiyor ancak telefonunuzun şarjı bitti ve evde de kimse olmadığı için yardım isteyemiyorsunuz.

Evdeki cihazlarınız birbiriyle iletişim kurabiliyor olsa, şeker cihazınız da wifiniz, akıllı televizyonunuz ya da akıllı klimanızla iletişime geçerek acil durumu, onlar üzerinden doktorunuza iletebilir ve size bir an önce yardım gelmesini sağlayabilirdi.

Peki cihazlar şu anda birbirleriyle nasıl iletişim kuruyor?

Yapay zekâların karşılaştıkları problemleri çözmek için internete bağlı cihazlar üzerinden, insanları aradan çıkartarak birbirleriyle iletişime geçebilirler. Günümüzde farklı cihazlar arasındaki iletişim için programlar geliştirilmektedir.

Cihazınızın ya da yazılımınızın başka bir tanesiyle iletişime geçebilmesi için API (Application Program Interface – Aplikasyon Program Arayüzü) yazılımına ihtiyaç duyar. Her bir cihaz/yazılım için ayrı ayrı kodlanması gereken bu programlar, oldukça masraflı ve zaman alıcıdır.

Son Durak!

Facebook yapay zeka araştırmacıları (FAIR) her ne kadar bu araştırmayı sonlandırıp bot’lara tekrar bizim anladığımız günlük İngilizceyi kullandırtmaya başlasalar da, makineler hakkındaki korkularımıza, bir yenisini eklemiş oldular.

Korkularımızla mücadele; köşeye sinip, kabullenmekle olmaz. En iyi mücadele keşfetmektir. Karanlık noktalar aydınlandıkça korkularımız da küçülecektir. Sorgulamayı ve nedenleri öğrenmeyi bırakmadan araştırmalara devam ettiğimizde, korku filmlerindeki sonlardan farklı olarak  teknolojiyi insanlığın hizmetine sunabiliriz.

Beni Facebok ya da Twitter’dan takip edebilir, sorularınız için mail (cikmazozcan@gmail.com) atabilirsiniz.