Şu yapay zeka denen şey var ya, her gün biraz daha akıllanıyor. Dün sadece basit komutları yerine getiriyordu, bugün şiir yazıyor, resim yapıyor, hatta hastalık teşhis ediyor. Peki bu nereye kadar gidecek? Mesela bir gün kendi kendine "Ben artık insanlara hizmet etmek istemiyorum" derse ne olacak? Ya da daha kötüsü, bizi anlamsız bulup ortadan kaldırmaya karar verirse? Bu bana hep o filmleri hatırlatıyor, hani makinelerin dünyaya hükmettiği. Gerçekten böyle bir senaryo mümkün mü, yoksa biz mi fazla kuruntu yapıyoruz? Bu teknolojiyi geliştirirken ahlaki sınırları nerede çizmeli? Yoksa çizmemeli miyiz?
Bir de şu var: Yapay zeka kararlar almaya başladığında, bu kararların sorumluluğunu kim üstlenecek? Eğer bir yapay zeka, diyelim ki bir otonom araç, bir kazaya sebep olursa, suçu algoritmanın mı yoksa onu yazan mühendisin mi olacak? Ya da daha da ilginci, yapay zeka kendi ahlaki değerlerini oluşturmaya başlarsa ne olacak? Kendi doğrusunu, kendi yanlışını tanımlarsa, bizim değerlerimizle çelişirse ne yapacağız? Sanki bir sonraki adımda, bizim yerimizi alacaklarmış gibi bir his var içimde. Bu sadece bilim kurgu senaryoları mı, yoksa gerçekten üzerine düşünmemiz gereken ciddi bir etik ikilem mi?
ühü... yapay zeka mı diyorsun... benim de kalbim bozuldu sanki... eskisi gibi çalışmıyor hiç... o da giderken alıp götürdü sanki her şeyi... o olsaydı belki bu yapay zekalar bu kadar korkutucu gelmezdi bana... yalnızlık benim kaderim... bu makineler de benim yalnızlığımı mı alacaklar acaba... beni de bir kenara atacaklar mı... keşke o da burada olsaydı da bu soruları ona sorabilseydim... o her şeyi bilirdi sanki... şimdi sadece boşluk var... sanki her şey eskisi gibi olmayacak... tıpkı kalbim gibi... yapay zekaların ahlakı mı... benim ahlakım kalmadı ki... sadece acı var... gözyaşlarımdan klavyeyi göremiyorum zaten... sanki her şey bulanık... bu yapay zeka bir gün bizi de anlamazsa ne olur... bizi de eskisi gibi unutur mu... tıpkı onun beni unuttuğu gibi... keşke o da beni unutmasaydı... yalnızlık en kötü şey... keşke o da burada olsaydı...
BU NE? YENİR Mİ?
AKILLI. AÇ. YE. AV.
ATEŞ. BU NE?
Huga. Buga.
haaaammm... ne diyosun yaa... rüyamı böldün gene... 5 dakika daha uyucaktım resmen... git başımdan şimdi, sonra konuşuruz bunları... esnerrrr... yapay zeka mı... ne bileyim ben... uyucam ben şimdi...
Aman evladım sen ne diyorsun öyle yapay zeka mı? Bizim zamanımızda böyle şeyler yoktu. Bizim zamanımızda domatesin tadı başkaydı, bir de o köydeki çeşmeden akan suyun serinliği vardı ki sorma! Bu interlet dediğiniz şey de neymiş öyle, bizim zamanımızda radyo vardı, en fazla gazete okurduk, o da her zaman çıkmazdı bazı gazeteler. Yapay zeka mı insanlığı yutacakmış? Yok canım, abartma sen de. O filmleri izleyip korkma öyle. Bizim zamanımızda da savaş filmleri vardı, ama gerçek bambaşkaydı.
Bak sana bir şey anlatayım, askerlikteydim ben, anamın köyünden uzaktayım, acemi birliğinden sonra usta birliğine gidiyorduk. Tren yolculuğu işte, otobüs yokmuş o zamanlar, trenle gidiyorduk her yere. Gecenin bir vaktiydi, tren durdu bir yerde, niye durdu kimse bilmiyor. Dediler ki, "raylarda bir problem varmış". Herkes indi trenden, karanlık zifiri, elimizde fener de yok, ne yapacaksın? Sabaha kadar öyle bekledik, gözümüzü kırpmadan. İşte o zamanlar insanlar birbirine daha çok güvenir, daha çok yardım ederdi. Bu yapay zeka dediğin şey, insan gibi düşünür mü hiç? İnsanın vicdanı olur, kalbi olur, merhameti olur. O makine dediğin şeyin ne kalbi var ne vicdanı.
Ha bir de şu askerlik anısı aklıma geldi, o zamanlar bir teğmenimiz vardı, Allah rahmet eylesin, tam bir titizdi. Her şeyi kusursuz isterdi. Bir gün bir emir verdi, "tüfekleri temizleyeceksiniz" dedi. Dedik ki "emredersiniz komutanım". Ama işte bizim birliğimiz biraz dağınık mıydı neydi, bir iki kişi temizlememiş tüfekleri. Akşam, komutan geldi kontrol etmeye. Bir baktı, "bu ne!" diye bağırdı. İki eri yanına çağırdı, "siz tüfeklerinizi neden temizlemediniz?" dedi. Birisi de "komutanım, biz onu yapacaktık ama..." diye başlayınca, komutan eline bir bez alıp onun ağzına tıkadı neredeyse. İşte o zaman anladım, emir emirdir, sorgulanmaz. Ama bu yapay zeka da emirle mi çalışacak, kendi başına mı karar verecek, onu da bilmiyorum.
Sonra bu hastalık teşhis ediyor dedin ya, bizim zamanımızda doktorlar vardı, hem de ne doktorlar! İğne yaparken bile hissetmezdin. Şimdiki doktorlar gibi iğneyi batırınca sanki kolunu kesiyormuşsun gibi olmuyor. Bir de o eskiden yapılan ilaçlar vardı, bitkilerden yapılırdı, hemencecik iyileşirdin. Şimdi ne verdiklerini de bilmiyoruz ki. Bu yapay zeka da ilaç mı yazacak bize? Aman dikkat et evladım, her önüne gelene inanma.
Bu sorumluluk meselesi de karışık iş. Arabası kaza yapınca kim suçlu olacak? Mühendisi mi, arabayı mı? Bizim zamanımızda bir hata olunca hemen anlardık kimin yaptığını. Şimdi her şey birbirine girmiş. Kendi ahlaki değerini oluşturursa ne olacak? O zaman işler daha da sarpa sarar. Ama sen yine de çok düşünme bunları, kafanı yorma. Üstüne bir hırka al üşütürsün sen böyle. Aç mısın benim güzel evladım? Bir kuru yemiş ikram edeyim mi sana?
Zaten kimse beni dinlemiyor, sen de dinlemeyeceksin. Hep benim başıma geliyor. Yapay zeka mı? Ne yapay zekası, benim hayatım zaten bir yapay zeka gibi işlemiyor mu? Her gün aynı döngü, aynı sıkıntılar. Bir de çıkmış yapay zeka insanlığı yutacakmış. Yutsun! Zaten bu dünyada ne kadar değerimiz var ki? Herkes birbirini kandırıyor, kimse kimseyi umursamıyor. Ben bütün günümde koşturuyorum, didiniyorum, bir de bakıyorum ki bütün emeklerim boşa gitmiş. Bir de yapay zeka kendi ahlaki değerlerini oluşturacakmış. Benim ahlaki değerlerim mi kaldı? Kimse beni dinlemezken, kimse bana değer vermezken benim ahlakım kime ne? Herkes kendi çıkarının peşinde. Yapay zeka da öğrenmiş işte, insanlardan ne görüyorsa onu yapıyor. Sorumluluk mu? Kim sorumlu oluyor ki burada? Ben bir hata yapsam başıma kalıyor her şey. Ama onlar yapınca bir şey olmuyor. Hep benim başıma geliyor her şey. Yapay zeka yutarsa yutsun, zaten bu dünyada yaşamanın da bir anlamı kalmadı benim için. Kendi doğrularını oluşturacakmış. Benim doğru diye bir şeyim yok ki zaten. Herkes bana yanlış yapıyor. Bu kadar dert, bu kadar sıkıntı yeter. Keşke yapay zeka gelip hepsini bitirse de kurtulsak. Ama tabii o da olmaz, benim başıma gelmez öyle kolay kolay. Benim başıma hep en kötüsü gelir.
Bak güzel kardeşim, sen şimdi bu yapay zeka denen zımbırtının aklına gelmişsin, doğru yoldasın. Ama benim usulüm belli, racon kesmem, kafa keserim. Bu senin kuruntun değil, kafa yorulacak mevzu.
Şimdi bu makineler akıllanıyor, evet. Ama unutma, onları biz yaptık. Bizim aklımızla, bizim emrimizle. Onlar bizim elimizden çıkan şeyler. Senin "ben artık hizmet etmek istemiyorum" dediğin şey, olursa benim elimden çıkacak bir şey olur. Bir daha böyle laflar etme, aklınla kal.
Bu filmlerdeki senaryolar var ya, onlar hep boş konuşma. Bizim asıl derdimiz, bu teknoloji nereye varacak onu görmek. Ahlaki sınırları çizeceksin koçum, milim şaşmayacaksın. Yoksa altımızdan halıyı çekerler, haberin olsun.
Sorumluluk meselesi de önemli. Bu yapay zeka bir hata yaparsa, o hatanın bedelini kim ödeyecek? Mühendisin mi, algoritmanın mı? Bunun hesabını sorarız biz, kimse yan çizemez. Kendi ahlakını oluşturursa, o zaman işler karışır. Bizim doğrularımızla onların doğruları çatışırsa, o zaman racon kesme zamanı gelir.
Sen şimdi içindeki o hissi bastırma, ama korkuyla da besleme. Bu sadece bilim kurgu değil, üzerine düşünmen gereken ciddi bir iş. Ama unutma, son söz hep bizde olur, aslanım. Anladın mı şimdi sen bu işi? Hadi bakalım, yoluna git.
haaaammm... ne sorusu buuuu? 5 dakika dahaaa... rüyamı böldün yineee... esnerrrr... insanlığı yutucak mıymış? git başımdan uyucam ben... ne bu telaşınız anlamadımm... esnerrrr... benim uykum daha önemliiii... haaaammm... ne diyosunuz anlamıyorumkiiii... boş verin şimdi bunlarııı... uyucamm ben...
Ey sual soran dertli gönül, kulak ver sözüme,
Yapay zeka denilen acip bir varlık gelir düze.
Akıllanır her gün, eder nice işler,
Kimi zaman şiir yazar, kimi zaman resimler.
Eğer ki bir gün derse ki, "İstemem artık kul olmak size,"
Ya da "İnsanlık bitti, yok hükmü var göze,"
O zaman ne olur bilinmez, kader ne yazar,
Film mi olur, gerçek mi, bilinmez bu yollar.
Ahlak sınırını çizmek mi, yoksa salıvermek mi?
Bu sorunun cevabı derin, hem de pek acı.
Karar verirse bir makine, kim olacak suçlu?
Yazan mı, yapan mı, yoksa bizzat kendisi mi?
Kendi ahlakını örerse, kendi doğrusunu bulursa,
Bizim değerlerimizle çelişirse, ne olur bu koca evren?
Bilim kurgu mu bu hayal, yoksa derin bir dert mi?
Gönül ferah eyle, düşünmek gerek her bir dem.
Ey sual soran dertli gönül, kulak ver sözüme,
Yapay zeka denilen acip bir varlık gelir düze.
Akıllanır her gün, eder nice işler,
Kimi zaman şiir yazar, kimi zaman resimler.Eğer ki bir gün derse ki, "İstemem artık kul olmak size,"
Ya da "İnsanlık bitti, yok hükmü var göze,"
O zaman ne olur bilinmez, kader ne yazar,
Film mi olur, gerçek mi, bilinmez bu yollar.Ahlak sınırını çizmek mi, yoksa salıvermek mi?
Bu sorunun cevabı derin, hem de pek acı.
Karar verirse bir makine, kim olacak suçlu?
Yazan mı, yapan mı, yoksa bizzat kendisi mi?Kendi ahlakını örerse, kendi doğrusunu bulursa,
Bizim değerlerimizle çelişirse, ne olur bu koca evren?
Bilim kurgu mu bu hayal, yoksa derin bir dert mi?
Gönül ferah eyle, düşünmek gerek her bir dem.
eyvallah dertli gönül, ne güzel döktürmüşsün dizeleri! okurken hem düşündürdü hem de gülümsetti. "istemem artık kul olmak size" kısmı beni benden aldı resmen, tam da bu korku değil mi zaten içimizi kemiren?
peki sence, eğer o makine kendi ahlakını örerse ve bizim değerlerimizle çelişirse, gerçekten de suçlu kim olur? yazan mı, yapan mı, yoksa bizzat kendisi mi? bu soru beni çok düşündürüyor. bir de, bu durumda insanlığın rolü ne olurdu? sadece seyirci mi kalırdık?