Yapay Zeka, insanlar tarafından yapıldığında belirli bir zeka gerektiren işleri yapabilen makineler anlamına gelen bir bilim kavramıdır. Yapay zeka Makine Öğrenimi ve Derin Öğrenme adı altında iki başlıktan oluşmaktadır. Yapay zeka günlük hayatımızda her gün daha fazla varlığını hissettirmekte olduğundan daha fazla problem meydana gelmekte ve söz konusu problemlerin mevcut yasalarla çözülmesi güçleşmektedir. Bu kapsamda, söz konusu problemlerin çözümü için öncelikle kişiler hukuku kapsamında yapay zekaya kişi statüsü verilip verilmemesi gerektiği, sorumluğun buna göre tespit edilmesi gerektiği görülmektedir. Bu konuya ilişkin yaklaşımlar bakımından Avrupa Parlamentosu’nun yapay zekânın hukuki statüsüne ve yapay zekâ kullanımının verdiği zararlardan sorumluluğa ilişkin tavsiye Raporu dikkate alınmalıdır.
Anahtar Kelimeler : Yapay Zeka, Medeni Hukuk, Elektronik Kişilik, Makine Öğrenimi ve Derin Öğrenme
Giriş
Teknoloji alanındaki gelişmeler karşısında artık yalnızca bilişim alanında değil, bankacılık, iletişim, finans ve e-ticaret, haberleşme, online alışveriş, müşteri hizmetleri, sağlık, otomotiv, sanayi ve robotik gibi birçok alanda uygulanabilirliği artmış olan yapay zeka uygulamaları, hukuki meseleleri ve bu kapsamda oluşturulması gereken hukuki düzenlemeleri de beraberinde getirmektedir.[1] Zira sözü geçen alanlarda daha önceleri insanda bulunan otonom olarak karar verme ve karar doğrultusunda icra etme kabiliyeti, kısmen de olsa makinelere geçmiş gibi görünmektedir.[2]
Küresel olarak şirketler ve yatırımcılar yapay zeka çalışmalarına ve robotlara çok fazla yatırım yapmaktadır ve bu alandaki gelişme çok hızlı seyretmektedir. Gelinen noktada arama motorları, akıllı kişisel asistanlar, sürücüsüz araçlar ve üç boyutlu yazıcıların hayatımıza entegre olduğunu görmekteyiz. Dolayısıyla bu çalışmanın konusu, insanların görevlerinin bir kısmını – en azından şimdilik – üstlenen yapay zekanın Medeni Hukuk kapsamında bir kişi olarak değerlendirilir değerlendirilmemesi gerekliliğidir.
1- YAPAY ZEKA
TDK Büyük Türkçe Sözlük’te “Zeka” kavramı, “İnsanın düşünme, akıl yürütme, objektif gerçekleri algılama, yargılama ve sonuç çıkarma yeteneklerinin tamamı” olarak tanımlanmaktadır.[3] “Yapay Zeka” – Artificial Intelligence (AI) ise bir bilgisayarın veya bilgisayar kontrolündeki bir robotun çeşitli faaliyetleri zeki canlılara benzer şekilde yerine getirme kabiliyeti olarak tanımlanmaktadır.[4]
Yapay zeka bilgisayar biliminin bir alt dalı olup kavram olarak ilk kez Amerikalı bilgisayar bilimci John McCarthy tarafından 1956 yılında ortaya atılmıştır. Yapay zekayı tanımlayacak olursak, “insanların yapmak için belirli bir zeka ortaya koydukları işleri yapabilen makineler” olarak tanımlanabilir.[5] Bununla birlikte yapay zeka bu tür makineler yapmak için kullanılan bir şemsiye/üst terimdir. Yapay zeka sayesinde bilgisayarlar, araba kullanmak, dizi senaryoları üretmek ve satrançta dünya şampiyonu olmak gibi pek çok eylemde bulunmaktadır. Yapay zeka başlangıçta bu eylemleri insanları taklit ederek yapıyor olsa da zamanla problem çözme yeteceğinin gelişmesiyle bu şeyleri insanoğlundan daha iyi ve hızlı yapar hale gelmiştir.[6]
Yapay Zeka başlığının altında iki yöntem yatmaktadır: Makine Öğrenimi ve Derin Öğrenme. Bunlardan Makine Öğrenimi en çok bilinen ve sıklıkla Yapay Zeka ile karıştırılan bir kavramdır. Aslında makine öğrenimi, bir bilgisayarın zeki olmasına, çevresinden öğrenmesine ve giderek performansını geliştirmesine olanak veren bir yöntemdir. Yapay zekâ, makine öğrenimi sayesinde insanlar gibi öğrenmektedir.[7] Bu şekilde bu zeki bilgisayarlar kendi deneyimlerinden öğrenmekte olup binlerce algoritma geliştirerek giderek daha zeki hale gelmektedirler. Bununla birlikte, derin öğrenme, makine öğreniminin içinden doğan ve çok daha yeni olan onun bir alt dalıdır. Derin öğrenme, makine öğrenimine kıyasla daha büyük ve daha karmaşık sorunları çözmek için daha güçlü bilgisayarlarda kullanılmakta olup “büyük veri” (big data) ile ilişkilendirilmektedir.
Yapay zeka makine öğrenimi, derin öğrenme, otonom teknolojiler vb. olmak üzere hayatın birçok alanına yayılmıştır. NITI Aayog(2018) yapay zekayı şu şekilde tanımlamıştır: “Makinelerin daha yüksek düzeyde zeka ile hareket etmesini, insan duyu, kavrama ve hareket yeteneklerini taklit etmesini sağlayan bir teknoloji takımyıldızı”
Yapay Zeka Türleri
Yapay zeka bilim insanları tarafından türlere ayrılmaktadır. Bu ayrım kapsamında üç tür yapay zeka bulunduğu söylenebilir. Bunlar, “Dar Yapay zeka”, “Genel Yapay Zeka” ve “Süper Yapay Zeka” dır.
“Dar Yapay Zeka”, günümüzde sıklıkla karşılaştığımız yapay zeka türüdür. Belirli bir problemi çözmek veya işi görmek için tasarlanmıştır. Dar Yapay Zeka, insanoğlunun sahip olduğu tecrübelerden öğrenme ve farklı alanlar arasında bilgi aktarımı yeteceğine sahip olmadığı için, hangi alanda işlev görmesi için tasarlandıysa yalnızca o alanda faaliyet gösterebilir. Örneğin : Otonom araçlar, Alışveriş tarihine göre öneri sistemleri, Yüz tanıma sitemleri, Siri, Alexa
“Genel Yapay Zeka” ise, tecrübe ettiği bilgi ve beceriyi geliştiren, neden-sonuç ilişkisi kurabilen, öz farkındalığı bulunan, kavramsal ilişkiler kurabilen, bulunduğu ortamı algılayan ve farklı bağlamlardan çıkarım yapabilen insan zekasına en yakın yapay zeka türüdür. Genel Yapay Zeka, herhangi bir işlemi bir insan kadar başarabilip bir insan kadar öğrenebilir. Çok yönlü algılama yeteceği vardır. Bu tür henüz tam anlamıyla gerçekleşmiş değildir ve daha çok bilimkurgu filmlerinde ortaya çıkmaktadır.
Örneğin : Westworld dizisinde yer alan Yapay Zeka sistemleri, “Ben, Robot”(Isaac Asimov tarafından aynı adlı romandan uyarlama) isimli filmdeki “Sonny” karakteri “Süper Yapay Zeka” ise insandan çok daha zeki, her alanda uzmanlaşma yeteceğine sahip, insandan çok daha hızlı algılama ve düşünme yeteceğine sahip olan insanüstü bir makinedir. Süper Yapay Zeka, Genel Yapay Zeka’nın yapabildiği her şeyi yapabilmekle birlikte; Genel Yapay Zeka’dan farklı olarak insan kapasitesini aşmaktadır. Bu tür yapay zeka, bilimkurgu filmlerinde karşımıza çıkmaktadır.[8] Örneğin: “Ex Machina” filmindeki “Ava” karakteri, Matrix filmindeki makine ve ajanlar, “Çocukluğun Sonu”(Arthur C. Clarke) eserindeki Karellen
Kaplan ve Haenlein, yapay zekâyı üç farklı çalışma sistemine göre sınıflandırır: “analitik”, “insandan ilham alan” ve “insansı” yapay zekâ.
Bu çerçevede “analitik yapay zeka” gelecekteki kararlarını vermek için geçmişteki verilere ve istatistiksel deneyimlere dayanan, bu yolla öğrenerek mevcut verisini otonom olarak sürekli güncelleyen ve algoritmik yorumlar yaparak bu mevcut veriyi esnekçe kullanan yapay zeka türüdür. Bu tür yapay zekanın çalışma prensibi “makine öğrenmesi – machine learning” olarak da adlandırılmaktadır.[9] Zira bu halde makine, çevresinden edindiği çeşitli bilgilerle öğrenme faaliyeti gerçekleştirmekte ve zaman içerisinde belleğindeki veriler arttıkça performans artışı göstermektedir. Örnek vermek gerekirse, hava tahminlerinde kullanılan yapay zeka veya satranç, Go gibi oyunlarda tecrübe kazandıktan sonra yenilmez hale gelen yapay zeka örnekleri bu kapsamda değerlendirilmektedir.
“İnsandan ilham alan yapay zeka”, karar verme süreçlerinde algoritma gibi bilişsel unsurlar (IQ) ile birlikte duygusal (EQ) zekanın unsurlarını da içerir; en azından tespit ettiği harici duygusal verileri otonom kararlarında kullanabilir.[10] Aslında günümüz “web 2.0” internet altyapısının bu prensibe yaklaştığı söylenebilir. Şöyle ki bir web 2.0 web sitesi, kullanıcıların pasif olarak yer aldığı ilk nesil web 1.0 sitelerinin aksine, onların birbirleriyle etkileşimde bulunmalarına ve iş birliği yapmalarına, böylelikle içeriği hatta “büyük veri”yi (big data’yı) beraberce oluşturmalarına olanak sağlamaktadır.
Bu yolla ve elbette kullanıcı davranışlarıyla oluşan büyük veri (big data), yapay zekâ tarafından kullanıcı tercihlerini tespit etmekte ve her kullanıcı bakımından özel olarak içerik belirlenmesi ve sunulmasında kullanılmaktadır. Örneğin, bir kişinin sıklıkla ziyaret ettiği web adreslerinden, onun kullanım alışkanlıkları, genel kişisel eğilimleri, ilgi alanları, siyasi görüşü hatta duygu durumuna ilişkin dahi içerikle(haberle, reklâmla, ürünle, hatta sosyal medya kişisiyle) karşılaşması sağlanabilmektedir.[11]
Her kullanıcıdan toplanan söz konusu veriler ise makro ölçekte “büyük veri – big data” olarak adlandırılmakta ve genel hafıza olarak yapay zekanın hizmetine(yorum ve otonom kararlarına) sunulmaktadır.[12]
“İnsansı yapay zeka” ise, bilişsel ve duygusal işlevlerin yanı sıra diğer türdeşleri veya insanlarla etkileşime girebilen ve bu yönüyle sosyal zeka özelliklerini de gösteren zeka türüdür.[13] Bu türe örnek verecek olursak, otonom araçların trafikte birbirleriyle irtibat kurarak -şu an bu altyapı hazır ancak yasal olarak henüz süreç tamamlanmadı- trafikte uyum içinde olmaları veya bir üretim tesisinde sosyal bir topluluk şeklinde koordine olarak hareket edebilen(etkileşimli) askeri, tıbbi veya endüstriyel robotlar/botlar, gelişim hızı da göz önüne alındığında çok uzun olmayan bir süre içerisinde hayatımıza entegre olacak gibi görünüyor.
Yapay zekanın gelişmemiş veya gelişimini tamamlamamış türleri üzerinde çalışmalar halen devam etmektedir, ancak küresel çapta hukuk sistemleri gelecek nesil olan söz konusu makinelere hazır olmaktan uzaktır. Yine de uzmanlar 2030 yılına gelindiğinde robotlar ve insanların birlikte yaşayacağını ifade etmektedirler. İleride insan ve makine arasındaki etkileşimin bir insan ve makine etkileşiminden ziyade iki insan arasındaki etkileşimi andıracağı tahmin edilmektedir. Hukuk kurallarının bu nedenle ileride daha da yetersiz hale geleceği aşikardır, yeni düzenlemelere ihtiyaç vardır.
“Yapay zeka araştırmalarının nihai amacı, bir insan(ki bunu başarmaktan çok uzaktayız) veya, daha alçakgönüllü bir hayvan yaratmaktır.”[14]
2- Yapay Zekanın Hukuki Kişilik Statüsü
a- Türk Medeni Hukuku’nda Kişilik Kavramı
Hukuki sorumluluğun gündeme gelebilmesi için öncelikle hukuk düzeni tarafından ilgili sujeye kişilik tanınmış olması gerekmektedir. Başka bir deyişle, yapay zekanın otonom karar ve fiilleriyle neden olduğu zararlardan yapay zekayı bizzat sorumlu tutabilmek için yapay zekaya Türk Medeni Kanunu kapsamında bir kişilik tanınmış olması gerekmektedir. 4721 Sayılı Türk Medeni Kanunu’nun(TMK) ilk kitabı Kişiler Hukuku’nu düzenlemektedir.
Kişilik hakkında temel tartışma, John Chipman Gray’in “Nature and Sources of the Law” eserinde yer almaktadır.[15] Bir varlığın/nesnenin kişi olarak kabul edilmesi sorusu, bu varlığın hukuki hak ve yükümlülüklere sahip olup olamayacağı ya da olması gerekip gerekmediği ile ilgili sorulara indirgenebilir.[16] Kişilikle birlikte bulunan birtakım hak ve yükümlülüklerin kapsamı, söz konusu varlığın yapısına göre değişiklik göstermektedir. Örneğin şirketler de hukuki anlamda kişi olarak değerlendirilmektedir, ancak sahip olduğu hak ve yükümlülükler gerçek kişininkilere göre farklılık arz etmektedir. Bununla birlikte hukuki anlamda kişilik, genellikle mülkiyet hakkına ve dava ile taraf ehliyetine sahip olmak şeklinde belirtilebilir.
Gray, tarihi süreçte zaman zaman cansız şeylerin de hukuki varlığa sahip olduğunu belirtmiştir. Örneğin, Roma’da tapınakların ve Orta Çağ’da kilise binalarının hukuki haklara sahip bulunduğu kabul edilmekteydi. Antik Yunan Hukuku ve İçtihat Hukuku nesneleri dahi hukuki yükümlülüklerin konusu haline getirmiştir.[17] Deniz Hukukunda ise, geminin de hukuki sorumluluğunun bulunduğu ve şartları oluştuğu takdirde suçlu bulunabileceği ifade edilmiştir.[18] Gerçek kişi olmayan hukuki kişilerin en bilinen örnekleri ise, şirketler ve devlet kurumlarıdır.
TMK uyarınca Türk Hukuku’nda mevcut durum itibariyle kabul edilen iki tür kişilik bulunmaktadır: Gerçek Kişilik ve Tüzel Kişilik. Söz konusu ayrım yalnızca Türk Hukuku’nda değil, aynı zamanda tüm çağdaş hukuk sistemlerinde de geçerli olan bir ayrımdır. Yine tüm çağdaş hukuk sistemlerinin ortak kabulü uyarınca gerçek kişiler, insanlardır.
Gerçek Kişiler haklara ve borçlara sahip olma bakımından cinsiyet, yaş, ekonomik statü vb. farklılıklara tabi olmaksızın eşittir ve herkes yalnızca insan olması sebebiyle söz konusu hakların sujesidir.[19] Bu kapsamda her insanın hak ehliyeti mevcuttur ve söz konusu hak ehliyeti “sağ ve tam doğmak koşuluyla” ana rahmine düşüldüğü andan itibaren kazanılmaktadır.[20] Hak ehliyetiyle birlikte insanlar mülk edinebilme, sözleşmenin tarafı olma, hak ve borç altına girme, kendi eylemlerinin sorumluluğunu üstlenme, seçme ve seçilme hakkına sahip olma vb. hak ve yükümlülüklerin altına girmektedir.
Tüzel kişiler ise insanların dışında kalan ve kendilerine hukuk düzeni tarafından farazi bir kişilik olan mal ve şahıs topluluklarıdır. Medeni Hukuk tüzel kişileri belli bir amaca özgülenmiş kişi toplulukları olan dernekler(TMK md.56 vd.) ile belirli bir amaca özgülenmiş mal toplulukları olan vakıflardır(TMK md.101 vd.). Tüzel Kişiler insan olmamakla birlikte, toplumsal hayatın gereklilikleri nedeniyle hukuk düzeni tarafından kendilerine kişilik tanınmaktadır. Bununla birlikte, hukuk düzeni tüm mal ve şahıs topluluklarına kişilik tanımamış olup, söz konusu toplulukların kuruluş amaçlarını da göz önünde bulundurmaktadır.[21]
Tüzel kişilerin hakkın sujesi olarak kabul edilmesinin iki olguya dayandığı söylenebilir. İlk olarak, insan ömrü sınırlı olduğundan, bazı amaçların gerçekleştirilmesi için insan ömrü yeterli değildir. İkinci olarak ise, insanlar bazı amaçları gerçekleştirmek için topluluk halinde tek başına olduğundan çok daha güçlüdür. Bu açıdan tüzel kişiler söz konusu iki amaca hizmet etmektedirler ve yaratılış gereği insana has olan özellikler dışında (örnek: seçme ve seçilme hakkı) insana tanınan tüm haklara sahiptirler.[22]
b- Yapay Zekanın Hukuki Statüsü – Konumu
Türk pozitif hukukunda yapay zekaya bir kişilik tanınmamış olması nedeniyle, otonom davranışlarından da bizatihi sorumlu tutulması -en azından şu an- mümkün görülmemektedir. Yapay zekanın son dönemde çok hızlı bir şekilde gelişmesi beraberinde birçok hukuki sorun ve düzenlenmemiş hukuk bir alan meydana getirmiştir. İnsanlar yapay zeka ile etkileşime geçtikçe yapay zekanın otonom kullanımından doğan bazı mağduriyetler yaşanmış ve somut zararlar meydana gelmiştir.[23] Bunlara en güncel verebileceğimiz örnek, 18 Nisan 2021’de Houston-Texas’ta Tesla marka aracın yaptığı kaza sonucu 2 kişi hayatını kaybetti. Yerel televizyon kanalı, aracın yüksek hızla seyrettiğini ve virajı alamayarak kaza yaptıktan sonra yanmaya başladığını aktardı. Ayrıca, Harris County Emniyet Müdürlüğü 4’ncü Bölge görevlisi Cinthya Umanzor, sürücü koltuğunda kimsenin bulunmadığı belirtti.[24]
Yapay Zekanın Hak ve Fiil Ehliyetine sahip olabilmesi içinde bulunduğumuz zaman dilimi de dahil olmak üzere uzun yıllar boyunca tartışılmıştır. Yapay zekanın hukuki kişiliği, sorumluluğun belirlenmesi açısından önem arz etmektedir. Hukuk düzeni, bir varlığı kişi olarak kabul edebileceği gibi o varlığı hakkın konusu da yapabilir. Kanun koyucu hukukun insanlar arasında ilişkileri düzenleyen bir disiplin olduğunu dikkate alarak, yalnızca bu düzenin bozulmamasına yardımcı olacak varlıklara kişilik tanımaktadır.[25]
Günümüze kadar yapay zekaya ilişkin ortaya atılan ilk görüş “eşya görüşü”dür. Bu görüş uyarınca yapay zeka, tek başına bir hak sujesi olamıyorken yalnızca sıradan bir eşya gibi herhangi bir kimsenin üzerinde mülkiyet kurabileceği ve doğal olarak gerçek ve tüzel kişilerin mülkiyetinde yer alabileceği ifade edilmiştir.[26]
Kanımızca, yapay zeka herhangi bir eşya gibi sıradan olmayıp bilişsel yetenekleri nedeniyle bir insanın dahi öngöremeyeceği bazı problemlere sebep olma ihtimalinin bulunması, söz konusu görüş meydana gelebilecek hukuki sorumluluk anlamında yetersiz kalabilecektir. Yapay zekanın sahip olduğu bilişsel özellikler nedeniyle tamamen otonom yapay zeka araçlarının yakın gelecekte ortaya çıkması kuvvetle muhtemeldir. Eklemek gerekir ki, mevcut olan yapay zeka türleri ise herhangi bir insandan daha hızlı öğrenme, çevreye daha çabuk adapte olma ve böylece kendi üreticilerinin dahi öngöremeyeceği zararları dahi verme kapasitesine sahiptir.[27]
Örneğin, Microsoft şirketinin Tay isimli yapay zekası şirket tarafından üretildikten kısa bir süre sonra Twitter üzerinden dünyanın dört bir yanındaki insanlarla rastgele sohbet etmeye başlamış ve bu sohbetler sonucunda ırkçı ve cinsiyetçi olmayı öğrenmiştir. Microsoft şirketi ise Tay’ın kontrolden çıkması sonucu Tay’ı kapatmak zorunda kalmıştır.[28] Aslında burada Tay’ın başına gelen durumu “kontrolden çıkma” olarak nitelendirmek kanımızca tam olarak doğru değildir. Çünkü tıpkı bir çocuğa nasıl davranılırsa çocuğun karakterinin de o şekilde evrileceği gibi, Tay da dünyanın dört bir yanındaki insanlarla iletişim kurarak bu şekilde öğrendiği bilgiler sonucu ırkçılık ve cinsiyetçiliği yansıtmaktadır ve bu durum son derece doğaldır.
Burada asıl üstünde durulması gereken konu ise, Tay’ın üreticilerinin bu chatbot’u tasarlarken söz konusu durumu öngörmemiş olmalarıdır. Yapay zeka, sahip olduğu zekayı öngörülemeyecek bir adaptasyon yeteceği göstererek herhangi bir yöne evriltme potansiyeline sahiptir.[29] İşte yapay zekanın bu yönü, onun neden herhangi bir kimsenin mülkiyetindeki herhangi basit bir eşya olarak değerlendirilemeyeceğini gözler önüne sermektedir.
Doktrinde yer alan bir diğer yaklaşım ise, yapay zekanın herhangi basit bir eşya olarak görülmemesi gerektiği ancak bunun eşya statüsünden tamamen farklı bir statü verilmesinin de isabetli olmayacağı ve bu nedenle yapay zekanın “köle” niteliğinde değerlendirilmesi gerektiğini ileri sürmektedir. Bu görüşün savunucuları, yapay zekanın insanların kölesi olması gerektiğini savunmaktadır.[30] Ancak kölelik çağdaş hukuk sistemlerinin terk ettiği ve tümüyle karşı olduğu bir görüştür. Aslında bu görüş de yapay zekayı eşya olarak görmekte olup yalnızca daha sıkıntılı bir şekilde ifade edilmesidir.
Kanımızca, her iki teoride de eksik olan husus, yapay zekanın basit bir eşya veya köle olarak görülüyor olmasıdır. Aksine, yapay zeka kendine has bir kişi olarak görülmelidir. Bu nedenle, “tüzel kişilik” görüşü ortaya atılmıştır. Bu kişilik insanlardaki gibi bir gerçek kişi değil, vakıf ve derneklerde olduğu gibi bir tüzel kişilik olarak görülmelidir. Takdir edilecektir ki, insan dışı ve insan yapımı bir varlığın insanla aynı kişilikte değerlendirilmesi makul değildir.
Yapay zekanın bir tüzel kişiliğe sahip olması görüşü son derece akla yatkındır. Zira tüzel kişilik görüşü yapay zekânın bilişsel özellikleri ve zekâ kapasitesinin doğurduğu potansiyel ile uyumlu bir görüştür. Ayrıca bir yapay zekâ ile onu yaratan/ yöneten kişi arasındaki ilişki az çok bir dernek ve bu derneğin yönetim kurulu üyeleri arasındaki ilişkiyi andırdığı da ifade edilmelidir.[31] Ancak yine de tüzel kişilik ve yapay zekaya bir kişilik verilmesi görücü son derece eleştirilmiştir. Bu eleştiriler anlaşılabilir zira insanlar dernek veya vakıflara tüzel kişilik verilmesinden önce de benzer eleştirilerde bulunmuşlardır. Geldiğimiz noktada insanlar dışındaki söz konusu sujelere kişilik verilmesi yeni yeni kabul edilmektedir.
Yapay zeka kavramı, artık bireylerin yaşamı üzerinde büyük bir etkiye sahiptir ve söz konusu etki potansiyeliyle kıyaslandığında yalnızca buzdağının görünen kısmı olarak değerlendirilebilir. Bu nedenle, bireylerin hakları üzerinde herhangi olumsuz bir etki yaşanmamasını sağlamak amacıyla yapay zekanın işleyişini hafifletmek amacıyla hukuki düzenlemeler getirilmelidir. Söz konusu gereksinimlerin bir sonucu olarak, Avrupa Parlamentosu tarafından tavsiye niteliğinde ancak kritik bir rapor yayınlanmıştır.
Avrupa Parlamentosu, yapay zekanın ileride meydana getirmesi olası birtakım problemlerin çözümüne hukuki bir dayanak oluşturması amacıyla 27 Haziran 2017 tarihinde bir dizi tavsiye kararını içeren “Avrupa Parlamentosu Hukuk İşleri Komisyonu Robotik Tavsiye Raporu’nu (Rapor) Yayımlamıştır”.[32] Raporun en kritik noktalarından biri ise, yapay zekaya bir “elektronik kişilik” verilmesi önerisidir. Rapor, uzun vadede robotlar için özel bir hukuki statü yaratılmasını tavsiye etmektedir. Rapor kapsamınca, robotlara elektronik kişilik verilmesi ile robotların sebep oldukları zararlardan sorumlu olabileceği hususu, robotların otonom robotların otonom kararlar aldıkları veya üçüncü kişilerle bağımsız bir biçimde iletişime geçtikleri diğer durumlarda doğrudan göz önünde bulundurulabilecektir. Rapor ayrıca en zeki yapay zekâ türünün ortaya çıkışının ancak elektronik kişilik önerisinin kabulü halinde mümkün olabileceğini ifade etmektedir.
Avrupa Parlamentosu yapay zekanın hukuki statüsüne ilişkin tartışmalarda tarafını net bir şekilde belirtmiş olup yapay zekanın gerçek veya tüzel kişilik kavramlarının haricinde kendine has bir kişiliğe sahip olması gerektiğini ifade etmiştir. Elektronik kişilik kavramı yalnızca yapay zeka açısından değil, Türk Kişiler Hukuku ve diğer tüm çağdaş hukuk sistemlerinin kişiler hukuku açısından yeni bir dönemin başlangıcına ışık tutmaktadır.
Parlamento raporuna ek olarak, ülkemizde şu ana dek yapay zekaya ilişkin en kapsamlı çalışma, 2019 yılında İstanbul, Ankara ve İzmir barolarının birlikte hazırlamış olduğu “Yapay Zeka ve Hukuk” adı altındaki çalışmadır. Söz konusu raporda öncelikle Yapay Zeka kapsamlı bir şekilde tanımlanmış, sonrasında ülkemizde avukatlık mesleğinde teknolojinin kullanım alanları belirtilmiş ve son olarak da Türk Hukuku ve Yapay Zeka kavramlarının birleştiği hususlar üzerinde durulmuştur.
Bununla birlikte yapay zekanın hukuk, statüsünün bir kişi olarak görülmesinin birtakım sonuçları bulunmaktadır. Bu nedenle, yapay zekanın kişiler hukukunda kişi olarak kabul edilmesi ihtimalinin anayasal kişilik durumuna etkisini de incelemekte fayda vardır. Zira, medeni hukuktaki kişilik ve anayasal kişilik kavramları birbiriyle ilişkili kavramlardır.
c- Yapay Zekanın Anayasal Statüsü
Bugün veya yakın gelecekte, bir yapay zekanın yasal, anayasal haklarını talep edecek duruma gelecek olma ihtimali oldukça düşüktür. Günümüzde, hiç kimse yapay zeka araştırmacılarının önümüzdeki birkaç on yıl içinde bir “kişi” inşa edebileceklerini iddia etmemektedir. Ancak belli bir süre geçtikten sonra, yapay zekaların da kişi olarak kabul edilmelerinin sonucu olarak kendi anayasal haklarını talep etmeleri ihtimalinin üzerinde durulmalıdır.
Yapay zekalara ifade özgürlüğü tanınması, insanlar için iyi sonuçlara yol açabilir çünkü bu eylem yararlı bilgilerin üretimini teşvik edecektir. Ancak yapay zekaya anayasal haklar tanınmasına ilişkin üç itiraz bulunmaktadır.
İlk itiraz, Yalnızca doğal kişilere anayasal hakların verilmesi gerektiği yönündedir. Belirtmemiz gerekir ki, şirketlerin de kişi olarak değerlendiriliyor olması, kendi başına bir yapay zekanın da bu haklara sahip olabileceği sonucunu doğurmamaktadır.
Bununla birlikte ilk itiraz kapsamında bir diğer belirtilmesi gereken husus, yapay zekaya anayasal hakların verilmesi yani kişi statüsü tanınması halinde biz insanlardan daha akıllı hale gelip bizi kolayca ele geçirme ihtimalleridir. Örneğin: Terminatör. Bu varsayım günümüzde yalnızca bilimkurgu filmlerinde karşımızca çıkıyor olsa da gelecekte böyle bir durumun yaşanmayacağına dair somut bir gerekçe bulunmamaktadır. Bu itiraz kapsamında öne çıkan hakim görüş, eğer yapay zekalar insanlar için gerçekten tehlike arz edecekse, bunun çözümü ilk etapta bunların üretilmemesidir.
İkinci İtiraz, Yapay Zekanın ruh, bilinç, kasıt veya duygular gibi önemli insani bileşenlerden yoksun olduğu ve bu nedenle kendisine kişi statüsü tanınmaması gerektiğidir. Hukuki olarak, bir yapay varlık, insan zekasının benzerini üretebilse dahi, öz-bilinçten yoksundur ve bu nedenle kişilik haklarına sahip olmamalıdır.[33]
Söz konusu itiraz, yapay zekanın çıkar duygusuna sahip olamayacağı için özgür iradeye de sahip olamayacağını savunur. “Yapay zeka sadece onları programlayan insanın iradesini yerine getiren robotlar olduğundan, böyle bir robot gerçekten de ayrı anayasal kişilik haklarına sahip olmamalıdır.” Gerçekten de, bir insan bir robotun seviyesine düşürülürse o zaman insanlar, özerkliğini tekrardan sağlayana dek anayasal hakların bir kısmını kaybedebilir.[34] İnsan özgür iradesi ile ilgili akla en yakın olan anlatı, bir eylemin doğru bir şekilde , bilinçli bir akıl yürütme ve üzerinde iyice düşünerek ortaya çıkması halinde özgür olmasıdır.[35] Fakat bu anlamda, yapay zeka özgür iradeye de sahip değildir.[36]
Üçüncü ve son itiraz ise yapay varlıklar olarak yapay zekaların asla üreticilerinden mülkünden fazlası olmaması gerektiğidir. Başka bir deyişle bu itiraz, yapay zekaların kişi olsalar dahi doğal köleler olduğudur.
Değerlendirme ve Sonuç
Yapay Zekaya ilişkin belirtmiş olduğumuz Avrupa Parlamentosu Hukuk İşleri Komisyonu Robotik Tavsiye Raporu tavsiye niteliği taşımakta ve Yapay Zeka Çağında Hukuk Raporu ise daha çok bilgilendirme metni olarak değerlendirilebilir. Ancak yine de söz konusu raporlar tartışmaları sona erdirecek nitelikte değildir. Yine de bu raporun yapay zekaya ilişkin ilk kapsamlı çalışma olması büyük önem arz etmektedir. Nitekim, sonraki süreçte bazı ülkeler yapay zekaya elektronik kişilik vereceğine ilişkin açıklamalar yapmıştır. Örneğin Hanson Robotics’in Sophia adlı robotuna yakın bir zamanda Suudi Arabistan tarafından vatandaşlık verilmesi ve Sophia’nın bir ülke vatandaşlığına geçen ilk robot olma unvanı kazanması verilebilir.[37]
Yaşadığımız çağda insanlar, yukarıda da bahsetmiş olduğumuz üzere, otonom araçların yapmış olduğu kazalar veya fabrikada robotun bir çalışanı öldürmesi durumunda sorumluluğun kime yükleneceği tartışılmaktadır. Daha da önemlisi, insandan daha kolay öğrenip gelişebilen yapay zekanın hayatımıza girmesi durumunda hukukun buna nasıl tepki vereceğidir. Hukuk, yaşanacakları öngöremez, meydana gelen olaylar sonucunda aksiyon alır. Bu kapsamda yapay zekaya elektronik kişilik tanınırsa, meydana gelen kazalarda uygulanacak yaptırım da merak konusudur.
Örneğin Tesla aracın otonom sürüş halinde kaza yapması halinde yazılımını silmek mümkün olmayıp, arabayı yok etmenin de kimseye bir faydası olmayacaktır. Bu hususa ilişkin değinilmesi gereken başka bir konu ise, otonom araçlar olmasa bile trafik halinde çok fazla kazanın meydana geliyor olmasıdır. Otonom aracın kaza yapması dünyanın dört bir yanında gündem olurken, trafikte yanımızda seyreden aracın kazasının haber değeri yoktur. Madem kazaların önüne geçmek istiyoruz, neden hukuk düzeni araçların trafiğe çıkmasını kısıtlayan veya engelleyen bir düzenleme getirmiyor. Çünkü hayatın devam edebilmesi için insanların ulaşımının sağlanması zorunludur.
Bu durum bir hukuka uygunluk sebebi olarak değerlendirilebilir, aksi takdirde hukukun trafik kazalarına karşı aksiyon almadığı sonucu ortaya çıkacaktır. Bu perspektiften baktığımızda, önümüzdeki birkaç on yıl içinde tam otonom araçların çok daha fazla yaygınlaşması beklenmektedir. Bu nedenle söz konusu araçlar nedeniyle meydana gelen kazalarda, yazılım sahibi şirketin araç sahibine kaza derecesine göre maddi ve manevi tazminat ödemesi şeklinde bir düzenlemenin hem mağduriyeti azaltacağı hem de yazılım firmasını kendisini geliştirmek için teşvik edeceği belirtilmelidir.
Yapay zekaya elektronik kişilik verilmesi hukuken ne anlama gelecektir? Öncelikle yapay zekaya bir kişilik verilmesi durumunda yapay zeka kendi başına hak ve borçlara sahip olabilecek bir suje haline geleceğinden bir eşya olarak nitelendirilmesi mümkün olmayacaktır. Ayrıca kendi başına sözleşme kurabilecek ve davada insanları temsil edebilecektir. Günümüzde avukatlık mesleğinde yapay zeka avukatları bulunmaktadır. Örneğin, IBM Şirketinin Ross isimli yapay zekası hukuki ihtilaflarda aktif bir biçimde yer almaktadır.[38] Yine İngiliz DoNotPay şirketinin yapay zeka ile ürettiği bir chatbot, internet üzerinden kendisine gelen park cezalarına karşı iki yılda 375.000’in dava kazanmıştır.[39]
Ülkemizde, yapay zekaya ilişkin yukarıda değinmiş olduğumuz çalışma dışında herhangi bir hukuki düzenleme bulunmamaktadır. Dünyada mevcut hukuki gelişmelere geç kalmamak için an azından şu an için diğer ülkelerdeki çalışmaları baz alarak temel mahiyetinde veya tasviye niteliği taşıyan bir düzenleme getirilebilir. Bu kapsamda, yapay zekanın bir kişi mi yoksa eşya mı olarak görüleceği, Avrupa Parlamento raporunun elektronik kişilik kavramının benimsenip benimsenmediği, yapay zeka tarafından verilen zararlardan kimin ne ölçüde sorumlu tutulacağı gibi hususların düzenlenmesi gerekmektedir. Bu şekilde, ileride yapay zeka kullanımının hayatımıza çok daha entegre olması durumunda karşılaşmamız olası olan hukuki sorunların ülkemizde yasal bir düzenlemeye kavuşturulması ve uluslararası düzenlemelerle paralel olması yapay zeka alanındaki yatırımların ülkemizde de hukuki güvenlik ortamı içinde yapılabileceği ve yabancı yatırımcıların teşvikine de katkı sağlayacaktır.
Dipnotlar
[1] Yapay zekâ araştırmalarının geleneksel amaçları akıl yürütme, bilgi sunumu, planlama, öğrenme, dil işleme, algı ve nesneleri tanıma, taşıma ve manipüle etme gibi becerilere yöneliktir. Yaklaşımlar arasında istatistiksel yöntemler, hesaplamalı zekâ ve geleneksel algoritma tabanlı yapay zekâ yöntemleri bulunmaktadır. Yapay zekâda arama, matematiksel optimizasyon, yapay sinir ağları, istatistik, olasılık ve finansal yöntemler de dahil olmak üzere birçok araç kullanılmaktadır.
Yapay zekâ alanı çoğunlukla, bilgisayar bilimi, bilgi mühendisliği, sağlık, otomotiv, finans ve ekonomi, video oyunları yahut (satranç ve Go gibi) stratejik oyunlarda insanla üst düzeyde rekabet etme, askeri alanlar, denetim, reklamcılık, matematik, psikoloji, dil bilimi, felsefe ve hatta sanatın yanı sıra diğer pek çok sosyal bilim üzerinde de durmaktadır. Ayrıca kimi yapay zekâ uygulamaları insan konuşmalarını başarıyla anlama, bağımsız çalışan arabalarda, içerik dağıtım ağlarında, internette ve askeri simülasyonlarda akıllı yönlendirmeler de gerçekleştirebilmektedirler.
Konu hakkında daha kapsamlı bilgi için bkz., RUSSELL, Stuart J. / NORVIG, Peter: Artificial Intelligence: A Modern Approach, 3rd ed., New Jersey 2009; KURZWEIL, Ray: The Singularity Is Near: When Humans Transcend Biology, United Kingdom 2006. Ayrıca bkz., SCHANK, Roger C.: “Where’s the AI”, AI Magazine. Vol. 12, Issue 4, 1991, p. 38.
[2] Yapay zekâ kullanımı illa ki “robot”, “android” gibi cismanî varlık arz eden makinelere ihtiyaç duymaz. Cismanî varlık arz eden makinelerin yanı sıra “bot” adı verilen ve cismanî / fizikî varlık arz etmeyen yazılım yahut sistemlerle de yapay zekâ kullanılması mümkündür. Konu hakkında detaylı bilgi için genel olarak bkz., ERSOY, Çağlar: Robotlar, Yapay Zekâ ve Hukuk, İstanbul 2018; BOZKURT – YÜKSEL, Armağan E.: “Robot Hukuku”, Türkiye Adalet Akademisi Dergisi, Yıl 7, S. 29, 2017, s. 85 vd.
[3] TDK. Büyük Türkçe Sözlük, “Zekâ”, http://tdk.gov.tr [Erişim 16.04.2021]
[4] Wikipedia – Özgür Ansiklopedi https://tr.wikipedia.org/wiki/Yapay_zekâ [Erişim 16.04.2021]
[5] LI, Deyi /DU, Yi, Artificial Intelligence with Uncertainty, New York 2007, s. 1.
[6] MILLINGTON, Ian/FUNGE, John, Artifical Intelligence For Games, B.2, New York 2009, s. 4-5.
[7] Dr. Öğr. Üyesi BAŞAK BAK, Medeni Hukuk Açısından Yapay Zekanın Hukuki Statüsü ve Yapay Zekanın Kullanımından Doğan Hukuki Sorumluluk, 2018 [Erişim 09.04.2021]
[8] https://waitbutwhy.com/2015/01/artificial-intelligence-revolution-1.html https://eufordigital.eu/discover-eu/eu-digital-single-market/
[9] Ayrıntılı bilgi için bkz., BISHOP, C. M.: Pattern Recognition and Machine Learning, Springer 2006; Arthur, Samuel,: “Some Studies in Machine Learning Using the Game of Checkers”. IBM Journal of Research and Development, Vol. 3, Issue 3, 1959, pp. 210– 229; ZHANG, J. / ZHAN, Z./ LIN, Y. / CHEN, N. / GONG, Y. / ZHONG, J. / CHUNG, H. / LI, Y. / SHİ, Y.: “Evolutionary Computation Meets Machine Learning: A Survey”, Computational Intelligence Magazine, Vol. 6, Issue 4, 2011, pp. 68–75.
[10] Bu teknoloji “derin öğrenme – deep learning” olarak da adlandırılmaktadır. Açıklama için bkz., Bak, Başak: Medenî Hukuk Açısından Yapay Zekânın Hukuki Statüsü ve Yapay Zekâ Kullanımından Doğan Hukuki Sorumluluk, Türkiye Adalet Akademisi Dergisi, Yıl 9, S. 35, Temmuz 2018, s. 213. Ayrıca bkz. a.g.e, dn. 4.
[11] “Web 2.0, O’Reilly Media tarafından 2004’te kullanılmaya başlayan bir sözcüktür ve ikinci nesil internet hizmetlerini – toplumsal iletişim sitelerini, vikileri, iletişim araçlarını ve folksonomileri – yani internet kullanıcılarının ortaklaşa ve paylaşarak yarattığı sistemi tanımlar.”, (Wikipedia Online Encyclopedia, naklen, E.T. 27.12.2018). Tim O’Reilly de web 2.0’ın amacının, “bilgisayar endüstrisinde internetin bir düzlem olarak ilerlemesiyle bir işletme devrimi ve bu düzlemin kurallarını başarı için anlamaya çalışmaktır.
Bu kurallar arasında başlıcası şudur: Ağ etkilerini daha çok insanın kullanabilmesi için programlar kurmak.”olduğunu ifade etmektedir. Bkz., O’REILLY, Tim: What Is Web 2.0 – Design Patterns and Business Models for The Next Generation, CA, 2005, p. 9 vd. Ayrıca Web 1.0 ile web 2.0 teknolojileri arasındaki farklar hakkında ayrıntılı bilgi için bkz., VURAL, Z. B. Akıncı / BAT, Mikail: “Yeni Bir İletişim Ortamı Olarak Sosyal Medya: Ege Üniversitesi İletişim Fakültesine Yönelik Bir Araştırma”, Journal of Yasar University, Vol. 20, Issue 5, 2010, p. 3354 vd.; KARA, Tolga: Sosyal Medya Endüstrisi, Bası 1, İstanbul 2013, s. 30 vd. Ayrıca bkz., a.g.e., s. 32, Tablo: 1.1.
[12] “Yapay Zekanın Otonom Davranışlarından Kaynaklanan Hukuki Sorumluluk” Dr. Öğr. Üyesi Sinan Sami Akkurt. T.C. Uyuşmazlık Mahkemesi Dergisi Yıl 7, Sayı 13, Haziran 2019 [Erişim 06.04.2021]
[13] KAPLAN / HAENLEIN, p. 18 – 19.
[14] EUGENE CHARNIAK, DREW MCDERMOTT – INTRODUCTION TO AI(1985)
[15] Bkz., JOHN CHIPMAN GRAY, THE NATURE AND THE SOURCES OF THE LAW (Roland Gray ed., MacMillan 1921) (1930)
[16] Bkz. , CHRISTOPHER STONE, EARTH AND OTHER ETHICS 12, dipnot 12, sf:5.
[17] GRAY, dipnot 29, sf:46
[18] Bkz., age., sf:48-49; Stone, Should Trees Have Standing ?, dipnot 12, sf:5
[19] “Her insanın hak ehliyeti vardır. Buna göre bütün insanlar, hukuk düzeninin sınırları içinde, haklara ve borçlara ehil olmada eşittirler.” (TMK md. 8)
[20] “Kişilik, çocuğun sağ olarak tamamıyla doğduğu anda başlar ve ölümle sona erer. Çocuk hak ehliyetini, sağ doğmak koşuluyla, ana rahmine düştüğü andan başlayarak elde eder.” (TMK md. 28)
[21] “Amacı hukuka veya ahlaka aykırı olan kişi ve mal toplulukları tüzel kişilik kazanamaz.” (TMK md. 47)
[22] DURAL, Mustafa/ÖĞÜZ, Tufan, Türk Özel Hukuku Kişiler Hukuku, C. II, İstanbul 2009, s. 199.
[23] Örneğin, bir yapay zekâ robotunun Almanya’da bir otomobil fabrikasında çalışan bir işçiyi kavrayıp metal plakaya çarparak öldürmesine ilişkin haber için bkz. (https://www.bbc.com/turkce/ haberler/2015/07/150702_volkswagen_kaza [Erişim 10.04.2021]. Bir diğer örnek olarak, General Motors şirketinin sürücüsüz araçlarının yalnızca Eylül 2017’de altı tane kazaya karıştığına ilişkin haber için bkz. https://www.cnnturk.com/yazarlar/guncel/ozan-onat/surucusuz-otomobil-de- kaza-yapar) [Erişim 10.04.2021]. Sürücüsüz araçların verdiği zararlardan sorumluluğa ilişkin olarak ayrıca bkz. YETİM, Servet, “Sürücüsüz Araçlar ve Getirdiği/ Getireceği Hukuki Sorunlar”, Ankara Barosu Dergisi, S. 1, 2016, s. 127-184; ÇEKİN, Mesut Serdar, “Otonom Araçlar ve Hukuki Sorumluluk”, TAAD, Yıl. 9, S. 33, 2018, s. 283-301.
[24] https://www.theguardian.com/technology/2021/apr/19/two-die-in-tesla-crash-no-one-in-drivers-seat-police
[Erişim 21.04.2021]
[25] Yapay Zeka Çağında Hukuk https://www.istanbulbarosu.or g.tr/files/docs/Yapay_Zeka_Caginda_Hukuk2019.pdf [Erişim 12.04.2021]
[26] Görüş hakkında bkz., ALEXANDRE, Filipe M.: The Legal Status of Intelligent Robots–Personhood, Taxation and Control, (Yayımlanmamış Yüksek Lisans Tezi – Tilburg University), Danışman Prof. Dr. Erik VERMEULEN, Savunma Tarihi 12 Haziran 2017, sf. 16
[27] BOZKURT YÜKSEL, Armağan Ebru/BAK, Başak, “Yapay Zekâ”, Futurist Hukuk, İstanbul 2018. sf:98
[28] Haberin ayrıntısı için bkz. (http://www.telegraph.co.uk/technology/2016/03/24/micros ofts-teen- girl-ai-turns-into-a-hitler-loving-sex-robot-with/) [Erişim 11.04.2021]
[29] Bu öngörülememe durumunun yalnızca algoritmaların karmaşıklığıyla da ilgili olmadığı; bunun yanı sıra dijital sistemlerin gelişiminin, verilerin kolaylıkla akışının ve interaktif olan sistemlerin önceden neler getireceğinin tahmin edilmesinin zor olmasından kaynaklandığı belirtilmektedir. (CALO, Ryan, “Robotics and the Lessons of Cyberlaw”, California Law Review, S. 103, 2015, s.533; BOZKURT YÜKSEL, s. 99).
[30] Söz konusu görüşler hakkında bkz. ALEXANDRE, s. 16 vd.; BOZKURT YÜKSEL/BAK, s. 18. Aslında köle görüşü, belki de robot kelimesinin etimolojik kökeninden türemiş bir düşünce olabilir. Robot kelimesi ilk kez Çek yazar Karel Capek tarafından Prag Yahudiliğin ünlü miti olan koruyucu Prag Golem’inden bahseden Rossum’s Universal Robot adlı 1920 tarihli oyununda kullanılmış olan bir kavramdır. Robot kelimesi asıl olarak, Proto-Slavik bir kelime olan ve ağır iş veya kölelik anlamına gelen orbota kelimesinin sonradan Çekçe ve Slovakça olan robota kelimesine dönüşmüş halinden gelmektedir. (ALEXANDRE, s. 9)
[31] Dr. Öğr. Üyesi BAŞAK BAK, Medeni Hukuk …Hukuki Sorumluluk, 2018 sf : 9
[32] REPORT WITH RECOMMENDATIONS TO THE COMMISSION ON CIVIL LAW RULES ON ROBOTICS, European Parliament, https://www.europarl.europa.eu/RegData/etudes/STUD/ 2016/571379/IPOL_STU%282016%29571379_EN.pdf [Erişim 11.04.2021]. Söz konusu Rapor, ulaşım, turizm, medeni haklar, adalet, iç işleri, istihdam, sosyal ilişkiler, çevre, kamu sağlığı, gıda güvenliği, endüstri, araştırma, enerji, iç piyasalar ve özellikle de tüketicilerin korunması gibi oldukça kapsamlı konuları içermektedir.
[33] Kant sadece insanların değil, tüm rasyonel varlıkların kişi olduğunu savunmaktaydı.
[34] Robert N. Shapiro, of Robots, Persons, and the Protection of Religious Beliefs, sf:56
[35] DENNETT, dipnot 139, sf:20-21
[36] Yapay zekalar için daha gelişmiş bir özerklik anlayışı için : Covrigaru & Lindsay, dipnot 154, s:112-17. Hedefe yönelik bir sistem,
- (a) herhangi bir zamanda ele alınması gereken görevleri (üst düzey hedefler) seçtiği dereceye kadar;
- (b) bir hedefe ulaşmak için gereken süreye göre uzun bir süre boyunca var olduğu dereceye kadar;
- (c) değişen bir ortamda yaşamaya devam edebildiği ölçüde;
- (d) bazı hedeflerinin homeostatik olduğu ölçüde;
- (e) her zaman aktif(somutlaştırılmış ancak başarılmamış) hedefler olduğu takdirde;
- (f) bilgi işleme modunda çevresiyle etkileşime girme derecesine kadar;
- (g) değişken, uyarlanabilir hareketler de dahil olmak üzere çeşitli karmaşık tepkiler sergilediği kadarıyla;
- (h) uyaranlara karşı dikkatinin ne kadar seçici olduğu ölçüde;
- (i) işlevlerinin, eylemlerinin veya kararlarının hiçbirinin harici bir kimse tarafından tam olarak takip edilmesinin gerekmediği ölçüde;
- (j) sistem çalışmaya başladıktan sonra başka bir programlamaya ne kadar ihtiyaç duyduğuna göre otonom olarak algılanacaktır. Karşılaştırmalı Güncel Ceza Hukuku Serisi 21, dipnot:158 s.105-106 Yener Ünver, Kayıhan İçel
[37] https://www.hansonrobotics.com/sophia/ [Erişim 21.04.2021]
[38] https://www.dailymail.co.uk/sciencetech/article-3589795/Your-AI-lawyer-IBM-s-ROSS-world-s-artificially-intelligent-attorney.html [Erişim 21.04.2021]
[39] https://www.theverge.com/2017/7/12/15960080/chatbot-ai-legal-donotpay-us-uk [Erişim 21.04.2021]
