Yapay Zekanın Cezai Sorumluluğu

ceza hukuku ve yapay zeka
yapay zekanın ceza hukuku bakımından değerlendirmesi

Gelişen dünyayla birlikte hepimizin çokça duyduğu bir kavram ortaya çıkmıştır: Yapay Zeka. Yapay zeka, teknoloi, sosyoloji, matematik ve hukuk gibi birçok alanda bizlere inanılmaz faydalar sağlasa da ceza hukuku açısından sorumluluklarının değerlendirilmesi ihtiyacı da doğmaktadır. Ortaya çıkaranın kastı dışında kendi kendine öğrenen ve öğrendiklerini uygulayan yapay zekanın suç işlemesi durumunda ceza hukuku bu durumu nasıl değerlendirecektir? Yapay zeka işlediği suçtan dolayı mahkum edilebilir mi?

Yapay Zeka nedir?

Yapay zeka, henüz TDK sözlüğü kapsamına girmiş bir sözcük değildir. Kavramın tek bir tanımı olduğunu söyleyemeyiz, tıpkı yarattığı etkiler gibi tanımı da birden fazladır. Buna rağmen yapay zeka, karmaşık bir durumu algılama ve bu hususta karar verme yeteneği şeklinde tanımlanabilir. Amerika Birleşik Devletleri Ulusal Bilim ve Teknoloji Konseyi’nin 2016 yılında yayımladığı raporunda yapay zekaya ilişkin iki yaygın tanımdan bahsedilmiştir. İlk tanım yapay zekayı, zeka gerektiren davranışları sergileyen bilgisayar sistemi olarak tanımlarken diğer tanım ise, kompleks problemleri mantıksal bir yöntemle çözen ve gerçek dünyada karşılaşılan durumlara uygun olarak aksiyonlar alma suretiyle amacına erişen sistem olarak tanımlar.

Günümüzde, yapay zekaya ilişkin çok çeşitli yorumlar yapılmaktadır. Bir kesim yapay zekanın insanların uğraşmak istemedikleri alanlarda onlara yardımcı olacağı ve hayatlarını kolaylaştıracağını düşünürken başka bir kesim ise gelişen zekalarıyla insanlara zarar verme potansiyellerinin artacağı hatta insanların yerlerine geçerek işsiz kalmalarına sebep olacaklarını düşünmektedir. Aynı şekilde Tesla’nın CEO’su Elon Musk da yapay zekayı iblisin çağrılması olarak nitelemiştir. Oxford Üniversitesi Felsefe Profesörü Nick Bostrom da yapay zekalı robotları, insanlığın şimdiye kadar karşılaştığı en önemli ve en büyük sorun olarak nitelendirmektedir. Yapay zekaya daha çok olumsuz açıdan bakan düşünürler, bunların insan kontrolünde olması gerektiğini savunmaktadır. Nitekim bu alanda yaşanan gelişmeler, pek çok disiplini etkileyici özelliğe sahiptir.

Bunun yanısıra bilimkurgu eserleri de yapay zekadan nasibini almıştır. Örneğin, Mary Shelley  1818 yılında yazdığı, Frankenstein; or, The Modern Prometheus isimli eserde, bir insan tarafından yaratılan fakat yaratıldıktan sonra kontrolden çıkan bir yaratıktan bahsetmiştir.  Yine Arthur C. Clarke’ın A Space Odissey adlı eserinde HAL adında bir yapay zeka yer almaktadır. Hangi tanım esas alınırsa alınsın, yapay zekanın ileride insan hayatının önemli aktörlerinden birisi olacağı ve bu yüzden hukuki açıdan değerlendirilmesinin zorunlu olduğu apaçık bir gerçektir.

Öncelikle, yapay zekanın hukuki anlamda hak ve yetkiler üstlenebilen bir kişilik olup olmayacağı hususunda tartışmalar ortaya çıkmıştır. Ancak, henüz olmasa bile ilerleyen zamanda, kişilik unsurlarının tamamını taşıyabilecek özelliklere sahip olacağı düşünülmektedir. Nitekim, geçmişte tüzel kişilerin ortaya çıkışında da benzer tartışmalar vukuu bulmuştur.

İlk Katil Yapay Zeka

Yapay zekanın, haksız fiillerde bulunabilme ihtimalleri de mevcuttur. Bu hususa ilişkin birden fazla yaşanmış olay söz konusudur. Bunlardan birisi, 1981 yılında Japonya’nın Kawasaki fabrikasında  meydana gelen olaydır. Fabrikada çalışan 37 yaşındaki Kenji Urada, fabrikaya ait olan robot üzerinde bakım işleriyle görevlidir. Urada, robotun bakım işleri sırasında robotu kapatmayı unutur. Bu anda, faaliyetinin engellendiğini düşünen robot, Urada’ya güçlü hidrolik kollarıyla vurur ve Urada’nın ölümüne sebebiyet verir. Söz konusu bu olay, bir robotun insan ölümüne sebebiyet verdiği ilk olay olarak değerlendirilmektedir.

Öyleyse, yapay zekanın sebebiyet verdiği neticelerden kim ne şekilde sorumlu olacaktır? Programlayıcılar mı yoksa yapay zekanın kendisi mi? Yapay zeka sorumlu tutulur ise ne tür yaptırımlar uygulanacaktır?

Ceza Hukuku Açısından Yapay Zeka

Bilim kurgu filmlerinde izlediğimiz dev robotların dünyayı ele geçirme planları henüz mevcut olmasa da teknolojinin gelişme hızını ve sürecini göz önünde bulundurduğumuzda ileride yapay zekanın, insan zekasına eşit hatta daha üstün olacağı aşikardır. Bundan dolayı, konuyu ceza hukuku boyutlarıyla ele almak zorunlu hale gelmiştir. Yapay zekanın ceza hukuku açısından sorumluluk ihtimallerinin değerlendirilmesine geçilmeden önce, bazı teorik  bilgilerin ortaya koyulmasında  fayda vardır.

Ceza hukuku sorumluluğundan bahsedilebilmesi için, kanunda suç olarak yer alan fiillerin maddi ve manevi unsurlarını da içinde barındıracak şekilde meydana gelmiş olması gereklidir. Faillik müessesesi, Türk Ceza Kanunumuzun 37. maddesince düzenlenmiştir. Buna göre, suçun kanuni tarifindeki fiili gerçekleştiren kişi fail olarak nitelendirilmiştir. İradeye sahip olabilme; davranışlarını yönlendirebilme ve davranışlarının anlamlarını kavrayabilme özellikleri bu müessese için önemlidir. Bundan dolayıdır ki Türk Ceza Hukukumuzda sadece gerçek kişiler suçun faili olabilir. İrade yetenekleri mevcut olmadığından dolayı tüzel kişilerin suç faili olabilmesi mümkün değildir.

Suçun oluşumundaki diğer önemli bir unsur ise manevi unsurdur. Manevi unsur, işlenen fiil ile kişi arasındaki manevi bağı ifade etmektedir. Bu bağ olmaksızın suçun varlığından da söz etmemiz mümkün olamayacaktır. Belirtilmesi gereken bir diğer husus ise, kusurluluk ile manevi unsurun birbirileriyle ilişkili olmasına karşın birbirlerinden  farklı kavramlar olmalarıdır. Manevi unsurdan farklı olarak; kusurluluk suçun oluştuğunun tespitinden sonra işlediği fiil ile fail arasında değerlendirilen bir yargıdır (Kusur Yargısı).  Suçun manevi unsuru olarak, fiilin kasten yahut taksirle işlenilmiş olması anlaşılır. Örneğin, kusur yeteneğine sahip olmayan bir akıl hastasının bir başkasını öldürmesinde veya yaralamasında ortada haksızlık oluşturan, dolayısıyla suç teşkil eden bir fiil vardır. Fakat kusur yeteneğinin bulunmaması nedeniyle fail hakkında cezaya hükmedilmez (kusursuz ceza olmaz/kusur prensibi).

Tüm bu bilgiler ışığında, yapay zekanın özellikle, meydana gelen fiilin anlam ve  sonuçlarını kavrayabilme, hareketlerini yönlendirebilme kabiliyetine sahip olup olmaması, ceza hukukunda farklı tartışmaları da beraberinde getirmiştir. Yapay zekanın faaliyetleri neticesinde ortaya çıkan zararlardan ceza hukuku anlamında kimin nasıl sorumlu olacağına dair tartışmalar halen sürmektedir ancak ceza hukuku genel hükümler çerçevesinde bir değerlendirme yaptığımızda, yapay zekanın programlayıcısının yahut kullanıcısının sorumluluklarının bulunabileceğini ve nitekim bu konuda bir değerlendirilme yapılabileceği sonucuna ulaşabiliriz. Bunun en büyük faktörlerinden birisi, günümüzde yapay zekanın gelişmişlik durumundan sebep süje olarak değerlendirilememesidir.

Yapay zekanın ceza hukuku bakımından sorumluluğunda üç temel model ön plana çıkmaktadır: Yapay zekanın bir araç olarak kullanıldığı dolaylı sorumluluk modeli, doğrudan sorumluluk modeli ve ihtimaller halinde kişinin sorumluluk modeli.

I. İhmaller Halinde / Taksir Sorumluluğu

Taksir, suçun manevi unsurlarından birisi olmakla birlikte TCK nın 22. Maddesinin ikinci fıkrasında tanımlanmıştır; taksir, dikkat ve özen yükümlülüğüne aykırılık dolayısıyla, bir davranışın suçun kanuni tanımında belirtilen neticesi öngörülmeyerek gerçekleştirilmesidir. Hükümde belirtildiği üzere, taksirin cezalandırılmasının nedeni, dikkat ve özen yükümlülüğünün yerine getirilmemesidir. Objektif özen yükümlülüğüne aykırılık oluşturan ve dolayısıyla taksirli bir suçun oluşumuna sebebiyet veren davranış, icrai bir davranış olabileceği gibi, ihmali bir davranış da olabilir.

Yapay zeka açısından taksir sorumluluğunu ele aldığımızda;

Robotun hidrolik kollarıyla Urada’ya vurması sonucunda Urada’nın ölümü olayından daha önce bahsetmiştik. Bu olayda, robotun programlanmasından dolayı, kendi  faaliyetinin engellendiğini düşünerek tepki vermek amacıyla, Urada’ya vurması söz konusudur. Bu gibi durumlarda, programlayıcının yahut kullanıcının sorumluluğunun değerlendirilmesi gereklidir. Kullanıcının yahut programcının suç işleme/ işletme kastı bulunmamaktadır. Taksir sorumluluğu çerçevesinde bir değerlendirme yapılmak suretiyle sorumluluğun belirlenmesi gereklidir.

Programcının/ kullanıcının, sorunlara sebebiyet vermemek için gerekli dikkat ve özeni gösterip göstermediği, dikkat ve özen gösterdiği takdirde aynı neticenin ortaya  çıkıp çıkmayacağı öngörülebilirlik çerçevesinde değerlendirilmelidir. Programlayıcının, robotu programlarken gerekli dikkat ve özeni göstermemesinden dolayı, bir suç meydana gelmişse, taksirli sorumluluktan bahsedilebilecektir. Belirtmek gerekir ki dikkat ve özen yükümlülüğünün objektif kriterler doğrultusunda değerlendirilmesi gereklidir. Ancak, kullanıcının veya programlayıcının, gerekli özeni gösterdiğini ispat etmesi durumunda ceza sorumlulukları ortadan kalkacaktır.

Bu ihtimale ilşkin bir başka örnek davada; otomatik pilotla yönetilen Tesla’nın S sürümü otomobili, 07 Mayıs 2016 tarihinde Florida’da tamamen otopilot kontrolündeyken beyaz renkteki traktörü gökyüzü gibi algılaması sonucu manevra yapmayarak sürücüsünün ölümüne sebebiyet veren bir kazaya karışmıştır. Bu kazada tartışılan husus Tesla’nın sorumluluğuna gidilip gidilemeyeceği idi. Bu dava, üretici firma ve otomobil sürücüsünün; üretim esnasında yahut araç kullanımı sırasında taksir sorumluluklarının değerlendirilmesi üzerinden devam etmiştir.

II. Araç Olarak Kullanma/Dolaylı Faillik

Yapay zekanın araç olarak kullanılmasında; programlayıcının yahut kullanıcının sorumlu oldukları durumlar meydana gelebilmektedir. Suçun oluşumunda yapay zekanın fiiliyatı etkili olsa da arka planda kullanıcı yahut programlayıcılarının sorumlulukları mevcut olabilmektedir. Bu ihtimaller dolaylı faillik kurumunu akıllara getirmektedir. TCK 37/2. maddesinde dolaylı faillik müessesesi düzenlenmiştir. Bu hükme göre; “Suçun işlenmesinde bir başkasını araç olarak kullanan kişi de fail olarak sorumlu tutulur. Kusur yeteneği olmayanları suçun işlenmesinde araç olarak kullanan kişinin cezası, üçte birden yarısına kadar arttırılır”.

Yapay zekayı,basit bir alet olmaktan çıkmış olarak suç işletmek mümkün olabilmektedir. İşte bu durumda, arka planda olup yapay zekaya suç işleten kişi dolaylı fail olarak değerlendirilebilir. Bu duruma örnek olarak, otonom olarak çalışan katil silah olarak da adlandırılan silahları verebiliriz. Silahı kullanan yahut programlayan kişi, insan hayatını tehdit edici şekilde silahı yönlendirip suç işletebilir. Bu örnekte, yapay zekayı cezai anlamda sorumlu tutmamakla birlikte, araç olarak kullanan kişinin yahut programlayıcının  dolaylı fail olarak sorumluluğu ortaya çıkmaktadır. Bu ihtimalde; dolaylı faillik müessesinden  bahsedilebilmesindeki esas unsur,  yapay zekanın artık basit bir alet edavat olmaktan çıkmış olmasıdır. Adeta suç işlemeye araç olarak kullanılan bir insan özelliği kazanmıştır. Bundan dolayıdır ki, yapay zekayı suç işlemek kastıyla kullanan kişinin, dolaylı faillik sorumluluğundan bahsedilir.

Peki ya yapay zeka suç faili olabilir mi?

III. Yapay Zekanın Doğrudan Sorumluluğu Sorunsalı

Aslında burada sormak istediğimiz soru, yapay zekanın, insan müdahalesi (programlayıcı/kullanıcı) olmaksızın ceza hukuku alanında sorumluluk doğuracak bir neticeye sebep olup olamayacağıdır. Daha önce yukarıda anlatılan sorumluluk türlerinde, kullanıcının yahut programlayıcının bir kastı yahut en azından taksir derecesine gelmiş bir kusuru bulunmaktaydı. Yapay zekanın oluşan neticeden doğrudan sorumlu olup olamayacağı sorusuna günümüzde henüz olumlu bir cevap vermek mümkün görünmemektedir.  Ancak gelecekte, yapay zekanın ulaşacağı boyut tahmin edilebilir bir durumdadır. İnsan zekasına eşit hatta insanlardan daha zeki olacakları, insanların yapabilecekleri her türlü işi tek başlarına gerçekleştirebilecekleri düşünülmektedir. Bu aşamada, insan etkisinin neredeyse hiç olmadığı ve doğrudan yapay zekanın sorumluluğunun doğacağı bir durumdan bahsedebileceğiz.

Yapay Zekanın Doğrudan Sorumluluğu doğsa da aktif suje olarak değerlendirilmeleri mümkün olabilecek midir ?

Bilindiği üzere, Ceza hukukumuzda suç failleri gerçek kişilerdir. Kendi hareketlerini kontrol edebilen, yönlendirebilen bununla birlikte  irade yeteneğine sahip gerçek kişilerin aktif suç süjesi olabileceği kabul edilmiştir. Aslında yapay zekanın gelecekteki durumu mevcut düzenlemelerimizde  yer alan tüzel kişiliklere benzerdir. Suçların şahsiliği ilkesi ve irade yeteneği sebebiyle tüzel kişilerin aktif suje olarak ceza sorumluluklarına gidilmesi kabul görmemiştir. Her ne kadar tüzel kişilerle benzerlikleri bulunsa da, teknoloji alanındaki gelişmelerle insan zekasıyla yarışacak seviyeye gelecekleri öngörüldüğünde, fiillerinin anlamlarını kavrayabilme ve yönlendirebilme kabiliyetine sahip olacakları düşünülmektedir. Dolayısıyla yapay zeka, irade kabiliyetine zaman içinde sahip olacaktır. Henüz günümüzde bu kabiliyetlere erişememiş olsalar bile, yapay zeka teknolojisinin hızla ilerlemesiyle irade kabiliyetine de sahip olması ile birlikte ceza hukukunun aktif süjesi haline gelebileceklerinden bahsedebileceğiz.

Gelecekte; yapay zekanın, meydana getirdiği neticelerden dolayı ceza hukuku anlamında doğrudan sorumlu olabilmesi için birtakım şartların da beraberinde gerçekleşmesi gereklidir.

Önemli Bir Şart: Kusur Unsuru

Ceza hukukumuzda, suç tipi olarak belirlenen fiillerin maddi ve manevi unsurları içinde barındıracak şekilde gerçekleşmesi gerekmektedir. En önemli hususlardan birisi de kusur unsurunun bulunmasıdır. Cezai anlamda sorumluluğa gidilebilmesi, yaptırımların uygulanabilmesi adına kusur unsurunun mevcudiyeti gerekmektedir. Türk Ceza Hukukumuzda yer alan kusur ilkesince, faile işlediği fiil dolayısıyla ceza verilebilmesi için kusur yeteneğine sahip bulunması yahut en azından taksir derecesine gelen bir kusurunun mevcudiyeti aranmıştır.

Kusur yeteneği, kişinin normları anlama, işlediği fiilin anlamını kavrayabilme ve davranışlarını yönlendirebilme yeteneğidir. Bu yeteneği, algılama ve irade yeteneği olarak nitelemek mümkündür. Nitekim TCK’nın yaş küçüklüğü ve akıl hastalığı ile ilgili 31 ve 32. maddelerine baktığımızda, işlediği fiilin hukuki anlam ve sonuçlarını algılayamayan veya bu fiille ilgili olarak davranışlarını yönlendirme yeteneği yeterince gelişmemiş / önemli ölçüde azalmış kişilerin kusur yeteneklerinin olmadığı ifade edilmiştir. Bilhassa algılama yeteneği incelediğimiz konu bakımından önemlidir.

Aslında tüm bu tartışmalara sebebiyet veren esas nokta kusur unsurudur. Bu halde, yapay zekaya sahip olanların, kusur yeteneğine sahip olup olmadığı sorusu cevaplanmalıdır. Nitekim; yapay zekanın günün birinde insanoğlundan daha ileri seviyede olacağı düşünceleri oldukça fazladır ki bu durum  singularity olarak ifade edilir.  Singularity, gelişen teknolojiyle birlikte yapay zekanın gelecekte, insan yaşamını radikal bir biçimde etkileyecek olmasını içermektedir.

Google yapay zeka uzmanı olan Ray Kurzweil, günümüzdeki mevcut yapay zekanın yaklaşık 15 yıl sonra insanlardan daha akıllı olacağını, söylenenleri anlayabileceğini, tecrübelerle öğrenebileceğini hatta flört dahi edebileceğini ileri sürmüştür. Moore yasası da dikkate alındığında, bu husustaki gelişimin hızlı olduğu ve önümüzdeki yıllarda kayda değer bir ilerlemenin olacağı aşikardır.

Dolayısıyla bahsedilen tüm bu gelişmeler göz önünde bulundurulduğunda; yapay zekanın henüz doğrudan cezai sorumluluklarından bahsedilemese de, bir süre sonra kendisini programlayan veya kullanan insanlardan bağımsız olarak ceza sorumluluğunun doğması mümkün olabilecektir.

Böyle bir durumda, yapay zekanın faaliyeti sonucu ortaya çıkan netice ile kullanıcı/programlayıcı arasındaki nedensellik bağı kesilmiş olacaktır. Kullanıcı/programlayıcıların öngöremeyeceği ve tamamiyle yapay zekanın kendi fiiliyatlarının sebebiyet verdiği bir netice ortaya çıkarsa, kullanıcıların yahut programlayıcıların sorumluluğuna gidilemeyecektir.

Yaptırım Meselesi

Yapay zekanın cezai anlamda doğrudan sorumluğunun  kabul edileceği hallerde, ortaya hangi yaptırımların uygulanabileceği meselesi çıkmaktadır.

Türk Ceza Kanununda yaptırımlar güvenlik tedbirleri ve cezalar olarak iki başlık altında yer almaktadır. TCK 45. madde ve devamında yaptırımlar düzenlenmekle beraber; cezalar, hapis cezası ve adli para cezası olarak ayrılmıştır. Güvenlik tedbirleri ile kişileri bazı hakları kullanmaktan yoksun bırakmak, müsadere, tüzel kişilere ilişkin güvenlik tedbirleri gibi hususlar düzenlenmiştir. Bilindiği üzere, suçlara ilişkin öngörülen yaptırımların bazı fonksiyonları vardır. Bunlar, yeniden suç işlenmesini önlemek, caydırıcılık, kişinin topluma yeniden kazandırılabilmesi gibi fonksiyonlardır.

Yapay zekanın, tüzel kişiliklere olan benzerliği sebebiyle ilk bakışta güvenlik tedbirlerinin uygulanması düşüncesi akıllara gelebilir. Ancak bu düşünce de beraberinde, fonsiyon sorununu getirecektir. Gelecekte, yapay zekaya özel yaptırımlar konusunda detaylı düzenlemelere ihtiyaç duyulacağı aşikardır.  

Bu yazılarımız da ilginizi çekebilir:

Bu makaleye şu şekilde atıf yapılması önerilir: Burcu Karataş, Yapay Zekanın Cezai Sorumluluğu, hukukcukafasi.com/ceza-hukuku-yapay-zekanin-cezai-sorumlulugu, (Erişim Tarihi: … ).


Altunç S.(2019),Robotlar Yapay Zeka Ve Ceza Hukuku, Bahçeşehir Üniversitesi

Demir E. (2017),Robot Hukuku, İstanbul Bilgi Üniversitesi Sosyal Bilimler Enstitüsü Bilişim ve Teknoloji Hukuku Y.L

Özgenç İ.(2017), Türk Ceza Hukuku Genel Hükümler, Ankara, Seçkin Yayınevi

The following two tabs change content below.

Burcu Karataş

kendi halinde hukukçu, gühf.

Burcu Karataş (Tümünü gör)

Benzer yazılar

3 Yorum

  1. Mehmet Ali Yıldırım dedi ki:

    Kalbi kadar aklı ve kalemi güçlü bir kadınsın. Hayatının her alanında kazanacağından emin olduğum sonsuz başarılarında yanında olabilmeyi temenni ediyorum.

  1. 30 Temmuz 2020

    […] Yapay Zekanın Cezai Sorumluluğu […]

Bir cevap yazın

E-posta hesabınız yayımlanmayacak. Gerekli alanlar * ile işaretlenmişlerdir