Yapay zekada kötü senaryolar için erken, ancak önlem şart
Üsküdar Üniversitesi Mühendislik ve Doğa Bilimleri Fakültesi Bilgisayar Mühendisliği Bölümü Başkanı Prof. Dr. Burhan Pektaş, yapay zekanın (YZ) insanlık için bir tehdit oluşturup oluşturmayacağına ilişkin değerlendirmelerde bulundu.
Pektaş, yapay zekanın insan üzerinde kontrol sağlaması veya zarar verme ihtimalinin tamamen dışlanamayacağını, ancak şu anki teknolojik gelişim düzeyinde bu tür senaryoların büyük ölçüde varsayımsal olduğunu ifade etti.
Yapay zekanın günümüzde önceden belirlenen hedefler doğrultusunda çalıştığını ve kendi başına amaç oluşturamadığını belirten Prof. Dr. Pektaş, "Bu tür distopik senaryoların tamamen imkansız olduğunu söylemek zor. Ancak mevcut yapay zeka sistemleri özerk karar verme yeteneğine sahip değil. Geliştirilen algoritmalar doğrultusunda hareket ediyor ve belirli çerçeveler içinde çalışıyor" dedi.
Yapay zekanın gelişiminin kontrolsüz şekilde ilerlemesi durumunda bazı tehditlerin ortaya çıkabileceğine dikkat çeken Pektaş, bu konuda şu değerlendirmeleri yaptı:
• Yanlış Algoritmalar: Otonom sistemlerin hatalı veya önyargılı algoritmalarla çalışması yanlış sonuçlar doğurabilir.
• Kötüye Kullanım: Yapay zekanın kötü niyetli kişiler veya kurumlar tarafından yanlış amaçlar için kullanılması tehlike arz edebilir.
• Gerçeklik Payı: Şu an bu risklerin büyük kısmı teorik olsa da YZ'nin kontrolsüz gelişimi uzun vadede tehdit oluşturabilir.
Önlemler ve Küresel İş Birliği Önemli
Pektaş, yapay zekanın risklerini en aza indirmek için küresel düzeyde iş birliğine ve etik standartlara ihtiyaç duyulduğunu belirtti. "Bu teknolojinin gelecekte insanlığa zarar vermemesi için etik kuralların ve denetim mekanizmalarının hızla geliştirilmesi gerekiyor. Yapay zekanın potansiyel tehditlerini yönetmek için uluslararası düzenlemeler ve ortak politikalar belirlenmeli" dedi.
Yapay zekanın hızla geliştiğini vurgulayan Pektaş, şu an için büyük ölçüde insan kontrolünde olan sistemlerin, ilerleyen yıllarda daha fazla bağımsız hale gelebileceğini, ancak bunun iyi yönetilmesi gerektiğini sözlerine ekledi.