Microsoft’un kurucularından Bill Gates, yapay zekânın gelecekte bir milyar insanın ölümüne neden olabileceğini öne sürdü. Yapay zekâ sistemlerinin kontrolden çıkabileceğine ilişkin haberlerin arttığı bir dönemde bu uyarı kamuoyunda endişe yaratıyor. Yapay zekâ, bulut teknolojileri ve siber güvenlik alanlarında uluslararası uzman olan David Linthicum, böyle bir senaryonun gerçekleşme olasılığına ilişkin görüşlerini paylaştı.

Bill Gates, NBC News’e verdiği röportajda yapay zekânın kitlesel can kayıplarına yol açabilecek olayları etkileyebilecek kadar güçlü hâle geldiğini söyledi. Ona göre modern yapay zekâ araçlarının kötü niyetli kişiler tarafından kullanılması insanlık için son derece büyük bir tehdit oluşturabilir. Gates, yapay zekâ kullanımının yasal düzenlemelerle denetlenmesi gerektiğini de vurguladı.

Bu öngörünün ne kadar gerçekçi olduğunu değerlendirmek amacıyla Tom’s Guide, David Linthicum ile görüştü.

Uzmanın açıklamasına göre yapay zekânın bir milyar insanın ölümüne neden olabilecek bir düzeye ulaşması için kritik altyapıyı, silah sistemlerini, tedarik zincirlerini veya biyolojik sistemleri kontrol edebilmesi gerekir. Ayrıca yapay zekâ sistemlerinin doğrudan insan müdahalesi olmadan çalışabilmesi de şarttır. Böyle bir senaryonun gerçekleşmesi için teknolojilerin farklı sistemlere yanlış biçimde entegre edilmesi, yönetim hataları ve yapay zekânın kasıtlı olarak zararlı amaçlarla kullanılması gibi birkaç ciddi sorunun aynı anda ortaya çıkması gerekir.

Linthicum, böyle bir senaryonun teorik olarak mümkün olduğunu ancak insanların bir dizi ciddi hata yapmaması koşuluyla gerçekte yaşanma ihtimalinin düşük olduğunu belirtti.

Uzmanın tahminine göre Bill Gates, yapay zekâ teknolojilerinin terör örgütlerinin veya istikrarsız devletlerin eline geçmesi ihtimalini düşünüyor olabilir. Ancak böyle bir durumda bile teknolojiyi kullanma niyetinden küresel ölçekte bir felaketin yaşanmasına kadar aşılması gereken uzun bir yol vardır. Bu nedenle uzman, bu büyüklükte bir felaketin meydana gelme olasılığını düşük görüyor.

Bununla birlikte Linthicum, yapay zekâyla ilgili bazı risklerin şimdiden mevcut olduğunu kabul ediyor. Veri sızıntıları, internet dolandırıcılığı, sahte video ve ses kayıtları ile otomatik sistemlerin hatalı çalışması gibi tehlikelere özellikle dikkat edilmesi gerektiğini belirtti. Algoritmaların taraflı kararları ve teknolojinin siber ortamda kötüye kullanılması da endişe yaratıyor. Ayrıca bazı şirketlerin yeterli denetim ve güvenlik önlemleri almadan yapay zekâyı sistemlerine entegre etmesi mümkün.

Uzmanın görüşüne göre başlıca tehlikelerden biri, şirketlerin ve kamu kurumlarının gerçek sistemlerine bağlanan ancak yeterince geliştirilmemiş yapay zekâ çözümleridir. Linthicum, yapay zekâyı kullanmak için gerekli deneyim ve becerilere sahip olmayan kişilerin yönettiği sistemlerden özellikle endişe duyduğunu ifade etti.

Yapay zekânın güvenliğini sağlamak ve üzerindeki denetimi korumak için uzman çeşitli önlemler öneriyor. Bunlar arasında sistemlerin yetkilerini sınırlandırmak, onları diğer sistemlerden yalıtmak ve yüksek riskli işlemleri yalnızca insan onayıyla gerçekleştirmek yer alıyor. Ayrıca yapay zekânın tüm faaliyetlerinin kaydedilmesi, sistemlerin düzenli olarak test edilmesi ve yapay zekâ ajanlarına aşırı geniş yetkiler ya da uygulama programlama arayüzlerine (API) sınırsız erişim verilmemesi gerekiyor.

Linthicum’a göre güvenlik, sistemin tasarımına en başından itibaren dâhil edilmelidir. Bunun için en az ayrıcalık ilkesinin uygulanması, faaliyetlerin izlenmesi, gerektiğinde önceki güvenli duruma dönme imkânının korunması ve sistemlerin birbirinden yalıtılması önemlidir. İnsanların bir teknolojiye duyduğu güven, öncelikle onun yeteneklerini ne ölçüde sınırlandırabildiklerine bağlıdır.

Uzman, yalnızca acil kapatma düğmesine güvenmenin yeterli olmadığını da vurguladı. Böyle bir düğme ancak insan tehdidi zamanında fark eder ve zarar meydana gelmeden önce düğmeyi kullanabilirse işe yarar. Daha güvenilir bir yaklaşım; çok katmanlı denetim mekanizmalarını, otomatik kapatma sistemlerini, işlem sıklığı sınırlarını, yalıtılmış test ortamlarını, onay prosedürlerini ve denetim kayıtlarını içermelidir. Sistemlerin siber saldırılara karşı da dayanıklı olması gerekir.

Linthicum’a göre yapay zekânın güvenli kullanımı yalnızca geliştirme sürecinin son aşamasında değil, projenin bütün aşamalarında sağlanmalıdır. Uzmanın belirttiği gibi acil kapatma düğmesi insanlara güvende oldukları hissini verebilir ancak tek başına güvenliği garanti etmez.

Uzman ayrıca yapay zekânın siber saldırıların maliyetini düşürdüğünü ve sayısını artırdığını söyledi. Günümüzde bu teknoloji sayesinde sahte e-postalar hazırlamak, insanların seslerini taklit etmek ve sahte ödeme belgeleri oluşturmak daha kolay hâle geliyor. Öte yandan yapay zekâ, siber güvenlik uzmanlarının savunmayı güçlendirmesine de yardımcı olabilir.

Buna rağmen uzmanların temel güvenlik kurallarına uymayı sürdürmesi gerekiyor. Bu kurallar arasında çok faktörlü kimlik doğrulama, alınan bilgileri telefonla yeniden doğrulama ve verilerin yedek kopyalarını oluşturma yer alıyor. Linthicum, inandırıcı görünen veya duyulan bilgilerin de sahte olabileceğinin unutulmaması gerektiğini vurguladı.

Yapay zekânın biyolojik silahların geliştirilmesine yardımcı olabileceği konusunda ise uzman daha temkinli bir yaklaşım benimsiyor. Ona göre yapay zekâ, biyoloji alanındaki bilgilerin edinilmesine, iş süreçlerinin geliştirilmesine ve bu alandaki ön araştırmaların kolaylaştırılmasına yardımcı olabilir. Ancak kitle imha silahları geliştirmek için özel laboratuvar koşulları, uygun malzemeler ve deney yapma imkânları gereklidir. Bunların tümü ciddi engeller oluşturur.

Bununla birlikte biyolojik güvenlik önlemlerini güçlendirmek önemlidir. Uzman, yapay zekâ modellerine gönderilen istemlerin denetlenmesini, tehlikeli deney yöntemlerine erişimin sınırlandırılmasını, laboratuvar siparişlerinin izlenmesini ve biyolojik güvenlik standartlarına sıkı biçimde uyulmasını öneriyor. Yapay zekânın tehlikeli amaçlarla kullanıldığı tespit edilirse ilgili teknolojilere erişim kısıtlanmalı ve sorumlu kurumlara bilgi verilmelidir.

Linthicum, yapay zekâ güvenliğinin hükümetler, teknoloji üreticileri, şirketler ve kullanıcılar tarafından ortaklaşa üstlenilmesi gereken bir sorumluluk olduğunu vurguluyor. Devletler mevzuatta riskleri dikkate almalı ve meydana gelen zararlar için sorumluluğu belirlemelidir. Geliştiriciler güvenli, denetlenebilir ve düzenli olarak test edilen sistemler oluşturmalıdır. Şirketler yapay zekânın kullanım biçimlerini değerlendirmeli ve verilere erişimi kontrol altında tutmalıdır. Kullanıcılar ise iletişim kurdukları kişilerin kimliğini doğrulamalı ve hesaplarının güvenliğini sağlamalıdır.

Uzmanın genel sonucuna göre günümüzdeki temel tehlike, yapay zekânın kendisinden çok onu yanlış kullanan veya gerekli güvenlik önlemlerini uygulamayan insanların davranışlarıyla ilgilidir.