Yeni teknolojilerle gelen zorluklar

Start-up’ların yapay zekâ teknolojilerini,  siber güvenlik alanındaki çalışmalarını inceleyen uzmanlar güvenlik kategorisinin çok fazla dinamiği olduğunun altını çizerek, kullanılan yapay zekâ araçlarının bunlardan yalnızca bir tanesi olduğunu vurguluyorlar. Uzmanlar yapay zekâ teknolojileri ve güvenlik araçlarının dikkatlice incelenmesi ve kıyaslanması gerektiğini belirtiyorlar.

Teknoloji hem iş hayatımızın hem de gündelik ömrümüzün ayrılmaz bir kesimi haline geldi. Bu süratli ve kapsayıcı dijitalleşme devri siber güvenliğin ehemmiyetini her dalda hissettiriyor. Yapay zekâ ve ona bağlı olarak gelişen iş kolları yeni teşebbüsleri, start-up’ları da cezbediyor. Büyük teknoloji firmaları tarafından satın alınma umudu ile ortaya çıkan ve popülerleşen yapay zekâ tabanlı start-up’ların bir kısmının iş sonuçları şimdi istenilen bedellerden uzak görünüyor. Siber güvenlik şirketi ESET, yapay zekâ ve makine tahsilini (ML) her vakit güvenlik çarkının yalnızca bir dişlisi olarak gördüklerinin altını çizerek güvenliğin birçok bileşeni olduğunun altını değerle çiziyor.

Yapay zekâ siber güvenlik için kullanılan araçlardan yalnızca bir tanesi

Uzmanları güç olanın yalnızca yapay zekâ güvenliği olmadığını aktararak tarif gereği, güvenlik yazılımlarının yüzeyin derinliklerinde gerçekleşen "kötü şeyleri" izlemek için düşük düzeyli işletim sistemi kaynaklarına erişimi ve etkileşimi olduğunu; bunun tıpkı vakitte çok kaygılı bir güncellemenin bir bilgisayarın ya da bulutu oluşturan birçok bilgisayarın başına iş açabileceği manasına geldiğini belirterek çok dikkatli olunması gerektiğini bilhassa vurguluyorlar . Teknoloji muazzam bir güç ve çeviklik sunsa da makûs aktörlerin sinsi bir istismarla global bir bulutu ele geçirerek bir dizi şirketi alaşağı edebileceği ihtarında da bulunuyorlar. 

Yapay zekâ güvenliğini kıyaslayın

Henüz emekleyen bir  sektörün raydan çıkmasına mahzur olmak ismine, LLM'ler için uygulanabilecek ölçütleri tanımlamak üzere sıkı bir çalışma yürüten takımlar de var. Bu takımlar kullanılabilir bir referans üretmeye çalışıyorlar ve "şu anda neyin mümkün olup neyin mümkün olmadığına dair net bir resme sahip olmanın güç olduğu konusunda hemfikirler. İspata dayalı kararlar almak için karar alma sürecini ampirik ölçümlere dayandırmak gerekiyor. Bunlar bir start-up değiller, yani bir küme araştırmacıyı misyonun gerektireceği sıkıntı ve sıkıcı işi yapacak kadar uzun mühlet bir ortada tutmak için gereken değerli kaynaklara sahipler. Bu gruplar evvelki çalışmalarında "otomatik istismar üretimi, inançsız kod çıktıları, LLM'lerin siber ataklara yardımcı olmayı kabul ettiği içerik riskleri ve süratli enjeksiyon taarruzlarına duyarlılık" üzere hususları ele almışlardı. En yeni sürüm "otomatik toplumsal mühendislik, manuel saldırgan siber operasyonların ölçeklendirilmesi ve otonom siber operasyonlar dahil olmak üzere saldırgan güvenlik yeteneklerine odaklanan yeni alanları" da kapsayacak. Kamuya da açık olan The National Institute of Standards and Technology (NIST) üzere kümelerin çalışmaları bu nedenle çok kıymetle takip ediliyor. 

Kaynak: (BYZHA) Beyaz Haber Ajansı