Beyaz Saray’ın yazılımı daha güvenli hale getirmeye yönelik devam eden girişiminin bir parçası olarak, Savunma İleri Araştırma Projeleri Ajansı (DARPA), yazılım güvenlik açıklarını kullanarak yazılım güvenlik açıklarını belirleme ve düzeltme görevini verecek olan AI Cyber Challenge adlı iki yıllık bir yarışma başlatmayı planlıyor.
AI startup’ları Anthropic ve OpenAI ile Microsoft ve Google’ın iş birliğiyle yürütülen AI Cyber Challenge, ABD merkezli ekiplerin AI kullanarak en iyi “hayati yazılımları” – özellikle kritik altyapı kodunu – güvenli hale getirmek için rekabet etmesini sağlayacak. Linux Açık Kaynak Güvenlik Vakfı’nın (OpenSSF) meydan okuma danışmanı olarak hizmet vermesiyle, en iyi yarışmacılara 18,5 milyon dolarlık ödül verilecek.
DARPA ayrıca, katılmak isteyen yedi küçük işletmeye 1 milyon dolar sağlayacağını da açıkladı.
AI Cyber Challenge’ı tasarlayan DARPA program yöneticisi Perry Adams, dün bir basın toplantısında gazetecilere verdiği demeçte, “Her türlü yazılımı saldırıya karşı otomatik olarak savunabilecek sistemler oluşturmak istiyoruz” dedi. ” Yapay zekadaki son kazanımlar, sorumlu bir şekilde kullanıldığında, kodumuzu güvence altına almak için dikkate değer bir potansiyele sahip olduğunu düşünüyorum.”
Adams, açık kaynak kodunun kritik yazılımlarda giderek daha fazla kullanıldığını belirtti. Yakın tarihli bir GitHub anketi, uygulamaların %97’sinin açık kaynak kodundan yararlandığını ve şirketlerin %90’ının bir şekilde açık kaynak kodunu uyguladığını veya kullandığını gösteriyor.
Açık kaynağın çoğalması, bir yenilik patlamasına yol açtı. Ancak aynı zamanda yeni güvenlik açıklarına ve açıklardan yararlanmaya da kapı açtı. Synopsys tarafından yapılan bir 2023 analizi, kod tabanlarının %84’ünün bilinen en az bir açık kaynak güvenlik açığı içerdiğini ve %91’inin açık kaynak bileşenlerinin eski sürümlerine sahip olduğunu gösteriyor.
Bir Sonatype araştırmasına göre, 2022’de tedarik zinciri saldırılarının (üçüncü taraflara, genellikle daha büyük bir kod tabanının açık kaynak bileşenlerine yönelik saldırılar) sayısı yıldan yıla %633 arttı.
Güneydoğu Amerika Birleşik Devletleri’nde gaz ve petrol dağıtımlarını durduran Colonial Pipeline fidye yazılımı saldırısı ve geçen yıl SolarWinds tedarik zinciri saldırısı gibi yüksek profilli olayların ardından Geçen yıl, Biden-Harris Yönetimi, yazılım tedarik zinciri güvenliğini iyileştirmek için bir yönetici emri çıkardı ve siber saldırıları analiz etmek ve gelecekteki korumalar için önerilerde bulunmak üzere bir siber güvenlik inceleme kurulu oluşturdu ve Mayıs 2022’de Beyaz Saray, olağanüstü açık kaynak güvenlik sorunlarını çözmek için iki yıl boyunca 150 milyon dolarlık fon çağrısında bulunan Açık Kaynak Güvenlik Vakfı ve Linux Vakfı’na katıldı.
Ancak Yapay Zeka Siber Mücadelesinin başlatılmasıyla Biden Yönetimi, yapay zekanın siber savunmada oynayacağı daha büyük bir role sahip olduğuna açıkça inanıyor.
Adams, “Yapay Zeka Siber Mücadelesi, siber güvenlik ve yapay zeka uzmanları birleşik, benzeri görülmemiş çapta bir şirketler arası kaynaklar paketine eriştiğinde nelerin mümkün olduğunu keşfetme şansıdır” dedi. “Başarılı olursak, AI Cyber Challenge’ın bu alanda yalnızca yeni nesil siber güvenlik araçlarını üretmesini değil, aynı zamanda burada kritik temellerini savunarak AI’nın toplumu daha iyi hale getirmek için nasıl kullanılabileceğini göstermesini umuyorum.”
Yapay zekanın örneğin kötü amaçlı kod üreterek siber saldırılara yardımcı olma potansiyeli hakkında çok şey yazılmış olsa da, bazı uzmanlar yapay zeka ilerlemelerinin güvenlik uzmanlarının güvenlik görevlerini daha verimli bir şekilde yerine getirmesini sağlayarak kuruluşların siber savunmalarını güçlendirmeye yardımcı olabileceğine inanıyor. Küresel iş liderleri arasında yapılan bir Kroll anketine göre, yarısından fazlası artık en son siber güvenlik çabalarında yapay zekayı kullandıklarını söylüyor.
AI Cyber Challenge’daki takımlar, 2024 Baharında bir eleme etkinliğine katılacak ve en fazla 20 skor yapan oyuncular, 2024’te yıllık DEF CON konferansında yarı final yarışmasına davet edilecek. En fazla beş takım 2 milyon $ ödül alacak ve DEF CON 2025’te yapılacak olan yarışmanın son aşamasına geçicek. Son turda ilk üçe girenler ek ödüller alacak ve birinci olan 4 milyon dolar alacak.
Tüm kazananlardan yapay zeka sistemlerini açık kaynak olarak kullanmaları isteniyor – ancak zorunlu değil tutulmuyor.
Yapay Zeka Siber Mücadelesi, Beyaz Saray’ın bu yılki DEF CON’da daha önce duyurulan ve OpenAI’nin ChatGPT’si gibi büyük dil modellerinin kötü amaçlar için nasıl istismar edilebileceğini belirlemeyi amaçlayan model değerlendirmesine dayanıyor. Değerlendirme ayrıca, modellerin yakın zamanda Biden-Harris yönetiminin bir “ AI haklar beyannamesi ” planında ve Ulusal Standartlar ve Teknoloji Enstitüsü’nün AI risk yönetimi çerçevesinde belirtilen ilke ve uygulamalarla ne kadar uyumlu olduğunu ölçecek.
