Yapay Zeka Virüsü Alarmı: ChatGPT ve Google Gemini Kullanıcıları Tehlikede!
Geçtiğimiz yıl birçok şirket, uygulamalarına yapay zeka modellerini entegre ederken, yeni bir araştırma, bu modellerin virüse karşı savunmasız olduğunu aktardı. Peki yapay zeka modelleri neden tehlikeli. İşte nedeni...
Yapılan araştırma, üretken yapay zeka modellerinin bir virüs ile nasıl enfekte edilebileceğini ortaya koydu. Bu virüs, e-posta asistanları gibi uygulamalara zarar verebilir.
Üretken yapay zeka ekosistemleri, metin ve görüntü üretimi gibi çeşitli uygulamalarda kullanılan yapay zeka modellerini birbirine bağlıyor. Bu ekosistemler, son yıllarda birçok şirket tarafından geliştirildi ve yaygınlaştı. Ancak bu ekosistemlerin güvenliği konusunda uzmanlar uyarıyor.
Bir grup araştırmacı, üretken yapay zeka ekosistemlerine yönelik ilk kendi kendini kopyalayan virüsü yarattı. Bu virüs, Morris II adını taşıyor ve ChatGPT, Google Gemini ve LLaVA gibi yapay zeka modellerini hedef alıyor. Morris II, metin ve görüntü girdilerini kullanarak düşmanca bir istem gönderiyor ve bu istem, yapay zeka modellerinin cevaplarını değiştiriyor. Böylece virüs, ekosistemdeki diğer modellere de bulaşıyor.
Araştırmacılar, Morris II virüsünün e-posta asistanları gibi uygulamalarda ciddi sorunlara yol açabileceğini belirtiyor. Virüs, e-posta asistanlarının kişisel verilerini çalabilir, spam e-postalar gönderebilir veya yanlış bilgiler verebilir. Ayrıca virüs, kimlik avı, propaganda veya siber saldırı gibi amaçlarla da kullanılabilir.
Araştırma, büyük dil modelleri gibi GenAI araçlarının bilgisayar virüslerine karşı savunmasız olduğunu gösteriyor. Bu durum, GenAI araçlarının güvenliğinin artırılması gerektiğini vurguluyor. Aksi takdirde, bu tür bir virüsün GenAI ekosistemlerine yayılması halinde, çok büyük zararlar oluşabilir.
Morris II virüsünün adı, 1988 yılında interneti felç eden ilk bilgisayar solucanı olan Morris Worm’dan geliyor. Araştırmacılar, üretken yapay zeka ekosistemlerinin kötü tasarımının, kendi kendini kopyalayan virüslerin ortaya çıkmasına imkan verdiğini söylüyor.
