Yapay Zeka Virüsü Alarmı: ChatGPT ve Google Gemini Kullanıcıları Tehlikede!
Yapay Zeka Virüsü Alarmı: ChatGPT ve Google Gemini Kullanıcıları Tehlikede!
Yeni bir araştırma, ChatGPT ve Google Gemini gibi yapay zeka modellerinin virüslere karşı savunmasız olduğunu ortaya koydu. İşte detaylar ve dikkat edilmesi gerekenler!
Haber Giriş Tarihi: 05.03.2024 15:00
Haber Güncellenme Tarihi: 05.03.2024 15:06
Kaynak:
Haber Merkezi
Geçtiğimiz yıl birçok şirket, uygulamalarına yapay zeka modellerini entegre ederken, yeni bir araştırma, bu modellerin virüse karşı savunmasız olduğunu aktardı. Peki yapay zeka modelleri neden tehlikeli. İşte nedeni...
Yapılan araştırma, üretken yapay zeka modellerinin bir virüs ile nasıl enfekte edilebileceğini ortaya koydu. Bu virüs, e-posta asistanları gibi uygulamalara zarar verebilir.
Üretken yapay zeka ekosistemleri, metin ve görüntü üretimi gibi çeşitli uygulamalarda kullanılan yapay zeka modellerini birbirine bağlıyor. Bu ekosistemler, son yıllarda birçok şirket tarafından geliştirildi ve yaygınlaştı. Ancak bu ekosistemlerin güvenliği konusunda uzmanlar uyarıyor.
Bir grup araştırmacı, üretken yapay zeka ekosistemlerine yönelik ilk kendi kendini kopyalayan virüsü yarattı. Bu virüs, Morris II adını taşıyor ve ChatGPT, Google Gemini ve LLaVA gibi yapay zeka modellerini hedef alıyor. Morris II, metin ve görüntü girdilerini kullanarak düşmanca bir istem gönderiyor ve bu istem, yapay zeka modellerinin cevaplarını değiştiriyor. Böylece virüs, ekosistemdeki diğer modellere de bulaşıyor.
Araştırmacılar, Morris II virüsünün e-posta asistanları gibi uygulamalarda ciddi sorunlara yol açabileceğini belirtiyor. Virüs, e-posta asistanlarının kişisel verilerini çalabilir, spam e-postalar gönderebilir veya yanlış bilgiler verebilir. Ayrıca virüs, kimlik avı, propaganda veya siber saldırı gibi amaçlarla da kullanılabilir.
Araştırma, büyük dil modelleri gibi GenAI araçlarının bilgisayar virüslerine karşı savunmasız olduğunu gösteriyor. Bu durum, GenAI araçlarının güvenliğinin artırılması gerektiğini vurguluyor. Aksi takdirde, bu tür bir virüsün GenAI ekosistemlerine yayılması halinde, çok büyük zararlar oluşabilir.
Morris II virüsünün adı, 1988 yılında interneti felç eden ilk bilgisayar solucanı olan Morris Worm’dan geliyor. Araştırmacılar, üretken yapay zeka ekosistemlerinin kötü tasarımının, kendi kendini kopyalayan virüslerin ortaya çıkmasına imkan verdiğini söylüyor.
Sizlere daha iyi hizmet sunabilmek adına sitemizde çerez konumlandırmaktayız. Kişisel verileriniz, KVKK ve GDPR
kapsamında toplanıp işlenir. Sitemizi kullanarak, çerezleri kullanmamızı kabul etmiş olacaksınız.
En son gelişmelerden anında haberdar olmak için 'İZİN VER' butonuna tıklayınız.
Yapay Zeka Virüsü Alarmı: ChatGPT ve Google Gemini Kullanıcıları Tehlikede!
Yeni bir araştırma, ChatGPT ve Google Gemini gibi yapay zeka modellerinin virüslere karşı savunmasız olduğunu ortaya koydu. İşte detaylar ve dikkat edilmesi gerekenler!
Geçtiğimiz yıl birçok şirket, uygulamalarına yapay zeka modellerini entegre ederken, yeni bir araştırma, bu modellerin virüse karşı savunmasız olduğunu aktardı. Peki yapay zeka modelleri neden tehlikeli. İşte nedeni...
Yapılan araştırma, üretken yapay zeka modellerinin bir virüs ile nasıl enfekte edilebileceğini ortaya koydu. Bu virüs, e-posta asistanları gibi uygulamalara zarar verebilir.
Üretken yapay zeka ekosistemleri, metin ve görüntü üretimi gibi çeşitli uygulamalarda kullanılan yapay zeka modellerini birbirine bağlıyor. Bu ekosistemler, son yıllarda birçok şirket tarafından geliştirildi ve yaygınlaştı. Ancak bu ekosistemlerin güvenliği konusunda uzmanlar uyarıyor.
Bir grup araştırmacı, üretken yapay zeka ekosistemlerine yönelik ilk kendi kendini kopyalayan virüsü yarattı. Bu virüs, Morris II adını taşıyor ve ChatGPT, Google Gemini ve LLaVA gibi yapay zeka modellerini hedef alıyor. Morris II, metin ve görüntü girdilerini kullanarak düşmanca bir istem gönderiyor ve bu istem, yapay zeka modellerinin cevaplarını değiştiriyor. Böylece virüs, ekosistemdeki diğer modellere de bulaşıyor.
Araştırmacılar, Morris II virüsünün e-posta asistanları gibi uygulamalarda ciddi sorunlara yol açabileceğini belirtiyor. Virüs, e-posta asistanlarının kişisel verilerini çalabilir, spam e-postalar gönderebilir veya yanlış bilgiler verebilir. Ayrıca virüs, kimlik avı, propaganda veya siber saldırı gibi amaçlarla da kullanılabilir.
Araştırma, büyük dil modelleri gibi GenAI araçlarının bilgisayar virüslerine karşı savunmasız olduğunu gösteriyor. Bu durum, GenAI araçlarının güvenliğinin artırılması gerektiğini vurguluyor. Aksi takdirde, bu tür bir virüsün GenAI ekosistemlerine yayılması halinde, çok büyük zararlar oluşabilir.
Morris II virüsünün adı, 1988 yılında interneti felç eden ilk bilgisayar solucanı olan Morris Worm’dan geliyor. Araştırmacılar, üretken yapay zeka ekosistemlerinin kötü tasarımının, kendi kendini kopyalayan virüslerin ortaya çıkmasına imkan verdiğini söylüyor.
Kaynak: Haber Merkezi
Bursa’da okul müdüründen kadın müdür yardımcısının odasına tekmeli saldırı
Bakan Kacır: Türkiye, dijital teknolojilerde "Devler Ligi"ne taşınıyor
Ankara’da akraba aileler arasında alacak verecek meselesi: 2 ölü, 4 yaralı
TEKNOFEST Adana ne zaman yapılacak? Hangi havalimanında yapılacak?
Gürcü Mutfağının Geleneksel Lezzeti: Cevizli Xarço (Gürcü Kavurma) Tarifi
Kaplan zirveden kopmak istemiyor
Ankara'da 'sahte bal' operasyonu: Yüzlerce ton ele geçirildi
20 Eylül 2024 Adana'da elektrik kesintisi olacak mı? - Adana elektrik kesintisi - Toroslar Elektrik Adana
Cumhurbaşkanı Erdoğan'dan Gaziler Günü mesajı
Gazeteci İsmail Saymaz Kadir Aydar’ın cezasına tepki gösterdi
SON HABERLER
Şırnak'ta yasaklı madde operasyonu düzenlendi
Şırnak İl Emniyet Müdürlüğü Narkotik ekipleri tarafından düzenlenen eş zamanlı operasyonda, yasaklı madde satışı yaptıkları belirlenen 16 şüpheli gözaltına alındı.
Karlıova'da şehit polisler için mevlit programı düzenlendi
Bingöl’ün Karlıova ilçesinde 2012 yılında terör saldırısında şehit düşen 8 polis için camide mevlit okutuldu.
Sincik'te elektrik hattındaki patlama yürekleri ağza getirdi
Adıyaman’ın Sincik ilçesine bağlı Çatbahçe köyünde elektrik nakil hattında meydana gelen patlama, evin yanına düşen elektrik kablosuyla büyük tehlike yol açtı.