Yapay zeka virüsüne dikkat: ChatGPT ve Google Gemini kullananlar tehlikede!

Yeni bir araştırma, üretken yapay zeka modellerinin bir virüs ile nasıl enfekte edilebileceğini ortaya koydu. Bu virüs, e-posta asistanları gibi uygulamalara zarar verebilir.

Yapılan araştırma pek çok kişiyi şaşırttı. Son dönemde hızla artan yapay zekanın büyük modellerinin virüs tehdidi ileride daha da büyüyebilir. İşte yapılan araştırmanın çarpıcı sonuçları...

ÜRETKEN YAPAY ZEKA EKOSİSTEMLERİ SOLUCAN SALDIRISINA AÇIK

Üretken yapay zeka (GenAI) ekosistemleri, metin ve görüntü üretimi gibi çeşitli uygulamalarda kullanılan yapay zeka modellerini birbirine bağlıyor. Bu ekosistemler, son yıllarda birçok şirket tarafından geliştirildi ve yaygınlaştı. Ancak bu ekosistemlerin güvenliği konusunda uzmanlar uyarıyor.

Bir grup araştırmacı, üretken yapay zeka ekosistemlerine yönelik ilk kendi kendini kopyalayan virüsü yarattı. Bu virüs, Morris II adını taşıyor ve ChatGPT, Google Gemini ve LLaVA gibi yapay zeka modellerini hedef alıyor. Morris II, metin ve görüntü girdilerini kullanarak düşmanca bir istem gönderiyor ve bu istem, yapay zeka modellerinin cevaplarını değiştiriyor. Böylece virüs, ekosistemdeki diğer modellere de bulaşıyor.

VİRÜSÜN ZARARLI ETKİLERİ NELER OLABİLİR?

Araştırmacılar, Morris II virüsünün e-posta asistanları gibi uygulamalarda ciddi sorunlara yol açabileceğini belirtiyor. Virüs, e-posta asistanlarının kişisel verilerini çalabilir, spam e-postalar gönderebilir veya yanlış bilgiler verebilir. Ayrıca virüs, kimlik avı, propaganda veya siber saldırı gibi amaçlarla da kullanılabilir.

Araştırma, büyük dil modelleri gibi GenAI araçlarının bilgisayar virüslerine karşı savunmasız olduğunu gösteriyor. Bu durum, GenAI araçlarının güvenliğinin artırılması gerektiğini vurguluyor. Aksi takdirde, bu tür bir virüsün GenAI ekosistemlerine yayılması halinde, çok büyük zararlar oluşabilir.

Morris II virüsünün adı, 1988 yılında interneti felç eden ilk bilgisayar solucanı olan Morris Worm’dan geliyor. Araştırmacılar, üretken yapay zeka ekosistemlerinin kötü tasarımının, kendi kendini kopyalayan virüslerin ortaya çıkmasına imkan verdiğini söylüyor.