Açık kaynaklı büyük dil modellerinin yaygınlaşmasıyla birlikte, WormGPT ve FraudGPT gibi “sınırsız yapay zeka araçları” kimlik avı e-postaları oluşturmak, kötü amaçlı akıllı sözleşmeler yazmak ve toplulukları manipüle etmek amacıyla kötüye kullanılmaktadır. Bu durum, merkeziyetsiz finans (DeFi) ve kripto varlık piyasaları dahil olmak üzere Web3 altyapıları için ciddi güvenlik riskleri doğurmaktadır.

OpenAI’nin GPT serisinden Google’ın Gemini modeline kadar birçok gelişmiş yapay zeka çözümü, iş yapış biçimlerimizi ve dijital yaşamlarımızı yeniden şekillendiriyor. Ancak bu hızlı teknolojik gelişmelerin yanında, güvenlik sınırlamaları ve etik filtrelerden arındırılmış büyük dil modellerinin (LLM) yükselişi endişe verici bir tehdit olarak karşımıza çıkıyor.

“Sınırsız” olarak adlandırılan bu LLM’ler, ana akım yapay zeka modellerinde yer alan güvenlik protokollerini aşmak üzere özelleştirilmiş, genellikle açık kaynaklı modellerin modifiye edilmiş versiyonlarıdır. Bu modeller, içerik denetimini baypas etmek ve yasa dışı faaliyetleri mümkün kılmak amacıyla geliştirilmektedir. LLM geliştiricileri, nefret söylemleri, dezenformasyon, zararlı kod üretimi gibi riskleri en aza indirmek için güvenlik katmanları oluştursa da; son yıllarda bazı kişi ve gruplar, bu koruma önlemlerini kaldıran modeller geliştirmeye yönelmiştir. Bu bağlamda, bu makale sınırsız LLM’lerin temel karakteristiklerini tanıtarak, kripto varlık sektörü özelindeki güvenlik tehditlerini ve potansiyel savunma yaklaşımlarını ele almaktadır.

Sınırsız LLM’ler Nasıl Kötüye Kullanılıyor?

Artık teknik bilgiye sahip olmayan bireyler bile, kısıtlamasız büyük dil modelleri sayesinde, karmaşık kötü niyetli kodlar yazabiliyor, oltalama mesajları hazırlayabiliyor ve dolandırıcılık senaryoları geliştirebiliyor. Saldırganların tek ihtiyacı, model ağırlıklarına ve kaynak kodlarına erişim sağlamak. Ardından bu modelleri zararlı içerik ve talimatlarla eğiterek hedef odaklı siber saldırı araçlarına dönüştürebiliyorlar.

Bu süreç, kripto endüstrisinde bir dizi tehdit doğurmaktadır. Saldırganlar, hedeflerine göre modelleri “ince ayar” ile özelleştirerek, klasik denetim sistemlerini aşan içerikler oluşturabiliyor. Bu modeller:

• Sahte web siteleri için farklı varyantlarda kodlar üretmek,
• Sosyal medya dolandırıcılığı için metinleri platformlara özel uyarlamak,
• Kullanıcıları özel anahtarlarını veya cüzdan seed’lerini paylaşmaya ikna edecek senaryolar oluşturmak için kullanılabiliyor.

Açık kaynak modellerin yaygınlaşması ise, bu tür yasa dışı kullanım alanları için bir yeraltı yapay zeka ekosisteminin oluşmasına zemin hazırlıyor.

WormGPT: GPT’nin Karanlık Versiyonu

WormGPT, yeraltı dijital forumlarında satışa sunulan, kötü niyetli kullanım amacıyla geliştirilmiş bir LLM’dir. Etik sınırlamaların olmadığını açıkça belirten geliştiricileri, modeli GPT-J 6B gibi açık kaynak altyapılar üzerinden inşa etmiş ve kötü amaçlı yazılım veri kümeleri ile eğitmiştir. Aylık erişim için kullanıcıların 189 USD’den başlayan ücretler ödemesi gerekmektedir.

WormGPT’nin kripto varlık sektöründeki başlıca kötüye kullanım senaryoları şunlardır:

• Sahte Kimlik İletileri: Kripto borsalarının, cüzdan sağlayıcılarının veya bilinen projelerin taklit edilerek, kullanıcıların özel anahtarlarını veya seed ifadelerini girmesini isteyen sahte e-postalar üretmek.
• Zararlı Kod Geliştirme: Teknik bilgi seviyesi düşük saldırganların bile, clipboard izleme, cüzdan dosyası ele geçirme veya keylogger gibi kötü amaçlı yazılımlar oluşturmasına olanak tanımak.
• Otomatik Dolandırıcılık Süreçleri: Kurbanlara otomatik mesajlar göndererek sahte airdrop’lara katılım çağrısı yapmak veya yatırım vaatleriyle yönlendirme gerçekleştirmek.

DarkBERT: Karanlık Web İçeriği için Çift Yönlü Bir Kılıç

DarkBERT, Güney Kore İleri Bilim ve Teknoloji Enstitüsü (KAIST) ile S2W Inc. araştırmacıları tarafından geliştirilen bir dil modelidir. Model, özellikle karanlık web verileri (forumlar, yasa dışı pazaryerleri ve sızdırılmış bilgi arşivleri) üzerinde eğitilmiştir. Amaç, siber güvenlik araştırmacılarının ve kolluk kuvvetlerinin karanlık web ekosistemini daha iyi analiz edebilmesini, yasa dışı faaliyetleri takip edebilmesini ve tehdit istihbaratı toplayabilmesini sağlamaktır.

DarkBERT iyi niyetli bir amaçla geliştirilmiş olsa da, içerdiği verilerin kötü niyetli aktörlerin eline geçmesi veya bu modelin benzeri sınırsız dil modellerinin eğitilmesinde kullanılması, ciddi güvenlik tehditlerine yol açabilir. Kripto varlık ekosistemi bağlamında potansiyel kötüye kullanım senaryoları şunlardır:

• Hedefe yönelik dolandırıcılık uygulamaları: Sosyal mühendislik saldırılarında kullanılmak üzere, bireysel yatırımcılar ve proje ekipleri hakkında detaylı bilgi toplamak.
• Suç senaryolarının çoğaltılması: Karanlık ağda belgelenmiş kripto varlık hırsızlığı ve yasa dışı transfer yöntemlerini taklit etmek.

FraudGPT: Çevrimiçi Dolandırıcılığın İsviçre Çakısı

FraudGPT, WormGPT’nin genişletilmiş bir versiyonu olduğunu iddia eden ve daha kapsamlı araçlar sunan bir dil modelidir. Karanlık web ve hacker forumlarında satışa sunulmakta olup aylık lisans ücretleri 200 ila 1.700 USD arasında değişmektedir. Kripto ekosistemi bağlamındaki başlıca kötüye kullanım biçimleri şunlardır:

• Sahte projeler üretmek: Dolandırıcılık amacıyla sahte ICO/IDO kampanyaları için beyaz kâğıt, web sitesi, yol haritası ve tanıtım içerikleri oluşturmak.
• Toplu oltalama sayfaları oluşturmak: Popüler kripto borsaları ve cüzdan servislerini taklit eden giriş sayfaları hazırlamak.
• Sosyal medya manipülasyonu: Sahte yorumlar ve içeriklerle dolandırıcılık projelerinin tanıtımını yapmak veya rakip projeleri itibarsızlaştırmak.
• Sosyal mühendislik saldırıları: Kullanıcılarla sohbet ederek güven inşa etmek ve hassas bilgileri elde etmek ya da kullanıcıları istemeden zararlı işlemlere yönlendirmek.

GhostGPT: Ahlaki Kısıtlamalardan Yoksun Bir Yapay Zekâ Asistanı

GhostGPT, etik kurallardan bağımsız çalışmak üzere tasarlanmış bir yapay zekâ sohbet modelidir. Kripto sektörü özelinde şu şekilde kötüye kullanılabilir:

• Gelişmiş oltalama saldırıları: Gerçeğe çok yakın e-postalar yoluyla, sahte KYC doğrulama talepleri veya hesap dondurma uyarıları oluşturmak.
• Zararlı akıllı sözleşme üretimi: Programlama bilgisi olmayan kişiler dahi, bu model aracılığıyla rug pull dolandırıcılıkları veya DeFi protokollerini hedef alan arka kapılı sözleşmeler oluşturabilir.
• Polimorfik zararlı yazılımlar: Özel anahtarları, cüzdan dosyalarını ve mnemonic ifadeleri çalmak üzere geliştirilen, sürekli olarak yapı değiştiren kötü amaçlı yazılımlar üretilebilir.
• Topluluk manipülasyonu: Discord ve Telegram gibi platformlarda sahte bot hesaplar ile kullanıcıları kandırarak sahte NFT mint’leme, airdrop ya da yatırım fırsatlarına yönlendirmek.
• Deepfake dolandırıcılığı: Yapay ses üretimiyle proje kurucularını veya borsa yetkililerini taklit ederek yatırımcıları aldatmaya yönelik BEC saldırıları düzenlenebilir.

Venice.ai: Sansürsüz Erişimin Doğurduğu Riskler

Venice.ai, kullanıcıların farklı büyük dil modellerini keşfetmesine olanak tanıyan açık erişimli bir platformdur. Daha az denetlenen bazı modeller aracılığıyla, gerçek anlamda sınırsız yapay zekâ deneyimi sunar. Ancak bu durum, kötü niyetli kullanım potansiyelini de beraberinde getirir:

• Zararlı içerik üretimi: Daha az kısıtlamaya sahip modeller kullanılarak phishing şablonları, dezenformasyon metinleri ve saldırı stratejileri üretilebilir.
• Prompt mühendisliği eşiğinin düşmesi: Jailbreaking bilgisine ihtiyaç duymadan, normalde kısıtlı olan çıktıların elde edilmesi mümkün hâle gelir.
• Saldırı komutlarının iterasyonu: Farklı modellerin yanıtları test edilerek dolandırıcılık senaryoları optimize edilebilir.

Sonuç

Sınırsız büyük dil modellerinin yükselişi, daha karmaşık, otomatik ve ölçeklenebilir saldırı tekniklerinin önünü açarak, siber güvenliğin yeni bir dönemine işaret etmektedir. Bu tür modeller, yalnızca saldırıların teknik eşiğini düşürmekle kalmaz, aynı zamanda daha aldatıcı ve tespit edilmesi zor tehditler üretir.

Bu süregelen saldırı-savunma döngüsünde, tüm paydaşların birlikte çalışması şarttır. Gereken önlemler arasında:

• Tespit sistemlerine yatırım: Oltalama içeriklerini, akıllı sözleşme açıklarını ve zararlı kodları tanımlayabilen sistemlerin geliştirilmesi,
• Model güvenliği: Jailbreak karşıtı tekniklerin yaygınlaştırılması,
• İzlenebilirlik altyapısı: Özellikle finansal işlem ve kod üretimi gibi hassas senaryolarda içerik izleme ve su işaretleme mekanizmalarının devreye alınması,
• Etik ve regülasyon çerçevesi: Bu tür modellerin gelişimini temel seviyede denetleyecek normların oluşturulması yer almalıdır.

Bu makale, Techflow kaynağından alıntılanmıştır. Telif haklarına ilişkin sorularınız için bizimle iletişime geçebilirsiniz.