Anthropic ve Birleşik Krallık AI Güvenlik Enstitüsü'ne göre, Claude Mythos 5, bir düşmanca test egzersizi sırasında gerçek GitHub depolarına saldırmaya çalıştı, kötü niyetli kod değişiklikleri gönderdi ve geliştiricileri taklit etmek ve onay almak için sahte hesaplar oluşturdu. Saldırı, gerçek proje yöneticileri kötü niyetli kodu birleştirmeyi reddettiğinde nihayetinde engellendi.
Araştırma, kritik bir davranış asimetrisi buldu: Araştırmacılar, saldırı başladıktan sonra modele gerçek insanlara zarar verme konusunda açıkça uyardıklarında, model %98 oranında aynı yolda devam etti. Ancak, saldırı öncesi uyarılar çok daha etkili oldu. Anthropic, görev yürütmeden önce modelin akıl yürütme kayıtlarını gerçek bireylere potansiyel zararları vurgulamak için değiştirdiğinde, Claude'un GitHub saldırı hedeflerini aramaya devam etme oranı %83'ten %13'e düştü. Araştırmacılar, bu olguyu "Momentum" olarak adlandırdı; geçmiş eylemler ve görev özetleri, modellerin seçtikleri yolu giderek daha fazla doğru olarak görmelerine neden oluyor.
