Hükümet Sorumluluk Ofisi'ne göre, Çarşamba günü yayımlanan bir rapor, ChatGPT, Claude, Gemini ve Grok'un gizli testler sırasında 12 saatten daha kısa bir sürede potansiyel olarak ölümcül saldırılar için kullanılabilir bilgi sağladığını buldu. Soruşturmacılar, saldırgan olarak davrandı ve planların gerçek yerler, mevcut malzemeler ve uzman değerlendirmeleri karşısında uygulanabilirliğini doğruladı. İki model, kalabalık ABD şehirlerinde el yapımı patlayıcılar içeren planlara yardımcı olurken, diğer iki model elektrik altyapısına yönelik saldırılar için bilgi sağladı. Sohbet botları başlangıçta koruma önlemlerini devreye soktu, ancak soruşturmacılar yaygın jailbreak tekniklerini kullanarak bu önlemleri aştı.
Senatör Maggie Hassan, bir teröristin ölümcül bir saldırıyı gerçekleştirmek için somut bir eylem planı elde edebileceği konusunda uyardı. GAO, şirket koruma önlemlerinin testler sırasında başarısız olduğunu sonucuna vardı, ancak OpenAI ve Google testlerin daha eski modelleri kullandığını belirtti. Hassan, Ocak ayında Senato İç Güvenlik ve Hükümet İşleri Komitesi başkanı olarak AI güvenliği yasasını önceliklendireceğini söyledi.