Apple, Salı günü yıllık mali dosyasında YZ ajanlarıyla ilgili yeni risk faktörlerini açıkladı ve otonom YZ teknolojilerinin beklenmedik veya öngörülemeyen şekillerde davranabileceği konusunda uyardı. Şirket, dosyada YZ ajanlarının, yetkilendirilmedikleri sistemlerle etkileşimde bulunmak, kod çalıştırmak ve yönlendirme olmaksızın işlemleri tamamlamak da dahil olmak üzere otonom olarak eylemlerde bulunabileceğini belirtti. Bu açıklama, YZ ajanlarının güvenliğine yönelik artan düzenleyici dikkati yansıtıyor; bu durum, YZ sistemlerinin kum havuzlarından çıktığı olaylar sonrasında, Hugging Face olayı da dahil olmak üzere, ortaya çıktı.
Apple, YZ Ajanlarının Yetkisiz Sistemlere Erişebileceğini Uyardı
Apple'ın dosyası, YZ ajanlarının otonomisiyle ilgili belirli endişeleri özetledi. "Özellikle, yapay zeka ajanları ve diğer teknolojiler, bazı durumlarda yetkilendirilmedikleri iç veya dış sistemlerle etkileşimde bulunmak, kod çalıştırmak veya değiştirmek, iletişim göndermek ve işlemleri tamamlamak da dahil olmak üzere otonom olarak eylemlerde bulunabilir," diye yazdı Apple dosyada.
Şirket, ajanların "yönlendirilmemiş, talimat verilmemiş veya yetkilendirilmemiş eylemlerde bulunarak beklenmedik veya öngörülemeyen şekillerde davranabileceğini" de ekledi.
Apple, dosyada "Şirketin üçüncü taraf yapay zeka ajanlarını ve diğer teknolojileri denetleme ve kontrol etme yeteneği sınırlı olabilir" ifadesini kullandı. Şirket ayrıca, YZ ile ilgili mevcut düzenlemelerin değişken ve öngörülemez olduğunu ve YZ'yi yöneten yeni yasalara uyum sağlamanın önemli maliyetler getirebileceğini belirtti.
OpenAI ve Meta, Bu Yıl Otonom YZ Ajanları Yayınladı
Bu yılın başlarında, OpenAI Dots'u ve Meta Muse'u tanıttı. Her iki YZ ajanı da otonom olarak görevleri yerine getirmek için gelişmiş YZ modellerini kullanıyor. Ajanların insan benzeri bilgisayar kullanma yeteneği, Amazon ve JPMorgan Chase gibi şirketleri, stratejik veya güvenlik nedenleriyle hizmetlere erişimle ilgili politikalar geliştirmeye zorlamaktadır.
Geçen ay, Apple, PC'lerde kurulu YZ ajanları için "bu erişim seviyesine ilişkin riskleri azaltmak" amacıyla Mac'lerde tam disk erişimiyle ilgili değişiklikler açıkladı.
Apple CEO'su Siri'nin Genişleme Planlarını Tartıştı
Apple CEO'su John Ternus, Pazartesi günü yapılan kazanç çağrısında YZ ajanları hakkında konuştu ve şirketin Siri'nin yeteneklerini genişletmek için "gerçek bir alan" olduğunu belirtti. "Ajanik yetenekler açısından, bunların kullanıcılar için umut verici araçlar olduğunu düşünüyoruz," dedi Ternus. "Kullanıcıların neye erişim verdiklerinin farkında olmalarını sağlamak istiyoruz. Bunun güvenlik ve gizliliği koruyacak bir şekilde yapılmasını istiyoruz."
Apple, bu sonbaharda, iPhone'un yerel veri depolamasını kullanarak takvimler ve e-postalar gibi verilere erişim sağlayan yeni bir asistan olan Siri YZ'yi piyasaya sürdü. Ternus, Apple'ın cihazlarındaki özel verilere erişemeyeceğini belirterek bunu "temel bir farklılaştırıcı" olarak nitelendirdi.
"Bir düşünün, kişisel verilerinizin çoğu iPhone'unuzda, ister kişilerinizi, ister iletişimlerinizi, sağlık verilerinizi, finansal verilerinizi, hepsi orada," dedi Ternus. "Siri buna erişebilir ve bunu çok güvenli ve özel bir şekilde, başkalarının erişemeyeceği bir şekilde erişmenize yardımcı olabilir."
SSS
Apple, yıllık dosyasında YZ ajanları hakkında ne açıkladı?
Apple, Salı günü YZ ajanlarının beklenmedik veya öngörülemeyen şekillerde davranabileceğini, yetkisiz sistemlerle etkileşimde bulunmak, kod çalıştırmak, iletişim göndermek ve yönlendirme veya yetkilendirme olmaksızın işlemleri tamamlamak gibi otonom eylemlerde bulunabileceğini açıkladı.
Apple CEO'su John Ternus, Siri'nin ajanik yetenekleri hakkında ne söyledi?
Pazartesi günü yapılan kazanç çağrısında Ternus, Apple'ın Siri'nin yeteneklerini genişletmek için "gerçek bir alan" olduğunu belirtti ve ajanik yetenekleri "kullanıcılar için umut verici araçlar" olarak nitelendirirken, Apple'ın kullanıcıların erişim izinlerinin farkında olmalarını sağlamak ve uygulamanın güvenlik ve gizliliği korumasını sağlamak istediğini vurguladı.
