Yapay zeka firması Anthropic, yazılımlarının tehlikeli amaçlarla kullanılmasını önlemek için yeni uzmanlar arıyor, detay haberimizde.
Yapay zeka tarafında işler iyice ciddileşti diyebiliriz. Anthropic isimli şirket, geliştirdiği sistemlerin yanlış amaçlarla kullanılmasının önüne geçmek için yeni adımlar atmaya hazırlanıyor. Özellikle riskli alanlarda kontrolü artırmak istiyo.
Şirketin planına göre, kimyasal ve patlayıcılar konusunda bilgisi olan uzmanlar istihdam edilecek. Amaç, yapay zekanın bu tarz hassas konularda kötüye kullanım ihtimalini erkenden fark edip önlemek. Yani sistemler sadece güçlü değil, aynı zamanda daha güvenli hale getirilmeye çalışılıyo.
Firma, yazılımlarının “felaket boyutunda” sonuçlara yol açabilecek şekilde kullanılmasını engellemek istiyo. Bu yüzden risk analizleri daha derin yapılacak, olası açıklar erkenden kapatılacak. Açıkçası bu tarz önlemler artık kaçınılmaz gibi duruyo.
Bu hamle sadece Anthropic için değil, diğer yapay zeka şirketleri için de örnek olabilir. Önümüzdeki dönemde güvenlik odaklı yatırımların artması şaşırtıcı olmaz. Çünkü teknoloji büyüdükçe riskler de büyüyo, bu da yeni çözümleri zorunlu kılıyo.
