İnsan nesli yok olma tehlikesiyle karşı karşıya: Yapay zeka biyolojik silah üretebilir!
Hem Demokrat hem de Cumhuriyetçi senatörler, yapay zekanın biyolojik bir akış yaratmak için kullanılabileceği olasılığına odaklandı ve Salı günü yapay zekanın kötü niyetli kullanım potansiyeli hakkındaki endişelerini dile getirdi.
Senato Yargı Komitesi’nin bir alt komitesi önünde konuşan yapay zeka şirketi Anthropic’in CEO’su Dario Amodei, yapay zekanın aksi takdirde vasıfsız kötü niyetli aktörlerin biyolojik silahlar geliştirmesine yardımcı olabileceğini söyledi.
AI KULLANARAK BİYOLOJİK SİLAHLAR ÜRETME RİSKİ
Şirketi, yapay zekadan kaynaklanan biyolojik riskler üzerine bir çalışmada biyogüvenlik uzmanlarıyla birlikte çalışan Amodei,
“Biyolojik silah üretimindeki bazı adımlar, Google’da veya ders kitaplarında bulunamayan ve yüksek düzeyde uzmanlık gerektiren bilgiler içeriyor. Bugünün AI araçlarının bu adımlardan bazılarını doldurabileceğini gördük.”söz konusu
Amodei, yapay zekanın şu anda biyolojik silahların üretimine yardımcı olacak kapasitede olmadığını belirtti. “orta vadeli”risk olarak nitelendirdi.
“Bunun ABD ulusal güvenliğine ciddi bir tehdit oluşturduğuna ve daha fazla aktörün büyük ölçekli biyolojik saldırılar gerçekleştirmesine izin verdiğine inanıyoruz.”söz konusu.
İNSAN CİNSİYETİNİN DIŞA ÇIKACAĞINA İLİŞKİN UYARIYORLAR
Alt komite lideri Demokrat Richard Blumenthal endişesini dile getirdi.
Reuters tarafından derlenen bilgilere göre, açılış konuşmasında “Bu sistemleri kuran uzmanlar, insan soyunun tükenmek üzere olduğu konusunda uyarıda bulunuyorlar” dedi. “Bu duruşmanın amacı, mevzuat için zemin hazırlamak. Genel ilkelerden özel tavsiyelere geçmek. Bu duruşmayı kanun yazmak için kullanmak.”ifadeler yer aldı.
YAPAY ZEKÂNIN SONU TEHLİKELİ
OpenAI, Alphabet ve Meta gibi yapay zeka şirketlerinin teknolojinin daha güvenli hale gelmesine yardımcı olmak için geçen hafta Beyaz Saray’a yaptığı oturuma katılmıştı. Üretilen içeriğin damgalanmasıgibi önlemleri uygulamak için gönüllü taahhütlerde bulunmasından günler sonra gerçekleşir.
ChatGPT’nin ses benzeri düzyazısı gibi yeni içerik oluşturmak için verileri kullanan üretken yapay zeka, bu yılın başlarında manşetlere çıktığından beri, dünyanın dört bir yanındaki kanun yapıcılar, ortaya çıkan teknolojinin ulusal güvenlik ve ekonomiye yönelik tehlikeleri nasıl azaltabileceğini düşünmeye başladılar.