Yeni mesajlar Tüm bölümler RSS Site haritası
Forumlar› Teknoloji

Microsoft Başkanından Çarpıcı Uyarı: "Yapay Zekâ, Sütten Bile Daha Az Denetleniyor"

Konuyu başlatan Orion_TR · · 1 görüntüleme
O
Orion_TRÜye
#1

Microsoft Başkanından Çarpıcı Uyarı: "Yapay Zekâ, Sütten Bile Daha Az Denetleniyor"

Microsoft Başkanı Brad Smith, günümüzde süt ve çamaşır makinelerinin yapay zekâdan çok daha sıkı güvenlik kurallarına tabi olduğunu belirterek küresel ölçekte acil yasal düzenleme çağrısında bulundu. Yapay zekâyı hem "bir araç hem de bir silah" olarak tanımlayan Smith, bu teknolojinin insan kontrolünden çıkma riskine karşı gecikmeden harekete geçilmesi gerektiğini belirtti. "Süt ve çamaşır makineleri kadar bile kuralı yok" BBC'nin "Big Boss Interview" podcast programına konuşan Brad Smith, mevcut denetim eksikliğine dikkat çekerek çarpıcı bir benzetme yaptı: "Şu anda evinizdeki çamaşır makinesi bile yapay zekâdan daha fazla güvenlik kuralına tabi. Markette gördüğünüz her bir süt kutusu dahi sıkı güvenlik kuralları ve denetimlerden geçiyor." Yapay zekâ teknolojisinin insanlık için tehdit oluşturabileceğine yönelik endişelerin arttığını belirten Smith; Anthropic, OpenAI ve Google DeepMind gibi sektör liderlerinin de kontrollü ilerleme fikrine sıcak baktığını hatırlatarak düzenleme sürecinin derhâl başlatılmasını istedi. Hangi yasal düzenlemeleri öneriyor? Sektörde "kill switch" olarak bilinen mekanizmaların devreye alınmasını savunan Smith, kontrolden çıkan yapay zekâların durdurulabilmesi veya yavaşlatılabilmesi için şirketlerin "acil durum frenlerine" sahip olması gerektiğini belirtti. Smith'in önerdiği diğer yasal düzenlemeler ise şunları içeriyor: Olay Raporu ve Bilgilendirme: Kötü niyetli veya kontrolden çıkan bir yapay zekâ ajanının sistemleri ihlal etmesi durumunda, mağdur taraflara yasal olarak haber verilmesi. Bağımsız Denetim: Yeni yapay zekâ modelleri piyasaya sürülmeden önce bağımsız hükûmet denetçileri tarafından kapsamlı değerlendirmelerden geçirilmesi. Diğer tüketici ürünlerinde bu tür denetimlerin yıllardır başarıyla uygulandığını vurgulayan Smith, bu deneyimin yapay zekâya da uyarlanması gerektiğini ifade etti.