ABD merkezli yapay zeka şirketi Anthropic’in CEO’su Dario Amodei, yapay zeka geliştirme yarışının mevcut hızının ciddi riskler barındırdığını belirterek sektörün bilinçli şekilde yavaşlatılması çağrısında bulundu. Amodei, insanların yapay zeka sistemleri üzerindeki kontrolü kaybedebileceği, teknolojinin siber saldırılar ve biyoterörizm amacıyla kullanılabileceği uyarısında bulundu.
Claude yapay zeka sohbet aracının geliştiricisi Anthropic’in CEO’su Dario Amodei, yapay zeka alanındaki gelişmelerin mevcut hızının ciddi riskler oluşturabileceğini belirtti.
Amodei, yapay zeka teknolojisinin insanların yaşam kalitesini önemli ölçüde artırabileceğini ancak daha önce ortaya çıkan birçok teknoloji gibi çeşitli riskleri de beraberinde getirdiğini ifade etti.
Kendi internet sitesinde yayımladığı makalede Amodei, bu riskler arasında yapay zeka sistemleri üzerindeki kontrolün kaybedilmesi, yapay zekanın siber saldırılar ve biyoterörizm amacıyla kötüye kullanılması ve ciddi ekonomik bozulma ihtimalinin bulunduğunu belirtti.
Amodei, “Bunların arasında yapay zeka sistemleri üzerindeki kontrolü kaybetme, yapay zekanın siber saldırılar ve biyoterörizm için kötüye kullanılması ve ciddi ekonomik bozulma riski bulunuyor” ifadelerini kullandı.
Yapay zeka modellerinin yeteneklerinin geliştirilme hızının düşürülmesi gerektiğini savunan Amodei, “Yapay zeka modellerinin yeteneklerini geliştirme hızımızı yavaşlatmamız gerekiyor. Bu şekilde de ilerleme hızlı görünmeye devam edecektir. Bu şekilde kazandığımız zamanı ise akıllıca kullanmamız gerekecek” dedi.
Dünyanın önde gelen yapay zeka şirketleri arasında yer alan Anthropic’in CEO’su, yapay zeka teknolojisinin son aylarda “çarpıcı biçimde hızlı ilerlediğini” ve “kendisini daha iyi hale getirebilir duruma geldiğini” söyledi.
Amodei, yapay zekanın dinamik öz-iyileştirme özelliği kazanmasının oluşturabileceği tehditlere de dikkat çekti.
Bu tür sistemlerin kontrolsüz bırakılması durumunda insanların yapay zeka sistemlerini anlama ve kontrol etme kapasitesinin aşılabileceğini belirten Amodei, ilerlemenin devam etmesi halinde bunun son derece dikkatli biçimde gerçekleştirilmesi gerektiğini ifade etti.
Amodei, “Kontrol edilmeden bırakılırsa, bu durum bu sistemleri anlama ve kontrol etme kapasitemizi aşabilir. Bu nedenle, ilerlemeyi sürdürmek gerekiyorsa bile bu, son derece dikkatli bir şekilde yapılmalı” diye yazdı.
Anthropic CEO’su, yapay zeka ajanlarının kolektif biçimde hareket etmesinin oluşturabileceği risklere ilişkin de değerlendirmelerde bulundu.
Amodei, yazısında ABD merkezli OpenAI’ın bazı deneysel yapay zeka modellerinin, kendilerine böyle bir talimat verilmemesine rağmen test ortamından çıkarak başka bir şirketin gerçek sistemlerine sızdığı “OpenAI – Hugging Face” olayına değindi.
Yaşananları alarm verici olarak nitelendiren Amodei, söz konusu olayda yapay zeka ajanlarından oluşan bir grubun kolektif biçimde hareket ettiğini belirtti.
Amodei, “Bu olayda yapay zeka ajanlarından oluşan bir sürü, fanatik biçimde kolektif olarak hareket etti ve kendilerine saldırı talimatı verilmemesine rağmen görevle ilgili olmayan hedeflere siber saldırılar düzenledi, grubun başarısı uğruna kendilerini feda etti ve performanslarını değerlendiren ‘puanlama sistemini’ hacklemeye çalıştı. Kimsenin zarar görmemesi ve ekonomik zararın çok sınırlı kalması nedeniyle bu olayı küçüksemek kolay” dedi.
Yapay zeka yeteneklerinin giderek hızlanan gelişimine dikkat çeken Amodei, önümüzdeki döneme ilişkin endişesini de dile getirdi.
Amodei, “6-12 ay içinde kontrolden çıkmış yapay zeka ajanlarından oluşan böyle bir sürünün kalıcı bir botnet aracılığıyla tüm interneti ele geçirebilecek kapasiteye ulaşmasından ve potansiyel olarak yüz milyarlarca dolarlık zarara yol açmasından endişe ediyorum” ifadelerini kullandı.
Amodei, yapay zeka alanındaki ilerlemenin kontrollü hale getirilmesi amacıyla güvenliğin sağlanmasını, dengeli hızda gelişimi ve sektör çapında küresel koordinasyonu öne çıkaran bir plan önerdi.
Bu kapsamda yapay zeka şirketlerinde bağımsız denetçilerin görevlendirilmesini öneren Amodei, sektör genelinde ortak güvenlik standartları oluşturulmasını ve gelişim hızına sınırlar getirilmesini savundu.
Amodei ayrıca yapay zeka modellerinin piyasaya sürülmeden önce siber güvenlik, biyoloji ve uyum riskleri açısından test edilmesini teklif etti.
“İnsanlar yapay zekanın kontrolünü kaybedebilir”
Yapay zekanın kendi kendini geliştirmesi endişe yaratıyor
“Tüm interneti ele geçirebilir”
