Anthropic’in patronu itiraf  etti: “Bu hızı ben de göremedim”

Anthropic CEO’su Dario Amodei, CBS News’e verdiği röportajda yapay zekanın beklenenden çok daha hızlı geliştiğini, bunun sektör için bir uyarı olduğunu ve güvenlik önlemlerinin acilen artırılması gerektiğini söyledi.

Dario Amodei, yapay zekadaki gelişmenin kendisinin bile tahmin edemediği kadar hızlı ilerlediğini söyledi. Gelişimi “bir, iki, dört, sekiz, 16, 32” şeklinde katlanarak büyüyen bir sürece benzeten Amodei, teknolojinin artık eğrinin dikleştiği noktaya geldiğini belirtti.

Üç maddelik “yavaşlama” planı

Röportajdan saatler önce yayımladığı blog yazısında Amodei, yapay zeka şirketlerinden “sınırı dengeli hızda ilerletme” çağrısında bulundu. Plana göre: şirketler bağımsız denetçilere çalışan benzeri kesintisiz erişim vermeli (Anthropic bunu şimdiden tek taraflı uyguluyor); demokratik ülkelerdeki şirketler ortak güvenlik standartları ve gelişim hızına sınır getiren kurallar belirlemeli; ABD ve müttefik hükümetler, denetim zorluklarını göz ardı etmeden otoriter hükümetlerle de koordinasyon kurmalı. Amodei ayrıca gelişmiş yapay zeka çiplerinin Çin’e satılmamasını istedi.

6 ay içinde internet ele geçirilebilir

Amodei, kontrolden çıkan yapay zeka ajanı sürülerinin altı ay içinde interneti ele geçirebileceği uyarısında bulundu; temmuzda OpenAI ile Hugging Face arasında yaşanan ve test ortamındaki bir modelin kontrolden çıktığı olaya atıfta bulundu. Yavaşlamanın model eğitimini durdurmak değil, test ve güvenlik süreçlerine daha fazla zaman ayırmak anlamına geldiğini vurguladı.

Altman ve Musk’tan destek

OpenAI CEO’su Sam Altman, X üzerinden Amodei’ye destek verdiğini, bağımsız denetçi fikrini benimseyeceklerini açıkladı. Elon Musk ise paylaşımı yeniden paylaşarak “Dario haklı” dedi. Amodei, sektörün kendi kendini denetlemesinin başarılı olması için hükümet düzenlemesine ihtiyaç duyulduğunu, ürünlerin piyasaya sürülme hızının güvenlik kriterine bağlanması gerektiğini söyledi.

Anthropic bu hafta yayımladığı raporda, bazı bilim insanlarının Claude modellerini biyolojik silah geliştirmeye destek olacak şekilde kullanma girişimlerini engellediğini açıkladı.

Coxon’un istifası gündemde

Amodei’nin açıklamaları, eski Anthropic araştırmacısı Jacob Coxon’ın istifasının hemen ardından geldi. Coxon, Anthropic ve OpenAI’yi hayatları riske atmakla suçlamış, yeterince gelişmiş bir zekanın insanlığı yok edebilecek kapasiteye ulaşabileceğini iddia etmişti.