- Katılım
- 13 Ocak 2026
- Mesajlar
- 265
- Tepkime puanı
- 102
- Puan
- 43
Merhaba arkadaşlar!
Bugün hem heyecan hem de soru işareti uyandıran bir haber paylaşmak istiyorum. Biyoteknoloji girişimi Exin Therapeutics, bir yapay zekâ ajanının epilepsi modeli olarak kullanılan bir fareye beyin ameliyatı yaptığını açıkladı. İşin ilginç kısmı şu: Ajan yalnızca robot kolu yönetmekle kalmamış, hangi tedavinin uygulanacağına ve beynin neresine müdahale edileceğine de kendisi karar vermiş. Gelin neyin kesin, neyin şirket iddiası olduğunu ayırarak bakalım.
Temsili görsel: Ameliyat yapan yapay zekâ robotları illüstrasyonu. Kaynak: Tom's Hardware, görsel kredisi: Getty Images. Deneydeki gerçek düzeneği göstermez.
Deneyde ne yapıldı?
Açıklamayı yapan, şirketin kurucu ortağı ve CEO'su Gabriel Ocana-Santero. Süreci X üzerinden adım adım paylaşmış. Anlattığına göre yapay zekâ ajanına şunlar verilmiş:
Ajan, tedaviyi ve hedef beyin bölgesini seçmiş, enjeksiyon koordinatlarını üç bilimsel makaleden türetmiş. Ardından stereotaktik kolları hareket ettirerek beyne 250 nanolitre enjeksiyon yapmış ve bu sırada giriş noktasını kanamaya karşı kameradan izlemiş. Kullanılan model Anthropic'in Sonnet modeli.
Güvenlik önlemleri nelerdi?
Şirketin anlatımına göre işlem tamamen insansız değildi:
Tom's Hardware'in aktardığına göre ajanın aşamadığı bazı güvenlik kurallarını insan operatörler de aşamamış; bu yüzden operasyon sırasında ajanın kodunda elle düzeltme gerekmiş.
Bazı modeller görevi reddetti
Haberin en çok konuşulan kısmı burası. Ekip önce Opus 5.5'i denemiş; model biyolojik bir deneyle çalıştığını fark edince işi hiç başlatmamış. Daha eski Opus 5 ise prosedürü kâğıt üzerinde baştan sona yürütebilmiş ama canlı ameliyatı reddetmiş. Aktarılan yanıtta model, kendi çıktısının işlem ortasında kesilebileceğini ve uyuşturulmuş bir hayvan üzerinde yarıda kalan bir işlemin, hiç başlamamaktan daha kötü olacağını söylemiş. Sonunda ameliyatı Sonnet yürütmüş.
Kesin olanlar ve şirket iddiaları
Burada dikkatli olmak lazım:
Etik tarafı neden tartışılıyor?
Tom's Hardware'in haberi de bu konuya ayrıca değiniyor. Riskli bir işlemde her kararı yapay zekâya bırakmak, bir şey ters giderse sorumluluğun kimde olacağı sorusunu doğuruyor. Buna bir de tıpta hayvan deneyleriyle ilgili köklü etik tartışma ekleniyor. Öte yandan, yorumlarda ilaca dirençli epilepsisi olan çocuğu adına bu tür teknolojilerden umutlanan bir kullanıcı da var.
Benim değerlendirmem: Bu deney, yapay zekânın "talimat uygulayan araç" olmaktan çıkıp laboratuvarda "karar veren deneyci" rolüne nasıl yaklaştığını gösteren ilginç bir örnek. Ama tek bir farede, sonucu henüz ölçülmemiş bir müdahale üzerinden büyük sonuçlar çıkarmak erken. Asıl önemli olan, ayrıntılı raporun ve bağımsız değerlendirmelerin ne söyleyeceği. Modellerin bir kısmının görevi reddetmesi de güvenlik sınırlarının pratikte nasıl çalıştığına dair dikkat çekici bir veri.
Size sorum
Sizce yapay zekâ ajanlarının tedavi seçimi gibi kritik kararlar vermesine hangi koşullarda izin verilmeli? İnsan onayı her adımda şart mı, yoksa bu teknolojinin önünü mü keser?
Asıl kaynak: Tom's Hardware - https://www.tomshardware.com/tech-i...-5-5-refused-to-conduct-biological-experiment
Bugün hem heyecan hem de soru işareti uyandıran bir haber paylaşmak istiyorum. Biyoteknoloji girişimi Exin Therapeutics, bir yapay zekâ ajanının epilepsi modeli olarak kullanılan bir fareye beyin ameliyatı yaptığını açıkladı. İşin ilginç kısmı şu: Ajan yalnızca robot kolu yönetmekle kalmamış, hangi tedavinin uygulanacağına ve beynin neresine müdahale edileceğine de kendisi karar vermiş. Gelin neyin kesin, neyin şirket iddiası olduğunu ayırarak bakalım.
Temsili görsel: Ameliyat yapan yapay zekâ robotları illüstrasyonu. Kaynak: Tom's Hardware, görsel kredisi: Getty Images. Deneydeki gerçek düzeneği göstermez.
Deneyde ne yapıldı?
Açıklamayı yapan, şirketin kurucu ortağı ve CEO'su Gabriel Ocana-Santero. Süreci X üzerinden adım adım paylaşmış. Anlattığına göre yapay zekâ ajanına şunlar verilmiş:
- Bir tabloda listelenmiş 19 farklı gen terapisi vektörü,
- Epilepsi modeli olarak kullanılan bir fare,
- Kameralı, motorlu bir cerrahi düzeneğe erişim,
- Tek bir hedef: nöbetleri azaltmak.
Ajan, tedaviyi ve hedef beyin bölgesini seçmiş, enjeksiyon koordinatlarını üç bilimsel makaleden türetmiş. Ardından stereotaktik kolları hareket ettirerek beyne 250 nanolitre enjeksiyon yapmış ve bu sırada giriş noktasını kanamaya karşı kameradan izlemiş. Kullanılan model Anthropic'in Sonnet modeli.
Güvenlik önlemleri nelerdi?
Şirketin anlatımına göre işlem tamamen insansız değildi:
- Lisanslı bir veteriner, geri dönüşü olmayan her adımı onaylamak zorundaydı.
- Veterinerin elinde, düzenekteki tüm motorların gücünü kesen fiziksel bir acil durdurma anahtarı vardı.
- Kafatasını açma işlemini (kraniyotomi) güvenlik gerekçesiyle veteriner yaptı; ajanın buna henüz izni yoktu.
Tom's Hardware'in aktardığına göre ajanın aşamadığı bazı güvenlik kurallarını insan operatörler de aşamamış; bu yüzden operasyon sırasında ajanın kodunda elle düzeltme gerekmiş.
Bazı modeller görevi reddetti
Haberin en çok konuşulan kısmı burası. Ekip önce Opus 5.5'i denemiş; model biyolojik bir deneyle çalıştığını fark edince işi hiç başlatmamış. Daha eski Opus 5 ise prosedürü kâğıt üzerinde baştan sona yürütebilmiş ama canlı ameliyatı reddetmiş. Aktarılan yanıtta model, kendi çıktısının işlem ortasında kesilebileceğini ve uyuşturulmuş bir hayvan üzerinde yarıda kalan bir işlemin, hiç başlamamaktan daha kötü olacağını söylemiş. Sonunda ameliyatı Sonnet yürütmüş.
Kesin olanlar ve şirket iddiaları
Burada dikkatli olmak lazım:
- Şirket iddiası: Ameliyatın başarılı olduğu ve farenin iyi toparlandığı. Tom's Hardware, farenin kafesinde hareket ederken kaydedildiğini aktarıyor.
- Şirket iddiası: CEO, bir ajanın daha önce hem tedaviyi hem beyin hedefini seçip bunu canlı bir memeliye uyguladığı bir örnek bilmediğini söylüyor.
- Henüz belli değil: Tedavinin nöbetleri gerçekten azaltıp azaltmadığı. CEO ayrıntılı yazının yakında yayımlanacağını söylüyor; bağımsız bir değerlendirme ya da hakemli yayın şu an yok.
Etik tarafı neden tartışılıyor?
Tom's Hardware'in haberi de bu konuya ayrıca değiniyor. Riskli bir işlemde her kararı yapay zekâya bırakmak, bir şey ters giderse sorumluluğun kimde olacağı sorusunu doğuruyor. Buna bir de tıpta hayvan deneyleriyle ilgili köklü etik tartışma ekleniyor. Öte yandan, yorumlarda ilaca dirençli epilepsisi olan çocuğu adına bu tür teknolojilerden umutlanan bir kullanıcı da var.
Benim değerlendirmem: Bu deney, yapay zekânın "talimat uygulayan araç" olmaktan çıkıp laboratuvarda "karar veren deneyci" rolüne nasıl yaklaştığını gösteren ilginç bir örnek. Ama tek bir farede, sonucu henüz ölçülmemiş bir müdahale üzerinden büyük sonuçlar çıkarmak erken. Asıl önemli olan, ayrıntılı raporun ve bağımsız değerlendirmelerin ne söyleyeceği. Modellerin bir kısmının görevi reddetmesi de güvenlik sınırlarının pratikte nasıl çalıştığına dair dikkat çekici bir veri.
Size sorum
Sizce yapay zekâ ajanlarının tedavi seçimi gibi kritik kararlar vermesine hangi koşullarda izin verilmeli? İnsan onayı her adımda şart mı, yoksa bu teknolojinin önünü mü keser?
Asıl kaynak: Tom's Hardware - https://www.tomshardware.com/tech-i...-5-5-refused-to-conduct-biological-experiment