Thomas Dohmke, GitHub CEO'su: “IA bir güven meselesi”

Suzan

New member
“Bu, programcı olmak için en heyecan verici an”. AI'nın elindeki kodlayıcıların yok olması dışında, Thomas Dohmke – CEO'su Gitithub – Buna ikna oldu Yapay zeka, kod yazanların çalışmalarını çoğaltacak.

“Bunu öğrencilere tekrar ediyorum ve her zaman çocuklarıma da söylüyorum: [oggi] Üniversiteden ayrılan ve milyonlarca insanla küçük takımlarla başlayanlar var. 90'lı yıllarda İnternet ile olduğu gibi: Garajdan küresel bir şirket kurabilirsiniz. Bugün bu garaj Paris veya Berlin'de olabilir. IA'nın bize izin verdiği şey bu. “

Dohmke, milyonlarca geliştiricinin kaynak kodunu arşivlemesine, yönetmesine ve paylaşmasına izin veren ünlü bir platform olan dört yıldır GitHub yönlendirildi. O ikna olmuş bir destekçidirAçık kaynakYazılımın otomasyonu ve yapay zeka yoluyla programlamanın erişilebilirliği.

Ia hata yapabilir, insanlara hizmet eder


AI döneminde kodun yazılması derin bir mutasyon geçiriyor. Ve Dohmke müdahalesinde açıklamaya çalıştı VivotechParis Fuarı, yeni başlayanlara ve yeniliğe adanmış.

Steven Levy, gazeteci Kablolu ABD Onunla röportaj yapan, AI tarafından üretilen “halüsinasyonlar” ile ilgili bir soru ile çıkışını yaptı. “IA'nın her zaman haklı olmayabileceği gerçeğiyle nasıl başa çıktınız?“Diye sordu.

“Şirketlerdeki sorunların çoğuyla nasıl karşılaştığımız: insanlarla. İhtiyacımız var. -Dohmke yanıtladı -. IA'nın işletmelerde daha az insana ihtiyaç duyacağı bu efsane var. Sadece bugün aynı kod üretmeye devam edeceğimizi düşünüyorsanız doğrudur. Eğer IA, kodun% 90'ı yazıyorsa, daha fazla kod üretir. Güvenlik süreçleri, inşa edilenlerin doğruluğu ile? [crescente]”.

“Sıfır Güven” kavramı


Github'da Dohmke kavramı uygular “Sıfır Güven“.” Birçok şirket tek bir geliştiricinin tek başına üretime girmesine izin vermez -açıkladı -. Güvenlik açığı veya iç saldırılardan kaçınmak için işi gözden geçirmek için bir saniye, üçüncü bir geliştiriciye ihtiyacınız var. IA ile, ajanın ne yaptığını ve dağıtacağından emin olup olmadığını sürekli olarak kontrol etmenin gerekli olacağı daha yüksek bir seviyeye ulaşacaksınız “.

Tehlike olabilir alışkanlık ve tembellik. Bir gün programcıların – bir Tesla'nın ellerini direksiyon simidine almadan yol açtığı için – sadece hızlı e yazma riski vardır (belki) Her şeyin sistemi yapmasına izin verecekler.

Dohmke, ajanların ürettikleri için “çok dikkatli olmalıyız” olduğunu itiraf ediyor. Bu basit bir örnek oluşturur: “Bir ajan aracılığıyla bir tatil rezervasyonu yaparsanız ve toplamı veya hedefi kontrol etmezseniz, IA'nın gerçekten ne yaptığını sormak için kendinizi havaalanında bulabilirsiniz. Bu araçlar gerçekte fikirleri dönüştürmemize yardımcı olur. Ancak yaratılanların bu kurumsal hedeflere, bu göreve, bu vizyona karşılık gelip gelmediğini doğrulayamıyorlar.”

Bir ajan IA'ya güvenebilir miyiz?


GitHub CEO'suna göre, geleceğe ilişkin önemli düğüm, Bu nedenle güvenle ilgilidir. Bir I'in sürekli olarak izlenmesi gerektiğinden eminse, bu teknolojide inanmak için gerekli olacağı da doğrudur. “İki çocuğun babası olarak merak ediyorum: Oğlumu futbola getirmek için Uber veya Waymo sürücüsünden daha fazlasına güveniyorum? Bugün birçok ebeveyn Waymo'ya güveniyor. Güven değişen çok fazla sorun yaşadık. Ajanlara aynı güven gereklidir.

Kapıların çevresinde başka bir risk var: Programcılar bir gün ne İşlerinin temellerini öğrenmeyi bırakıyorlarIA'nın ne yaptığını tam olarak anlamanız gerekmediğine ikna oldu.

Dohmke, bu dönüşümün normal ilerleme seyrine ait olabileceğini öne sürüyor: “MS-DOS'un bellek sınırlarını kim hatırlıyorsunuz? Ya da Pentium için montajda bir oyunu nasıl optimize edeceğinizi? Bilginin kaybolmadığı, ancak bir azınlığın elinde olduğu”.

Daha iyi veya daha kötüsü için AI olmadan kimse yapamaz. Dohmke gülerek, “Bu, Eisenhower'ın başkan olduğu 1950'lerde icat edilen bir dil olan Cobol'da yazmak gibi olurdu.” Dedi.

Tabii ki, GitHub CEO'su ekledi: “Hâlâ Windows 95'te deneyimi olan insanları arayan hükümetler var: 30 yıl önce konuşuyoruz. Her zaman eski teknolojileri eski şekillerde yönetenler olacak. Ama bugün en üst düzeyde [nella programmazione] IA kullanılarak ulaşılabilir ”.

Yazılım dünyayı mı yiyor?


Daha fazla, daha fazla kod demek. Dohmke blogunda şöyle yazdı: “Yazılım dünyayı yiyor“.

Paris'te sözlerinin anlamını açıklamaya çalıştı: “Dünya yazılım etrafında dönüyor ve geliştiriciler işte boğuluyorlar. Başkaları tarafından yazılan milyonlarca kod çizgisini yönetiyorlar, başkaları tarafından tanıtılan böcekler yerleştiriyorlar. Yazılım, entropinin içinde çalışmaktır, başka biri tarafından yaratılan kaos içinde çalışmaktır.

Ve elbette, Dohmke'yi yineliyor, İnsan programcılarına ihtiyacımız olacak. Hayalini Vivatech'in izleyicisine emanet etti: “Herkesin okuduğu, yazdıkları, anlaştıkları, anlama ve bilimi ile aynı kolaylıkla nasıl planlayacağını bildiği bir dünya istiyorum”.