“Papa, G7'de yapay zekanın dünya barışı açısından riskleri konusunda uyarıda bulunacak. Bu onun önemli bir endişesi. Ve BM'nin bu konulara müdahale etmesini umduğunu biliyorum”. Monsenyör Vincenzo Paglia, Papa Francis ile yapay zeka hakkında ilk konuşan kişi oldu. Papalık Yaşam Akademisi'nin başkanı olan Başpiskopos, yapay zekayla bağlantılı riskler ve fırsatlar konusunda Papa ile yıllardır açık bir diyalog yürütüyor. Bu teknolojinin patlamasından yıllar önce başlayan bir diyalog.
Monsenyör Paglia, Bergoglio bu konularla ne zaman ilgilenmeye başladı?
“2019'da Microsoft'un o zamanki başkanı Brad Smith, Kilise'nin yeni teknolojilerin sınırındaki çalışmalarını destekleyip destekleyemeyeceğini anlamak için beni Roma'ya ziyarete geldi. O zaman bile bu araçların insanlığın geleceği için çok iyi şeyler yapabileceği, ancak aynı zamanda eşi benzeri görülmemiş felaketlere de yol açabileceği açıktı. Bana Redmond'da (Microsoft'un genel merkezi, ed.) yaklaşık 50 bin mühendis bulunduğunu ve hiçbirinin makinenin eylemi ile insanın eylemi arasındaki sınırın ne olabileceği konusunda net bir fikrinin olmadığını söylediğini hatırlıyorum. . Bu öncü yeniliklerle bağlantılı etik konular hakkında bir tartışma arıyorlardı.”
Ve ne oldu?
“Onu Papa'ya sundum. Bu yeni sınırlar hakkında konuştuk. Yapay zekanın riskleri, özellikle de dezenformasyon konusuyla bağlantılı riskler ve gençlerin eğitimi hakkında konuştuk. Ertesi yıl, Yapay Zeka için Roma Çağrısını (Yapay Zekanın etik kullanımına yönelik Vatikan girişimi, ed.) başlattık. Bergoglio'nun bu konulara ilgi duymaya başladığı an buydu.”
O zamandan beri her şey değişti. Yapay zeka, hayal edilmesi zor bir potansiyel gösterdi.
“O zamandan beri diğer şirketlerin birçok temsilcisi Vatikan'a geldi. Bergoglio bu temanın insanlığın geleceği açısından ne kadar merkezi hale gelebileceğini hemen anladı. Sadece eğitim veya iletişim için değil. Ancak her şeyden önce, bu araçların kullanımının ilgili halklar için çok büyük bir risk oluşturacağı savaş için. Papa çok büyük bir şeyle karşı karşıya olduğumuzun farkında. Etiği ve yasal çerçevesi olmayan bir yapay zekanın çok büyük riskler içerdiğini de söyleyebiliriz. Ancak aynı zamanda muazzam bir potansiyele sahip olduğunu da söylemek gerekiyor. Örneğin tıbbi ve bilimsel alanlarda. Yeterli farkındalığa ihtiyacımız var.”
Papa Bari'deki G7'de ne diyecek?
“Her şeyden önce barıştan bahsedeceğine inanıyorum. Yapay zekanın gelecekteki savaşlar için ne kadar tehlikeli olabileceğini çok iyi biliyor. Drone'lar, siber saldırılar, otonom makineler savaşlara katılan siviller üzerinde çok büyük sonuçlar doğurabilir. Ama sanırım aynı zamanda iletişim ve eğitim dünyasında yapay zekayı düzenlemenin öneminden de bahsedecek.”
Yapay zekanın neden bu kadar merkezi bir konu haline geldiğini düşünüyorsunuz?
“Çünkü teknolojik gelişme insan özgürlüğünün tam kalbine dokunuyor. Çünkü insan manipüle edilebilir. Çünkü yapay zekanın düzenlenmemiş gelişimi demokrasileri riske atabilir. Çünkü teknoloji devlerine bilinçsizce sunduğumuz veriler, onlara sahip olanlar için hayal bile edilemeyecek bir zenginliğe dönüştü. Bu tablolardan hükümetlerin sorumluluğunun genişletilmesini isteyeceğiz. Yenilikçi olan bu konuyu düzenlememiz gerekiyor. Papa'nın BM'nin bu konulara müdahale etmesini istediğini biliyorum.”
G7'den daha geniş bir yönlendirmeye ihtiyacımız var mı?
“Bütün büyük ülkeleri kapsayan eyleme ihtiyacımız var. Çin'in olmadığı bir G7 sorundur. Çünkü Çin de bu sektörde ileri teknolojilere sahip. Bakış açısı çok daha geniş olmalı. Bununla birlikte, bu G7 bir başlangıç noktasıdır. Giorgia Meloni'nin Papa'yı davet etmesi çok iyi oldu. Bergoglio'nun daveti kabul etmesi çok iyi oldu.”
Yapay zekayı düzenlemek için belki de BM'de daha geniş bir müdahaleyi nasıl hayal ediyorsunuz?
“Benim fikrim, dünyadaki tüm hükümetlerin bir araya gelerek, çok karmaşık olan bu teknolojiyi yönetmeye yönelik etik ve yasal kuralları belirlemesidir. Geçmişte nükleer enerji veya iklim için yapıldığı gibi. Bu konularda hükümetleri ve şirketleri de dahil ederek küresel bir farkındalık yaratmamız gerekiyor. Bu olmadan dünya istikrarı ve barışı riske atılacaktır.”
Etik bir yapay zekaya yönelik manifestonuz şu ana kadar kime dahil oldu?
“Papalık Üniversitesi'nden başladı ve Microsoft, IBM ve Cisco tarafından diğerleriyle paylaşıldı. Ancak bu sadece Kiliseyi ilgilendirmiyor. İsrail Büyük Hahamını, Suudi Arabistan Başmüftüsünü, Canterbury Başpiskoposunu dahil ettik. Hiroşima'da bu konuları tüm dinlerle tartışacağız, Doğu dinlerini de dahil etmeye çalışacağız.”
Yapay zeka bazı şeyleri insanlar kadar iyi, hatta bazen insanlardan daha iyi yapabildiğini gösterdi. Tarihte ilk kez bir makine, en çok sahip olduğumuz nitelik olan zeka konusunda bizden daha iyi performans gösteriyor gibi görünüyor. Dindar bir kişi olarak, insan ile makine arasındaki bu değişen ilişki hakkında ne düşünüyorsunuz?
“Ekim ayında bu temaları anlatan bir kitabım çıkacak. Yapay zekanın insan yeteneklerinin bir sonucu olduğunu düşünüyorum. İnsan ürünüdür. Tıpkı bir avlanma aracı olarak veya başka bir insanı öldürmek için kullanılabilecek sopa gibi. Bu aletleri üreten daima insandır. Yapay zeka daha büyük bir risk teşkil ediyor ve teknoloji ne kadar ilerlerse riskler de o kadar büyük olacak. Ama mantık hep aynı. Hala zamanımız varken müdahale etmemiz, düzenleme yapmamız ve kendimize etik hedefler koymamız gerekiyor.”
Hala zamanında mıyız?
“Günümüzün riski, teknolojinin yaratıcı kapasitesi çok büyük olmasına ve hızla ilerlemesine rağmen, insanın etik veya yasal açıdan uyum sağlama ve karşı önlem alma becerisinin daha yavaş olmasıdır. OpenAi, ChatGpt'i 10 yılda yaratacağını düşündü, bizim ise 3 yılımızı aldı. Eğer teknoloji çalışırsa, eğer hâlâ zamanında olmak istiyorsak, koşmayı daha fazla öğrenmeliyiz.”
Monsenyör Paglia, Bergoglio bu konularla ne zaman ilgilenmeye başladı?
“2019'da Microsoft'un o zamanki başkanı Brad Smith, Kilise'nin yeni teknolojilerin sınırındaki çalışmalarını destekleyip destekleyemeyeceğini anlamak için beni Roma'ya ziyarete geldi. O zaman bile bu araçların insanlığın geleceği için çok iyi şeyler yapabileceği, ancak aynı zamanda eşi benzeri görülmemiş felaketlere de yol açabileceği açıktı. Bana Redmond'da (Microsoft'un genel merkezi, ed.) yaklaşık 50 bin mühendis bulunduğunu ve hiçbirinin makinenin eylemi ile insanın eylemi arasındaki sınırın ne olabileceği konusunda net bir fikrinin olmadığını söylediğini hatırlıyorum. . Bu öncü yeniliklerle bağlantılı etik konular hakkında bir tartışma arıyorlardı.”
Ve ne oldu?
“Onu Papa'ya sundum. Bu yeni sınırlar hakkında konuştuk. Yapay zekanın riskleri, özellikle de dezenformasyon konusuyla bağlantılı riskler ve gençlerin eğitimi hakkında konuştuk. Ertesi yıl, Yapay Zeka için Roma Çağrısını (Yapay Zekanın etik kullanımına yönelik Vatikan girişimi, ed.) başlattık. Bergoglio'nun bu konulara ilgi duymaya başladığı an buydu.”
O zamandan beri her şey değişti. Yapay zeka, hayal edilmesi zor bir potansiyel gösterdi.
“O zamandan beri diğer şirketlerin birçok temsilcisi Vatikan'a geldi. Bergoglio bu temanın insanlığın geleceği açısından ne kadar merkezi hale gelebileceğini hemen anladı. Sadece eğitim veya iletişim için değil. Ancak her şeyden önce, bu araçların kullanımının ilgili halklar için çok büyük bir risk oluşturacağı savaş için. Papa çok büyük bir şeyle karşı karşıya olduğumuzun farkında. Etiği ve yasal çerçevesi olmayan bir yapay zekanın çok büyük riskler içerdiğini de söyleyebiliriz. Ancak aynı zamanda muazzam bir potansiyele sahip olduğunu da söylemek gerekiyor. Örneğin tıbbi ve bilimsel alanlarda. Yeterli farkındalığa ihtiyacımız var.”
Papa Bari'deki G7'de ne diyecek?
“Her şeyden önce barıştan bahsedeceğine inanıyorum. Yapay zekanın gelecekteki savaşlar için ne kadar tehlikeli olabileceğini çok iyi biliyor. Drone'lar, siber saldırılar, otonom makineler savaşlara katılan siviller üzerinde çok büyük sonuçlar doğurabilir. Ama sanırım aynı zamanda iletişim ve eğitim dünyasında yapay zekayı düzenlemenin öneminden de bahsedecek.”
Yapay zekanın neden bu kadar merkezi bir konu haline geldiğini düşünüyorsunuz?
“Çünkü teknolojik gelişme insan özgürlüğünün tam kalbine dokunuyor. Çünkü insan manipüle edilebilir. Çünkü yapay zekanın düzenlenmemiş gelişimi demokrasileri riske atabilir. Çünkü teknoloji devlerine bilinçsizce sunduğumuz veriler, onlara sahip olanlar için hayal bile edilemeyecek bir zenginliğe dönüştü. Bu tablolardan hükümetlerin sorumluluğunun genişletilmesini isteyeceğiz. Yenilikçi olan bu konuyu düzenlememiz gerekiyor. Papa'nın BM'nin bu konulara müdahale etmesini istediğini biliyorum.”
G7'den daha geniş bir yönlendirmeye ihtiyacımız var mı?
“Bütün büyük ülkeleri kapsayan eyleme ihtiyacımız var. Çin'in olmadığı bir G7 sorundur. Çünkü Çin de bu sektörde ileri teknolojilere sahip. Bakış açısı çok daha geniş olmalı. Bununla birlikte, bu G7 bir başlangıç noktasıdır. Giorgia Meloni'nin Papa'yı davet etmesi çok iyi oldu. Bergoglio'nun daveti kabul etmesi çok iyi oldu.”
Yapay zekayı düzenlemek için belki de BM'de daha geniş bir müdahaleyi nasıl hayal ediyorsunuz?
“Benim fikrim, dünyadaki tüm hükümetlerin bir araya gelerek, çok karmaşık olan bu teknolojiyi yönetmeye yönelik etik ve yasal kuralları belirlemesidir. Geçmişte nükleer enerji veya iklim için yapıldığı gibi. Bu konularda hükümetleri ve şirketleri de dahil ederek küresel bir farkındalık yaratmamız gerekiyor. Bu olmadan dünya istikrarı ve barışı riske atılacaktır.”
Etik bir yapay zekaya yönelik manifestonuz şu ana kadar kime dahil oldu?
“Papalık Üniversitesi'nden başladı ve Microsoft, IBM ve Cisco tarafından diğerleriyle paylaşıldı. Ancak bu sadece Kiliseyi ilgilendirmiyor. İsrail Büyük Hahamını, Suudi Arabistan Başmüftüsünü, Canterbury Başpiskoposunu dahil ettik. Hiroşima'da bu konuları tüm dinlerle tartışacağız, Doğu dinlerini de dahil etmeye çalışacağız.”
Yapay zeka bazı şeyleri insanlar kadar iyi, hatta bazen insanlardan daha iyi yapabildiğini gösterdi. Tarihte ilk kez bir makine, en çok sahip olduğumuz nitelik olan zeka konusunda bizden daha iyi performans gösteriyor gibi görünüyor. Dindar bir kişi olarak, insan ile makine arasındaki bu değişen ilişki hakkında ne düşünüyorsunuz?
“Ekim ayında bu temaları anlatan bir kitabım çıkacak. Yapay zekanın insan yeteneklerinin bir sonucu olduğunu düşünüyorum. İnsan ürünüdür. Tıpkı bir avlanma aracı olarak veya başka bir insanı öldürmek için kullanılabilecek sopa gibi. Bu aletleri üreten daima insandır. Yapay zeka daha büyük bir risk teşkil ediyor ve teknoloji ne kadar ilerlerse riskler de o kadar büyük olacak. Ama mantık hep aynı. Hala zamanımız varken müdahale etmemiz, düzenleme yapmamız ve kendimize etik hedefler koymamız gerekiyor.”
Hala zamanında mıyız?
“Günümüzün riski, teknolojinin yaratıcı kapasitesi çok büyük olmasına ve hızla ilerlemesine rağmen, insanın etik veya yasal açıdan uyum sağlama ve karşı önlem alma becerisinin daha yavaş olmasıdır. OpenAi, ChatGpt'i 10 yılda yaratacağını düşündü, bizim ise 3 yılımızı aldı. Eğer teknoloji çalışırsa, eğer hâlâ zamanında olmak istiyorsak, koşmayı daha fazla öğrenmeliyiz.”