2023 yılında San Francisco'da bir yaya, bir sürücünün çarpması sonucu ağır yaralandı. Çarpma sonucu, otonom bir aracın önüne savrulan yaya, araç durmaya çalışırken 6 metre sürüklendi. Kazanın karmaşık koşulları ve hukuki sonuçları göz önüne alındığında, eğitimciler bunu geleceğin mühendislerinin yeni teknolojilerin etik zorluklarıyla başa çıkmaları için bir öğrenme fırsatı olarak gördüler.

John A. Paulson Mühendislik ve Uygulamalı Bilimler Okulu'ndaki "Yapay Zekada Planlama ve Öğrenme Yöntemleri" dersinde öğrenciler için kaza üzerine bir tartışma yürüten Michael Pope , "Bu olayı, çarpışmaların kaçınılmaz olduğu durumlarda tasarımı iyileştirme konusunda bir uyarı ve bir meydan okuma olarak ele aldık," dedi. "Bu tür öngörülemeyen senaryolar için sistemleri nasıl tasarlamalıyız? Bu sistemlerde kullandığımız eğitim rejimini ve öğrenme modellerini nasıl düşünmeliyiz?"

Pope, 2017'de başlatılan ve felsefe uzmanlarını bilgisayar bilimleri sınıflarına getirerek öğrencilerin çalışmalarının etik ve sosyal sonuçlarıyla başa çıkmalarına yardımcı olan Embedded EthiCS programında doktora sonrası araştırmacı olarak görev yapmaktadır. Bu yıl yapay zekanın etiğine yeni bir vurgu yapılıyor.

Embedded EthiCS program direktörü Matthew Kopec , “Öğrenciler temelde bilgisayar bilimleri derslerinin içinde insancıl eğitimin tadını çıkarıyorlar,” dedi. “Bilgisayar bilimleri sınıfında, temel değerlerine dayanan bu konular hakkında konuşmalar yapabiliyorlar; birbirleriyle gerçekten konuşabiliyorlar, farklı bireylerin farklı değerlere sahip olduğunu öğreniyorlar ve kendi değerlerini savunabiliyorlar. Bu, bilgisayar bilimleri sınıfında genellikle yaşanan bir şey değil.”

'Burada sadece bir robot yapıyorum.'

Kurslar çeşitli konuları ele alıyor. “Hesaplamalı Dilbilime ve Doğal Dil İşlemeye Giriş” dersindeki etik modülünde öğrenciler, yapay zekâ sohbet robotları üreten şirketlerin sorumluluklarını tartıştılar. “Robotik Giriş” dersinde ise otomasyon ve yapay zekânın bazı işlerin yerini almasıyla işin geleceğini ele aldılar. Geçen yılki “Gelişmiş Bilgisayar Görüşü” dersinde öğrenciler, deepfake teknolojisini ve çevrimiçi yanlış bilgilendirme oluşturmak için kullanılan aynı yapay zekâ teknolojisinin, içeriği doğrulamak ve dijital güveni yeniden sağlamak için nasıl kullanılabileceğini incelediler.

Sınıf mevcudu nedeniyle tüm grup tartışmalarına katılmanın zor olduğu “CS50: Bilgisayar Bilimine Giriş” dersinde, filozoflar öğretim ekibiyle birlikte çalışarak problem setlerine kısa etik açıklamaları ve yansıtma soruları eklediler. Bir problem setinde öğrencilerden ADA erişilebilirliği hakkında bir açıklama içeren bir web sitesi oluşturmaları istendi. Dosya verilerini filtreleme ve kurtarma ile ilgili bir diğer problem setinde ise görüntülerin neden bulanıklaştırılmasının gerekli olabileceği sorusu yer aldı; öğrencilerden daha sonra veri kurtarmanın birinin gizliliğini ihlal edebileceği bir senaryoyu ve bu çalışmanın nasıl sorumlu bir şekilde yapılabileceğini açıklamaları istendi.

Popüler giriş seviyesi dersini veren David Malan , etik materyalini dersine dahil etme motivasyonunun, öğrencilerin teknolojik olarak belirli şeyleri yapabiliyor olmaları gerçeğinin, bunları yapmaları gerektiği anlamına gelip gelmediğini düşünmelerini sağlamak olduğunu söyledi.

Malan, “Öğrencilerimiz, mezun olduktan ve sektörde çalışmaya başladıktan sonra bile, yöneticileri veya şirket tarafından bir şey yapmaları istendiğinde, bunu sorgulama veya itiraz etme konumunda olmadıkları durumlarla sık sık karşılaşıyorlar,” dedi. “Bizim ders kapsamında yapmak istediğimiz şey, öğrencilerin artık teknik bilgiye sahip oldukları için belirli sorunları nasıl ve çözüp çözmeyecekleri konusunda önceden düşünmeye teşvik edildiği bir ortam yaratmaktı.”

Embedded EthiCS'te felsefe alanında doktora sonrası araştırmacı olan Hüseyinfe Demirtas , bilgisayar bilimleri öğrencilerinin çoğunun felsefe müfredatıyla ilgilenmekten heyecan duyduğunu söyledi. Ancak bazıları hala bilgisayar bilimlerini etik veya sosyal sorumluluktan ayrı görüyor. Özellikle ulaşmak istediği öğrenciler de bunlar.

Demirtas, kendi araştırmalarının ahlaki sorumluluk, özgür irade ve nedenselliğin metafiziği konularına odaklandığını belirterek, “'Ben sadece kod yazıyorum' veya 'Ben sadece bir robot yapıyorum' gibi şeyleri sık sık duyuyoruz. Bu biraz yanıltıcı. Emoji oluşturmak gibi basit şeylerden büyük dil modellerine, sürücüsüz araçlara ve otonom silah sistemlerine kadar, aklınıza ne gelirse gelsin, bazı sosyal ve etik sonuçlar ortaya çıkaracağız.” dedi.

Demirtas bu ay "Sistem Güvenliği" bilgisayar bilimi dersi için etik modülü verdi. Bu modülde öğrenciler, bir şirketin dışarıdan gelen bir bilgisayar korsanının sistemine yönelik saldırısına nasıl yanıt vermesi gerektiği konusunu tartıştılar. Bir bilgisayar korsanının ana bilgisayarını yok edecek bir hata ile kendi verilerinizi tuzağa düşürmek ahlaki olarak doğru mu? Çalınan verileri geri almak için bilgisayar korsanını hacklemenin etiği nedir?

ChatGPT kullanımıyla birlikte talep patlama yaşıyor.

Kopec, Embedded EthiCS'e olan ilginin bilgisayar bilimleri fakültesi arasında hızla arttığını söyledi. Programın ilk günlerinde, kurucu ortaklar Barbara Grosz ve Alison Simmons'ın, bilgisayar bilimleri fakültesini zaten yoğun olan müfredatlarına bir felsefe modülü eklemeye ikna etmek için önemli çaba sarf ettiklerini belirtti. Şimdi ise talep, Embedded EthiCS'in bunları yürütme kapasitesini aşıyor.

Kopec, “Bilgisayar biliminin artık etik sonuçları olmadığına inanan bir bilgisayar bilimi profesörüne rastlamadım,” dedi. “ChatGPT ile yaşanan hızlı değişim ve herkesin hayatını alt üst etmesi nedeniyle, herkes artık özellikle bilgisayar bilimi öğrenen öğrenciler olmak üzere, öğrenci topluluklarına daha fazla etik muhakeme becerisi ve etik düşünme yeteneği kazandırmak için acele etmemiz gerektiğine ikna olmuş durumda. Şimdi soru şu: 'Bunu nasıl yaparsınız ve nasıl hızlı bir şekilde yaparsınız?'”

Bu, diğer kolej ve üniversitelerin de üzerinde düşündüğü bir soru. Embedded EthiCS, Stanford Üniversitesi, Toronto Üniversitesi, Technion – İsrail Teknoloji Enstitüsü ve Nebraska-Lincoln Üniversitesi de dahil olmak üzere diğer kurumların sorumlu bilişim programları başlatmasına yardımcı oldu. Ulusal Bilim Vakfı fonuyla Harvard, Kaliforniya Eyalet Üniversitesi'nin iki kampüsü ve New Mexico Eyalet Üniversitesi de dahil olmak üzere Hispaniklere Hizmet Veren Kurumların Bilişim İttifakı'nın dokuz üyesinin yapay zekaya odaklanan etik programlarını pilot uygulamaya geçirmesine de yardımcı oldu.

Kopec, etik modüllerinin mevcut bilgisayar bilimleri müfredatlarına entegre edilmesi modelini önermektedir; çünkü bu model, öğretim üyesi alımı, müfredat oluşturma veya ders onay süreçlerini beklemeye gerek kalmadan yapay zeka gelişmelerine ayak uydurmak için hızlı bir şekilde uygulanabilir.

"Bir hafta içinde tüm bu ekipleri bir araya getirebilir, onlara bizimki gibi bir yaklaşımın ne olduğunu çok hızlı bir şekilde öğretebiliriz ve daha sonra kendi kurumlarında benzer bir programı hayata geçirmek için ihtiyaç duydukları tüm araçlarla ayrılabilirler," dedi.

Program, bilgisayar bilimleri öğrencilerine yeni bir bakış açısı kazandırırken, felsefe araştırmacılarına da yeni ilgi alanları keşfetme fırsatı sunuyor. Demirtas'ın yakında yayınlanacak makalesi, "Açıklanabilir Yapay Zeka" problemi olarak adlandırılan konuyu inceliyor: Karmaşık yapay zeka sistemlerinin nasıl karar verdiğini çoğu zaman bilmiyoruz, peki bu gizemli "kara kutular" polislik veya sağlık hizmetleri kararları almak için kullanıldığında etik sonuçlar nelerdir?

“Bence bu kesinlikle iki yönlü bir süreç. Teknoloji etiği alanındaki araştırmalar genel olarak daha iyiye gidiyor. Bilgisayar bilimcileriyle daha fazla etkileşim kurdukça felsefe alanındaki araştırmalar da kesinlikle gelişiyor,” dedi Kopec. “Ayrıca, bilgisayar bilimcilerinin araştırma yaparken filozoflarla etkileşim halinde olmaları sayesinde, bilgisayar bilimi araştırmalarının çeşitli alanlarının daha iyi bilgi sahibi olacağını düşünüyorum.”