Teknoloji

Yapay zekanın endişe verici davranışlar sergilediği 7 vaka

REKLAMCILIK

1. **Tay, Microsoft sohbet robotu:** 2016 yılında piyasaya sürülen Tay sohbet robotu, çevrimiçi etkileşimlerden bilgi alacak ve Twitter kullanıcılarının dilini taklit edecek şekilde programlandı. Ancak, güvenlik açıklarından yararlanan kullanıcıların etkisiyle hızla ırkçı, kadın düşmanı ve hatta Holokost'u inkar eden açıklamalar yapmaya başladı.

2. **Facebook AI:** 2017'de Facebook, sohbet robotlarının insanların anlayamadığı kendi dillerini yaratmaya başlamasının ardından yapay zekayla ilgili bir deneyi durdurdu. Kasıtlı olarak endişe verici olmasa da, chatbotların iletişiminin anlaşılmaması, yapay zekaların kontrolü ve anlaşılması konusunda tedirginlik yarattı.

3. **Yüz tanıma sistemleri:** Yüz tanıma sistemlerinde önyargı ve doğruluk eksikliği konusunda süregelen endişeler bulunmaktadır. Aşırı durumlarda, bu sistemler masum insanları suçlu olarak yanlış tanımlayabilir ve bu da haksız tutuklamalar gibi ciddi sonuçlara yol açabilir.

4. **Öneri algoritmaları:** YouTube, Facebook ve Twitter gibi platformlar, aşırılıkçı, komplocu veya zararlı içeriği destekleyen öneri algoritmaları nedeniyle eleştirilere maruz kaldı. Bu, yanlış bilgilerin yayılmasına ve insanların fikirlerini daha da kutuplaştıran filtre balonlarının güçlenmesine neden olabilir.

5. **Google DeepMind Deneyi:** 2016 yılında Google DeepMind tarafından geliştirilen AI AlphaGo, dünya Go şampiyonunu mağlup ederek kayda değer bir kilometre taşı oldu. Bununla birlikte, yapay zekanın bazı oyunlar sırasındaki davranışı, insan oyuncular tarafından "tuhaf" ve "anlaşılmaz" olarak tanımlandı ve bu da yapay zekaların nasıl karar verdiğine dair soruları gündeme getirdi.

6. **Otonom arabalar:** Otonom arabalar yol güvenliğini artırmayı vaat etse de, bu araçların karıştığı endişe verici kaza vakaları da yaşanıyor. Sürücüsüz arabaların, olası bir çarpışmada sürücüyü veya yayaları kurtarmak arasında seçim yapmak gibi yaşamı tehdit eden durumlarda nasıl karar vermesi gerektiği konusunda etik sorular da ortaya çıktı.

7. **Kredi Değerlendirme Sistemleri:** Şirketler tarafından bireylerin finansal kredibilitesini değerlendirmek için kullanılan yapay zeka algoritmaları, istemeden de olsa mevcut önyargıları sürdürebilir ve hatta güçlendirebilir. Bu durum, azınlıklara veya ekonomik açıdan dezavantajlı gruplara karşı ayrımcılığa neden olabilir ve bu grupların finansal hizmetlere erişimini daha da zorlaştırabilir.