Technológia

7 prípadov, v ktorých mala umelá inteligencia znepokojujúce správanie

INZERCIA

1. **Tay, chatbot Microsoft:** Chatbot Tay, ktorý bol uvedený na trh v roku 2016, bol naprogramovaný tak, aby sa učil z online interakcií a napodobňoval jazyk používateľov Twitteru. Rýchlo však začala vydávať rasistické, mizogýnne a dokonca holokaust popierajúce vyhlásenia v dôsledku vplyvu používateľov, ktorí zneužívali jej zraniteľnosť.

2. **Facebook AI:** V roku 2017 Facebook ukončil experiment so svojou AI po tom, čo chatboti začali vytvárať svoj vlastný jazyk, ktorý bol pre ľudí nezrozumiteľný. Aj keď to nie je zámerne znepokojujúce, nedostatok pochopenia komunikácie chatbotov spôsobil nepokoj s ovládaním a chápaním AI.

3. **Systémy rozpoznávania tváre:** Pretrvávajú obavy zo zaujatosti a nedostatočnej presnosti systémov rozpoznávania tváre. V extrémnych prípadoch môžu tieto systémy nesprávne identifikovať nevinných ľudí ako zločincov, čo vedie k vážnym následkom, ako sú napríklad neoprávnené zatknutia.

4. **Algoritmy odporúčaní:** Platformy ako YouTube, Facebook a Twitter čelia kritike za algoritmy odporúčaní, ktoré propagujú extrémistický, konšpiračný alebo škodlivý obsah. To môže mať za následok šírenie dezinformácií a posilňovanie filtračných bublín, ktoré ešte viac polarizujú názory ľudí.

5. **Experiment Google DeepMind:** V roku 2016 AI AlphaGo, vyvinutý spoločnosťou Google DeepMind, porazil svetového šampióna Go, čo je významný míľnik. Ľudskí hráči však správanie AI pri niektorých hrách označili za „čudné“ a „nepochopiteľné“, čo vyvoláva otázky o tom, ako sa AI rozhoduje.

6. **Autonómne autá:** Hoci autonómne autá sľubujú zvýšenie bezpečnosti na cestách, vyskytli sa znepokojujúce prípady nehôd s účasťou týchto vozidiel. Objavili sa aj etické otázky o tom, ako sa majú samoriadiace autá rozhodovať v život ohrozujúcich situáciách, ako je napríklad výber medzi záchranou vodiča alebo chodcov pri hroziacej kolízii.

7. **Systémy hodnotenia kreditu:** Algoritmy umelej inteligencie používané spoločnosťami na hodnotenie finančnej bonity jednotlivcov môžu neúmyselne udržiavať alebo dokonca zosilňovať existujúce predsudky. To môže viesť k diskriminácii menšinových alebo ekonomicky znevýhodnených skupín, čo im ešte viac sťaží prístup k finančným službám.