технология
7 случая, в които изкуственият интелект е имал тревожно поведение
РЕКЛАМА
2. **Facebook AI:** През 2017 г. Facebook прекрати експеримент със своя AI, след като чатботовете започнаха да създават свой собствен език, който беше неразбираем за хората. Въпреки че не е умишлено тревожна, липсата на разбиране за комуникацията на чатботовете създаде безпокойство относно контрола и разбирането на ИИ.
3. **Системи за лицево разпознаване:** Има продължаващи опасения относно пристрастията и липсата на точност в системите за лицево разпознаване. В екстремни случаи тези системи могат погрешно да идентифицират невинни хора като престъпници, което води до сериозни последствия, като неправомерни арести.
4. **Алгоритми за препоръки:** Платформи като YouTube, Facebook и Twitter са изправени пред критики за алгоритми за препоръки, които популяризират екстремистко, конспиративно или вредно съдържание. Това може да доведе до разпространение на дезинформация и засилване на филтърните балони, които допълнително поляризират мненията на хората.
5. **Google DeepMind Experiment:** През 2016 г. AI AlphaGo, разработен от Google DeepMind, победи световния шампион по Go, забележително събитие. Въпреки това, поведението на AI по време на някои игри е описано като "странно" и "неразбираемо" от човешки играчи, повдигайки въпроси за това как AI взема решения.
6. **Автономни автомобили:** Въпреки че автономните автомобили обещават да повишат пътната безопасност, има тревожни случаи на произшествия с участието на тези превозни средства. Възникнаха и етични въпроси за това как самоуправляващите се автомобили трябва да вземат решения в животозастрашаващи ситуации, като например избор между спасяването на водача или пешеходците при неизбежен сблъсък.
7. **Системи за кредитна оценка:** AI алгоритмите, използвани от компаниите за оценка на финансовата кредитоспособност на лицата, могат неволно да увековечат или дори да увеличат съществуващите пристрастия. Това може да доведе до дискриминация срещу малцинствени групи или групи в неравностойно икономическо положение, което още повече затруднява достъпа им до финансови услуги.