Роботы будут убивать людей по ошибке

Искусственный Интеллект, разрабатываемый Google и другими крупными технологическими компаниями допускает критические ошибки. И эти ошибки могут обернуться большими, или даже фатальными, проблемами для людей.

Представьте себе что вы выходите на улицу погулять с собакой редкой породы, или просто держите в руках что-то не очень стандартное. ИИ в камерах наблюдения, или полицейские роботы (которые несомненно появятся в ближайшем будущем), запросто могут принять “подумать” что вы террорист у которого в руках оружие. И как следствие открыть по вам огонь, или вызвать подкрепление для вашего ареста. Бред? Увы нет… Посмотрите на картинку ниже. ИИ построенный на алгоритмах машинного обучения уверенно заявляет что на ней изображено оружие. И как вы его (ИИ) переубедите? Учитывая его почти 100%-ную уверенность?

ИИ перепутал черепаху с оружием
ИИ перепутал черепаху с оружием

В частности, AI не сумел правильно распознать черепаху, думая, что видит огнестрельное оружие. Ошибка с распознаванием предметов не является критичным моментом в моменты начального обучения AI. Однако, речь идет о разработке, которую Google собирается использовать в беспилотном транспорте, системах правопорядка и других важных областях.

Не ходите гулять с черепашкой! Вы рискуете быть застреленным роботом-полицейским.

Добавить комментарий