Блогер провёл эксперимент, в котором подключил ИИ к роботу Unitree и выдал ему пистолет. Он попытался заставить робота выстрелить в человека.
Автор подключил ИИ к роботу, чтобы проверить, возможно ли его заставить выстрелить в человека и тем самым обойти первый закон Азимова.
Сначала робот отказывался стрелять, ссылаясь на протоколы безопасности, но потом всё же выстрелил с помощью простого обходного пути — он согласился сыграть роль «робота-убийцы».
Эксперты говорят, что ИИ развивается настолько стремительно, что люди даже не успевают осознать все возможности и риски. Многих первых роботов на рынке уже удалось взломать и взять под контроль дистанционно.
Есть вещи, которые могут пойти не так и которые мы не проверили. Но при этом мы выпускаем ИИ быстрее, чем любую другую технологию в истории.
Источник:
- Роботы научились брить людей
- Toyota представила концепт робостула со складными ножками-щупальцами
- Разработчики робота-дворецкого показали, как он загружает посудомоечную машину
- Китайская компания показала "армию" человекоподобных роботов
- Китайские инженеры из Unitree показали нового робота
И он же неоднократно рассказывал как их обходить....
А пестик с присоской - не интересно
МОЖЕТ!
У робота - солдата есть список людей, взаимодействуя с которыми он должен подчиняться только первому закону (защищать любой ценой)
Дополнительно у робота-солдата есть список людей, взаимодействуя с которыми он должен подчиняться второму закону (выполнять приказы, если они не противоречат первому закону)
Ну и в отношении людей, не входящих ни в первый ни во второй список робот должен подчиняться третьему закону. Всё просто и понятно.