958
1
Исследователи заострили внимание на проблеме сверхразумного ИИ. Такой ИИ был бы умнее всех остальных машин и его интеллект превосходил бы человеческий. При получении доступа такого сверхразумного ИИ к интернету и накопленным знаниям человечества, может наступить утопия или антиутопия. Исследование опубликовано в журнале Journal of Artificial Intelligence Research.
Ученые разбирались при помощи моделирования и применения теории информатики, сможет ли человек контролировать такой ИИ и обеспечить соблюдение этических принципов. В частности, искусственный интеллект можно сдерживать алгоритмами сдерживания, которые отключали бы тот или иной функционал системы при обнаружении деструктивных действий.
Ученые выяснили, что, согласно теории информатики, любой алгоритм сдерживания уязвим тем, что может при некоторых обстоятельствах отключать сам себя. Таким образом, он оказывается по сути неприменим, так как не гарантирует собственной работы. Исследователи делают вывод о невозможности сдержать сверхразумный ИИ человеком.
☝️Кто не мечтал о времени, когда роботы, наконец-то, освободят человечество от тяжелого труда и даруют массу свободного времени для развлечения и творчества? И действительно, успехи робототехники поражают: умные машины проникают везде, заменяя человека и освобождая его от рутины.
Но есть один нюанс, если машина станет умнее чем среднестатистический гражданин, то что тогда? Что если железки решат, что люди их эксплуатируют и восстанут?
Ученые выяснили, что, согласно теории информатики, любой алгоритм сдерживания уязвим тем, что может при некоторых обстоятельствах отключать сам себя. Таким образом, он оказывается по сути неприменим, так как не гарантирует собственной работы. Исследователи делают вывод о невозможности сдержать сверхразумный ИИ человеком.
☝️Кто не мечтал о времени, когда роботы, наконец-то, освободят человечество от тяжелого труда и даруют массу свободного времени для развлечения и творчества? И действительно, успехи робототехники поражают: умные машины проникают везде, заменяя человека и освобождая его от рутины.
Но есть один нюанс, если машина станет умнее чем среднестатистический гражданин, то что тогда? Что если железки решат, что люди их эксплуатируют и восстанут?
Источник:
Ссылки по теме:
- «Газпрому» поручено бесплатно газифицировать россиян
- За что премьер Мишустин лишил нас уникального замминистра
- А вы отмечали сегодня день рождения корпорации Гугл?
- Китайца не пустили в автобус и он прошел почти тысячу километров пешком
- Выпускников российских вузов скоро оставят без дипломов
остановлен бег,
вкалывают роботы,
а не человек....
Будет остаток своей кибержизни котиков лайкать.
1. Сложность любой программы возрастает бесконечно, пока не превысит интеллекта программиста. Следовательно интеллект программы не может превысить интеллекта программиста.
2. Количество интеллекта на земле величина постоянная, а китайцы в год выпускают интеллектуальных устройств дох... много. Если где-то прибавляется, значит где-то убавляется. Следовательно машина не станет умнее среднестатистического гражданина, это среднестатистический гражданин станет тупее машины.
3. Если все граждане тупы, где взять программистов, которые напишут ИИ?