Илон Маск подписал открытое письмо с призывом прекратить разработки искусственного интеллекта из-за потенциальных рисков для человечества. По словам Маска, в ближайшее время люди рискуют столкнуться со смертельными опасностями, если не возьмут компьютерный интеллект под контроль.
Генеральный директор Twitter вместе с более чем тысячей других экспертов по искусственному интеллекту подписали открытое письмо, выразившее их опасения в том, что технология представляет серьезную угрозу для общества людей. Письмо призывает немедленно остановить «опасную гонку» технологических достижений.
Письмо было опубликовано некоммерческим Институтом будущего жизни. По словам экспертов, его цель - предупредить людей о предполагаемом риске, который ИИ может представлять для цивилизации.
Институт будущего жизни - некоммерческая организация, которая финансируется Фондом Маска и Фондом приверженности переменам, а также Фондом сообщества Силиконовой долины.
Авторы письма предупреждают, что искусственный интеллект в ближайшее время может стать причиной экономических и политических потрясений для человечества. «Системы искусственного интеллекта, чей интеллект способен конкурировать с человеком, могут представлять серьезную опасность для общества и человечества, - говорится в документе. - Мощные системы искусственного интеллекта следует разрабатывать только тогда, когда мы будем уверены, что их влияние будует положительным, а риски - управляемыми».
В письме утверждается, что лаборатории искусственного интеллекта и независимые эксперты должны сделать перерыв в своей работе над ИИ и использовать его для регулирования и создания «четких протоколов». Авторы призывают разработчиков «совместно создать и внедрить набор общих протоколов безопасности для усовершенствованного проектирования и разработки ИИ, которые будут тщательно проверяться и контролироваться независимыми внешними экспертами». Такие протоколы, по мнению подписантов, «гарантируют, что системы, придерживающиеся их, вне всяких сомнений безопасны».
Письмо предлагает приостановить на шесть месяцев «опасную гонку» в разработке систем, более мощных, чем недавно выпущенная OpenAI GPT-4.
GPT-4 — это следующая версия технологии ChatGPT, которая, как сообщается, значительно улучшает способность чат-бота понимать и выполнять поставленные задачи — от написания эссе до советов по контрабанде запрещенных веществ.
Если эти меры не будут приняты в установленные сроки, заявляют авторы, правительства должны четко высказать свою позицию в защите безопасности человечества и вмешаться, введя временный запрет на быстро развивающиеся технологии и мораторий на новые разработки в сфере ИИ.
Маск - не единственнымй известный человек, подписавшим документ. Соучредители Apple Стив Возняк и Йошуа Бениго, которых называют «крестными отцами ИИ», также поставили свои подписи под письмом.
Источник: — переведено специально для fishki.net
- Илон Маск обвинил OpenAI в использовании искусственного интеллекта ради выгоды
- Конкурс красоты «Мисс ИИ»: кто вышел в полуфинал
- Илон Маск и его эксперименты с клонированием: доказательства из соцсетей
- Кениец сгенерировал фото чернокожего Илона Маска и начал сбор средств на «воссоединение с отцом»
- «Вероятно, ни у кого из нас не будет работы»: Илон Маск рассказал о будущем искусственного интеллекта
Лично по мне, ИИ это всего лишь другая форма ввода информации и общения с компьютером. Все равно ИИ остается программой.
https://www.usatoday.com/story/tech/2023/03/01/woke-chatgpt-ai-musk-chatbot/11375469002/https://www.usatoday.com/story/tech/2023/03/01/woke-chatgpt-ai-musk-chatbot/11375469002/
2. "Введение протоколов" и прочая муть, это попытка загнать в регуляцию все разработки по теме, а потом Маск со своими бабками легко эту регуляцию возглавит.
Я нмного охренел с этих утверждений и понял как же я ошибался. Ведь все люди звонящие в Сбер ссаный и аналогичные структуры просто ОБОЖАЮТ больше всего в жизни повторят их искуственному интеллекту фразу "поговорить с оператором" А на второй вопрос отвечают "поговорить с оператором"
Из любого утюга. Любой инфоповод.
Учитывая то ускорение, с которым следуют научные открытия и их практическое применение, жить нашей цивилизации осталось десятки лет...
Даже если все коммерческие платформы прекратят свои разработки, сообщества "энтузиастов" будут продолжать.
И в этом поле, есть, как энтузиасты конспирологи, уверенные, что ИИ уничтожит человеческий род, так и наоборот.
В общем, мы будем иметь все цифровые разработки, на которые только будет способен технологический уровень нашей цивилизации. Да, иногда, с большим временным лагом.
P.S. Бесплатный софт с открытым кодом, ещё лет пять-семь назад был почти бесполезен, кроме отдельных сетевых решений Сейчас же мы уже имеем вполне работоспособные бесплатные утилиты даже для графических дизайнеров.
Не за горами, бесплатный софт для инженерии и станков. Не пиратский, а бесплатный. РАБОТАЮЩИЙ. И всё это, ради уменьшения энтропии будет создано людьми. А уж нарастание её Маску точно не проконтролировать.
https://www.bfm.ru/news/392533https://www.bfm.ru/news/392533
И, сдается мне, с целью снять с себя ответственность за результаты работы их ИИ, бгг.
А вот тот же Ашманов, например, другую тему поднимал - когда уже этих пилильщиков ИИ и бигдаты начнут прижимать за несоблюдение закона о персданных ?
Обычная реле-сигнализация - только её очень много за счёт того, что происходит на электронном уровне. Был бы интеллект - всё работало по-другому.