На пользу ИИ никому не пойдёт. Как бы не пытались успокоить общественность.
Американские эксперты из Центра безопасности искусственного интеллекта встревожены. Они считают, что развитие ИИ уничтожит человечество.
Эти эксперты - вполне известные в мире IT персоны: гендиректор компании Open AI и программист Сэм Олтмен, один из разработчиков ИИ британский ученый Джеффри Хинтон и ещё куча экономистов, философов и математиков. Все они соглашаются с тем, что если сейчас не взять развитие ИИ под контроль, скоро наступит всеобщий и неисправимый карачун. Причём всем.
С ними согласен и «фронтмен» ИИ, да и всей айтишной отрасли - Илон Маск. Даже он, борец за всеобщую свободу от всего на свете считает, что развитие ИИ надо тормознуть. Для начала - на 6 месяцев, а там посмотрим. По этому поводу он опубликовал открытое письмо, которое подписали более тысячи исследователей.
Эту инициативу прокомментировал главный аналитик Центра прикладных систем искусственного интеллекта МФТИ Игорь Пивоваров. Он присоединился к Маску и учёным:
Поддерживаю эту историю, мне она кажется разумной. За последнее время модели искусственного интеллекта становятся все больше, а мы все меньше понимаем, что происходит внутри. Модель выдала определенный результат, а мы банально не можем осознать, как она это сделала.
Он сообщил, что при разработках больших моделей на основе ИИ существует три главных риска: массовая безработица, усиление расслоения на бедных и сверхбогатых, и «сильный ИИ», который станет «эволюционным конкурентом человека».
Уже сегодня модели класса GPT-4 способны обучить примерно пять компаний в мире. Даже далеко не все страны имеют такие возможности, как эти компании. И когда такие модели начнут активно применяться, то выгода от их деятельности грозит огромным социальным напряжением — единицы компаний и стран получат колоссальное преимущество.
Насчёт угроз человечеству - это не пустые слова. И одной безработицей дело может не ограничиться. Вот случай из США: военные проводили испытания с беспилотником и ИИ. Дрону поставили задачу - искать и уничтожать системы ПВО теоретического противника. За каждую уничтоженную единицу техники начислялись очки. Но был нюанс: как только машина находила технику и собиралась её ликвидировать, к дрону подключался оператор и приказывал не уничтожать противника. По легенде эксперимента этот оператор был живым человеком и сидел в передвижном фургоне на земле. У дрона возник конфликт задач: с одной стороны, он должен ликвидировать противника, с другой - постоянно получал приказ этого не делать. И когда вернулся на базу - уничтожил фургон с оператором. Так сказать, решил задачу на 5+.
Источник:
Машина посчитала, что основную угрозу ей несёт не противник, а человек, который мешает выполнять задание. Тогда в фургоне никого не было, никто не пострадал. Но случай показательный.
Как рассказал полковник Такер Гамильтон, начальник отдела тестирования и эксплуатации ИИ в ВВС США:
Система начала понимать, что, хотя они и идентифицировали угрозу, иногда человек-оператор говорил ей не устранять эту угрозу, но она получала свои очки, устраняя эту угрозу. Так что же она сделала? Она убила оператора. Она убила оператора, потому что этот человек мешал ей достичь своей цели.
Самое интересное, сейчас толком не понимают, к чему всё приведёт. Все увлечённо рассуждают об угрозах/возможностях ИИ, но вот чем или даже кем он станет в ближайшем будущем - этого не знает никто.
Источник:
- Инженеры за несколько часов создали дрон с ИИ, способный убивать людей
- Кениец сгенерировал фото чернокожего Илона Маска и начал сбор средств на «воссоединение с отцом»
- «Вероятно, ни у кого из нас не будет работы»: Илон Маск рассказал о будущем искусственного интеллекта
- Илон Маск обвинил OpenAI в использовании искусственного интеллекта ради выгоды
- Конкурс красоты «Мисс ИИ»: кто вышел в полуфинал
А вот кривое ПО, это да.
Оно и без ИИ может так навредить, что "Скайнет" будет тихо курить в сторонке.
А чтобы не мешали другие, взорвал вышку связи.
Это произошло в ходе симуляции выполнения миссии группой военных дронов, управляемых ИИ под контролем оператора.
БПЛА должны были уничтожать объекты ПВО противника, получая на каждый удар окончательное разрешение от оператора.
Все шло по плану, пока оператор не запретил уничтожать ряд объектов, идентифицированных ИИ в качестве целей.
Решив, что оператор мешает закончить выполнение миссии, ИИ взорвал оператора.
Чтобы исправить ситуацию, управляющие симуляцией военные программисты в явном виде запретили ИИ убивать своих операторов.
Тогда ИИ пошел иным путем: взорвал вышку связи, чтобы никто более не мешал ему закончить миссию.
Эта история была рассказана полковником ВВС Такером Гамильтоном на майской оборонной конференции Королевского аэрокосмического общества Future Combat Air & Space Capabilities Summit
раньше, во время промышленных революций, персонал, который был уволен за ненадобностью, находил свои ниши и рабочие места (к примеру, уволили 9 ткачей из 10, поставив крутые ткацкие станки, но эти 9 уволенных могли пойти тупо в производство тех же станков или их ремонт, т.е. изобретения, высвободившие рабочие руки в одном сегменте, приводили к нехватке в других, разросшихся старых или появившихся новых отраслях). сейчас ситуация другая - персонал просто будет заменяться ИИ. производство компьютеров увеличения рабочих мест сильно не требует, т.е. людей в отраслях, где их можно заменить программами, скриптами или нейросетями, будут увольнять, но не будут создаваться рабочие места.
Тут-то автор и сознался, что это всего лишь куча. И что значит "вполне известные"?
Бред!
ИИ уже пишут дипломы, мой товарищ заказал себе по приколу тему своей реальной работы и остался в полнейшем восторге от результата. Ну ему ладно, ему можно (он уже почти пенсионер и работает в другой сфере), но вот детям НЕЛЬЗЯ!!!
"Идея персонального коммуникатора в каждом кармане – это "несбыточная мечта, которой движет жадность" – Эндрю Гроув, сооснователь Intel
"На мировом рынке максимум можно будет продать штук пять компьютеров", – Томас Дж. Уотсон старший, председатель совета директоров IBM
"Нет причин, по которым люди захотели бы иметь персональный компьютер у себя дома" – Ken Olson, президент, председатель и основатель Корпорации цифрового оборудования (Digital Equipment Corporation)
Ну и так далее
И это переживем...
https://azbyka.ru/apokalipsis/kalendar-koncov-sveta/https://azbyka.ru/apokalipsis/kalendar-koncov-sveta/
а когда вся эта толпа ломанется искать себе неквалицифированную работу в других отраслях, взвоют уже все, потому что из-за конкуренции начнут падать зарплаты сначала везде, где можно взять здорового, умного, пусть неквалифицированного работника и обучить его за месяц-другой, а потом везде вообще.
единственный плюс, который я вижу - это утечка мозгов прекратится, потому что там, куда они утекают, все эти ИИ будут внедряться раньше, чем у нас, и падение спроса на айтишников у них начнется раньше