Опасность Искусственного Интеллекта: худшая ошибка в истории человечества?

Опасность Искусственного Интеллекта худшая ошибка в истории человечества МИНИблог (6)

Опасность Искусственного интеллекта (ИИ) — одна из самых обсуждаемых тем современности. Отрицательное отношение к ИИ уже давно засело в нашем коллективном сознании, а Голливудские фильмы его только ухудшают. Последние достижения в области ИИ рождают жаркие споры о будущем не только внутри экономической сферы, но и всего человечества в целом.

 

В мае 2014 года мир получил тревожный сигнал от известного физика Стивена Хокинга. Совместно с тремя исследователями ИИ, он предупредил: “Коммерчески направленное создание интеллектуальных машин, возможно, станет худшей ошибкой в нашей ​​истории”.

 

Опасность Искусственного Интеллекта худшая ошибка в истории человечества МИНИблог (6)

Сравнивая влияние ИИ на человечество с появлением “превосходящих инопланетных видов”, Хокинг и его соавторы обнаружили — нынешнее поколение еще недостаточно к этому готово. “Несмотря на это, мы сталкиваемся с потенциально лучшим или худшим, что когда-либо случалось с человечеством, — заявили они, — за пределами малых некоммерческих институтов этому важному исследованию посвящается совсем мало времени”.

 

Это было два года назад. Так где мы сейчас?

Опасность Искусственного Интеллекта худшая ошибка в истории человечества МИНИблог (6)

Что касается технологической отрасли, то ИИ уже здесь, но только распространен неравномерно. Иначе говоря, технологические гиганты контролируют большую часть ИИ разработок. Google полностью реорганизовал себя в области ИИ и машинного обучения. IBM сделала то же самое, объявив себя лидером в “когнитивных вычислениях”. В Facebook дела обстоят также.

 

Крупные технологические игроки заняты наращиванием темпов гонки за таланты, заплатив за лучших исследователей ИИ столько, сколько Европейские футбольные клубы платят за звездных игроков: более 20 миллионов долларов.

Опасность Искусственного Интеллекта худшая ошибка в истории человечества МИНИблог (6)

 

Давайте рассмотрим подробнее. Два года назад один из самых умных людей в мире (Хокинг) сказал, что бесконтрольный ИИ может положить конец человечеству. С тех пор большая часть работы в этой области была ограничена несколькими чрезвычайно мощными коммерческими компаниями (Google, IBM, Microsoft, Facebook), замкнутыми в конкурентной гонке вооружений.

 

Эти лидеры цифровых технологий забросили те виды деятельности, которые принесли их компаниям половину триллиона долларов, чтобы сосредоточится на работе с ИИ. А что насчет государственного контроля? Его практически не существует.

Опасность Искусственного Интеллекта худшая ошибка в истории человечества МИНИблог (6)

Что вызывает вопрос: когда дело доходит до управления развивающейся технологией, которая, в целом, считается самой мощной силой, когда-либо изобретенной человечеством, какой вид регулирования нам необходим?

 

СМИ убеждены, что мы не должны слишком беспокоиться об этом, но вспомните кто владеет средствами массовой информации. Кроме того, переход к индустриальному обществу в ХХ веке привел к двум мировым войнам!!! У многих из нас может сложиться ощущение, что на этот раз все по-другому.

 

Но одно дело заменить ручной труд машинами (промышленная революция), а другое, основать на интеллектуальной собственности экономику. Как мир отреагирует на это — загадка. И как будет выглядеть экономика, основанная на автоматизации обслуживания и интеллекте? Особенно, когда только несколько глобальных корпораций контролируют весь рынок.

 

Все начинает быть жутко похожим на “Umbrella Corporation” из серии фильмов Resident Evil (Обитель Зла) с Милой Йовович в главной роли. И в этом сценарии мы — “зомби”?

Опасность Искусственного Интеллекта худшая ошибка в истории человечества МИНИблог (6)

 

Развернутый, но весьма тревожный обзор популярного издания “The Economist” заслуживает того, чтобы его прочитали. “Идея, в который вы можете освободиться от физического труда, была действительно хорошим трюком во время промышленной революции. Теперь же мы открываем способ освободится и от умственного труда. ИИ будет находиться под пристальным вниманием ближайшие 50 лет. Это создаст еще больше возможностей — и намного больше перемен”.

 

Призыв Хокинга к действию вызвал “гонку ИТ-вооружений, вызванную невиданными инвестициями” самых богатых компаний мира. Будущее, в котором супер-интеллектуальный ИИ контролируется элитной группой гигантских техно-магнатов, неизбежно принесет нам неудобства.

 

Опасность Искусственного Интеллекта худшая ошибка в истории человечества МИНИблог (6)

Что делать, если благие намерения миссий Google (организовать всемирную базу данных!) И Facebook (пусть люди легко делятся информацией) будут дополнены менее дружественными целями новых поколений корпоративных боссов?

 

Но в Силиконовой долине нашли ответ: OpenAI. Это уникальное технологическое решение проблемы. OpenAI возглавляют Илон Маск (Space X, Tesla, Paypal), Сэм Альтман (Y Combinator), Рид Хоффман (LinkedIn) и Питер Тиль (Paypal, владелец 10% Facebook). Вместо того, чтобы использовать свои миллиарды для захвата ИИ в целях получения прибыли, задачей OpenAI является прорыв в изучении искусственного интеллекта и открытие его возможностей для всех и каждого. Миссия лаборатории состоит в том, чтобы «продвигать цифровой интеллект таким образом, который, скорее всего, принесет пользу человечеству в целом, без стремления получить финансовую отдачу».

 

Опасность Искусственного Интеллекта худшая ошибка в истории человечества МИНИблог (6)

OpenAI удалось привлечь небольшую, но постоянно растущую группу исследователей ИИ, отклонивших предложения от Facebook, Google, а также других компаний, и вместо этого работающих над распространением публичного доступа к ИИ. Славные парни в OpenAI конкурируют с… гигантами самой Силиконовой долины.

 

Мы не можем обвинять крупные технологические компании в попытке выиграть гонку вооружений ИИ, потому что речь идет не только о деньгах. У них просто нет выбора. Если вы являетесь огромным, программным дата-ориентированными бизнесом, вы либо имеете передовой ИИ, управляющий продуктами вашей компании, либо вы не в бизнесе. Как только Google использует ИИ, чтобы сделать свой сервис Фото еще более привлекательным, Facebook будет должен сразу же разработать нечто подобное.

Опасность Искусственного Интеллекта худшая ошибка в истории человечества МИНИблог (6)

Умные Фотостримы — это одно. Но если мы не хотим, чтобы рыночные коммерческие компании определяли будущее сверхчеловеческого интеллекта, мы должны спросить себя: какую роль должно играть правительство? Как насчет университетов? По правде говоря, скорее всего мы еще не изобрели институты, способные предотвратить распространение этого нового пожара.

 

Это гонка между стремительно развивающейся мощью технологий и растущей мудростью, которую нам необходимо приобрести для управления этой технологией. В настоящее время почти все ресурсы вышеупомянутых технологических компаний, как правило, вносят свой вклад в развитие технологий.

Опасность Искусственного Интеллекта худшая ошибка в истории человечества МИНИблог (6)

Неясно, будет ли OpenAI тратить большую часть своего времени на создание новых видов ИИ, или это станет чем-то вроде центра обработки данных с открытым исходным кодом для создания сейфов безопасности ИИ (ранее лаборатория работала в обоих направлениях). Несмотря на это, одновременно утешает, и немного смущает осознание того, что те же люди, которые управляют культурными ценностями Долины, будут нести ответственность и за контроль над этим.

 

“Трудно представить себе более удивительное и позитивное достижение, чем успешное создание ИИ,” — пишет Грег Брокман, основатель и технический директор OpenAI. Но он продолжает с предостережением: “До тех пор, пока это делается в благих целях”. Действительно, кто определяет, что есть хорошо?

Кто определяет то, что есть “хорошо”? Мы только сейчас сталкиваемся с реальной возможностью создания силы, более могучей, чем мы сами. Настало время спросить себя: “как мы будем к этому готовиться?”

 

Опасность Искусственного Интеллекта худшая ошибка в истории человечества МИНИблог (6)

Может ли небольшой набор первоклассных исследователей ИИ обеспечить технологию интеллектуальной, моральной и этической стороной? Технологию, которая может уничтожить или освободить мир? Или мы должны вовлечь все заинтересованные стороны (людей, которые владеют компаниями, разрабатывающими ИИ) в для поиска решения, где традиционно главной является роль правительства.

 

Независимо от того, участвует ли правительство в разработке этого вопроса, оно, безусловно, будет вовлечено в ликвидацию беспорядка, если мы не сможем правильно рассчитать последствия.

Опасность Искусственного Интеллекта худшая ошибка в истории человечества МИНИблог (6)

Небольшая группа ученых пыталась создать правильные вещи, не понимая, с какой огромной мощью они имеют дело, и не видя результатов, которые получат, и те смертельные случаи, за которые они понесут ответственность. На самом деле последствия могут стать катастрофическими. Это случилось более 70 лет назад, и мы все еще живем в страхе перед последствиями.

 

Когда ИИ был на ранней стадии развития, его единственной самой сильной критикой был его «хрупкая» природа: он не работал, потому что он не знал о всех возможных исходных данных и параметрах.

Опасность Искусственного Интеллекта худшая ошибка в истории человечества МИНИблог (6)

Теперь, когда мы стоим на пороге создания мощного ИИ, нам было бы разумно включить все многообразие мнений — в частности тех, кто живет за пределами Долины. Тех, кто не смотрит и не думает, как в Долине, и тех, кто не согласен с нашим техно-оптимистическим настроением. Нам необходимы дебаты о том, как мы сможем управлять воздействием ИИ.

Опасность Искусственного Интеллекта худшая ошибка в истории человечества МИНИблог (6)

 

Заметки МИНИ

 

У ИИ есть буквально сотни разных уровней и направлений. Мини выделили некоторые классовые функции ИИ для понимания его возможностей.

  1. UI.AI. Пользовательский интерфейс преобразует голосовые команды в действия или текст.
  2. LA.AI — ИИ, ориентированный на местоположение, предлагает услуги, зависящие от местоположения.
  3. IN.AI — Интерактивный ИИ, предлагает правила, основанные на причинной связи и управление событиями. Типичные самоходные автомобили, поисковые системы или системы автономного оружия.
  4. MT.AI — многозадачность ИИ, предлагает личного помощника для жизни человека как персонального раба.
  5. HA.AI – Улучшение возможностей человека, предлагает увеличение IQ.
  6. SA.AI – Само-осознанный ИИ, требующий равенства; Свободный или принудительный кибернетический помощник улучшающий эволюцию или исчезновение.

 

 


 

Опасность Искусственного Интеллекта: худшая ошибка в истории человечества?

специально для МИНИблога
#MINYblog #МИНИблог
Наш видеоканал: MINYtube
http://www.youtube.com/c/MINYtube
Инстаграм: @makeitinny
Почта: info@makeitinny.com

 

 

Дональд Трамп – “свой парень” на посту президента

Благотворительность – основа экономики страны?

Пока нет комментариев

Комментарии закрыты