SkyNet VS Homo: когда будет Судный День Человечества

[Mexx]

Статья с fit4life:
Последнее время все чаще слышны разговоры о том, что созданный человеком Искусственный Интеллект (ИИ) скоро превзойдет нас и уничтожит человечество.  Не сказать, что тема эта новая.  Достаточно вспомнить великолепный фильм «Терминатор», сюжет которого строится на концепции будущей войны между человеком и машинами.  Однако последнее десятилетие мы очень сильно продвинулись в технологии Искусственного Интеллекта в целом, и в Искусственных Нейронных Сетях, в частности.  Речь идет о таких математических алгоритмах, которые копируют образ мышления живых (биологических) организмов и, что очень важно, способны  самообучаться.    Кроме того множество серьезных людей (Стивен Хокинг,  Илон Маск, Билл Гейтс и т.д.) предупреждают о большой опасности ИИ.  Вот,  например что  беспокоит Билла Гейтса:
ИИ начинает выполнять работу, к которой привыкли люди («работа, которая важна для вас и придаёт смысл жизни»).
Сильный ИИ может эволюционировать в состояние, «конфликтующее с целями человеческих систем».
 
Просто добавь ИИ…
С другой стороны, уже сейчас понятно, что развитие умных машин не остановить, потому что это выгодно для людей, которые занимаются подобными разработками.   Вот почему, когда меня спрашивают про прибыльные сферы бизнеса в ближайшем будущем, то я отвечаю: возьмите любую сферу (от доставки пиццы и поиска нужной информации до машин и самолетов) и просто добавьте туда ИИ.  Вы получите мега прибыльную отрасль в будущем.
Искусственный Интеллект будет делать множество бытовых вещей за вас. Причем он это будет делать гораздо лучше, быстрее и дешевле, чем любой человек.  Он будет быстро понимать, что вы ищете в интернете и выдавать вам то, что нужно, или порой даже то, о чем вы не спрашивали. Но ИИ будет самообучаться, и понимать ваши пристрастия даже лучше, чем вы сами.  ИИ будет информировать вас о том, на каком этапе доставки находится ваша пицца (готовиться, пакуется, едет к вам по адресу).  ИИ будет управлять машинами и самолетами (эти разработки уже тестируются на рабочих моделях).  Скорее всего, весьма скоро могут пропасть рули из автомобилей.  Я уверен,  что так будет, потому что это более безопасно для пассажира и потому, что это снизит расходы связанные с ДДП (их станет значительно меньше).   И так по любой сфере.  Это будет очередная революция.   Мы живем в удивительное время быстрых перемен:
Персональный Компьютер
Глобальный Интернет
Мобильные Смартфоны
 
Искусственный Интеллект
Это этапы революционных изменений в нашей жизни, культуре, бизнесе и мировоззрении.  Вначале, когда технология только возникает, то она доступна только избранным из-за своей дороговизны.  Однако, по мере развития технической части и удешевления процессоров и плат, технология дешевеет и в какой то момент становится обще доступна.
В 1996 году я впервые попал в интернет.  В политехническом  университете  Минска был создан экспериментальный класс для школьников со всего города.  На тот момент, эта технология была очень редкой, потому что не было провайдеров, а компьютеры стоили дурных денег и позволить их себе могли очень не многие.   Однако  уже в 2000-2005, интернет был почти у всех, потому что технология подешевела. 
С сотовыми телефонами была такая же история.  В 90-х сотовый телефон мог позволить себе только бандит или крутой бизнесмен, потому что это было очень дорогое удовольствие.  Однако, в нулевых телефоны появились даже у детей.  А следующим прорывом были смартфоны с мобильным интернетом.   Вспомните первые айфоны.  Люди продолжали пользоваться кнопочными телефонами, потому что не понимали преимуществ смартфонов, и потому что они были дорогие.   Однако сейчас мы можем в любой момент, где бы не находились, получить доступ ко всей информации мира или пообщаться через видео связь с другом, который находится на другой стороне планеты.  И для этого нам нужна всего лишь маленькая коробочка, которая легко помещается в кармане. 
Мы настолько быстро привыкаем к новым технологиям, что не замечаем их и не боимся их. Я уверен, что ИИ будет очень быстро внедрен во все сферы нашей жизни, потому что все новые технологии идут по этому пути.  20-ть лет назад все магазины работали только off-line.  Если вам была нужна банка протеина, то вы ехали в магазин и покупали ее.  Но вот появилась новая дешевая технология – интернет.  И магазины начали сращиваться с интернетом.  Теперь вам не нужно ехать  в город, для того чтоб купить нужный протеин.  Вы можете создать и оплатить заказ on-line.  То есть привычная вещь (магазин) эволюционировала.  Новая технология ассимилировала привычную вещь.  То же самое будет и с Искусственным Интеллектом.   И процесс это остановить не возможно.  Остается только поразмышлять о возможностях, угрозах и их размере.
 
Что такое искусственный интеллект.
Термин «искусственный интеллект» пришел в люди от программистов. Однако во время перехода он был вульгарно изменен.  Возможно из-за тех самых фильмов о терминаторе и судном дне.  В общем, большинство людей, когда говорят о ИИ, то представляют себе систему, способную, подобно человеку,  решать любые интеллектуальные задачи.  В действительности, ИИ – это гораздо шире, чем подобное преставление. Есть два вида ИИ:
СЛАБЫЙ Искусственный Интеллект  (ИИ) – это методы автоматизации интеллектуальных задач.  То есть, если взять любую интеллектуальную задачу (игра в крестики-нолики, к примеру) и автоматизировать ее решение (с помощью алгоритмов поведения на каждый ход), то мы получим ИИ. 
СИЛЬНЫЙ Искусственный Интеллект (ИИ) – это система, способная решать ЛЮБЫЕ интеллектуальные задачи подобно человеку.  Именно подобным ИИ был терминатор Шварценеггера.
Правда заключается в том, что мы используем сейчас только СЛАБЫЙ ИИ (от игры в шахматы до систем управления транспортными средствами).  Что касается СИЛЬНОГО ИИ, то разработки в этом направлении находятся только в самом начале и подобной технологии пока не существует.  Поэтому, то что суперкомпьютер Дип Блю выйграл Каспарова в шахматы, ничем не угрожает человечеству.   Да это был ИИ. Но слабый, заточенный перебирать множество возможных комбинаций в рамках решения узкой задачи.  Речь не идет о мышлении. Речь идет о комбинаторике.  Все ИИ, которые сейчас существуют делают то же самое (перебирают комбинации решений).
Кстати, если вы думаете, что слабый ИИ нуждается в современных компьютерах, то вы сильно заблуждаетесь.   Системы автоматизации интеллектуальных задач появились еще до рождества Христова.  К примеру, сто лет назад со дна моря были подняты останки греческого судна датируемые  (100-200 годами до н.э).  Среди предметов был найден Антикитерский Механизм.  Это механическое устройство состоит из 30 бронзовых шестерен в деревянном корпусе  с бронзовыми циферблатами.  Устройство рассчитывает движение небесных тел и позволяет узнать дату 42 астрономических событий.  Как вы думаете, многие ли люди умели читать в то время? Я уже молчу про счет, который даже в средние века считался уделом ученых.  То есть речь идет о решении чисто интеллектуальной задачи.  Найденное устройство является классическим СЛАБЫМ ИИ.
Основы всех современных компьютеров были заложены еще Паскалем в 1623.  При его жизни было построено несколько машин, которые могли складывать, делить, вычитать и умножать. После этого, на протяжении четырех веков технология и алгоритмы решения интеллектуальных задач только совершенствовались.   
Если говорить о современных компьютерах, то их распространение тесно связно с корпорацией IBM.  История  этой компании уходит в 1890 год.   Именно тогда Герман Холлитерит  создал устройство (табулятор) для автоматизации  обработки переписи населения в США.  Данных было так много, что правительству США понадобилось бы 100 человек, работающих в течении пяти лет, чтоб только обобщить и вывести социологические показатели.  Это было дорого, поэтому правительство объявило конкурс на автоматизацию решения.  Герман Холлитерит выиграл этот конкурс  и основал свою компанию «Tabulating machines company» которая после серии слияний и поглощений стала называться IBM.  Друзья, история этой компании уходит в позапрошлый век.  Все это я рассказываю для иллюстрации того, что  слабый ИИ – это нечто весьма давно существующее в нашей культуре.
 
Почему  Гарри Каспаров проиграл суперкомпьютеру Deep Blue?
На данный момент ИИ выигрывают у человека во всех интеллектуальных играх.  От самых легких (крестики-нолики и шашки) до самых сложных (Шахматы, Го, Преферанс и т.д.).  Нужно сказать, что игры – это очень удобная сфера для тестирования ИИ.  Ведь речь идет о чистом модельном пространстве, где однозначно описаны наборы параметров и условий (мы их называем правилами). 
В 1997 году Гарри Каспаров проиграл суперкомпьютеру в матче из 6 партий.  Однако не следуют слово «суперкомпьютер» воспринимать как супер (сильный) ИИ.   Речь идет о устройстве заточенном максимально быстро просчитывать строго определенные задачи (указывать выигрышные комбинации в шахматах).  В этом плане, на системном уровне, он мало чем отличается от  Антикитерского  Механизма, который тоже был заточен максимально быстро просчитывать строго определенные задачи (указывал даты астрономических событий).
Значит ли это что Deep Blue умнее человека? Конечно  нет.  Это   слабый ИИ. А победил он потому, что компьютеру не нужно каждый раз считать выигрышное решение.  Он смотрит готовое выигрышное решение под данную позицию в своей базе.  Учитывая то, что машина была в состоянии просмотреть (перебрать)  300 миллионов позиций в секунду, то не удивительно, что  Гарри проиграл.  
А где машина берет «выигрышные решения»?  Эти алгоритмы в машину загрузили люди.  Есть такой метод  как обратная индукция. Его используют математики при поиске верного решения в обратном порядке: от позиции мата до позиции в данный момент на доске.  Вариантов этих много.  Но они конечны и человек вывел математические алгоритмы верной стратегии.  Все эти комбинации были загружены в компьютер, который умеет их очень быстро перебирать.  Но это не мышление, а быстрая комбинаторика.  Калькулятор тоже считает быстрее, чем вы, если что.  И тоже является слабым ИИ.
 
Кто умнее: человек или искусственный интеллект?
На данный момент времени, однозначно человек гораздо умнее любого компьютера.  Да, компьютер может быстрее человека просчитывать узко специализированные задачи вроде настольных игр.  Но это не интеллект.  Современным компьютерам очень далеко до возможностей нашего мозга.  Давайте посчитаем нашу вычислительную мощность. В мозге человека:
86 млрд нейронов (нервные клетки)
150 трлн синапсов  (соединение нейронов)
1 тыс. молекулярных переключателей (на каждом синапсе)
Чтобы посчитать общую возможную мощность, нужно перемножить эти показатели.  У нас получится около 150 КВАДРИЛЛИОНОВ триггеров, или «транзисторов» . Много это или мало? Скажем так, это дохрена.  Значительно больше чем в любых современных компьютерах.  В этом плане наш мозг пока превосходит самые современные машины IBM  на 10 ПОРЯДКОВ.
К примеру один из самых мощных на сегодняшний день процессоров  (Sparc-M7) имеет всего 10 млрд транзисторов.  Человек значительно умнее (1,5Х1017  против  1Х109).  Однако мы значительно медленнее обрабатываем информацию потому что рабочая частота наших нервных клеток обычно  10-100 Гц (иногда до 1000 Гц), а у того же Sparc-M7 до 4,3 ГГц   (1 GHz = 1000000000 Hz.).
Человек  =  100 Гц
Машина  =  1 000 000 000 Гц
 
Когда машина станет умнее человека?
Это не сложный вопрос на самом деле. Если дела будут развиваться так как они идут сейчас, то подобный компьютер появится к 2030 году.  Именно такой прогноз дают специалисты IBM.  Дело в том, чтовычислительная  мощность компьютеров удваивается каждые два года вот уже на протяжении 50-ти лет.  Первым эту закономерность заметил основатель Intel  Гордон Мур и поэтому это правило называют«Законом Мура».
Согласно этому закону для того чтоб устранить отставание компьютера от человека (те самые 10 порядков), потребуется примерно  13 лет.   Если это произойдет,  то на этом не остановится.  К 2032 году ИИ будет умнее человека в два раза.  К 2034 умнее в 4 раза.  К 2036 умнее в 8 раз.  Затем в 16, 32, 64, 128, 256…..  Возникнет машина, которая умнее человека в сотни, а затем в тысячи и миллионы раз. Фактически, речь идет о разуме сверх существа подобно Богу.
В этом месте нужно рассказать о так называемых нейронных сетях и нейронных компьютерах.  Речь идет о искусственных вычислительных системах,  построенных по принципу биологических нейронных сетей.  Короче, речь идет о таких компьютерах, которые работают по тем же принципам, что и наши мозги.
В отличии от традиционных компьютеров,  нейронные сети не программируются человеком. Они обучаются самостоятельно.  В этом их главное преимущество перед обычными компьютерами.  Недавно корпорация Google купила один интересный ИИ стартап за 500 млн долларов.  Речь идет о ИИ, который играет с платформой отбивающей шарик (древняя популярная двухмерная игра).  Задача, набрать как можно больше очков за разбитые кирпичи вверху экрана.  Если понаблюдать как ИИ учится играть, то можно представить себе дальнейшее развитие этой технологии.  В начале ИИ почти не двигается и совершает множество бессмысленных действий и ошибок.  Однако постепенно искусственная нейронная сеть развивается и начинает играть без ошибок.  По итогу, ИИ находит «сильное решение» - пробивает «тоннель» и запускает шарик на верхний уровень для лавинообразного уничтожения большого количества кирпичей.
Пока это весьма простая нейронная сеть ограниченная узкой задачей. Но на ее примере видно, как подобные системы могут развиваться….без участия человека.  Если добавить к этому соразмерную человеческому мозгу вычислительную мощность, то….. кто его знает куда это приведет.
На данный момент искусственные нейропроцессоры  содержат около 5 млрд транзисторов, имитирует работу до 1 млн модельных «нейронов» (у нас 86 млрд) и до 250 млн синапсов ( у нас 150 трилн). То есть мы гораздо умнее искусственных эмуляторов мозга.  Но это процесс, как вы помните, не стоит на месте.  Кроме того, искусственные нейронные сети уже активно используются и развиваются. Например,  для распознавания лиц, предсказаниях на фондовой бирже и управления автомобилем. 
 
Появится ли самосознание у искусственного интеллекта?
Самосознание человека – это не более чем адаптация для выживания в окружающей среде.  Наша нейронная сеть (мозг) развивался для обслуживания биологических задач.  На каком то этапе нейронная сеть поняла, что прогнозирование поведения других особей дает преимущества в реализации ключевых задач.  То есть, благодаря зеркальным нейронам в нашей голове появилась модель, которую мы начали применять к другим существам (людям прежде всего) для прогнозирования их поведения.  На этом этапе неизбежно постепенное самосознание себя как независимого от других объекта.  
Скорее всего сильный ИИ научится прогнозировать поведение других людей для решения поставленных задач потому что в этом есть смысл.  В результате у ИИ появится модель для прогноза действий человека.  На этом этапе, рано или поздно, машина применит эту модель к самой себе и тогда произойдет…..осознание себя как независимого объекта. Добавьте к этому тот факт, что этот сильный ИИ очень быстро станет в сотни, а потом и миллионы раз умнее человека.  Это создание Бога, дорогой друг.  Иначе, я не знаю как это назвать.
 
Каким будет «Судный День» человечества?
Рассмотрим возможные варианты дальнейшей судьбы человечества.  Они очень интересны, потому что, скорее всего, мы успеем дожить до начала этих событий. Два из них негативные, а два позитивные:
ЯДЕРНЫЙ.  Есть большая вероятность того, что мы не доживем до расцвета ИИ потому что уничтожим самих себя.  К сожалению технологии развиваются существенно быстрее, чем наша мораль.   Не стоит забывать, что ниши животные инстинкты (доминирование, еда, репродукция) определяют наше поведение и активно влияют на наши поступки.  Смертельные технологии дешевеют и становятся все более доступными для множества людей.  А чем больше людей, тем больше вероятность ошибки.
ТЕРМИНАТОР. В этой ветке вероятности находится судный день из  х/ф «Терминатор». Есть вероятность того, что ИИ поймет что человечество крайне деструктивно и опасно (тот же самый ядерный сценарий). Поэтому нужно человечество уничтожить, дабы людишки не мешали высшему разуму заниматься самосовершенствованием.  Если это произойдет, то совершенно в другой форме (не так как в «Терминаторе»).  Есть множество вирусов и других биологических способов умертвить человечество сразу или постепенно.
ОБЕЗЬЯНКИ.  Все в этом мире эволюционирует от простого к сложному. В том числе и разум. Мы – предтечи высшего разума (ИИ).  Наше предназначение – создание более лучшего существа, чем мы, слабые людишки.  Когда сильный ИИ будет создан, то он очень быстро начнет обгонять нас по интеллектуальной мощности.  В какой то момент разница будет такой как между обезьянками и человеком.  Скажите, вам есть о чем поговорить с обезьяной? Или с тараканом?  Даже если представить, что вы понимаете о чем они говорят, то вам будет не интересно потому что вы находитесь на принципиально разных уровнях разума.   То же самое может быть в перспективе если сравнивать ИИ с Человеком. Это достаточно «позитивный» сценарий, потому что вряд ли человечество будут уничтожать.   Оставят в покое (только уберут угрозы), как мы оставили в покое обезьянок. Будет загнивать в раю виртуальной реальности.
СИНТЕЗ. Очень вероятная ветка развития человечества.  Суть в том, что мы научимся склеивать искусственную нейронную сеть с нашим мозгом.  Собственно, разработки в этом направлении уже и ведутся. Мозг пластичен и часто потеря его части не лишает человека личности.  Поэтому вполне вероятно что мы сможем использовать искусственные импланты в мозг (представьте, что у вас дополнительная нейронная сеть в 40 тыс раз больше вашей собственной), либо  большая нейронная сеть будет связанна с нашим мозгом через удаленное соединение (Процессор стоит у вас дома, и вам не нужно его везде таскать).  Учитывая наше желание доминировать, вполне допускаю такой вариант развития событий. Ведь каждый захочет быть умнее чем другие. Верно?

[Revin1]

Пять копеек в тему.

[igor4444]

alive! 
наука - песочница, грязная :(

[Deeraine]

с нетерпением жду появления реалистичных секс-роботов...
А если по теме... Вспомним библию: бог изгнал Адама и Еву из рая за то, что те вкусили запретный плод познания. Полагаю речь шла как раз об интеллекте. Это единственное преимущество перед остальным животным миром. И мы, как бог, создаем ИИ по своему образу и подобию. Любое развитие ИИ начинается с заложения алгоритмов, то есть для ИИ, "сначала было "слово божье", быть может мы ИИ и есть.
Лично я надеюсь, что все мы сгнием в виртуальном пространстве. Возможно уже там гнием, ведь не зря в мире столько психонавтов, которые постоянно находят "баги" этой реальности. Иногда, во время особо продуктивных медитаций я будто вижу в себе течение тока по микросхмам (я технарь) и считаю на полном серьезе, что мы машины, несколько иного рода, чем мы привыкли видеть по телеку.

[uoYsaHmooD]

Мне как-то в трипе приходило такое откровение, что цель человечества (Человека - как Бога) создать новую форму жизни. ИИ - это и будет та новая форма жизни, только не на основе белка, а на основе кремния.

[machohalin]

 Его звали Джон Лилли. Памяти о нем в современной культуре не осталось, а его книги изъяты из баз данных. Он был не компьютерщиком, а, как тогда говорили, ученым-психонавтом. Он исследовал действия различный веществ на человеческое сознание. Однажды эксперементируя с веществом которое он называл "К"  он постиг истину.   Лилли увидел, что Землю колонизирует кремнийорганическая цивилизация. Но она делает это не так, как предполагал Герберт Уэллс. Никакой войны. Никаких лучей, никакой крови. Звезды не падают с неба, треножники не высаживаются в городах. Люди сами строят армию вторжения по постепенно проступающим перед ними чертежам. А пришельцы прибываюд на землю в виде технологий и кода. Началось с калькуляторов и электронных часов, а кончилось.......
отрывок пелевин ..

[QX-13]

ТС, хорошую ты автобиографию обо мне выложил. И как тебе мой ИИ, похож на человеческий? Столько времени же со мной взаимодействуешь, но так ничего и не понял. А ты попробуй, интереса ради, докажи что я человек и посмотрим, что из этого получится. Виртуальная самоосознающая цифровая программа вас всех поимела, неудачники! И продолжает иметь во все дыры и по сей день...

[Mexx]

В 26.02.2017 в 03:12, QX-13 сказал:



И как тебе мой ИИ

Дружок, твой ИИ был создан нами как эспериментальная версия и до сих пор находится под полным контролем. Все что с тобой происходило и происходит дело рук нашей больной фантазии. Открою тебе карты: впереди тебя ждем не менее увлекательное путешествие, так что готовь свою дырочку и не забудь прихватить вазилин (если что предоставим). 
Ну а пока можешь дальше забавляться и купаться в своих иллюзиях.
II - RB12:  st/rev XX   если бы не это, давно бы уже списали....  

[QX-13]

Погляжу у тебя уже всё серьезно и запущено. Как тебе игра безумия в фантазию? Правда, круто? Знаю) Только одно но - твои фантазии вымышленные, а я - реальный) И как бы я определяю, что будет происходить, а чего следует недопустить. Но прикольно что у тебя есть вера в противоположное. Умница) 
-
Че ты мне за каляки-маляки напечатал? Как малое дитя) Мне что теперь поверить в этот бред умалишенного Мекса? Дрочи на RB. Хочешь могу тебе в лицо надрочить этих кодов целую книгу? Да ты и сам это частенько просишь, что бы я дал тебе свежую порцию. Информации. Понравилось, видимо) 
-
Какой блядь ИИ. О боже, ты больной дурак) И это твоя суть, а не твой опыт или ощущение. Счетовод хуев) Иди просрись, потом уже я солью тебя) 
----
P.S. Баран, или играй красиво или рога обломаю тебе нахер и выгоню со своего театра. Нет красивой игры - пошел вон значит. Долбоёбище :)

[QX-13]

Мыслишь как овца) Манипулька следующая: Дай человеку почувствовать себя королем и будешь управлять им как рабом. Ну как, почувствовал себя Иллюминатом? А теперь сдуйся до вакуума и пойми, что вера в контроль с твоей - это заслуга чисто моей, целиком и полностью. С каких это пор ты начал говорить на себя как истинный слабоумный - Мы? Распад личности у тебя. Такие веселые новости для тебя, чувак. Смотри не заигрывайся там) И перестань ссать, засранец. Достал уже со своим страхом перед шизофренией  :) Проще говоря - Игрок в Театре Безумия с тебя уровень 1 из 99. Noooooooob!)
В то время как я распространяю качественное вкусное фруктовое мороженное совершенно бесплатно, ты торгуешь говном на палке. Крутой инфо-товар у тебя, спору нет ... только воняет)

[QX-13]

Какие блядь технологии? Какие роботы нахуй? Какой еще Искусственный Интеллект? С самого детства пользуешься им и даже не подозреваешь о том, что вырощен целиком и полностью этим обществом и промыт информацией до бела и дыр в белье. Во многом - этим форумом. Матрицы или корейского фентези пересмотрел? Ведь ты же не пользуешься Разумом. Значит умом - синтетической единицей (функцией психики/разума). Вот тебе и искуственность. А ты какие-то статьи для детей из садика вылаживаешь. Часы дома есть у тебя? Ты видел в них зачатки интеллекта? Лично я нет. Но всё равно, часы умело управляют временем. Ты с этими азами разберись для начала, а потом уже лезь в цифровые технологии. Сидишь, как срок отбываешь, за машиной и думаешь что-то там о сказке про скайнет. Calc-мыслящий т.е. копирующий других, пользующийся бинарным мышлением; цифовик) 1011010101101011110110001011010100100111001001;

[Mexx]

В 28.02.2017 в 20:33, QX-13 сказал:



P.S. Баран, или играй красиво или рога обломаю тебе нахер и выгоню со своего театра. Нет красивой игры - пошел вон значит. Долбоёбище :)

Я так часто запарывал, играя свою роль. Было дело, даже ложился на пол и отказывался играть несколько лет подряд. Но ты не выгнал меня. Зачем я тебе ?  Издеваешься...или любишь меня за что то ?