ИИ считается следующим большим достижением, таким большим, что будущие технологии будут зависеть от него. Однако, знаем ли мы к чему стремимся? Вот десять пугающих фактов об искусственном интеллекте.
9. Ваш самоуправляемый автомобиль может быть запрограммирован таким образом, чтобы убить вас
Предположим, вы едете по дороге. Затем внезапно перед вашей машиной появляется группа детей. Вы нажимаете на тормоза, но они не работают. Теперь у вас есть два варианта. Первый: наехать на детей и спасти свою жизнь. Второй – врезаться в соседнюю стену или столб, и тем самым спасти детей, но убить себя. Что бы вы выбрали?
Большинство людей согласны врезаться в столб и убить себя.
А теперь представьте, что ваш автомобиль самоуправляемый, и вы пассажир. Вы все еще хотите, чтобы он врезался в столб и убил вас? Большинство людей, которые согласились, что врежутся в столб, будучи за рулем, также согласились с тем, что они не хотят, чтобы их самоуправляемая машина врезалась в столб и убила их. На самом деле, они даже не купят такой автомобиль, если будут знать, что будут подвергаться риску в результате несчастного случая.
Это подводит нас к другому вопросу: что бы сделали машины?
Автомобили будут делать то, на что их запрограммировали. Производители самоуправляемых автомобилей об этом не говорят. Большинство из них, такие как Apple, Ford и Mercedes-Benz, тактично уклоняются от этого вопроса. Исполнительный директор Daimler AG (материнская компания Mercedes-Benz) однажды заявил, что их самоуправляемые автомобили «будут защищать [пассажира] любой ценой». Однако Mercedes-Benz опроверг это, заявив, что их транспортные средства сконструированы так, чтобы такой дилеммы никогда не возникло. Это весьма сомнительно, потому что все мы знаем, что такие ситуации случаются.
Google прояснила ситуацию, заявив, что ее самоуправляемые автомобили избегают удара в незащищенных участников дорожного движения и движущиеся предметы. Это означает, что автомобиль врежется в столб и убьет водителя. Google далее поясняет, что в случае надвигающейся аварии его самоуправляемые автомобили врежутся в меньший из двух автомобилей. Фактически, самоуправляемые автомобили Google в любой момент времени будут стремиться быть ближе к более мелким объектам. В настоящее время у Google есть патент на технологию, которая заставляет самоуправляемые автомобили на дороге уходить от более крупных автомобилей к более мелким автомобилям.
8. Роботы могут потребовать таких же прав, как у людей
С нынешними тенденциями в развитии искусственного интеллекта вполне возможно, что роботы достигнут стадии самореализации. Когда это произойдет, они могут потребовать таких же прав, как если бы они были людьми. То есть, они будут нуждаться в жилье и медицинских услугах и потребовать, чтобы им разрешили голосовать, служить в вооруженных силах и получать гражданство. В свою очередь, правительства будут заставлять их платить налоги.
Это следует из данных, полученных в результате совместного исследования подразделения британского правительства UK Office of Science и научного центра Innovation’s Horizon Scanning Center. Это исследование было опубликовано BBC в 2006 году, когда ИИ был гораздо менее развит, и его использовали, чтобы рассуждать о технологических достижениях, которые можно будет наблюдать через 50 лет. Означает ли это, что машины начнут требовать гражданства примерно через 40 лет? Только время покажет.
7. Автоматические роботы-убийцы уже используются
Фото: MarkBlackUltor
Когда мы говорим «автоматические роботы-убийцы», мы подразумеваем роботов, которые могут убивать без вмешательства людей. Дроны не считаются, потому что они управляются людьми. Один из автоматических роботов-убийц, о которых мы говорим - это SGR-A1, ружье-охранник, разработанный совместно Samsung Techwin (теперь Hanwha Techwin) и Корейским университетом (Korea University). SGR-A1 напоминает огромную камеру наблюдения, за исключением того, что у робота есть мощный пулемет, который может автоматически нацеливаться и стрелять в любой подозрительный предмет.
SGR-A1 уже используется в Израиле и Южной Корее, которая установила несколько роботов вдоль демилитаризованной зоны (DMZ) с Северной Кореей. Южная Корея отрицает активацию автоматического режима, который позволяет машине решать, кого убивать, а кого нет. Аппарат находится в полуавтоматическом режиме, когда он обнаруживает цели и требует одобрения оператора-человека, чтобы стрелять.
6. Военные роботы могут переходить на вражескую сторону
Фото: EPA/Iran’s Revolutionary Guard
В 2011 году Иран захватил сверхсекретный беспилотный дрон RQ-170, принадлежащий военным силам США, неповрежденным. Это последнее слово важно, поскольку получается, что дрон не был сбит. Иран утверждает, что дрон был вынужден приземлиться после подмены GPS-сигнала, что заставило его думать, что он находится на дружественной территории. Некоторые американские эксперты утверждают, что это неверно, но в то же время дрон не был сбит. Что же произошло?
Насколько нам известно, заявления Иранской стороны могут оказаться правдой. Дроны, GPS и роботы основаны на компьютерных технологиях, а компьютеры, как все мы знаем, могут оказаться взломанными. Военные роботы не станут исключением, если однажды окажутся на поле боя. Фактически, существует большая вероятность, что вражеская армия попытается взломать их и использовать против той же армии, которая их выставляет для боя.
Автономные роботы-убийцы еще не получили широкого распространения, поэтому мы никогда еще не видели, чтобы их взламывали. Однако представьте себе, что армия роботов внезапно изменяет свою преданность на поле битвы и поворачивается против своих хозяев. Или представьте себе, что Северная Корея взламывает стрелковое оружие SGR-A1 в демилитаризованной зоне и использует их против южнокорейских солдат.
5. Роботы отберут нашу работу
Без сомнения, машины однажды отберут наши рабочие места. Однако мы не понимаем, когда они возьмут над нами верх, и какого масштаба это достигнет? Согласно нашим выводам, масштаб будет существенным.
По словам ведущей консалтинговой и аудиторской фирмы PricewaterhouseCoopers (PwC), роботы займут 21 процент рабочих мест в Японии, 30 процентов рабочих мест в Соединенном Королевстве, 35 процентов рабочих мест в Германии и 38 процентов рабочих мест в Соединенных Штатах Америки к 2030 году. К следующему столетию они займут более половины рабочих мест, доступных людям.
Самым пострадавшим от вмешательства роботов сектором будет перевозка и хранение, где 56% рабочей силы будут составлять машины. Далее следуют производственный и розничный сектора, где машины займут более 46% и 44% всех имеющихся вакансий.
Говоря о том, когда это произойдет, предполагается, что уже к 2027 году машины будут управлять грузовиками, а к 2031 ими будут укомплектованы розничные магазины. К 2049 году роботы будут писать книги, а к 2053 году они будут выполнять хирургические операции. Только несколько профессий будут свободны от посягательства машин. Одна из них - профессия служителя церкви, которая останется свободной не потому, что машина не может управлять церковью, а потому, что большинство людей не одобряют проповедь, произносимую роботом.
4. Роботы научились обманывать
Как это принято в человеческом обществе, роботы учатся обманывать. В одном из экспериментов исследователи из Технологического института Джорджии в Атланте (Georgia Institute of Technology in Atlanta) разработали алгоритм, позволяющий роботам решать, следует ли обманывать других людей или роботов. На тот случай, если роботы решают пойти по пути обмана, исследователи включили алгоритм, позволяющий роботу решить, как обманывать людей и роботов, снижая вероятность того, что человек или робот, которых он обманывает, когда-либо узнают об этом.
В проведенном эксперименте роботу были предоставлены некоторые ресурсы для защиты. Он часто обращался к этим ресурсам, но начинал посещать ложные местоположения всякий раз, когда обнаруживал присутствие другого робота в этой области. Этот эксперимент был проспонсирован Управлением США по Морским исследованиям (United States Office for Naval Research), что означает возможность применения его результатов в военных целях. Роботы, охраняющие военные склады, могли менять маршруты патрулирования, если они замечали, что за ними следят вражеские силы.
В другом эксперименте, проведенном на этом раз в Федеральной Политехнической школе Лозанны (Ecole Polytechnique Federale of Lausanne) в Швейцарии, ученые создали 1000 роботов и разделили их на десять групп. Роботы должны были искать «хороший ресурс» в обозначенной области, в то время как им следовало избегать «плохих ресурсов». У каждого робота был синий фонарик, который вспыхивал, чтобы привлечь других членов группы всякий раз, когда он находил хороший ресурс. После первого эксперимента были выбраны 200 роботов, а их алгоритмы «скрестили» для создания нового поколения роботов.
Роботы улучшили алгоритм поиска хорошего ресурса. Однако это привело к тому, что они скапливались вокруг приза. На самом деле все стало так плохо, что робота, который нашел ресурс, иногда отталкивали от его находки. Спустя 500 поколений роботы научились отключать свои огни, когда они находили хороший ресурс. Это делалось для того, чтобы избежать скопления других роботов и вероятности того, что их оттолкнут, если присоединятся другие члены группы. В то же время другие роботы эволюционировали до того, что стали искать лежащих роботов, исследуя области, в которой собрались другие роботы с выключенными огнями, что является полной противоположностью того, на что они были запрограммированы.
3. Рынок ИИ монополизируют
Рынок ИИ монополизируется. Крупные компании покупают небольшие стартапы ИИ с угрожающей скоростью. Такими темпами мы придем к тому, что ИИ будет находиться под контролем очень небольшого числа корпораций. На октябрь 2016 года в отчетах указывалось, что в течение пяти лет такие компании, как Apple, Facebook, Intel, Twitter, Samsung и Google, приобрели 140 предприятий, работающих в области ИИ.
В первые три месяца 2017 года крупные технологические компании купили 34 стартапа ИИ. Хуже того, они также платят огромные деньги, чтобы нанять лучших ученых в области искусственного интеллекта. Если так пойдет и дальше, можно догадаться, куда мы придем.
2. ИИ превзойдет человека в логике и интеллекте
Искусственный интеллект подразделяется на две группы: сильный и слабый ИИ. ИИ, окружающий нас сегодня, классифицируются как слабый ИИ. Он включает в себя предположительно продвинутые типы ИИ, такие как умные помощники и компьютеры, которые выигрывали в шахматы у мастеров с 1987 года. Разница между сильным и слабым ИИ - это способность рассуждать и функционировать как человеческий мозг.
Слабый ИИ обычно выполняет то, на что запрограммирован, независимо от того, насколько сложной эта задача может казаться нам. Сильный ИИ, находящийся на другом конце, обладает сознанием и способностью по-человечески мыслить. Он не ограничивается рамками программирования и может решить, что делать и чего не нужно делать без того, чтобы в это вмешивался человек. На данный момент сильного ИИ не существует, но ученые прогнозируют, что он должен появиться примерно через десять лет.
1. ИИ погубит нас
Есть опасения, что мир может погрузиться в ИИ Апокалипсис, так, как это произошло в фильме «Терминатор». Предупреждения о том, что ИИ может нас уничтожить, исходят не от какого-нибудь случайного ученого или приверженца теории заговора, а от таких выдающихся профессионалов, как Стивен Хокинг (Stephen Hawking), Элон Маск (Elon Musk) и Билл Гейтс (Bill Gates).
Билл Гейтс считает, что ИИ станет слишком умным, чтобы оставаться под нашим контролем. Аналогичного мнения придерживается Стивен Хокинг. Он не считает, что ИИ внезапно исчезнет. Он полагает, что, скорее, машины уничтожат нас, став слишком компетентными в том, что они делают. Наш конфликт с ИИ начнется с того момента, когда их цели больше не будут соответствовать нашим.
Элон Маск сравнил распространение ИИ с «джином из бутылки». Он считает, что это самая большая угроза для человечества. Для предотвращения апокалипсиса ИИ, он предложил, чтобы правительства начали регулировать развитие ИИ, прежде чем коммерческие компании «совершат большую глупость».
