Перейти к содержимому
Обложка сообщества Разное

Стивен Хокинг: искусственный интеллект угроза человечеству?


Кадр из фильма "Терминатор: Генезис" (2015). Изображение с сайта kinohka.net

Тема необходимости развития робототехники и генной инженерии прозвучала еще в январьском  2014 года ежегодном Послании Главы государства, а недавно эту же мысль он высказал в ходе общенационального телемоста, где обсуждалась реализация государственных программ "Нурлы жол" и госпрограммы индустриально-инновационного развития, вновь подтвердив необходимость повышения эффективности и производительности действующих предприятий.

Первый человекообразный робот-гид Шолпан созданный в Казахстане в 2013 году. Фото сайта kapital.kz

Автоматизированные комплексы с элементами роботизации появились на ряде казахстанских машиностроительных предприятий еще в 90-х годах прошлого столетия, а сегодня подобные системы активно внедряются в традиционных для Казахстана отраслях: металлургии, нефти и химии. К сожалению, после произошедшего общего развала предприятий говорить о быстрой модернизации промышленного производства было бы слишком оптимистичным. Но научно-технический прогресс и возросший уровень требований к производимой продукции заставляет сегодняшних инвесторов искать пути решения проблемы и зачастую без использования роботизированных систем уже не обойтись. В основном это касается вредных производств, но и в тех областях, где необходимо производить быстро переналаживаемую наукоемкую продукцию, стали присматриваться к зарубежному опыту. Созданная в Казахстане Ассоциация автоматизации и робототехники (КААР), планирует заниматься внедрением наиболее передовых конструкторских идей и решений в сфере нефтегазового и обрабатывающего сектора, в области энергетики и IT-технологий.

Сегодня многие иностранные СМИ проводят параллели осуществляемых Нурсултаном Назарбаевым программ индустриально-инновационного развития и "Нурлы жол" с программой "Нового курса" Теодора Рузвельта 30-х годов. Но, учитывая характер наступившего экономического кризиса и падение курса российского рубля сделавшего неконкурентоспособной казахстанскую продукцию, теперь  более уместны сравнения нового казахстанского экономического курса и общества "всеобщего труда" провозглашенного Главой государства с серединой 60-х годов прошлого столетия, когда захваченный мыслями о некоем "великом обществе", президент США Линдон Б.Джонсон осуществил гигантскую программу, включающую в себя 500 различных "инновационных реформ".

Роботы Unimation для автоматизации контактной сварки внедренные в 1969 году на предприятии General Motors, США. Фото с сайта robotforum.ru

Сегодняшний кризис в экономике Америки стал отчасти жертвой той политики, направленной исключительно на рост "качества жизни", упустив из виду рост промышленного производства, сопровождаемого значительным увеличением потребления за счёт сокращения капиталовложений, пишет Финкельштейн Сидни (Sydney Finkelstein), профессор менеджмента старейшей в мире американской бизнес-школы "Tuck School of Business", в своей книге "Ошибки топ-менеджеров ведущих корпораций. Анализ и практические выводы"
Но вина в этом лежит не только на Белом Доме. Свою несостоятельность обнаружили и могущественные магнаты большого бизнеса, которые ослепленные верой в собственную неуязвимость, продолжали управлять концернами, не имея долгосрочной стратегии на мировом рынке, тогда как уже проявились признаки надвигающейся катастрофы. Подумаешь, японцы поставляют дешевую сталь, а западные немцы экспортируют свои традиционно качественные машины - Америка же из-за этого не рухнула?
Своё нежелание  что-либо менять в управлении автомобильной промышленностью, ярко и доступным языком рассказал  Джон Де Лориан, который до основания собственной компании в 1973 году, работал вице-президентом General Motors. Вместе с автомобильным журналистом Патриком Райтом он написал книгу "Дженерал Моторс в истинном свете", ставшую настольной книгой многих автомобилестроителей.
Неверное понимание конкурентной среды и неэффективной стратегии продемонстрировала в 80-е годы компания General Motors. Факт того, что  все большую долю на американском рынке начали завоевывать недорогие и качественные японские автомобили, а трудовые отношения между администрацией GM и профсоюзами вызывали рост издержек, потребовало от компании каких-то действий. Нетрудно понять что в основу стратегии автоматизации генерального директора GM Роджера Смита было положено неверное предположение о том, что роботизация остановит проникновение на рынок японцев и вернет "Дженерал  моторс" лидерство на мировом автомобильном рынке. И вместо того чтобы освоить японский метод "рачительного производства", предполагающее заботливое отношение к персоналу, выражающейся в системе "пожизненного найма", постоянного обучения и мотивации, которые и по сей день являются фирменным отличием производственной системы компании Toyota, GM занялась только роботизацией. Фактически проигнорировав то, что Toyota эффективно сочетает автоматизированные и ручные процессы, лежащие в основе японского успеха, обеспечивающие низкий уровень издержек производства.
Японская система  "рачительного производства" представляла собой  управление поставкой материально-технических запасов по принципу "точно в срок", создание логистических цепочек и управление качеством. Главной ошибкой в стратегии GM стало то, что, избавляясь от труда производственных рабочих, она заменяла его на труд высококвалифицированных наладчиков плюс гигантские дополнительные затраты на роботизацию. Состав этих затрат включал заработную плату техников и других специалистов обслуживающих автоматизированный завод, в разы превышающий заработную плату рабочего-почасовика. Вложенной GM в автоматизацию астрономической суммы, достигшей к в 80-м годам более 45 млрд. долларов, с лихвой хватило бы на то, чтобы купить компании Toyota, и Nissan одновременно. Между тем, ожидаемая производительность заводов GM, которая на протяжении многих лет отставала от показателей компании Toyota, еще более снизилась в период с 1984 по 1991 годы. А ведь именно в этот период GM должна была уже наслаждаться плодами модернизации.
В случае с GM губительный "командный дух" обусловленный авторитетом Роджера Смита было настолько велик, что мало кто отваживался выступать против выдвинутых им предложений. С другой стороны, совет директоров не смог реалистично оценивать предпринимаемых компанией глобальных инициатив, в том числе и проекта роботизации.
Возможно покажется странным, но командный дух это качество, которое больше других развивает консерватизм в компании. Основная проблема заключается даже не в том, что люди боятся высказывать альтернативные идеи, а в отсутствии отличных мнений, что должны стать основой для критического переосмысления, а возможно, и полного пересмотра сложившегося в компании представления о реальности.
Фатальная авария на заводе VW: робот смертельно травмировал сотрудника компании. Цех № 6 где случилась трагедия. Фото с сайта hna.de
Описанная выше проблема сочетания человеческого фактора и роботизации кроме экономической стороны, в условиях современности приобретает и морально-этический аспект. На днях стало известно, что 21-летний мужчина скончался в больнице после полученной им серьезной травмы грудной клетки на автомобильном заводе "Фольксваген". Робот проломил грудную клетку своей жертве придавив его к металлической пластине, сообщает немецкое издание Hessische Niedersächsische Allgemeine. И это далеко не первый случай, связанный с "роботами-терминаторами", ставшими причиной убийства человека.

Первый официальный зарегистрированный подобный эпизод датируется 1971-м – тогда жертвой робота стал Роберт Уильямс (Robert Williams). Из сохранившихся обстоятельств его смерти известно, что Уильямс занимался ремонтом сломавшегося робота-погрузчика, когда тот внезапно включившись,- размозжил наладчику череп. Вторым в этом списке погибших от руки технических изделий – стал 37-летний японец Кендзи Урада, который полез ремонтировать робота, которого сам же случайно и включил. В результате он оказался в дробилке, а прибежавшие на место аварии коллеги Кендзи просто не знали, как выключить механизм, вследствие чего инженер и погиб.

Словосочетание 'робот-терминатор' вызывает ассоциации с недавно вышедшим на экраны продолжением научно-фантастического сиквела о восстании машин и бунте технических устройств с участием Арнольда Шварцнеггера. Впрочем, в реальности все гораздо прозаичнее – все погибшие стали жертвами несоблюдения элементарных правил техники безопасности. А так называемые роботы по сути своей являлись станками с числовым программным управлением и точнее будет говорить о несчастном случае на производстве. Утверждать, что эти механизмы обладали "искусственным интеллектом" пока рановато, но то, что проблема возникнет в будущем отрицать безусловно нельзя.

Профессор Стивен Хокинг опасается, что в однажды машины превзойдут своих создателей. Фото с сайта bbc.com

Об этой проблеме говорит и профессор Стивен Хокинг, один из самых известных британских ученых, заявивший недавно в интервью британской компании Би-би-си о том, что "появление полноценного искусственного интеллекта может стать концом человеческой расы". Дело в том, что Хокинг, страдающий латеральным амиотрофическим склерозом, для передачи речи пользуется специальной системой, разработанной американской компанией Intel в сочетании с программой искусственного интеллекта британской компании Swiftkey, которая следит за ходом мыслей профессора и заранее предлагает слова для следующей фразы.
Собственно говоря, высказанная им мысль о том что бунт роботов  неизбежен и они уничтожат своих создателей, далеко не нова и стала сюжетом ещё пьесы Карла Чапка Р.У.Р. (1920), откуда и берет свое происхождение слово "робот".
По мнению Ролло Карпентера, создателя программы-приложения Cleverbot имитирующего ход мысли человека, не все обстоит так пессимистично и все эти сценарии можно отнести к сценариям далекого будущего. Но по словам директора Британского центра по контролю за коммуникациями (GCHQ) Роберта Ханнигана, интернет уже сегодня становится командным центром для террористических организаций. Тем самым подразумевается, что в будущем интернет может стать средством коммуникации и для искусственного интеллекта.

Однако, к реальным практическим действиям в борьбе с возможным вредом который могут нанести роботы-убийцы, приступил основатель космической корпорации SpaceX, неординарный миллиардер Элон Маск, пожертвовав $10 млн Институту будущего жизни (Future Of Life Institute – FLI), - некоммерческой организации, основанной учеными, которые описывают его как "мера по смягчению экзистенциальных рисков, стоящих перед человечеством". Знакомый с деятельностью лондонской корпорации Deepmind, занимающаяся развитием искусственного интеллекта, свои опасения в том, что он "потенциально более опасен, чем ядерное оружие", Маск высказал еще в ноябре 2014 года.  А на популярном сайте Edge.org миллиардер написал, что некая серьезная опасность подстерегает нас в течение ближайших пяти лет: "Темпы прогресса в области искусственного интеллекта невероятно высоки. Если у вас нет прямого контакта с такими группами, как Deepmind, вы понятия не имеете, что темпы близки к экспоненциальному росту. Существует риск серьезной опасности того что может произойти в течение ближайших пяти лет. 10-ть лет максимум. Это не случай ложной тревоги того чего я не понимаю.".

Вскоре после публикации своего поста Маск удалил его с сайта. Возможно потому, что приступил к созданию системы глобального спутникового интернета?

UPD: Пока теоретики робототехники бьются на дискуссионных площадках обсуждая проблемы искусственного интеллекта, американская компания MegaBots Inc. бросила перчатку японской  компании Suidobashi Heavy Industry, - производителю роботов, вызвав последнюю на дуэль между роботами. Продолжение читайте здесь...

 

Еще по теме